AI时代如何守护信息安全?百度安全总经理马杰:时刻保持安全意

发布时间:2019-11-07 18:49:13      浏览:993

每份杂志的记者:每份杂志的刘春山编辑:张海妮

10月15日,百度安全总经理马杰介绍了人工智能安全相关信息。

资料来源:记者刘春山

“百度在2017年底发表了一篇论文。当市场上有8种旗舰机器时,它们是用一个小的指纹印章打开的。这可以通过拍照和眼镜指纹识别来实现,尽管这些手机没有被篡改,但它们也很容易被愚弄。”百度安全总经理马杰曾经说过。最近,通过拍照可以提取指纹的谣言让每个人都很担心。10月15日,马吉表示,外界描述的情况在技术上可以在一定程度上实现。与此同时,它表示,在5g和ai时代,网络信息环境将暴露更多的危险因素,而新的ai技术可以很容易地篡改各种传感器,安全人员需要花费更多的精力来研究预防策略。

事实上,面对新的技术威胁,马吉对未来的信息安全环境持乐观态度。马杰在接受《国家商报》采访时说,信息安全总是与时俱进。当百度开始充分利用人工智能储备时,它开始做人工智能安全。“事实上,很多时候当问题被提出时,解决方案仍然相对容易处理。如果你找不到,这是最大的问题。”

最近,一系列关于个人生物特征信息泄露的话题在互联网上引起了激烈的讨论。除了个人隐私信息,每个人都更担心随之而来的财务风险。

马杰认为,在以前的互联网时代,主要的安全风险是以病毒为中心的,包括对一些网络的ddos攻击。在移动互联网时代,随着手机变得越来越安全,病毒不再是问题,电信欺诈和假冒基站的问题再次出现。现在在人工智能时代,以前的风险将继续存在,但也有一些新的风险。在过去的工业革命中,适应新机器的往往是人类。人类学会了如何安全驾驶和如何安全用电。在人工智能时代,人类第一次发明的东西必须“适应”人类。这种变化是巨大的,并且带来了新的问题,包括模型安全性,这导致了不同的信息安全挑战。

马杰说,深度机器学习需要大量的数据作为原材料来使它们变得智能,这带来了数据安全和隐私问题。如何衡量中间的“尺度”尤为重要。此外,aiot设备被完全覆盖,数量将会爆炸性地增加。人工智能正渗透到社会和经济的各个方面。在人工智能时代,一个小风险可能导致一个更大的问题,而质量变化可能由于数量变化而发生。

人工智能技术的复杂性要求安全技术的升级。马杰介绍说,人工智能时代的安全威胁主要来自四个方面:模型安全、数据安全和隐私、系统和网络安全以及安全生态。

在人工智能时代,如何更好地解决安全问题?马杰还强调,从攻击者的角度思考是提高安全防护能力和效率的主要途径。例如,百度自己的人工智能技术可以生成“假脸”,同时研究如何识别“假脸”。

"如果你给我几个字,我可以创造你的声音."此前,微软萧冰人工智能系统负责人李迪在接受《国家商报》记者采访时表示,微软萧冰一直拥有这种“黑色技术”能力,但并不对普通用户开放。李迪还表示,人类对人工智能仍然知之甚少,人工智能企业在将这些人工智能技术转化为产品时应该保持克制。

在人工智能时代,信息安全更为重要,百度一直非常重视安全,并继续在这一领域投资。

《国家商报》记者从百度相关消息来源了解到,百度的安全部门属于百度内部的基础技术系统(tg),从而为百度所有业务的底层安全技术提供了重要支持。目前,百度安全可以大致分为人工智能安全、移动安全、云安全、数据安全和业务安全,其中人工智能安全是最重要的工作和最重要的研究方向。

对互联网黑色产品的打击也是百度的持久战。马杰说,一些网站篡改页面信息,甚至植入恶意代码,侵犯了用户的利益。黑色产品也是所有互联网公司和人工智能公司的共同敌人。百度过去曾与当地公安机关合作解决许多案件。

马杰在交流会上展示了一段视频剪辑。车间前面的一群人走过时没有一个红盒子,而后面的一群人出现时用一个红盒子提醒他们。Majie说,红盒子警报是因为人工智能认识到后面的人没有戴安全帽,如果在工厂工作,安全帽可以提高工人的安全。但是在工厂之外,有许多小场景可以实现,这对许多人工智能丹尼尔来说并不具有挑战性。

“它在内部覆盖百度的商业领域,在外部向个人用户和商业伙伴出口研究和技术解决方案,包括许多开放源代码。”马杰介绍说,“开放”是百度在人工智能时代的安全重点。百度的aiot安全解决方案还引入了华为、tcl和创维等50多个生态合作伙伴,覆盖1.5亿多台设备。

然而,目前大多数信息安全公司的情况不是很好。一些数据显示,我国所有证券公司的年总销售额只有300-400亿元,这可能低于游戏的收入。与其他发达国家相比,国内对信息安全的投资仍然少得多。

对此,马杰表示,尽管百度没有将安全作为赚钱的目标,但外界需要让这些以安全为导向的公司生存下来,让它们做更重要的事情。“如果我们企业的首席执行官和负责人不能理解安全的重要性,他们肯定不会把钱投入到安全维护上。”马杰说,该行业应该共同做好人工智能安全工作,这比竞争业务重要得多。"对每个人来说,把蛋糕做得更大是第一件事。"

至于个人如何保护信息安全,马杰在接受《国家商报》采访时表示,很难给普通用户一种特定的技能,因为信息安全场景太多,核心是时刻保持安全感。

国家商业日报

江苏11选5开奖结果 广东11选5投注 福建快3投注