您当前位置:首页 > 资讯中心 > 信息安全

奥巴马谈网络安全:担心人工智能入侵美国核武器

  执政8年,奥巴马亲眼见证了黑客成长为往届总统都从未见识过的巨大威胁。美国情报和司法机构处理了各种各样的黑客事件,从2009年的谷歌被黑,到这次大选中俄罗斯人的各种捣乱。因此,奥巴马终于学会了制敌机先。这其中就包括为看起来像是科幻小说的各种可能性做好准备。比如说,机器学习训练的人工智能(AI)被赋予盗取美国核武器代码这种事。
  在麻省理工学院(MIT)媒体实验室主任乔伊·艾拓和《连线》杂志主编斯科特·达迪奇的较早采访中,奥巴马表达了对AI潜在危险的担忧。在黑客能盗取560万联邦雇员指纹或缔造现代版水门事件的时代,他担心先进的对手是否会利用AI来渗漏政府较敏感的系统。
 
  可能会有这么一个算法,能渗透核代码,找出发射核弹的方法。如果这就是算法的任务,如果算法是自适应的,而且仅仅是一个非常有效的算法,那麻烦就大了。
 
  人工智能黑客或黑客工具这种想法,不仅仅是一种预言。五角大楼的国防高级研究计划局(DARPA)就正在研制AI攻防软件。今年夏天的Defcon大会DARPA挑战赛上,该机构让AI系统捉对厮杀,比拼实时查找、利用、修复软件安全漏洞的能力。
 
  奥巴马称,AI攻击的可能性并不代表着网络世界末日,但确实需要加强美国对所有黑客的防御,无论是人类黑客还是机器黑客。“我对国家安全团队的指令是,不用太担心机器颠覆世界,担心一下非国家黑客或敌对黑客渗透系统的能力比较靠谱。从这个意义上讲,我们现在做的很多网络安全工作并没有概念上的不同。仅仅是说我们需要做得更好,因为部署这些系统的人现在就要好得多。”
 
  奥巴马警告的那种基于机器学习的AI,已经被部署在了网络安全世界——虽然仅仅用于防御,而不是攻击。
 
  开发人员长久以来一直在用机器学习——以样本数据训练软件代码的“自学习”过程,来磨炼垃圾邮件过滤器和识别恶意软件。但另一方面,对防御坚固系统造成严重威胁的真正自动化的攻击性黑客AI,可能还有好几年的路要走。
 
  不过,研究人员已经勾勒出机器学习会被如何利用来攻击这些基于机器学习的系统,而DARPA挑战赛较早次展示了计算机可以使用AI来狩猎对手代码中可供利用的漏洞,进而入侵另一台机器。
 
  在《连线》的专访中,总统称他对网络安全的思考,并不是站在对黑客进行边界防御的立场,而是要建立清除内部威胁的免疫系统。网络安全行业越来越多地聚焦在响应而不是防止——将高级黑客全部挡在网络外面是不可能办到的。“传统上,当我们思考安全和自我保护时,我们想的都是盔甲和城墙。但逐渐地,我们发现自己正看向机器,然后想到病毒和抗体。网络安全为什么一直如此之难的部分原因,就在于该威胁不是朝你驶来的滚滚坦克洪流,而是一大堆可能被蠕虫侵入的系统。”
 
  奥巴马将该方法与另一大国家安全威胁相提并论:流行病。“护墙是拦不住致命流感病毒飞入国境的。我们要做的,是打造各种系统,让疫苗更加聪明。”
 
  奥巴马谨慎指出,所有这一切,仅适用于作为高度进化的工具而被使用的专门AI威胁,不满足更幻想性的完全自治AI情形——有自己的意识和动机但很可能不与人类为友的AI。对这种电影里“天网”类型的威胁,奥巴马开出的处方很接地气:“放个人在电源旁边,看到不妙的迹象就拔插头吧伙计。”
作者:grabsun - 发布时间:2016-10-15 - 点击量:2634
公司简介:大势至公司是国内较早的企业网管软件提供商,可以为企事业单位提供整体的企业网络管理方案和企业网络管理平台,通过全系列的公司监控员工电脑软件教你如何控制员工上网、如何控制局域网内电脑上网以及如何保护电脑文件安全等。公司核心产品“聚生网管系统”是一款专门的公司网管必备软件、查看网络流量软件、网络流量监控软件和办公室电脑监控软件;“网络特警”则是一款专门的网络流量监控设备、上网行为管理服务器、网络行为管理设备,可以实现更为强大的局域网网络行为管理;大势至USB接口禁用软件则是一款专门的数据防泄密产品、屏蔽U盘软件、电脑USB端口禁用软件,可以严防通过一切途径泄露电脑文件,保护单位无形资产和商业机密安全;大势至共享文件夹管理软件则是一款专门的共享文件权限设置软件和共享文件设置密码软件,全面保护共享文件安全;大势至共享文件审计系统则是一款专门的服务器共享文件夹设置软件、服务器共享文件访问日志记录软件,可以详细记录局域网用户访问共享文件的行为,更好地管理共享文件的安全;大势至局域网网络准入控制系统则是一款专门防止未经授权的电脑接入公司局域网的行为,防止外来电脑访问局域网共享文件、防止蹭网以及绑定IP和MAC地址,保护网络安全;大势至FTP服务器日志记录软件则是一款专门记录局域网用户访问FTP服务器日志的软件,可以有效保护FTP服务器文件安全。
联系我们