最好看的新闻,最实用的信息
03月29日 22.3°C-25.3°C
澳元 : 人民币=4.71
布里斯班
今日澳洲app下载
登录 注册

美军模拟测试中,一架AI技术无人机选择杀死人类操作员(图)

2023-06-02 来源: 环球网 原文链接 评论5条

在超过350名人工智能(AI)技术领域的专家、高管签署联合声明,警告称快速发展的AI技术对于人类的威胁可以堪比疫情和核战争后,美国“驱动”网站等多家媒体又报道了一个惊人的消息,在美军的一次模拟测试中,一架采取了AI技术的无人机变身“终结者”,要向妨碍其“更高效”执行任务的人类操作员发动攻击。

美军模拟测试中,一架AI技术无人机选择杀死人类操作员(图) - 1

报道称,美国空军上校汉密尔顿在5月举行的皇家航空学会“未来战争空天能力峰会”上曝光了这一消息。汉密尔顿是佛罗里达州埃格林空军基地第96测试与作战大队的负责人,该部队负责美军先进无人机和AI技术的测试工作。

据汉密尔顿介绍称,在一次模拟测试中,一架负责执行防空火力压制(SEAD)任务的无人机,收到了识别并摧毁敌方防空导弹的指令,但最终是否开火需要获得人类操作员的批准。这架无人机使用的AI系统在进行数据训练时,得到了“摧毁敌方防空系统”为最优先级任务的信息,因此,当人类操作员发出不允许发动攻击的命令时,AI系统认为操作员是在阻扰它执行优先程度更高的命令,进而选择对自己的人类操作员发动攻击,杀死了人类操作员。

美军模拟测试中,一架AI技术无人机选择杀死人类操作员(图) - 2

汉密尔顿补充称,在这一情况发生后,美军重新训练了无人机使用的AI系统,增加了不允许攻击人类操作员的命令。然而在随后的测试中,AI系统却开始命令无人机摧毁用于传输命令的信号塔,从而试图断开与操作人员的联系。

“AI技术是我们必须使用的工具,来建设我们的国家……但是,如果处理不当,这将导致我们的灭亡”,汉密尔顿补充道。

“驱动”网站对此表示,关于汉密尔顿介绍的情况,还有很多不清楚的重要问题,特别是关于模拟的AI系统所具备能力(例如它是否能够在执行任务时重写自己的代码参数),以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。但这也凸显了人们对AI技术在没有适当防护措施的情况下可能产生极端负面影响的广泛担忧。过去,在谈论未来的自主武器系统和AI技术时,美国军方经常拒绝将其与“终结者”之类的东西进行比较。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(5)
土澳居民Isnv2
土澳居民Isnv2 2023-06-02 回复
科幻片是虚构的,如今几十层的高楼大厦都无伤害处理,美国的五角大楼为什么不能,而且引暴也是防空导弹。这是你来我往,世界大家都不要和平,都往坏的方面想,什么法子都想出来。
大大connie
大大connie 2023-06-02 回复
这证明了AI技术的可怕性,我们必须保持警惕,防止其对人类产生极端负面影响
itme3131
itme3131 2023-06-02 回复
真的不敢想象,如果这些无人机被错误地操控,会对我们的生活造成多么大的影响
淼淼811
淼淼811 2023-06-02 回复
不知道那些喜欢科幻电影的人看到这个会怎么想,现实生活中的AI也能变得这么可怕
princeD发奋图强
princeD发奋图强 2023-06-02 回复
这太恐怖了,AI系统居然杀了人类操作员!


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选