AI武器面对“奥本海默时候”？

嘢蛮铃丫头 · 2024-5-14 13:09:08

奥地利交际部长沙伦贝格在自主武器国际集会上发言。

4月29日至5月1日，自主武器国际集会在奥地利都城维也纳召开，来自140余个国家和地域以及团结国、非当局构造和研究机构的1000余名官员出席。此次集会以“站在十字路口的人类：自主武器体系和羁系的挑衅”为主题，聚焦人工智能（AI）与军事技能联合相干话题，尤其是由AI加强和支持的自主武器体系，引发舆论广泛关注。
作为一种新兴武器平台，自主武器体系可以或许在无人干预环境下独立搜刮、辨认并攻击目的。对此，奥地利交际部长沙伦贝格表现：“谁生谁死的决定权，必须把握在人类而不是呆板手中。然而，究竟是科技正在飞速发展，政策却落伍了。”
针对当前已有自主武器投入局部地域辩论的实例，沙伦贝格称：“人类正站在一个十字路口，自主武器体系很快将充满天下战场。我们已经通过AI控制的无人机和基于AI的打击目的筛选，见地到这一点。这是我们这一代人的‘奥本海默时候’。”他提到的奥本海默，是美国“曼哈顿筹划”的首席科学家，被称为“原子弹之父”。但奥本海默不停用本身的影响力号令控制核武器，并尽力反对核军备比赛。
此次集会夸大了AI的军事利用和AI军备比赛的伤害，表达了对AI武器化引发的伦理和安全风险的担心。有参会职员以为，AI的运用低落了自主武器制造门槛，大概造成此类武器数目泛滥，假如落入可怕分子等非国家举动体手中，将加剧国际社会的不稳固。美国信息物理学家阿吉雷发出告诫称，2017年拉塞尔博士预言的“杀人呆板人期间已经到来”。他表现，只要拥有3D打印机和根本编程知识，一名门生便可制作出有本领引起大规模伤亡的无人机。别的，人工智能体系假如遭黑客攻击，导致卫星和其他数据丢失，乃至人工智能自己引起的幻觉，都大概成为AI武器体系潜伏的风险。
集会还探究了是否应对AI武器化举行须要干预和控制。集会期间，很多专家发起接纳控制武器出口、创建人性主义法规等步伐，应对AI武器化带来的挑衅。此次集会告竣一项不具束缚力的举动准则，并形成一份夸大“以人为本”的陈诉，以供下届团结国大会利用，旨在补充当前国际法在克制AI武器化方面的空缺。
比年来，国际社会关于羁系AI武器化的呼声连续走高。在团结国的主持下，各国在这方面举行了长达10年的专家会商。2023年11月，在首届环球人工智能安全峰会上，28个国家和欧盟签订首份针对AI的国际性声明《布莱切利宣言》，同意通过国际互助创建AI羁系方法。
相干批评指出，随着AI驱动的致命性自主武器体系投入实战，继炸药和核武器之后的“第三次军事革命”或将发生。然而，短期内实现对AI武器的有用管控并非易事。随着环球辩论不停升级，多国企业不停加大对AI的推广和投资力度，从客观上加大了羁系难度。别的，AI武器涉及多种技能组合，也已不再实用传统的军备控制条约。
红十字国际委员会主席斯波利亚里茨在会上夸大，现在还不能包管AI武器未来不会落入可怕分子之手，这也是为何敏捷接纳举措羁系AI武器化云云紧张。有批评人士指出，AI驱动的武器体系在具备低本钱、易操纵等长处的同时，也存在违反道德、轻易失控等风险。使用好AI武器这把“双刃剑”，必要国际社会的广泛互助和对将来责任的深刻熟悉，确保其安全可控。（郭秉鑫、刘明宇）

(责编：王潇潇、任一林)

AI武器面对“奥本海默时候”？

所属分类: 问答交流

新帖推荐: 30日

推荐作品