人工智能和战争性质的变化

战争的性质——由暴力、偶然和理性决定——保持不变，而战争的性质——受地缘政治、地缘经济、社会规范和技术的影响——则容易不断变化。几十年来，尽管经历了几次军事革命（以火药、坦克、飞机和核武器的发明为标志），但著名的普鲁士战略家克劳塞维茨所描述的现象仍然具有相关性。特别是，在基于人工智能的武器系统的发展和部署的推动下，现代冲突正在见证战争性质的革命性转变。

人工智能领域的进步使致命自主武器系统（Lethal Autonomous Weapon Systems， LAWS）得以引入，该系统具有自主扫描、识别、锁定和摧毁以及对一系列空中、海上和地面目标进行战斗损伤评估的能力，精度非常高。基于人工智能的系统正在影响各个领域，并影响不同层次的决策过程。然而，这种自主性往往会导致不可接受的附带损害，不仅对人类控制的期望水平提出了挑战，而且还引发了人们对赋予机器决策自主权程度的严重担忧。

世界上越来越多的国家和军工企业投入数十亿美元和资源，追求超越他人的人工智能指挥和控制系统。2017年，联合国裁军事务厅进行了一项研究，确定了一些国家追求和发展自主武器系统使用的日益增长的趋势。根据该报告，这种不断增长的趋势带来了无法控制的战争的真正风险。同样，南佛罗里达大学（University of South Florida）进行的一项关于人工智能和城市作战的研究得出结论，“武装部队可能很快就能随心所欲地监视、打击和杀死对手，甚至平民。”

以色列国防军在加沙无情和致命地使用人工智能驱动的瞄准系统就是一个例子。2023年12月，《卫报》披露，以色列国防军（IDF）使用一种名为Hesbora（福音）的基于人工智能的瞄准系统，在一天内瞄准了100多个目标。据以色列国防军（IDF）前领导人阿维夫•科查维（Aviv Kochavi）称，一个基于人类情报的系统在一年内最多只能识别50个目标。

以色列科技公司Start up Nation Central的首席执行官阿维·哈森（Avi Hasson）表示，“加沙战争为以色列国防军提供了一个测试在过去冲突中从未使用过的新兴技术的机会。”结果，以色列国防军摧毁了36万多栋建筑物，不分青红皂白地杀害了5万多人，打伤了113 500多名巴勒斯坦人，其中大多数是无辜的妇女和儿童。具有讽刺意味的是，1949年《日内瓦第四公约》禁止不分青红皂白地杀害非战斗人员。

有趣的是，世界上技术先进、军事强大、经济富裕的国家都在大力投资开发或收购基于人工智能的武器系统。《2024年军事全球市场报告中的人工智能》预计，2024年全球军事市场将增长16.6%，反映出全球竞相主导人工智能驱动的军事技术。中国在《人工智能新总体规划》中宣称，“人工智能是引领未来的战略技术”，目标是到2030年成为人工智能领域的世界领导者。

同样，美国采取了“第三次抵消战略”，大力投资人工智能、自主武器和机器人技术，誓言保持其技术优势。2023年2月，《亚洲时报》报道称，美国国防部启动了自主多域自适应蜂群系统项目，旨在开发自主无人机蜂群，以压倒敌方空中、陆地和海上的防空系统。

2022年6月，印度国防部组织了“国防中的人工智能”（AIDef）研讨会，介绍了75个基于人工智能的平台。印度作家兼战略家普拉文•索尼（Pravin Sawhney）在2022年8月出版的《最后的战争》（The Last War）一书中，放大了人工智能和基于人工智能的自主武器以及无人驾驶飞机在中印武装冲突中的决定性作用。

在同样的背景下，巴基斯坦还在巴基斯坦空军的主持下启动了人工智能和计算中心（CENTAIC），以引领人工智能的发展，并将各种空中、陆地和海上武器系统基于人工智能集成到作战和战略领域。

在南亚的背景下，鉴于核威胁下的长期敌意，基于人工智能的法律的引入及其毫不犹豫的使用可能会对安全架构产生严重影响。在同样的情况下，缺乏全面和管制性的法律框架，加上不存在国家垄断，使安全局势进一步复杂化。

为了评估人工智能驱动的指挥和控制系统的破坏性和危险性，来自四所美国大学的一组研究人员在2024年1月模拟了一场战争场景，使用了五个不同的人工智能程序，包括OpenAI和Meta的Llama。这一结果令科学家和人工智能法律的支持者都感到震惊。研究结果显示，所有模拟模型在面对对手时都选择核武器作为第一选择，而不是其他选择，包括外交或和平倡议。

人工智能技术的广泛可用性，加上缺乏全球或国家级的监管和垄断，使其容易受到非国家行为体的利用。这种情况要求在全球和国家两级采取集体行动并执行严格的管理框架。

需要全球共同努力，在法律和道德上推进人工智能驱动的倡议。联合国秘书长António古特雷斯认识到这一问题的重要性和紧迫性，在2023年《和平新议程》政策简报会上的讲话中强调，“有必要在2026年之前达成一项具有法律约束力的文书，禁止自主武器系统的发展和部署。”

战争的性质——由暴力、偶然和理性决定——保持不变，而战争的性质——受地缘政治、地缘经济、社会规范和技术的影响——则容易不断变化。几十年来，尽管经历了几次军事革命（以火药、坦克、飞机和核武器的发明为标志），但著名的普鲁士战略家克劳塞维茨所描述的现象仍然具有相关性。特别是，在基于人工智能的武器系统的发展和部署的推动下，现代冲突正在见证战争性质的革命性转变。

人工智能领域的进步使致命自主武器系统（Lethal Autonomous Weapon Systems， LAWS）得以引入，该系统具有自主扫描、识别、锁定和摧毁以及对一系列空中、海上和地面目标进行战斗损伤评估的能力，精度非常高。基于人工智能的系统正在影响各个领域，并影响不同层次的决策过程。然而，这种自主性往往会导致不可接受的附带损害，不仅对人类控制的期望水平提出了挑战，而且还引发了人们对赋予机器决策自主权程度的严重担忧。

世界上越来越多的国家和军工企业投入数十亿美元和资源，追求超越他人的人工智能指挥和控制系统。2017年，联合国裁军事务厅进行了一项研究，确定了一些国家追求和发展自主武器系统使用的日益增长的趋势。根据该报告，这种不断增长的趋势带来了无法控制的战争的真正风险。同样，南佛罗里达大学（University of South Florida）进行的一项关于人工智能和城市作战的研究得出结论，“武装部队可能很快就能随心所欲地监视、打击和杀死对手，甚至平民。”

以色列国防军在加沙无情和致命地使用人工智能驱动的瞄准系统就是一个例子。2023年12月，《卫报》披露，以色列国防军（IDF）使用一种名为Hesbora（福音）的基于人工智能的瞄准系统，在一天内瞄准了100多个目标。据以色列国防军（IDF）前领导人阿维夫•科查维（Aviv Kochavi）称，一个基于人类情报的系统在一年内最多只能识别50个目标。

以色列科技公司Start up Nation Central的首席执行官阿维·哈森（Avi Hasson）表示，“加沙战争为以色列国防军提供了一个测试在过去冲突中从未使用过的新兴技术的机会。”结果，以色列国防军摧毁了36万多栋建筑物，不分青红皂白地杀害了5万多人，打伤了113 500多名巴勒斯坦人，其中大多数是无辜的妇女和儿童。具有讽刺意味的是，1949年《日内瓦第四公约》禁止不分青红皂白地杀害非战斗人员。

有趣的是，世界上技术先进、军事强大、经济富裕的国家都在大力投资开发或收购基于人工智能的武器系统。《2024年军事全球市场报告中的人工智能》预计，2024年全球军事市场将增长16.6%，反映出全球竞相主导人工智能驱动的军事技术。中国在《人工智能新总体规划》中宣称，“人工智能是引领未来的战略技术”，目标是到2030年成为人工智能领域的世界领导者。

同样，美国采取了“第三次抵消战略”，大力投资人工智能、自主武器和机器人技术，誓言保持其技术优势。2023年2月，《亚洲时报》报道称，美国国防部启动了自主多域自适应蜂群系统项目，旨在开发自主无人机蜂群，以压倒敌方空中、陆地和海上的防空系统。

2022年6月，印度国防部组织了“国防中的人工智能”（AIDef）研讨会，介绍了75个基于人工智能的平台。印度作家兼战略家普拉文•索尼（Pravin Sawhney）在2022年8月出版的《最后的战争》（The Last War）一书中，放大了人工智能和基于人工智能的自主武器以及无人驾驶飞机在中印武装冲突中的决定性作用。

在同样的背景下，巴基斯坦还在巴基斯坦空军的主持下启动了人工智能和计算中心（CENTAIC），以引领人工智能的发展，并将各种空中、陆地和海上武器系统基于人工智能集成到作战和战略领域。

在南亚的背景下，鉴于核威胁下的长期敌意，基于人工智能的法律的引入及其毫不犹豫的使用可能会对安全架构产生严重影响。在同样的情况下，缺乏全面和管制性的法律框架，加上不存在国家垄断，使安全局势进一步复杂化。

为了评估人工智能驱动的指挥和控制系统的破坏性和危险性，来自四所美国大学的一组研究人员在2024年1月模拟了一场战争场景，使用了五个不同的人工智能程序，包括OpenAI和Meta的Llama。这一结果令科学家和人工智能法律的支持者都感到震惊。研究结果显示，所有模拟模型在面对对手时都选择核武器作为第一选择，而不是其他选择，包括外交或和平倡议。

人工智能技术的广泛可用性，加上缺乏全球或国家级的监管和垄断，使其容易受到非国家行为体的利用。这种情况要求在全球和国家两级采取集体行动并执行严格的管理框架。

需要全球共同努力，在法律和道德上推进人工智能驱动的倡议。联合国秘书长António古特雷斯认识到这一问题的重要性和紧迫性，在2023年《和平新议程》政策简报会上的讲话中强调，“有必要在2026年之前达成一项具有法律约束力的文书，禁止自主武器系统的发展和部署。”