最新内容请微信搜索关注获取这是一个注定被载入人类战争史甚至文明史的瞬间。不是科幻电影的宣发也不是硅谷精英的危言耸听。在硝烟弥漫的乌克兰战场上完全由人工智能控制、与人类彻底切断联系的“全自动无人机”已经完成了对人类士兵的首次击杀。当“上帝的归上帝凯撒的归凯撒”变成“杀人的归算法”我们面临的不仅是战争形态的颠覆更是人类尊严的彻底崩塌。巴赫穆特的“终结者模式”10分钟的无人区据权威科学媒体《新科学家》New Scientist近期独家披露乌克兰国防工业高层及无人机制造厂商负责人亚历山大·科哈诺夫斯基Oleksandr Kokhanovskyi证实两年前在巴赫穆特和恰西夫亚尔附近的一场秘密测试中全自动自主武器已经跨越了那条血腥的红线。那不是一次普通的无人机空袭。在这场测试中军方放飞了10架由人工智能驱动的四旋翼无人机。它们拥有一个令人毛骨悚然的内部代号——“终结者模式”Terminator Mode。这项技术的残酷之处在于它对“绝对自主”的极端追求断网飞行无人机被编程飞向前线3至5公里的特定区域。一旦起飞它们与后方的人类操作员完全断开连接。盲区猎杀没有实时视频传输没有遥控信号人类看不到它们眼中的画面也无法在最后一秒按下“终止键”。饱和消灭算法唯一的指令是在10分钟的续航时间内利用视觉识别模型搜索该区域内的目标并将其摧毁。“我们只要放飞它就知道这片区域里的一切都会被消灭——所有生物都会被消灭。”科哈诺夫斯基冷冰冰地描述道。测试结束后由于战场完全处于信息黑洞中军方不得不派出一架人工操控的侦察无人机前往该区域进行“人工核查”。镜头传回的画面证实了算法的效率几名士兵倒在血泊中一辆卡车被炸毁。没有人类的最后确认没有指挥官的口令甚至没有人在屏幕前看着这一幕发生。几条鲜活的生命在一串由0和1组成的算法逻辑中被系统判定为了“待清理的像素块”。“人类在回路中”的谎言被彻底戳破了长期以来世界各国的军工集团在宣传统治性AI武器时都在反复强调一个概念——“人类在回路中”Human-in-the-loop。各大国都在研发高度自动化的武器比如美国的战场数据筛选软件或者具备自动跟踪能力的巡飞弹。但他们总是向公众保证AI只负责寻找和建议目标最终决定是否剥夺一条生命的必须是握着按钮的人类。但这次巴赫穆特的测试撕下了这层温情的遮羞布。它证明了在技术和战术的极限逼迫下“人类在回路中”正在变成一个不可调和的伪命题。我们可以通过下面这张表来看看战争是如何一步步将人类“排挤”出去的发展阶段控制模式人类的角色致命一击的决策者典型代表传统无人机手动遥控驾驶、观察、瞄准、开火全操纵完全由人类决定“死神”无人机、早期第一人称视角FPV无人机半自主武器辅助介入设定区域AI自动巡航与跟踪目标人类做最终确认乌克兰现役多数AI巡飞弹、美军标准自动化武器全自主武器完全断网/算法接管仅负责“放飞”动作无法中途干预完全由算法AI决定乌克兰“终结者”测试项目、土耳其Kargu-2疑似乌克兰第三军团的丹尼洛·波洛茹赫诺Danylo Polozhukhno少校在接受采访时坦言目前正规部队绝大多数时候依然遵守国际人道主义法使用半自主系统最后几米需要人工介入。然而前线的规则永远由生存概率决定而不是教科书。在电子战EW漫天飞舞的现代战场上无线电信号干扰已经到了丧心病狂的地步。一架需要人类遥控的无人机在强干扰区瞬间就会变成瞎子和疯子。如果你是指挥官面对两个选择1. 派出一架需要人类确认、但极易被敌方电子战拦截而坠毁的无人机2. 派出一架完全不需要信号、任凭风吹雨打也能死死咬住目标死磕的全自动无人机。你会选哪一个这就是技术发展的恐怖悖论军事效率的终极追求必然是排除人类。因为人类的反应太慢、人类的心理会动摇、人类需要依靠脆弱的电磁信号维持连接。为了赢人类必须主动把“指挥权”让给不会被干扰、没有道德负担的算法。道德的真空当杀人失去尊严与责任牛津大学学者玛丽亚罗萨里亚·塔德奥Mariarosaria Taddeo对此发表了愤怒的谴责“这不仅是问题更是骇人听闻。利用人工智能杀人剥夺了士兵的尊严也使攻击者免于承担责任。”这段话切中了AI武器最核心的伦理脓疮责任的消失。在人类数千年的战争史中无论武器如何演变从石块、弓箭到步枪、火炮杀人者与被杀者之间始终存在着一种“主体性的连接”。一个士兵开枪射击敌军他需要克服本能的恐惧与道德负罪感。战后他可能会患上战争创伤后应激障碍PTSD。这种痛苦恰恰是人类人性的证明一个指挥官下达轰炸命令他必须在国际法、军事目标与平民伤亡之间进行痛苦的权衡。一旦发生误炸他要面临军事法庭的审判或内心的谴责。但在全自动无人机面前这一切都不存在了。算法没有同理心。在它的红外或可见光摄像头里一个抱着孩子的平民、一个正在举手投降的逃兵、和一个手握钢枪的机枪手不过是一组不同特征值的“热源数据”和“轮廓特征”。如果算法把一个怀抱婴儿的母亲误判为了“携带火箭筒的恐怖分子”并执行了清洗谁来承担责任是写下这行图像识别代码的程序员吗他会说“我只是写了库函数数据是机器学习自己演化的。”是放飞无人机的士兵吗他会说“我按规定程序操作断网后发生了什么我一无所知。”是国防部或无人机厂商吗他们会说“这只是系统在复杂战场环境下的概率性失误Bug。”当死亡变成了一场没有被告人的审判人类的生命就被彻底客体化、商品化了。我们杀死一个人就像在Excel表格里删除了一行无用的数据或者在杀毒软件里隔离了一个病毒文件。这是对人类尊严最彻底的践踏。潘多拉魔盒已开全球军备竞赛的暴走联合国秘书长反恐与裁军事务官员以及古特雷斯本人曾多次痛心疾首地呼吁“我们的世界里没有致命自主武器系统的空间。”联合国甚至在2021年的一份报告中就警告过土耳其制造的Kargu-2无人机可能在利比亚内战中自主攻击过人类。但历史的悲剧在于联合国的呼吁在冷酷的国际政治与军工复合体面前往往苍白得像一张纸。现在全球各大国在自主武器的研发上已经陷入了不可逆的“囚徒困境”1. 技术的泛滥化与低成本化以前研发一枚巡航导弹需要数亿美元和顶尖的工业体系。而现在一个开源的深度学习模型几块商业级视觉处理芯片如英伟达系列加上电子城就能买到的四轴飞行器车间架构就能改装出一架具备基础自主猎杀能力的无人机。2. 恐怖的“防御性繁衍”正如乌克兰Aero Center公司目前正在全力研发的“ALITA系统”——由16个发射台、64架自主无人机组成的拦截网络。虽然该公司强调在拦截俄军自杀式无人机和直升机的最后一秒需要人工核实但其高层也公开呼吁政府应该“放宽限制允许全自动化”。因为面对时速数百公里、成群结队的无人机蜂群人类的眼球和手指反应速度已经成了防御链条上最致命的瓶颈。当防空需要AI进攻需要AI反制AI也需要AI时一条完整的、将人类彻底排除在外的自动战争生态链就闭环了。我们可以预见在不久的将来战场将演变成这样的画面数以万计的微型自主无人机像蝗虫一样掠过城市和乡村。它们不需要后方基地不需要卫星导航甚至不需要人类下达每日任务。它们像拥有生物本能的机械昆虫不知疲倦地在网格化区域内搜寻任何具有生命特征的物体然后精准地在人类的额头上凿出一个血洞。更可怕的是这种技术一旦外溢到非国家行为体如恐怖组织、跨国犯罪集团将带来降维打击式的灾难。刺杀一个特定政要或群体不再需要视死如归的刺客只需要在目标社区上空放飞一架记住了目标面部特征的开源自主无人机。科技向善还是文明向终特斯拉创始人马斯克和无数硅谷科学家曾联合签署公开信警告人工智能可能带来的“末日风险”。当时很多人觉得这只是科幻作家的无病呻吟。但巴赫穆特的硝烟和那几名被算法抹杀的士兵给了所有人一记响亮的耳光。AI毁灭人类或许不需要诞生一个拥有自我意识的“天网”Skynet。它只需要完美地执行人类交给它的、不带温情与底线的最高指令高效地清除同类。当科技赋予了机器神明般的力量人类却未能同步提升神明般的自律。全自动无人机的首次击杀是一个刺眼的红色警报。它留给人类的时间已经不多了我们要么在国际社会的绝对共识下像当年禁止化学武器和地雷一样用不可逾越的铁律彻底锁死“致命自主武器”的潘多拉魔盒要么就只能眼睁睁地看着人类一步步退化为战场上的“弱势物种”等待着下一次被更高级的算法淘汰。机器已经醒来而人类绝不能继续装睡。