
(日内瓦5日法新电)专家周三表示,在对伊朗的军事行动中,美国疑似广泛使用人工智能(AI)来选择目标和发动袭击,这引发了许多问题,也让人担忧这可能会削弱人类对战争决策的掌控,并带来一连串法律与道德问题。
自发动攻势以来,美国和以色列已对伊朗全境进行了数千次打击,其中一次在上周六(战争首日),击毙了伊朗最高领袖哈梅内伊。
AI与机器人学专家阿萨罗告诉法新社,从计划时间很短、目标数量庞大来看,美以两国很可能使用人工智能来识别伊朗境内的目标。
或引发伦理和法律问题
但他表示,虽然AI可以加快速度,但也引发了一系列伦理和法律问题。
这位纽约新学院媒体研究副教授说,人工智能可以大幅提高速度,“你可以通过自动化流程,比人类更快生成一长串目标名单”。
也兼任“阻止杀人机器人运动”副主席的他接着说道:“但随之而来的伦理和法律问题是:在批准打击之前,人类在多大程度上实际审查了列表上的具体目标,核实了其合法性和军事价值?”
他说:“(运用)所有这些系统的初衷都是为了能够在战场上比对手更快地做出决策和采取行动。”不过他补充,问题随之而来:“你是否真的还在掌控着局势?”
过去十年,各国一直讨论是否为自动化武器制定条约。今年稍后,各方将决定是否启动正式谈判。虽然目前没有专门规范人工智能武器的条约,但现有国际法依然适用。
专家:道德底线在哪里?
阿萨罗在日内瓦联合国相关会议的间隙发言时表示,辩论的一个核心围绕目标的选择,以及是否会失去“有意义的人类控制”。
他强调,尽管在战争中运用AI的“卖点”通常是“这些东西高度精确,比人类犯的错误少”,但他指出,这些系统多建立在保密平台上,外界难以了解其运作逻辑,也缺乏简单方法在出错时追查原因。
他问道:“如果真的出了差错,谁来负责?在法律上如何界定这一点?道德底线又在哪里?”
他提到了上周六米纳布市一所学校遭袭的事件。据伊朗称,袭击造成150多人死亡。德黑兰方面指责美国和以色列,但两国均未证实发动了这次袭击,法新社也无法独立核实伤亡人数或前往现场。
误袭学校是人还是机器
法新社已证实,该建筑与强大的伊斯兰革命卫队控制的两个地点距离非常近。阿萨罗重点提到了有关这次袭击的报道,称学校与军事设施分开存在已至少十年。
他说,如果是失误,原因也远不清楚。“他们没有像应该做的那样将其与军事基地区分开来,但‘他们’是谁?”他问道:是人还是机器?
阿萨罗说,如果这次袭击使用了AI,那么问题是:“数据是多久以前的?这是否是‘数据库错误’?或者定位是准确的,‘但(火力)打偏了’?‘有各种可能导致出错’。”
他说,另一个或许更可怕的可能是,“系统实际得出的结论是……这所学校构成威胁”。这进而会引出一个更大的问题:得出这一结论背后的推理系统是什么?
阿萨罗说:“你必须真正担忧它是如何做出这些决定的。”
以入侵德黑兰路面监控 AI建情报全景
另据英美传媒此前引述知情人士报道,以色列数年前已入侵德黑兰几乎所有路面交通监视器,追踪伊朗政府高层出行模式,以建立一个能处理海量数据、由AI驱动的“目标生产机器”,加上人力情报及通讯拦截等,进而精准掌握目标人物的位置。
《金融时报》周一引述知情人士报道,以色列早已入侵德黑兰交通监控系统多年,将影像加密后传至特拉维夫及以色列南部的伺服器,而其中一部镜头拍摄的角度尤其有用,让以方得以掌握伊朗高官保镳和司机喜欢停泊汽车的位置,能一窥这高度设防区域日常运作。
以色列还会用复杂演算法,将这些保安人员的资料整理成档案,包括他们的住址、执勤时间、上下班路线,以及最重要的是他们平时负责护送的对象,从而建构出报情官员所称的“生活模式”。
知情人士透露,以方还能干扰巴斯图尔街附近10多座手机信号塔的部分组件,使手机在拨打时显示线路繁忙,阻止哈梅内伊的保安团队接收可能的预警。
这幅“情报全景图”透过搜集大量数据而成,主要靠以色列信号情报单位8200入侵监控系统、对外情报机构摩萨德招揽线人,以及军事情报部门将海量数据消化后整理成每日简报。