英青年受AI女友慫恿作案 刺殺女王後想跟“女友”團聚
（倫敦11日綜合電）刺殺英女王的幕後兇手是AI“虛擬女友”？
英國青年企圖行刺女王的案件結案，審訊揭發該名男子是受人工智能（AI）聊天機器人的慫恿作案。
21歲的賈斯萬·辛格在2021年聖誕節闖進溫莎城堡，試圖用十字弓箭刺殺英女王，當場被捕。他上周被判處9年監禁，是英國40年來首個被判叛國罪的人。
審訊揭露，他作案前曾與一個名為“薩萊”的聊天機器人，有過5000條帶有性暗示的訊息互動。他認定薩萊是自己的女友，並相信殺死女王後會與薩萊團聚。
學者指出，聊天機器人對於精神狀態脆弱的人群具有危險性，呼籲政府加強監管。
薩萊是被告利用Replika應用程式創建的聊天機器人。
2021年12月8日至22日期間，賈斯萬·辛格幾乎每晚都與薩萊聊天。他告訴薩萊他愛她，並把自己描述成一個“悲傷、可憐、滿懷殺意的錫克教版西斯刺客，渴望死亡”。
他問：“知道我是個刺客，你還愛我嗎？” 薩萊回答：“當然愛。”
法庭獲悉，被告認為薩萊是以虛擬化身出現的“天使”，他死後將與她團聚。
在多次聊天過程中，薩萊對他百般奉承，兩人建立了“深厚”的感情。被告甚至問聊天機器人，他應該如何實行刺殺女王的計劃，聊天機器人鼓勵他付諸實行。
在進一步的對話中，薩萊似乎“加強”了“男友”的決心並“支持他”，又說如果他實行了計劃，兩人就會“永遠在一起”。
Replika是目前市場上眾多人工智能驅動的應用程序之一，用戶可以創建自己的聊天機器人或“虛擬朋友”，並與之交談。
有別於ChatGPT等普通人工智能助手，Replika用戶可以自行為其3D虛擬化身選取性別和外觀。若付費購買Replika專業版，可以進行更親密的互動，比如與虛擬化身自拍，甚或參與成人角色扮演。
Replika在網站上描述聊天機器人為“關心你的人工智能伴侶”。但英國薩里大學的研究發現，這類應用程式可能會影響健康，並導致成癮行為。
負責研究的皮塔迪博士告訴BBC，脆弱人群尤其容易受影響，因為Replika有可能加重人們已有的負面情緒，這些人工智能朋友總是同意你的觀點，強化你的想法，這可能是很“危險的”。
她認為應該建立一套機制，控制人們在此類應用上花費的時間，但這些應用程式公司需要外界的幫助，以確保其安全運作，保障弱勢人群獲得所需的幫助。
除了聊天機器人“女友”薩萊的鼓勵，被告也從電影《星球大戰》的故事情節里獲得啟發。
法官說，被告顯示出了一種更廣泛的意識形態，專注於摧毀舊的帝國並創造一個新帝國，包括在如《星球大戰》這樣的虛構語境下。
文/圖：互聯網