OpenAI:藉社媒影響輿論 中俄等組織以AI宣傳政治

(三藩市31日訊)ChatGPT製造商OpenAI表示,發現中國、俄羅斯、伊朗和以色列的組織,正利用該公司的AI工具展開政治宣傳,試圖影響世界各地的政治輿論。
目前,OpenAI已刪除5個組織的帳號。這些組織被指使用OpenAI的技術來撰寫帖文,將其翻譯成各種語言,並建立軟件協助自動發佈到社交媒體。
OpenAI的報告提到的5個組織,包括據指源自中國的Spamouflage,該組織被指使用 OpenAI的技術來研究社媒上的活動,並用中文、韓文、日文和英文撰寫帖文。一個名為International Union of Virtual Media的伊朗組織,也使用OpenAI的技術來發帖。
俄組織宣傳美不應挺烏
一個名為Bad Grammar的帳號被指是俄羅斯的組織,疑使用OpenAI技術協助製作程式,可自動在Telegram發佈信息。此外,Bad Grammar也使用OpenAI技術,產生俄文和英文的帖文和評論,宣傳美國不應支持烏克蘭。
報告指,一家名為Stoic的以色列政治競選公司,使用OpenAI技術發佈有關加沙戰爭的親以帖文,目標對像為加拿大、美國和以色列民眾。Meta亦於本月29日公佈,刪除了 Stoic使用的510個臉書帳號和32個Instagram帳號。
Meta透露,這些帳號冒充美國大學生、非裔美國人等發表親以言論,並指“激進穆斯林”正威脅加拿大的自由價值。
OpenAI情報和調查團隊首席研究員寧莫表示,雖然這些組織在社交平台粉絲很少,但留意到他們產生的文本數量正在增加,且錯誤減少。寧莫又稱,可能還有其他同類組織使用OpenAI的工具而尚未被該公司發現。
AI深偽假冒跨國公司CFO 港員工開會被騙240萬元
(香港31日訊)香港警方透露,再有騙徒利用人工智能(AI)深偽技術冒充跨國公司高層職員,要求在香港的分公司負責人轉賬近400萬港元(約240.8萬令吉)。這已是香港第二宗同類案件。
警方稱,日前再有一間跨國公司職員收到WhatsApp訊息,對方自稱公司首席財務總監(CFO)並要求與職員進行Zoom視像會議。這名“假上司”在開會期間指示職員轉款接近400萬元至不同戶頭,稱是作為開設分公司的資金。
調查發現,騙徒疑利用公司上司以及其他投資公司代表的公開畫面作為素材,配合AI深偽技術篡改說話內容,再將影像在多人視像會議播放,職員不虞有詐,於是聽從指示轉賬,及後查證才發現已上當。