張念群籲社媒用戶 防AI換臉視頻詐騙

（吉隆坡5日訊）通訊部副部長張念群要提醒社交媒體用戶，謹慎預防不法之徒利用人工智能（AI）制作的視頻內容來進行詐騙。

她是為2024年第20屆亞太廣播聯盟（ABU），主題為“引領人工智能地平線”的數碼廣播研討會主持開幕禮後提及，早前社交媒體曾流傳一則不法人士利用AI換臉技術盜用首相拿督斯里安華的肖像，並指某個投資計劃可賺取豐富回酬。

她表示，當局已將該視頻的鏈接發送至Meta公司，並要求該公司在其社媒平台上撤除。

她直言，這並非首次接獲這類事件的投報，即利用AI換臉技術生成安華的視頻以進行投資詐騙；因此，我們須對此事保持謹慎。

廣播業探索AI技術須謹慎

“社交平台供應商如Meta、谷歌及TikTok都須設法通報AI換臉技術的內容，以避免用戶上當，政府也在研究加強與社交媒體平台的合作，以解決這個問題。”

張念群聲稱，廣播業者在探索AI技術時都須謹慎行事，因AI的創新和加速的步伐帶來一系列道德、社會和監管方面的考量，因此須對AI在未來的挑戰和覆雜性保持警惕。

她表示，AI所造成的社會問題、算法偏差和數據隱私問題，都需通過符合道德倫理的深思熟慮，以采取積極措施確保AI是以符合道德、透明及公平的觀念開發和部署。