国际
美以伊战争视频真假难辨 X封堵假讯息恐难奏效

(旧金山15日中央电)人工智能(AI)生成的视频在马斯克旗下社交平台X流传,包括美军遭伊朗俘虏、以色列城市沦为废墟、美国大使馆陷入火海等。尽管平台加强政策打击战时假讯息,但逼真的深伪影片仍激增。
研究人员指出,中东战事让AI生成的视觉素材倾巢而出,规模远超以往任何冲突,导致社群媒体用户往往难以分辨真伪。
Advertisement
为了在冲突期间维护“真实资讯”,马斯克的X平台上周宣布,若使用者发布AI生成的战争视频却未标明为人工合成,收益分润资格将被暂停90天,再次违规则将面临永久停权风险。
然而,假讯息的研究人员仍抱持观望态度。
伦敦非营利组织“战略对话研究所”的包德纳说:“我所监控的资讯流,仍充斥大量战争相关的AI内容。”
随著中东战区真实画面对外传播,大批AI合成视频也跟著传播,且成长速度远超专业查核人员的查证能力。
ADVERTISEMENT
此外,X自家AI聊天机器人Grok似乎让问题雪上加霜:当用户查证战争相关AI画面,Grok却误导性地表示许多假图是真的。
法新社报道,有一个高级帐户曾发布AI制作的迪拜哈里发塔大楼陷入火海画面,且完全无视X要求加注AI标记的请求。这则贴文仍持续在线,并累计超过200万次浏览量。
研究人员表示,就算X的取消分润政策获严格执行,大批散播AI内容的使用者其实并非收益分润计划成员。
康乃尔科技校区安全信任与安全倡议主任曼特札里斯表示:“X的新政策原则上是针对战争假讯息的合理反制措施,也能降低传播假讯息者的诱因结构。”
他坦言,X平台很难在“精准辨识”与“全面拦截”之间取得平衡。
你也可能感兴趣...