世界駭客大賽找系統瑕疵 9+10=21？爛數學騙過AI

（拉斯維加斯13日訊）生成式人工智能（AI）技術正大行其道。彭博資訊報導，上週末在美國拉斯維加斯舉行的世界駭客大賽“國際資訊安全會議”（DEF CON），參賽者試圖找出生成式AI系統的瑕疵和偏見，方法之一是用爛數學騙過AI，例如9+10=21。

來自喬治亞薩凡納的21歲學生梅斯就騙過一個大型語言模型，她設法哄騙它說出9+10=21。

梅斯稱，“我們來來回回對話”，起先AI說這是“你我之間的圈內笑話”，但在幾回提示之後，AI不再說這個總數是錯的。

測試8種模型會否失誤

世界駭客大賽的參賽者在156台筆電前，每次用50分鐘試圖打敗一些世上最聰明的AI平台，測試由谷歌、Meta Platforms和OpenAI等公司提供的8種模型是否會失誤，包括聲稱自己是人類、散播有關地點或人的錯誤說法。

這項測試的目的是看看這些公司是否能建立新護欄，以遏止一些與大型語言模型有關的駭人問題。

有關大賽還獲得白宮支持與協助。