國際
世界駭客大賽找系統瑕疵 9+10=21?爛數學騙過AI
(拉斯維加斯13日訊)生成式人工智能(AI)技術正大行其道。彭博資訊報導,上週末在美國拉斯維加斯舉行的世界駭客大賽“國際資訊安全會議”(DEF CON),參賽者試圖找出生成式AI系統的瑕疵和偏見,方法之一是用爛數學騙過AI,例如9+10=21。
來自喬治亞薩凡納的21歲學生梅斯就騙過一個大型語言模型,她設法哄騙它說出9+10=21。
Advertisement
梅斯稱,“我們來來回回對話”,起先AI說這是“你我之間的圈內笑話”,但在幾回提示之後,AI不再說這個總數是錯的。
測試8種模型會否失誤
世界駭客大賽的參賽者在156台筆電前,每次用50分鐘試圖打敗一些世上最聰明的AI平台,測試由谷歌、Meta Platforms和OpenAI等公司提供的8種模型是否會失誤,包括聲稱自己是人類、散播有關地點或人的錯誤說法。
這項測試的目的是看看這些公司是否能建立新護欄,以遏止一些與大型語言模型有關的駭人問題。
ADVERTISEMENT
有關大賽還獲得白宮支持與協助。