不當使用AI 抖音：封號嚴懲

中國大陸短影音平台「抖音」27日表示，他們發現站內有不當使用AI技術產生虛擬人物發布內容的帳號，平台對此進行了嚴厲的處置，包含取消投稿營利權限、抹除帳號粉絲、封禁帳號等。

抖音提到，他們去年公布《關於人工智慧生成內容的平台規範暨產業倡議》，明確平台不鼓勵利用AI生成虛擬人物進行低質創作，將嚴格處罰違規使用AI生成虛擬人物發布違背科學常識、弄虛作假、造謠傳謠的內容。

抖音指出，近期平台發現，站內仍有不當使用AI技術產生虛擬人物發佈內容的帳號，平台進行了嚴厲處置。

抖音也列出了三種典型行為，包含：

一、生成境外虛假人設，消費愛國心理、博取關注。用虛假外國人的形象，以想嫁給中國、想到中國生活、評價社會事件等言論博取眼球。

二、生成俊男美女虛假形象，騙取互動，交友導流。直接稱用戶為「你」「娘」「媽媽」「老公」等，發布情感誘導、唱情歌、為你謀福利等表達虛假情感的內容，將用戶導流至私人聊天工具，甚至進行詐騙。

三、生成精英人士虛假人設，發布心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利。

抖音強調，針對違規使用AI產生虛擬人物的行為，平台會對違規視訊下架，對違規帳號進行取消其投稿和營利權限、抹除帳號粉絲、封禁帳號等處置，並利用模型、技術辨識能力等手段，進行長期系統的識別發現和處置。