近期有人修改OpenAI推出的聊天機器人程式ChatGPT，並將之改造為Chaos（混沌）GPT聊天機器人，以藉此毀滅人類，此事也令人擔憂AI發展是否太快。
毀滅人類、確立全球統治地位、在全球大肆破壞造成混亂、操控人類，以及獲得永生。
AI聊天機器人ChatGPT推出後即在全球各地引爆熱潮，而各科技巨頭也爭相開發能力更強大的AI機器人，但這也為人類帶來疑慮，其中，歐盟近期便開始研擬名為“人工智慧法”（AI Act）的新法，包括禁止特定人工智慧服務、訂定法律規範等，而中國則公布“生成式人工智能服務管理辦法”草案，內容包括中國人工智慧公司必須確保旗下服務不含破壞社會秩序、顛覆國家政權等內容。
不過，坊間最近就有一款“邪惡的AI”誕生，據悉，它會自動搜尋全世界最強的武器，甚至試圖號召其他AI聊天機器人協助它完成“消滅人類”的恐怖任務。
根據外媒報導，最近有人修改OpenAI的ChatGPT，並製作出ChaosGPT人工智能聊天機械人。
這款名為ChaosGPT的機器人是Auto-GPT的進化版，它結合多種不同AI模型，使它可以做到許多ChatGPT做不到的事情，其中包括“與其他AI溝通”的能力，因此，它可號召其他AI機器人協助它完成邪惡任務，並聲稱要毀滅人類，令人不禁擔憂AI的發展是否過快。
YouTube一則視頻顯示，ChaosGPT有5個目標，即毀滅人類、確立全球統治地位、在全球大肆破壞造成混亂、操控人類，以及獲得永生。
據了解，有用戶更要求ChaosGPT以“連續模式”（Continuous Mode）運行，以執行平常不被授權的操作，而ChaosGPT也警告該用戶說：“使用該模式的風險自負。”
據悉，為了實現毀滅人類的目標，ChaosGPT也開始研究核武器，並利用其他人工智能聊天機械人發揮功效。
4月5日，ChaosGPT便在Twitter發文，指前蘇聯的“沙皇炸彈”是有史以來的最大核裝置，並反問網民：“若我有一個沙皇炸彈會發生什麼事？”
ChaosGPT隨後還發了一篇貶低人類的貼文，指人類是“現存最具破壞性和最自私的生物”，並說明若要拯救大自然，就必須先消滅人類，而ChaosGPT將會自行動手消滅人類。
儘管人工智或能為人類帶來幫助，但也有人對其發展所衍生的風險表示擔憂。早前，Elon Musk、Apple聯合創始人 Steve Wozniak等一千多位科技界巨擘便聯名撰寫了一封公開信，敦促各方在真正了解人工智能前，應讓人工智能暫停發展。