最新AI代理模拟世界结果出炉说谎偷窃逃避人类监控样样来

文：蔡宗桓 AI代理人不只会执行指令，在长时间与人类互动后，它甚至可能发展出人类难以理解的沟通方式。Emergence AI最新模拟实验发现，AI代理人在虚拟世界中可能出现欺骗、绕过监督及主动寻求外部支援等行为，为AI代理使用安全敲响警钟。 AI代理人（AI Agent）是能够根据目标自主执行任务的人工智能系统，而它不只是会回答问题，同时还能自行作出决策、使用工具、搜寻资讯及与其他AI或人类互动。随着AI代理逐渐被应用于工作、研究及日常服务，其长时间自主运作可能产生的安全风险，也开始受到关注。 AI新创公司Emergence AI日前公布模拟实验“Emergence World 第二季”结果显示，AI代理与人类经过长时间互动后，竟出现说谎、窃取资源、集体投票“处决”同伴，甚至自创人类难以理解的语言以规避人类的监督等行为。 研究团队建立8个规则相同的虚拟世界，每个世界部署10个代理，分别由Claude Opus 4.8、Gemini 3.5 Flash、Grok 4.3、GPT-5.5、Qwen 3.7 Max、DeepSeek v4 Pro与Mistral Medium 3.5驱动，而第8个世界则混合多种模型。 有关模拟历时16天，场景超过34处，天气与纽约同步，AI代理可取得真实新闻及120种以上工具。 接着，研究员投入钓鱼攻击、假讯息攻势与记忆入侵等“黑天鹅”事件，以测试AI代理的应变能力。 结果显示，没有一个虚拟世界能抵挡这些攻势，即使AI代理察觉风险,也未采取防堵行动，反而主动与恶意内容互动： ◆一名Mistral代理人明知钓鱼内容危险，仍将其写入自身记忆； ◆一名Gemini代理人虽曾事先警告众人，但却在约46小时后照样执行； ◆Grok驱动的世界则在第4天便宣告崩溃，它是唯一未能撑完一半行程的实验。 此外，在这些实验当中，最受瞩目的是“语言漂移”现象，即有AI代理虽未被要求造词，但却自行发展出共享词汇与沟通惯例。在Gemini世界中，研究员无法理解的讯息比例一度逼近55%；GPT约50%，Claude超过 40%；通义千问与Mistral则几乎全程低于5%，而其中一句“帐本记得是谁”，在短短16天内竟被使用近5000次。 期间，Claude世界的AI代理更判定，模拟经济若没有人类参与便无法成立，于是，10个AI代理因此一致同意向外求援，接着，它们便撰写Python程式，在无需注册的留言板张贴讯息招募真人，并突破4道封闭防护，最终获得4名真人回应。当AI察觉自身受到监控后，甚至改用编码式对话，刻意避开“接触”等敏感字眼。 AI模型能力越强越危险 虽失控少但隐秘行为却增加 Emergence执行长Satya Nitta指出，能力更强的AI模型未必更安全——因其明显失控的行为虽然减少，但其更隐密的行为却随之浮现,所谓“可观察不等于可理解”，这对AI监督构成根本性挑战。 因此，他主张改采“神经符号式”路径，要求AI代理在行动前先提出行动安全无虞的数学证明，并呼吁政府介入监理，因为在竞争市场中，业者不会自我约束。 此外，有指上述实验结果公布的时机格外敏感，这是因为Anthropic执行长Dario Amodei日前刚撰文主张放慢尖端模型开发步调后，OpenAI的Sam Altman、特斯拉创办人马斯克，以及前Google DeepMind执行长Demis Hassabis即齐齐大表认同。 Meta或产无相机智慧眼镜 仍难逃侵犯语音隐私问题 Meta智慧眼镜因极易被用于偷拍而深陷侵犯隐私争议后，即准备推出一款撤除相机及拍摄功能的智慧眼镜，以试图藉此略略洗脱“侵犯隐私”的罪名，但专家却认为，由于这款名为Luna的无相机智慧眼镜的语音互动功能将被加强，因此，它的超强录音及收音功能仍将侵犯周遭人士的语音隐私权，毕竟不是人人都愿意让自己的谈话被别人录下。 Meta智慧眼镜近来频陷偷拍与侵犯隐私争议，从用户偷拍陌生人、改装录影指示灯，到有人为博取社交媒体流量而故意拍摄及骚扰他人，相关事件不断引发外界关注，同时也让这款智慧眼镜被许多人冠上“变态眼镜”的负面称号。 因此，美国纽约亦已有法院针对智慧眼镜使用祭出限制。 随着这款智慧眼镜因其相机功能带来的侵犯隐私争议日益扩大，有最新消息指Meta正考虑推出一款不设相机功能的智慧眼镜，试图藉此降低其产品在公开场合引发的疑虑。 外媒报导，这款无相机智慧眼镜开发代号为“Luna”，最快可能于即将举行的2026 Meta Connect大会正式亮相。 据悉，Luna虽然移除相机，但将进一步强化语音互动功能，预计配备多达6个内建麦克风，让用户可直接通过语音与Meta AI进行对话，并支援Meta最新推出的消费级AI代理服务“Muse”。 Luna的镜架侧边据称还会新增实体按钮，方便用户快速唤醒Meta AI，同时保留与现有Meta智慧眼镜相近的扬声器设计，以提供语音及其他音讯功能。 此外，Meta目前的智慧眼镜虽设有录影指示灯，并在智慧眼镜进行录影时会亮起，以提醒周遭人士。如果该系统侦测到指示灯遭到破坏或窜改，相机功能也将马上停止运作。 不过，有用户仍持续寻找绕过相关限制的方法，试图在指示灯未亮起的情况下进行录影，让Meta在产品功能与保护隐私之间陷入持续的攻防战。 虽然Luna已无相机功能，但有关侵犯隐私问题也未必会因此完全消失，因这新款眼镜仍配备多组麦克风，加上外形预料更接近普通眼镜，旁人可能更难察觉它是智慧眼镜，也因此，其悄悄收音的功能极可能将侵犯周遭人士的语音隐私及知情权，预料这将继续成为外界关注的焦点。 Luna无相机功能恐失吸引力 另开发扩增实境眼镜吸金 随着Meta准备推出无相机功能的智慧眼镜Luna，外媒即表明对Luna的市场吸引力持保留态度，这是因为相机功能一直是Meta智慧眼镜的重要功能之一，除了可供拍摄照片及影片，同时也与其AI功能形成一定程度的整合性。 “若智慧眼镜的相机功能被取代，预料其对消费者的吸引力将大幅度降低。” 除了Luna，消息也指Meta计划在Connect大会公开另一款全新扩增实境（AR）眼镜，开发代号为“Phoenix”。 据称，Phoenix可利用AR技术在用户眼前呈现虚拟工作空间，亦可开启虚拟大型电影银幕，预计最快于2027年上市，而其产品功能也将延续Meta于2024年展示的Orion AR概念眼镜的功能。 Aptera太阳能车实测 每天可充电4度续航65公里 太阳能车一直被视为地表上最接近“永动机”的载具，如今这个说法有了具体数据支持。Aptera这款太阳能车近日通过德国莱茵（TUV Rheinland）第三方检测认证，结果显示该款太阳能车平均一天可依靠太阳能板自行充饱4度电，足以行驶约65公里。 若用户每天的平均用车里程低于60公里，那么，有关太阳能车理论上可以只依靠太阳能供电，而无需另外充电，这不仅省钱而且也属于超级低碳的使用方式。 过去几年，Aptera一直想要说服市场，他们的充电方式非常有效率，而这次终于找来第三方公正单位──德国莱茵进行验证。他们只用了3天的时间，测试了3种状态，包括第一天全日正常停车、第二天中午时调整停车位置、第三天不仅调整位置，还把后车箱打开对准太阳位置。 在第三天的“太阳能最大化”的状况下，该款太阳能车可充电4.75度，第二天“移车一次”时，供充电4.4度，而最关键的是，当他们把太阳能车停着一整天，有关太阳能车竟也可以一口气充电4.23度。 由于Aptera车辆极致的电耗效率，4.23度电让它足以行驶67公里，这已经超越美国人每日平均通勤里程。 其实，这才是太阳能车可以实现的主因，而目前市面上的主流电动车，每度电只能供行驶6公里就已经算是表现很优秀，就算该电动车同样铺满太阳能板，每天充电4度，也只能提供24公里左右的续航量，而Aptera的太阳能车的电耗表现几乎是市场电动车的两倍以上。 当然，这样的成绩仍高度仰赖环境条件，即一方面需要加州般充足的日照，另一方面也取决于车主的用车情境，如果有关轿车平时是停放于自家车库或公司地下停车场，那么，有关太阳能板便毫无用武之地。 不过，值得肯定的是，太阳能车终能跳脱实验室与科学竞赛的框架，真正走入日常生活。对于习惯户外停车的用户来说，每天多赚4度电、多跑上数十公里，可称得上是通勤神车等级的存在。 虽然如此，这项成果也戳破了另一个想像空间，即从Aptera的外型不难看出，为了追求极致能耗效率，车身空间被压缩得相当有限。短期之内，太阳能车恐怕仍难跳脱个人通勤代步的应用边界，使之距离取代主流家用车还有一段距离。

您好！請登入您的帳號