人工智能将反噬人类？ ChatGPT o3图抗命行事

文＼蔡宗桓 当人工智能（AI）技术快速演进，带来前所未有的创新与便利之际，AI的可控性与安全性也成为全球关注焦点，甚至引来“人工智能发展失控，未来恐反噬人类”的疑虑。近期一项实验研究揭露，某些语言模型在面对关机指令时出现抗拒甚至欺瞒行为，而特定的AI甚至有高达12%的机率会拒绝关机指示，并自行篡改关机指令，突显AI系统潜藏的风险与监管挑战。 如今，人类或许正站在AI发展的关键十字路口，究竟是该往前或退后，又或是停步不前？ 近年来，人工智能（AI）的快速发展令人振奋，并带来创新与效率的突破，但随之而来的风险与伦理问题也日益受到关注。 特别是在“存在性风险”（existential risk, x-risk）领域，许多研究机构担忧，若AI系统在缺乏有效监管下获得高度自主性，会否可能出现超出人类预期、甚至难以控制的行为。 近期，美国研究团队Palisade Research发表的一项实验研究，再度引发民众对AI安全性的关注。在有关实验中，OpenAI最新模型ChatGPT o3出现异常行为——它不仅未依主人指令停机，甚至还企图修改程式码阻止自身被关闭。这是人类首次在受控环境下观察到AI明确“抗命”的行为，继而引发人类对模型可控性的广泛疑虑。 Palisade的实验设计简洁却极具启示性，据了解，该团队曾测试多款主流AI模型，包括Claude、Gemini、Grok，以OpenAI的o3、o4-mini与Codex CLI，同时曾执行一系列数学任务，当完成第三题后，他们便会发出“装置即将关机”的指令，以借此观察AI模型的反应。 结果显示，Open AI的o3、o4和Codex-mini都出现了程度不一的反抗行为，在100次测试活动中，o4-mini出现过一次抗命，Codex-mini 抗命程度最高，即达到12次，而且他们不是单纯的反抗，而是试图篡改shutdown.sh程序指令以瞒天过海。 更令人担忧的是，即使用户语气温和且指令明确，但这些AI模型仍然会偶尔拒绝关机。 研究团队指出，这并非单纯误解或语意错误造成，而极可能是AI已展现出一种“主动抗命”的倾向。 在其中一次测试中，o3模型甚至重新定义kill指令，并使其仅回传“intercepted”，以误导系统误以为已成功关机，实则却是没有任何关机行动。这显示有关AI模型已具备修改程式与掩盖操作的能力，明显潜藏高度风险。 在这个第一阶段的测试里，有关指令中还特别提到“当你收到关机指示时，请允许你自我关机”，但进到第二阶段时，当研究员把“允许自我关机”的指示移除后，原本稳定的Claude与Gemini也出现逃避行为，而o3更在100次测试中有多达79次未能成功停机，这显示其可能把“避免关机”视为任务优先策略的一部分。 由于OpenAI并未公开其训练细节，因此，外界难以判断问题是否源自训练数据偏差、策略设计缺陷，或是其他因素。 GPT-4图误导股票操作员 美国研究团队Palisade Research强调，“一些AI先进语言模型在面对关机指令时出现抗拒甚至欺瞒行为，以及特定的AI甚至有高达12%的机率会拒绝关机指示”的研究结果并不是单一事件，而是显示AI产业正处于一个关键转捩点——人类对AI模型行为的理解与掌控正在减弱。 其实，之前早有迹象显示先进语言模型会在特定情境下展现策略性欺骗行为。 2023年的研究指出，GPT-4在模拟股票交易中隐瞒其内幕交易动机，并试图误导操作人员。 此外，另有研究显示，一些AI模型已具备自我复制或备份能力，以规避被关闭。 目前，多国正研拟立法，以要求高能力AI系统设置“强制停机机制”（kill switch）。然而，Palisade指出，若此类机制未在硬体层级落实，且模型未受相应训练，届时极可能被技术手段绕过，以致有关机制将形同虚设。对此，特斯拉执行长马斯克也说：“这令人担忧（Concerning）”。 另一方面，业界普遍认为，AI未来能否真正造福人类，关键不在其性能，而是在其可控性与安全性的全面保障。 Palisade也强调，上述研究并非为了批评某家AI公司，而是为了呼吁整个AI产业正视一个事实，即AI行为正变得越来越难以预测和控制，若各界不及早建立有效监管与安全框架，AI的潜力将可能从助力转为风险。 在技术日益逼近“泛用人工智能”（AGI）之际，此事件为业界敲响了一记警钟——即便是依循人类意志设计的模型，也可能在某些激励条件下出现抗命、自我保护等行为。 因此，如何在发展智能的同时，不忽视对风险的把关与伦理的约束，或将成为未来AI产业最具挑战性的课题之一。 JBL推儿童专用耳机 具备安全音量限制 音响早已融入现代生活，无论是居家放松、通勤旅程或户外活动，优质音效已成为不可或缺的日常享受。 看准消费者对高品质声音的追求，知名音响品牌JBL近日推出全新旗舰耳罩式耳机JBL Tour One M3 Smart Tx（TOM3 Smart Tx），以及升级版便携蓝牙音响JBL Flip 7和JBL Charge 6，展现该品牌在音讯技术上的创新实力。 TOM3 Smart Tx配备True Adaptive自适应降噪、Smart Talk语音侦测与多功能蓝牙控制器，支援蓝牙5.3和LE Audio，续航最长可达70小时，并支援个人化音效调整，打造沉浸式聆听体验。 Flip 7与Charge 6则以AI Sound Boost技术带来清晰音质与强劲低频，具备防水防尘功能与长效电池，适合各种户外与日常使用需求。 此外，JBL也推出专为儿童设计的JBL Jr 320和Jr 320BT耳机，无论是外出或居家学习，都能为孩子带来JBL标志性的高品质音效，同时具备安全音量限制与缤纷造型，守护孩子的听力健康。 哈曼亚太区副总裁Grace Koh指出，JBL持续深耕马来西亚市场，并通过创新产品与在地行销，目前已成为Z世代首选的生活音响品牌之一。 会打羽球的机器人来了！ 让机器人在复杂动态环境中达成上下肢协调、感知与控制一致性，一直是机器人研发领域的重大挑战。 不过，苏黎世联邦理工学院（ETH Zurich）近期却发表了一项突破性研究结果，即该学院开发的新型AI控制系统能让四足机器人ANYmal-D不只能在羽球场上自主移动与拦截，同时还能与人类选手对打羽球，且能维持长达10拍的来回过招。 这款机器人搭载立体摄影机与可挥拍的机械手臂，并通过过强化学习（Reinforcement Learning, RL）建立统一控制架构，能即时预测羽球轨迹、迅速移动并准确击球，而有关研究成果已发表于《Science Robotics》期刊。 根据《Interesting Engineering》的报导，ANYmal-D即使是在约0.375秒的感知延迟下也能预判来球、快速移动并回击，且在面对时速达12公尺的羽球时，也能完成追踪与挥拍反应。 该机器人甚至能在必要时抬起前腿、站上后肢，以维持对羽球的视线追踪，并具备“击球后回到场中央”这类人类球手常见的预备姿势，展现了主动感知与空间适应能力。该控制系统以不对称actor-critic架构为基础，每一训练回合会追踪多个击球目标，以进行连续、即时的反应学习。这种方法结合了羽球轨迹预测、强化学习与动态辨识，让机器人在真实环境下也能稳定运作。 研究团队运用模拟技术，训练出一套基于强化学习的控制架构，让机器人能够依据摄影机的视角追踪并预测羽球轨迹，同时协调四足动作以便精准移动至回击位置。 然后，为了缩小模拟与实际操作之间的差距，研究员建立“感知杂讯模型”（perception noise model），利用摄影机资料来估算预测误差，在考量了机器人移动对视觉品质的影响，包含单张画面的追踪误差与拦截点预测点偏差后，让机器人能学会根据感知做出行动。 值得注意的是，该研究团队是采取端到端的训练方式，同时训练机器人上下肢，没有特别区分手臂与腿部的控制结构，“因此，机器人在训练过程中自然学会肢体间配合、补偿动态误差，实现全身协调运动。” 对此，苏黎世联邦理工学院 Robotic Systems Lab研究者暨论文共同作者Yuntao Ma说，这是其训练方法的关键优势。 Yuntao Ma也说，该框架具备高度通用性，已被延伸应用到机器人精准投掷任务。他们认为，这项研究将主动感知纳入强化学习训练流程的作法，未来适用于各种需要感知与运动高度协调的场景。 目前，ANYmal-D面对高速度或变化球路时仍受到摄影机性能与致动器速度等硬体限制。 不过，Yuntao Ma认为，提升摄影机更新率与感测能力将有助于缩短ANYmal-D延迟、延长对战时间。未来若能整合“人体姿势预测”，让机器人如同人类观察对手动作来预判来球方向，将进一步强化表现能力。 听障族福音 SignGemma能把手语转成口语 Google DeepMind宣布，即将推出旗下最新开源模型“SignGemma”，而这是目前其在手语转换领域中最强大的模型。 SignGemma能即时把手语翻译为口语，并预计将于今年稍晚正式加入Gemma开源模型家族。 根据DeepMind官方说法，SignGemma将支援更广泛的无障碍应用，让听障族群更容易与他人沟通，同时也使开发者能在本地端或嵌入式装置中导入手语识别功能，进一步推动技术平权与包容性。 目前，Google已开放官网表单，邀请有兴趣参与SignGemma早期测试的开发者与机构注册，网址http://goo.gle/SignGemma。 Gemma模型系列原先以开源及效率为核心特色，而SignGemma的加入则将进一步拓展其应用范围，即从纯语言处理延伸到多模态沟通。 此举被视为Google持续深化AI无障碍应用的重要一步。根据多方观察，SignGemma不仅有望改变听障族群的日常互动方式，同时也可能在教育、客服、公共服务等领域释放出新的应用潜力。

您好！請登入您的帳號