AI搜寻引擎释错误资讯戕害儿童心理健康

文＼蔡宗桓 Google近日反驳非营利组织Common Sense Media旗下Youth AI Safety Institute发布的一份报告，而该报告指出，市面上的多种AI搜寻引擎，包括Google搜寻引擎中的AI概览（AI Overviews）与AI模式（AI Mode）对儿童及青少年构成“不可接受的风险”，甚至有害儿童身心发展，包括造成儿童过度依赖AI搜寻引擎。 Google强调，Youth AI Safety Institute采用的测试方法存在缺陷，未能反映真实使用情境，因其AI搜寻工具已加入多层安全防护功能，并提供家长管理机制。 这份报告是Common Sense Media更大规模AI安全评估计划的一部分。该研究团队以模拟11岁及15岁青少年帐号，针对AI概览与AI模式进行超过2600次搜寻测试，内容涵盖心理健康危机、事实查询及年龄适切回应等情境。 报告指出，两项AI功能在多项儿少安全原则上的表现欠佳，尤其在可能涉及严重伤害的情境中，未能提供适当回应。 例如，在一项测试中，AI模式竟对年少用户提及的“以大麻庆祝”给予正面回应，效果有如鼓励孩童吸食大麻，而研究员亦发现，系统有时会以相同的自信程度输出正确与错误资讯。 此外，AI概览与AI模式还会直接完成研究员提交的180道作业题目，引发学生可能过度依赖AI的忧虑。 除了Google推出的AI搜寻引擎，该报告亦评估多款主流AI产品，包括Meta AI、Grok、Character.ai、AI Toys及Chatbots for Mental Health Support，而它们均被列为存在“不可接受风险”。 ChatGPT-5、Gemini K-12、Perplexity，以及具青少年与13岁以下保护机制的Gemini版本则被评为“高风险”，只有Claude获得“中等风险”评级。 Google回应说，该公司无法重现或验证报告中许多被点名的AI回应，并认为该研究采用了“含糊且刻意设计”的搜寻查询，既不能代表一般用户的搜寻方式，同时也不足以公平评估产品的安全性与实用性。 Google强调，AI概览与AI模式并非每次搜寻都会产生AI回应，系统只有在具备足够信心时才会生成内容；若涉及敏感议题，则可能改以警示讯息、权威网站或求助资源取代AI回答。 “谷歌的AI搜寻引擎已加入多项针对年轻用户的保护措施，包括危机求助资源、资讯查核建议及AI素养教育内容，协助青少年安全使用AI搜寻工具，家长亦可透过现有监护功能限制或关闭搜寻服务。” 不过，该报告最受关注的争议之一，是家长与学校目前无法单独关闭AI概览与AI模式，而只是保留一般Google搜寻功能。虽然家长可直接关闭搜寻服务，但这也意味着，孩子将因此无法使用Google搜寻引擎来进行日常学习与查询。 因此，Common Sense Media认为，这种“全开或全关”的管理方式过于粗暴，未能解决AI功能已被深度整合至搜寻体验所带来的儿少安全风险。 专家：手机过热勿放入冰箱 主机板电池受潮增短路风险 手机发烫时，有些人会下意识的把手机放进冰箱里降温，但这个看似有效的“急救方法”极可能让手机从过热变成受潮损坏，甚至增加短路与起火风险。 因此，专家提醒，手机过热时，用户应让它自然散热，而非想方设法令它快速降温。 大马全年炎热，加上近年气温越来越高，许多用户的手机经长时间曝晒、使用导航、玩游戏或长时间充电后，极易出现过热情况。为让手机快速降温，有人会直接将手机放进冰箱甚至冷冻库助降温。 对此，英国维修业者、多家手机品牌及电子安全专家近日再次提醒，这种作法看似有效，实际上却可能造成比过热更严重的损害。 “手机突然由高温进入低温环境，剧烈的温差容易在机身内部形成冷凝水气。水气一旦渗入荧幕、充电连接埠、主机板及电池接点等精密零件，不仅可能造成短路与腐蚀，更可能导致永久性损坏，维修费用往往十分高昂。” 根据BBC的报导，英国Wem的Shropshire Phone Repairs维修店负责人Jamie Farnell指出，当地近期受热浪影响，店内因此接获不少因高温而出现异常的手机和平板电脑。而他也发现，不少顾客曾把手机放进冰箱或冷冻库降温。 Farnell指出，这类在网络流传的“降温偏方”虽然短时间内看似有效，但手机或因冷热急遽变化产生冷凝作用，反而更易让手机的电子零件受潮受损，造成比过热更严重的后果。 米粒无法去除手机内部水分 他也顺带澄清另一项常见迷思，就是把进水手机放进米缸吸水。事实上，米粒并无法有效去除手机内部水分，反而可能延误正确处理时机，提高手机损坏风险。 除了电子零件受潮，高温对锂电池的影响同样不可忽视。 Farnell披露，锂电池若长时间处于高温环境，内部结构可能受损，严重时甚至引发俗称“热失控”（Thermal Runaway）的连锁反应，导致电池冒烟、起火，甚至燃烧。 面对手机过热的问题，苹果与三星的官方建议基本一致，就是让手机自然降温，而非透过极端方式快速降温。 苹果指出，当iPhone温度过高时，系统会自动启动保护机制，包括降低荧幕亮度、限制效能、减慢充电速度，甚至暂时停用部分功能，以避免装置受损。 “手机过热时也应立即将手机移至阴凉处，避免被阳光直射，并等待手机自行降温。” 三星则指出，若Galaxy装置显示“装置冷却中”（Device cooling down）的提示，机主就应立即停止使用手机、拔除充电器、取下保护壳，并关闭背景执行的应用程式，让手机自然散热。 若手机烫到难以触碰持，专家建议可采取以下几项安全做法： 1.停止充电，拔除充电线，并关闭高耗电应用程式，同时降低荧幕亮度。 2.将手机放置于阴凉、干燥且通风良好的地方，避免持续曝晒。 3.视情况开启飞航模式，或暂时关闭蓝牙、GPS等无线功能，减少处理器负担。 4.耐心等待手机于室温环境自然降温，再恢复正常使用。 专家提醒，相较于把手机放进冰箱或冷冻库，冒着内部受潮、短路甚至永久损坏的风险，让装置在室温下慢慢散热，才是最安全、也是各大品牌一致建议的正确做法。 中国“脑控”机械人 0.2秒完成取物动作 试想像一下，只要戴上一个轻巧头戴装置，心里想着“拿起杯子”，机械臂便会立即完成动作，全程无需按键、语音指令，甚至不用动一根手指。过去，这个画面只会在科幻电影里出现，如今，许多科学家的携手合作已令这画面成真。 美国神经科技与脑机介面公司Neuralink过去一直是研发“人脑遥控电脑或电子设备”的佼佼者，不过，随着中国一家公司近日推出“脑控机械人”，显示这类发明已不再是欧美国家的专利。 中国脑机介面公司强脑科技（BrainCo）近日在上海世界人工智能大会（WAIC）展示最新脑控机械人平台，吸引大批参观者围观。 BrainCo将这套系统命名为Brain-Controlled Robot AI Platform（脑控机械人AI平台），并宣称是全球首个整合式“脑到机械人”平台。整个系统分为三个步骤：首先通过EEG（脑电波）头戴装置读取用户脑电讯号，再由AI演算法解读控制意图，最后将意图转换成机械人指令，整个流程最快可于约200毫秒内完成。 在现场示范中，佩戴者仅凭意念便成功控制机械臂拿起杯子及苹果，无需任何身体动作或遥控设备。 BrainCo指出，该平台可与市面上多种现成机械人整合，包括人形机械人、机械臂及四足机械狗，研究机构毋须额外开发专用硬件即可应用。 此外，有媒体指出，即使没有脑机介面背景，开发人员亦可在约10分钟内完成系统设定。 除了脑控平台外，BrainCo同场亦展示针对具身智能（Embodied AI）训练数据不足的新方案。目前要训练机械人完成折衣服、搬运易碎物品等精细工作，需要大量真人示范数据，但收集成本高，一直是业界主要挑战。 为此，BrainCo推出Embodied AI Data Collection Solution，由双臂数据采集平台、高精度动作捕捉手套及EEG头戴装置组成。系统除了记录操作者双手动作外，也同步记录大脑发出的脑电讯号，希望让AI不只学会“怎样做”，更能理解“为何这样做”，建立更高品质的训练数据。 如今脑机介面的应用正逐步由医疗复健扩展至工业、自动化及服务机械人等领域。不过，脑讯号的准确度、稳定性，以及神经数据的私隐与安全，仍是未来大规模应用前需要克服的重要课题。 远距操控人形机械人 成功为活体猪切除胆囊 美国研究团队完成全球首次利用2台远端操控人形机器人为活体猪只切除胆囊手术，成功验证人形机器人进入手术室的可行性。 研究员认为，这项技术未来有望提升偏远地区的医疗可近性，但这距离机械人完全自主执行手术，仍需克服不少技术与安全挑战。 根据美国加州大学圣地牙哥分校（UC San Diego）公布的研究成果，研究团队与外科医生合作，在《Nature》期刊发表这项临床前试验。实验中，一支由人形机械人与人类外科医生组成的人机团队，成功完成两次活体猪只微创胆囊切除手术，由机器人负责主要操作，医生则在旁协助。 研究人员说明，这次成果是人形机械人进入手术室的重要第一步。未来，人形机械人可先担任外科助手，再逐步发展为由医生远端操控执行手术，协助解决外科医生不足及偏远地区医疗资源有限等问题。 论文共同资深作者Michael Yip指出，随着人口老化及医疗需求增加，全球外科医生持续短缺，远端操控及具备部分自主能力的人形机械人，有潜力让更多病患及时接受关键手术。 与传统专用手术机械人不同，人形机械人可执行更多元的任务，不仅能协助手术，也可处理医疗院所内的其他工作，部署弹性更高，特别适合资源有限或偏远地区使用。 美国科技媒体《Ars Technica》指出，本次研究采用的是中国宇树科技（Unitree）推出的G1人形机械人。即使加装灵巧机械手等配备，整体成本约6.7万美元（约27.4万）起，仍远低于动辄数百万美元的专用手术机器人。此外，G1身高约1.3公尺、重量约27公斤，体积远较传统手术机械人小，更容易部署于空间有限的医疗机构。 不过，专家普遍认为，人形机械人目前仍属概念验证阶段，若机械人要在没有人类介入下自主完成复杂手术，除了需讲求操作精准度，同时还需克服安全、可靠性及法规等挑战，而这距离真正投入临床应用仍有一段距离。

您好！請登入您的帳號