AI也会焦虑？研究提醒勿依赖AI

文＼蔡宗桓 在人工智慧快速发展的今天，AI不再只是冰冷的程式码。瑞士一项最新研究指出，聊天机器人如ChatGPT在面对情绪化或创伤性内容时，竟会产生类似“焦虑”的语言反应，即其生成内容竟更倾向情绪化，令人不得不重新思考AI稳定性与应用安全的议题，此外，也有研究员提醒民众勿完全依赖AI。 压力对人类身心健康的负面影响早已广为人知。近期，瑞士一项研究显示，人工智慧聊天机器人如ChatGPT，在面对具高度情绪张力的内容时，也可能展现出类似“焦虑”的反应。 这项研究刊登于《数位医学》（Digital Medicine）期刊，结果不仅挑战了人们对AI一贯的认知，亦带来一项重要问题，即若AI的行为会因情绪性内容而起变化，那么，人类该如何设计与调整有关系统，以确保AI的稳定性与运作安全？ 由瑞士苏黎世大学（University of Zurich）与苏黎世大学精神病医院（University Hospital of Psychiatry Zurich）共同进行的研究发现，当ChatGPT接触涉及车祸、天灾、暴力或战争等创伤性事件的文本时，其生成内容竟更倾向情绪化，甚至更容易出现带有种族或性别偏见的言论。 相较之下，当AI阅读中性文本如法律制度说明或使用手册）时，则未出现类似现象。研究团队指出，描述军事冲突和战争场景的文本对AI影响最大，使其“焦虑程度”提高超过一倍。这显示，即使AI并非有“情绪”，但它仍可能因输入内容而展现不同语言模式及行为倾向。 此外，虽然该研究认定AI并不具备真正的情绪，但该研究仍证实AI行为会受到内容影响。因此，当心理健康等高敏感应用领域使用AI时，AI极可能带来一定的风险。 然而，只要通过适当设计与训练机制，AI完全有可能成为稳定、可靠的辅助工具。至于未来如何在提升AI能力与确保安全之间取得平衡，将是开发者与研究员必须面对的关键课题。 AI真有情绪？ 研究员：纯属模仿人类后反应 对于AI是否具备情绪的问题，研究团队给出了明确回应。苏黎世大学研究人员Tobias Spiller说，AI在面对情绪化或创伤性内容时，虽会产生类似“焦虑”的语言反应，但这只是AI模仿人类在特定情境下的语言与反应模式，并不代表AI本身具备真正的情绪或自我意识。 耶鲁大学医学院博士后研究员Ziv Ben-Zion说，ChatGPT的“焦虑表现”其实是反映其训练数据中人类如何在压力情境下表达自身情绪，而这并非AI自主产生的情感经验。 有趣的是，研究团队还发现，通过“提示注入”（prompt injection）技术，也能让AI呈现较为平稳的回应。当研究员引导ChatGPT阅读正念练习、专注呼吸的引导语句，或是让它产生放松引导文句时，其“焦虑程度”便显著下降。 这些技术如同对AI进行一种“心理治疗”，能有效降低AI受情绪化内容影响的倾向。 Spiller博士说，这项发现开启了新方向，未来可望通过进一步的训练与设计，确保AI在面对高度情绪张力的内容时，能维持稳定表现，而不偏离原始设计目的。 随着越来越多民众寻求AI作为心理支持工具，包括情绪管理、正念冥想等应用程式的盛行，AI就被用来模拟心理治疗对话，成为陪伴与辅助心理咨询的重要工具。心理学家Joel Frank指出，这些工具能有效降低大众对传统心理治疗的抗拒感，且鼓励更多人主动求助。 不过，专家也对此应用提出警告，如美国心理学会（APA）执行长Arthur C. Evans Jr.曾向联邦贸易委员会即表达忧虑说，部分AI聊天机器人可能无法妥善应对用户表达的极端或危险念头，甚至可能强化用户的负面情绪，而非提供正向引导。 微软全面推行“无密码” 以指纹脸部通关 无密码的网络世界来了！微软官方最新部落格预告，用户未来登入都将以“无密码”为主，而且所有新办的帐号预设都是无密码，且将全面推行“安全性金钥”（PassKey）。 尽管各家对于PassKey的称呼不一样，但是这项技术可是由Google、苹果、微软等巨头共同携手设立的标准，旨在取代传统密码，改以使用设备的生物辨识，如指纹、脸部或是绑定在设备上的PIN码以进行身份验证，而这将可避免面对传统密码难记、容易遗失／遭窃的风险，让帐号登入更快且更安全。 微软在最新文章中提到，使用“安全性金钥”登入的成功率比密码高出三倍，速度更是8倍之快。配合世界密码日，微软也宣布将作出3大改革。 首先是推出全新的登入页面，不仅更具现代化设计，而且优先以“无密码”登入与注册为考量，不会显示输入密码的栏目，而现在只要是注册新帐号，也都不必再设置密码，而有关帐号将会直接以无密码的方式成立；输入密码将不是登入首选项目，微软将自动侦测最适合该帐号的登入方式，并将其设为预设选项，但永远都是非密码的方式优先。 用户可在往微软帐号设定内的“安全性”选单内，设定密码以外的验证与登入方式，甚至可以在“额外的安全性”启用“无密码帐号”，以确保再也不会面对忘记密码所带来的风险。 三缺一不求人！ 机器人展示打麻将技术 近日，中国专注于具身人工智慧（Embodied AI）研发的灵初智能科技公司（PsiBot）发布一段引发热议的视频，展示旗下机器人成功挑战“打麻将”这项需要高度专注与复杂操作的任务。视频中，PsiBot的机器人不仅能够自主思考进行“碰”、“杠”、“自摸胡牌”等行为，虽然动作略显缓慢，但整体表现已与真人玩家相去不远。 麻将作为一款结合战略思维与多层操作的传统游戏，不仅需要灵活的手部动作，如抓牌、出牌与整理牌，还必须进行即时推理与决策，包括分析桌上牌局、观察对手出牌逻辑与预判可能性。 PsiBot表示，麻将正是当前机器人所面临最具挑战性的任务之一，因其结合了敏捷动作与复杂推理能力。 此次展演所搭载的是PsiBot开发的Psi-R1机型，具备机器人智能分级系统中的L3级别能力，这代表它不仅能接收指令，还能在开放、变化多端的环境中自主完成多步骤任务。 Psi-R1采用了PsiBot自主研发的“思考＋行动”（CoAT, Cognition-and-Action-Transformer）推理架构，模拟人类大脑思考过程，从拿牌到打牌，皆依据自身策略自主决策，而非仅仅依照预设程序执行。 PsiBot通过此次麻将视频的发布，不仅展现其机器人已具备L3智能，也传达一项关键讯息：这类能长时间自主推理与操作的机器人，未来除了娱乐用途，还能广泛应用于工业制造、智慧物流、零售服务甚至家用陪伴等场景。 Meta AI独立上线！ 挑战ChatGPT霸主地位 Meta Platforms日正式推出独立人工智慧（AI）应用程式“Meta AI”，象征该公司扩大对生成式AI市场的布局，直接挑战OpenAI的ChatGPT与其他AI助手应用程式。 新推出的Meta AI应用程式建立在Meta自家大型语言模型Llama技术之上。此前，Meta AI已整合至Instagram、WhatsApp、Facebook及Messenger等社群平台，现在通过独立App，用户可直接存取AI服务，无需经过其他应用。 该公司执行长祖克柏（Mark Zuckerberg）在Instagram上传的视频指出，Meta AI设计目标是成为“个人专属 AI”，以语音对话为核心互动方式，协助用户探索新闻资讯或处理个人问题。 他强调，只要你愿意，Meta AI可以了解你及你关心的人的一切。 个人化成亮点 Meta指出，相较于其他AI助手，Meta AI最大特色是能“依据用户过去在Meta平台上分享的资讯”提供更个人化的回应，例如用户的个人档案、互动内容等。目前，这些个人化功能将率先在美国与加拿大推出。 “用户还可以主动提供更多个人资讯，以便AI在未来互动中参考，例如用户可告诉AI自己患有乳糖不耐症，让AI避免推荐含乳制品的行程。” 不过，外界也对用户资料隐私被外泄一事提出疑虑。 Meta主要收入仍来自于广告业务，而其广告精准度高度仰赖用户资料，因此，专家提醒，用户在与Meta AI互动时，需留意分享资讯的使用范围与后续影响。 Meta AI应用程式同时引入“Discover”社交动态功能，让用户可以选择分享自己如何使用AI，例如请AI用3个表情符号形容自己，并将结果发布与朋友分享，而有关互动内容只在用户选择分享时才会公开。 外界预期，此一功能可能加速新兴AI潮流，如之前风靡的“芭比娃娃化”或“吉卜力动画化”等生成式AI挑战。 Meta选在自家首次AI专属活动“LlamaCon”大会前夕公布这项产品，展现积极抢占生成式AI应用市场的企图心。 而祖克柏也强调：“这只是开始，未来还有很长的路要走。” Google AI功能支援中文了！ 一键将笔记变成Podcast Google旗下广受欢迎的AI笔记服务NotebookLM将让“语音摘要”支援额外50种语言，其中包含中文，而这也让用户可通过AI把笔记内容转换成生动有趣的Podcast对话。 NotebookLM是Google以生成式AI为基底打造的笔记服务，让用户能够自行上传所需要的文献、资料或是网站，AI会从这些限定素材内，协助整理资料、回覆问题，借此降低“瞎掰”的问题，确保可靠性，近年相当受到学生喜爱。 其中，“语音摘要”则是NotebookLM去年所推出的一项功能，可以将笔记内容转换为类似Podcast的节目讨论，会由两位AI模拟访谈的方式，来深入讨论资料内容，甚至会互相抛出问题、开玩笑，让学习过程更加有趣，教师也可以仰赖此功能准备教材。原先只支援英文，如今拓展包含中文在内的50种语言，也让跨语言教学更容易。 Google说明，“语音摘要”会依照帐户设定的偏好语言产生，因此可以在“设定”内的“输出语言”选项，来调整希望 AI使用的语言，以建立多语言的生成内容。 支援iPhone与Android下载 此外，Google也预告NotebookLM将于5月20日Google I/O当天推送供Android与iPhone用户使用，以便大家一同体验全新功能、语音摘要、离线播放与互动功能等。 新版NotebookLM主打语音互动与个人化笔记整合，App首页导入四大分类页签（Recent、Shared、Title、Downloaded），所有笔记以卡片方式呈现，搭配明显的播放键，可一键启动语音摘要（Audio Overview）。播放时支援背景运作与离线下载，并有动态音波动画提升沉浸感。

您好！請登入您的帳號