7聊天机器人可靠度存疑提供错误资讯成常态

文＼蔡宗桓 一项研究结果显示，市面上盛行的7款人工智慧（AI）聊天机器人的表现欠佳，且只有37%的回应有提供完整的来源链接，更令人担心的是，它们还会捏造新闻网址和提供错误资讯，这也显示它们提供的大部分资讯的可信度与正确性仍有待商榷。 在一项为期一个月的实验中，研究员发现，多款主流生成式人工智慧（AI）聊天机器人在新闻摘要与来源标示方面的表现不佳，且仅有37%回应提供完整且可验证的新闻来源链接。 研究结果也显示，虽然生成式AI已被广泛用于搜寻与资讯整理，但它在新闻可信度与事实准确性上仍存有明显风险。 这项研究是由一名专注于电脑科学与新闻学交叉领域的教授主导，而测试对象为Google Gemini、OpenAI ChatGPT、Claude、Copilot、Grok、DeepSeek及Aria等7款聊天机器人。 这项实验设计单纯却具挑战性，即研究员每天须要求各系统列出并摘要魁北克5则最重要的新闻事件，同时得附上对应的新闻链接作为来源。 不过，测试结果却令人忧心。以Gemini为例，该系统不仅虚构不存在的新闻网站“examplefictif.ca”，同时还错误报导2025年9月魁北克校车司机罢工事件。实际上，该事件源于Lion Electric校车因技术问题被撤回，与罢工无关。 整体而言，在839则AI回应中，研究员频繁发现AI引用虚构媒体，提供无效或不完整网址，以及错误转述新闻内容的情况。 根据2024年《路透社数位新闻报告》，已有6%的加拿大民众将生成式AI视为新闻来源之一，这使得上述问题更具现实风险。当AI以高度自信的语气呈现错误事实或捏造结论时，极可能在无意间放大错误资讯，继而使之扩散。 该研究同时指出，不到一半的新闻摘要被评为完全准确，而多数回应仅部分正确，或包含细微却关键的误导。有些聊天机器人还会加入原始报导未支持的“生成结论”，如宣称事件“重新引发社会辩论”或“突显紧张局势”，无形中创造不存在的叙事。 此外，研究也记录多起扭曲真实事件的案例，包括错误描述庇护寻求者处境，或误判重大体育赛事结果，显示生成式AI仍难以清楚区分“忠实摘要”与“自行补充背景”之间的界线。展望未来，这项研究与近期多份产业评估结果一致。 最新报告指出，近一半的AI生成新闻回答存在严重缺陷，包括来源不明或重大事实错误不等。 随着生成式AI持续整合进搜寻引擎与日常资讯使用场景，研究人员警告说，在新闻领域，生成式AI充其量只能作为资讯探索的起点，而非可被视为权威或可信的来源。 不想看谷歌AI摘要 4招还你干净搜寻结果 Google搜索引擎近期加入AI摘要（AI Overviews）介面后，虽然有许多用户乐得采用其内容，但也有许多用户因怀疑有关资料的可信度而拒用其内容，甚至觉得它优先显示在传统搜寻结果上方的设计已造成干扰，为此，有网络媒体汇整并公布4项“消灭”AI摘要（AI Overviews）介面的方式，供用户参考选用。 随着Google全面开发与AI有关的功能，如今，谷歌搜寻引擎在所展示的搜寻结果中，都是AI摘要（AI Overviews）优先显示在传统搜寻结果前，以便快速回应用户的需求，而有关AI摘要包含AI生成的重要资讯及相关连结，让用户得以进一步探索有关搜寻内容。 AI摘要已成为Google搜寻的核心功能之一，不少搜寻结果都会展示AI摘要，而且这项功能无法被关闭。 不过，虽然有关AI摘要功能上线已有一段时间，但它汇整的资讯不总是完全正确，甚至常带有捏造的资讯，因此，这项功能可能影响用户解决问题、查找资料的体验。 如果想避开这些AI生成的内容，有以下几种可行的方法： ◆方法一：在搜寻关键字后加上“-ai” 例如搜寻“电子价卡是什么”时，页面会出现AI摘要，若改为输入“电子价卡是什么-ai”，搜寻结果通常就不会显示AI摘要。 但需注意的是，“-ai”必须紧接在关键字后方，若中间多一个空格，则会变成排除含有“ai”字样的网页，效果不同。 ◆方法二：安装浏览器扩充功能 用户可通过浏览器扩充功能移除AI摘要。在Chrome线上应用程式商店搜寻“AI Overviews”，即可找到多款相关工具，建议参考用户评价后再选择并安装。 ◆方法三：自订Google搜寻捷径 进阶用法是建立自订搜寻捷径。以Chrome为例，前往“设定”→“搜寻引擎”→“管理搜寻引擎和网站搜寻”，新增一个网站搜寻，并在查询网址中使用：{google:baseURL}search?udm=14&q=%s 其中“udm=14”参数可让搜寻结果版面更精简，减少干扰内容。 ◆方法四：改用其他搜寻引擎 如果不希望看到Google的AI摘要，用户可直接改用其他搜寻引擎便最可直接解决有关问题，例如DuckDuckGo与Brave搜寻引擎虽皆提供AI功能，但它们都将之预设为关闭状态，至于是否启用则交由用户自行决定。 滑个手机也有事？ 公共Wi-Fi成骇客最佳入口 在公共场所连上Wi-Fi，早已是多数人习以为常的行为，但看似便利的无线网络，却可能成为骇客入侵个人装置的最佳入口。法国网络安全机构CERT-FR近期发布的报告指出，即使用户具备基本资讯安全意识，智慧型手机在Wi-Fi与行动网络环境下，仍潜藏多项容易被忽略的风险。 随着智慧型手机全面融入日常生活，从通讯、支付到工作处理，行动装置早已成为个人资料最密集的载体之一，也让网络安全风险随之增加。 法国国家网络安全事件应变中心（CERT-FR）早前发布的《2025年以来的威胁景观》报告便指出，现代智慧型手机在Wi-Fi与行动网络使用情境中，仍存在多项被低估的安全漏洞，即便用户遵循基本资安守则，也未必能完全避开攻击。 报告指出，使用公共Wi-Fi的智慧型手机用户，特别容易成为“中间人攻击”（Man-in-the-Middle，MITM）的目标。 攻击者可在用户与无线基地台之间拦截通讯内容，窃听或窜改传输资料，这类情况在咖啡厅、餐厅、机场与饭店等开放网络环境中尤为常见。更进阶的手法则是所谓的“邪恶分身”（Evil Twin），骇客会架设名称与外观高度相似的假Wi-Fi热点，引诱用户连线，继而趁机在个人装置如手机或电脑中植入恶意程式，甚至因此夺取装置控制权。 除了Wi-Fi具风险，CERT-FR也提醒，部分地区仍在使用的旧型行动网络如2G，由于其加密与验证机制落后，存在大量未修补的弱点，更是容易遭到拦截或遭伪基地台攻击。 专家建议，在旅途中若非必要，用户应关闭Wi-Fi与蓝牙功能，并避免装置自动搜寻与连线功能，借此降低被动暴露在不安全环境中的机率。 在实际使用公共无线网络时，资安专家也提出多项具体建议。首先，使用任何服务前，都应确认该网站是否采用HTTPS加密，网址列显示锁头标志，且不仅限于登入页面，而是整个浏览过程都需保持加密状态。其次，优先选择需要密码的 Wi-Fi热点，这类网络通常具备WPA或WPA2以上的基本加密机制，相较完全开放的网络风险较低。 帐号安全同样不可忽视，因此，用户使用完毕后应确实登出，避免会话遭他人劫持，并为重要服务设定高强度且不重复的密码，同时启用双重身分验证（2FA），以降低帐号被入侵的可能性。 此外，用户须保持作业系统、浏览器与安全软件的即时更新，若能确保已知漏洞获得修补，这是防御攻击的基础措施。 专家也提醒，用户在公共网络环境下应特别谨慎对待下载档案与连结，避免开启来历不明的电子邮件附件或应用程式，以防遭遇恶意软件或网络钓鱼攻击。若有条件，使用虚拟私人网络（VPN）为整个连线进行加密，将能有效降低资料被拦截的风险，弥补公共Wi-Fi缺乏端到端保护的缺陷。 总体而言，在无线网络无所不在的时代，完全避开被骇风险并不现实，但通过关闭不必要的连线功能、避免使用不安全的公共网络，并搭配现代加密技术、防毒软件与良好的使用习惯，仍能大幅度降低个人资料外泄与装置遭入侵的可能性。

您好！請登入您的帳號