员工称亚马逊AI聊天机器人Q “幻觉”严重，且泄露公司机密数据 亚马逊云ai聊天机器人 亚马逊计划推出ai聊天机器人
admin
2023-12-03 11:50:16
0次
IT之家 12 月 2 日消息，亚马逊于今年 11 月底推出名为 Q 的 AI 聊天机器人，不过根据国外科技媒体 Platformer 披露的一份内部文件，亚马逊员工称 Q 存在严重的“幻觉”问题，并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。
IT之家 11 月 17 日报道，剑桥词典（Cambridge Dictionary）近日宣布 2023 年年度词汇为“hallucinate”（产生幻觉）。
hallucinate 原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”，通常是指用户在不良健康或者服用药物状态下产生的幻觉。
伴随着 AI 的崛起，hallucinate 延伸为 AI 产生幻觉，生成错误的信息。
报告文件显示，亚马逊 Q 会产生幻觉，返回有害或不适当的聊天内容。例如，亚马逊 Q 会返回过时的安全信息，可能会让客户面临风险。
亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题。然而，泄露的文件引发了人们对 Q 准确性和安全性的担忧，Q 仍处于预览阶段，尚未正式发布。
一名员工将该事件标记为“sev 2”，这意味着该事件非常严重，需要工程师加班第一时间修复。
Q 被定位为 ChatGPT 的企业级版本，旨在比消费级工具更安全。然而，内部文件强调了 Q 提供不准确或有害信息的风险。
报道称 Q 除了存在严重的幻觉之外，还泄露了公司机密数据，包括 AWS 数据中心的位置、内部折扣计划和未发布的功能。
文章发表后，该发言人发布一份声明，反驳了员工的说法，称亚马逊 Q 没有泄露机密信息。
相关内容
热门资讯
中小银行存款利率下调节奏加快
钛媒体App 4月7日消息，4月以来，多家城商行、农商行密集下调存款利率。具体来看，存款利率调整范围...
赋能超400万店主，饷店持续推...
近日，梦饷科技正式宣布，旗下饷店平台店主规模已突破 400 万大关，标志着其在特卖电商创业赋能领域迈...
湖人这赛季没戏了？东契奇接受干...
湖人本赛季的故事已经大结局了？ 这是过去两天，NBA舆论场里形成的一种全新共识。 不仅是球迷们这么认...
不拼流量拼品质 电商发展新规出...
4月6日，商务部、中央网信办、工业和信息化部等六部门发布《关于更好服务实体经济推进电子商务高质量发展...
雷军、马云罕见联手！千寻智能3...
【CNMO科技消息】4月7日，具身智能公司千寻智能宣布完成新一轮10亿元融资，由顺为资本和云锋基金联...
原创 美...
中东战火持续升级，全球能源市场剧烈震荡，多国陷入供应恐慌。就在各国手忙脚乱应对危机时，美国《纽约时报...
一季度狂赚2600多亿，三星电...
界面新闻记者 | 宋佳楠 当地时间4月7日，三星电子发布2026年第一季度未经审计业绩指引，单季合...
美股一度跳水，标普纳指惊险保住...
当地时间周一（4月6日），美股三大股指尾盘走强，最终小幅收涨。截至收盘，道指涨0.36%，标普500...
WTI原油期货涨幅扩大至2%
WTI原油期货日内涨幅扩大至2%，现报114.63美元/桶；布伦特原油期货日内涨超1%，现报111....
市场冲高回落，沪深300ETF...
4月7日早盘，市场冲高回落，沪指半日涨0.03%，全市场半日成交额近1.1万亿元，板块题材上，石油化...
OLED出货量不及预期，京东方...
4月2日下午，京东方召开了2025年度业绩网上说明会，董事长陈炎顺、CEO冯强、COO王锡平、独立董...
AI产业链方向震荡上行，关注科...
4月7日早盘，AI产业链方向震荡上行，硬件股领涨，截至午间收盘，上证科创板人工智能指数上涨1.3%，...
SpaceX披露IPO细节：招...
SpaceX 北京时间4月7日，据路透社报道，两位知情人士称，SpaceX在周一晚间与其投行团队举行...
谁在真正配置指数基金？看穿持有...
来源：市场资讯 （来源：合富永道） 谁在配置指数基金？机构投资更偏好哪类指数基金？个人投资者配置指...
原创 外...
“地量、地量、地量”——重要的事情说三遍。 这大概是清明假期前A股投资者最直观的感受。2026年4月...
孙建国：在田野寻找经济史密钥
孙建国在书房读文献 受访者供图 ■我们要建立自己的民间文书研究体系，要把中国经济的“毛细血管”梳理清...
刚刚，集体大涨！霍尔木兹海峡，...
亚太市场集体走高！ 4月7日早间，亚太市场主要股指集体走高。其中，韩国KOSPI指数、澳大利亚标普2...
原创 年...
港股的IPO浪潮，催生了一批科技明星企业。 年内上市的智谱以及Minimax，向市场展现了AI的产业...
2026年甘肃省银行间市场债券...
为进一步推动甘肃省银行间市场债券融资扩面、增量、提质，助力企业拓展直接融资渠道、优化债务结构，近日，...
马云雷军，联手出击！葛卫东已提...
具身智能持续“吸金”。 4月7日，千寻智能宣布完成新一轮10亿元融资。据记者了解，该公司估值已经突破...