员工称亚马逊AI聊天机器人Q “幻觉”严重，且泄露公司机密数据 亚马逊云ai聊天机器人 亚马逊计划推出ai聊天机器人
admin
2023-12-03 11:50:16
0次
IT之家 12 月 2 日消息，亚马逊于今年 11 月底推出名为 Q 的 AI 聊天机器人，不过根据国外科技媒体 Platformer 披露的一份内部文件，亚马逊员工称 Q 存在严重的“幻觉”问题，并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。
IT之家 11 月 17 日报道，剑桥词典（Cambridge Dictionary）近日宣布 2023 年年度词汇为“hallucinate”（产生幻觉）。
hallucinate 原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”，通常是指用户在不良健康或者服用药物状态下产生的幻觉。
伴随着 AI 的崛起，hallucinate 延伸为 AI 产生幻觉，生成错误的信息。
报告文件显示，亚马逊 Q 会产生幻觉，返回有害或不适当的聊天内容。例如，亚马逊 Q 会返回过时的安全信息，可能会让客户面临风险。
亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题。然而，泄露的文件引发了人们对 Q 准确性和安全性的担忧，Q 仍处于预览阶段，尚未正式发布。
一名员工将该事件标记为“sev 2”，这意味着该事件非常严重，需要工程师加班第一时间修复。
Q 被定位为 ChatGPT 的企业级版本，旨在比消费级工具更安全。然而，内部文件强调了 Q 提供不准确或有害信息的风险。
报道称 Q 除了存在严重的幻觉之外，还泄露了公司机密数据，包括 AWS 数据中心的位置、内部折扣计划和未发布的功能。
文章发表后，该发言人发布一份声明，反驳了员工的说法，称亚马逊 Q 没有泄露机密信息。
相关内容
热门资讯
新客户开拓效率高 40%！万象...
在市场竞争日益激烈的背景下，企业必须通过创新手段来提升新客户开拓效率。万象数据借助数据驱动的方法，能...
金饰克价一夜大跌，跌回去了
美东时间2025年12月31日，贵金属全线回调。纽约期金跌超1%，纽约期银更是大跌8.91%，伦敦白...
原创 印...
黄海锚地最近发生了一件让全球能源圈震惊的事情：至少五艘载满乌拉尔原油的俄籍油轮正在排队等待停泊，这些...
黄金突然大爆发！金价惊人暴涨近...
24K99讯 周五(1月2日)亚市盘中，现货黄金持续大幅攀升，目前金价位于4378美元/盎司附近，日...
全力做好跨年政策衔接（锐财经）
新年伊始，四川省乐山市积极推进消费品“以旧换新”活动，消费市场活力持续释放。图为乐山市市中区一家大型...
原创 欧...
回到1494年，西班牙和葡萄牙签署了托尔德西里亚斯条约，一纸协议就将整个地球分割成了两半。西班牙得到...
净利润同比下降超6成！光正教育...
1月2日，港股2026年首个交易日，光正教育（代码：06068）开盘即跳水，跌幅一度超过16%，此后...
蓝箭航天IPO获受理 金风科技...
上证报中国证券网讯（记者 刘逸鹏）1月2日，金风科技H股一度涨超17%，截至11时11分，该股涨16...
原创 印...
**前言** 美国的黄金，真的能够取回吗？黄金不单单是作为一种装饰品在外观上引人注目，它作为国家...
全线爆发！美联储降息，突变！
1月2日，截至发稿，现货黄金上涨超0.5%，现货白银直线拉升逾1.3%。2025年全年，受地缘政治及...
思摩尔国际的电子烟“熄火”后，...
文｜商业范儿 “电子烟第一股”思摩尔国际正陷入“成长的烦恼”。2025年8月下旬以来，其股价陷入持...
尚水智能对赌之殇：实控人借分红...
来源|时代商业研究院 作者|雷小艳 编辑|郑琳 从创始人到陌路，究竟是怎样的历史纠葛，竟让深圳市尚水...
2025，机器人“铁军”元年：...
文｜财华社 2025年末，机器人行业在资本市场的关键一子落定。近日，“人形机器人第一股”优必选（0...
13万亿！巨无霸IPO扎堆今年...
智东西 编译 程茜 编辑 心缘 智东西1月2日报道，昨日，英国《金融时报》援引多位直接知情人士报道，...
开盘涨超82%，港股“国产GP...
智东西 作者 ZeR0 编辑 漠影 智东西1月2日报道，刚刚，上海GPU龙头企业壁仞科技正式在港交所...
视频丨连续两年超1.4万亿斤！...
本文转自【央视新闻客户端】； 今年，全国粮食产量14297.5亿斤，比上年增加167.5亿斤，增长1...
刚刚，中国资产爆发！白银大涨！
12月30日晚间，美股三大指数开盘微幅震荡。贵金属大幅反弹。 美股黄金股、矿业股普涨。截至发稿，金...
人民币，持续走强
2026年伊始，人民币继续走强。1月2日，离岸人民币对美元一度升破6.97，最高升至6.9687，创...
马斯克称脑机设备今年启动“大规...
来源：财联社 世界首富马斯克披露，他的脑机接口公司Neuralink计划在2026年大幅提高脑机设备...
银行没有申请强制执行，保证人的...
为他人的银行贷款提供连带责任保证，在人民法院生效判决确认保证人需要承担连带责任后，银行未在法定期限内...