员工称亚马逊AI机器人幻觉现象严重且泄露公司机密-小皮游戏

当前位置：首页 > 行业资讯 > 员工称亚马逊AI机器人幻觉现象严重且泄露公司机密

员工称亚马逊AI机器人幻觉现象严重且泄露公司机密

时间： 2023-12-02 18:01 来源：小皮手游网我要评论

感兴趣的小伙伴可以持续关注“小皮游戏网”时刻了解后续相关资讯哦，下面让我们一起来看看吧!

游民星空

据Cryptopolitan消息，亚马逊最新的人工智能项目Amazon Q在宣布三天后就面临了一场舆论风暴。员工们对这个聊天机器人出现严重幻觉和泄露机密数据的问题表达了极大的担忧。据了解，该智能泄露了包括AWS数据中心位置、内部折扣计划等诸多机密信息。

游民星空

“hallucinate”，产生幻觉，在AI领域意为生成错误的信息。员工们表明这个聊天机器人没有达到亚马逊高管承诺的安全标准。泄露的文件详细描述了严重幻觉的情况，Amazon Q会向用户返回有害或不恰当的回答。这一事态被归类为“sev 2”事件，这意味着情况非常严重，需要工程师们紧急处理。

亚马逊对内部讨论的回应是淡化员工提出的关切的重要性。一位发言人强调，在亚马逊，通过内部渠道分享反馈是一种常规做法，并坚称没有因为反馈而发现安全问题。公司对收到的反馈表示感激，并保证在从预览产品过渡到正式发布时，会对Q进行微调。以上为本篇文章的全部内容，点击进入“小皮游戏网”，时刻了解最新游戏资讯。