12 月 2 日消息，亞馬遜于今年 11 月底推出名為 Q 的 AI 聊天機器人，不過根據(jù)國外科技媒體 Platformer 披露的一份內(nèi)部文件，亞馬遜員工稱 Q 存在嚴重的“幻覺”問題，并泄露了包括 AWS 數(shù)據(jù)中心位置、內(nèi)部折扣計劃等諸多機密信息。

11 月 17 日報道，劍橋詞典（Cambridge Dictionary）近日宣布 2023 年年度詞匯為“hallucinate”（產(chǎn)生幻覺）。

hallucinate 原意為似乎看到、聽到、感覺到或聞到“一些不存在的東西”，通常是指用戶在不良健康或者服用藥物狀態(tài)下產(chǎn)生的幻覺。

伴隨著 AI 的崛起，hallucinate 延伸為 AI 產(chǎn)生幻覺，生成錯誤的信息。

報告文件顯示，亞馬遜 Q 會產(chǎn)生幻覺，返回有害或不適當(dāng)?shù)牧奶靸?nèi)容。例如，亞馬遜 Q 會返回過時的安全信息，可能會讓客戶面臨風(fēng)險。

亞馬遜淡化了員工討論的重要性，并聲稱沒有發(fā)現(xiàn)任何安全問題。然而，泄露的文件引發(fā)了人們對 Q 準(zhǔn)確性和安全性的擔(dān)憂，Q 仍處于預(yù)覽階段，尚未正式發(fā)布。

一名員工將該事件標(biāo)記為“sev 2”，這意味著該事件非常嚴重，需要工程師加班第一時間修復(fù)。

Q 被定位為 ChatGPT 的企業(yè)級版本，旨在比消費級工具更安全。然而，內(nèi)部文件強調(diào)了 Q 提供不準(zhǔn)確或有害信息的風(fēng)險。

報道稱 Q 除了存在嚴重的幻覺之外，還泄露了公司機密數(shù)據(jù)，包括 AWS 數(shù)據(jù)中心的位置、內(nèi)部折扣計劃和未發(fā)布的功能。

文章發(fā)表后，該發(fā)言人發(fā)布一份聲明，反駁了員工的說法，稱亞馬遜 Q 沒有泄露機密信息。

相關(guān)閱讀：

《亞馬遜 AWS 推出 AI 聊天機器人 Amazon Q 為企業(yè)提供服務(wù)》

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，所有文章均包含本聲明。

總結(jié)

以上是生活随笔為你收集整理的员工称亚马逊 AI 聊天机器人 Q “幻觉”严重，且泄露公司机密数据的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。