OpenAI語音轉(zhuǎn)寫工具被曝嚴(yán)重缺陷：憑空捏造大段虛假內(nèi)容
時(shí)間：2024-10-28 13:36 來源：未知 作者：admin 閱讀：次
快科技10月28日消息，據(jù)報(bào)道，OpenAI旗下的AI語音轉(zhuǎn)寫工具Whisper被曝存在嚴(yán)重缺陷，竟會(huì)無中生有地創(chuàng)造大段乃至整句的虛假信息，這一消息引起了廣泛關(guān)注。尤為引人注目的是，有醫(yī)療機(jī)構(gòu)公開承認(rèn)采用了Whisper來記錄醫(yī)生與患者間的會(huì)診內(nèi)容，此舉迅速在網(wǎng)絡(luò)上掀起了軒然大波。目前，包括美國明尼蘇達(dá)州曼卡托診所、洛杉磯兒童醫(yī)院在內(nèi)的眾多醫(yī)療機(jī)構(gòu)，已有超過30000名臨床醫(yī)生和40個(gè)衛(wèi)生系統(tǒng)開始使用法國AI診療公司Nabla基于Whisper開發(fā)的工具。
然而，值得注意的是，OpenAI此前已明確發(fā)出警告，指出Whisper不宜在“高風(fēng)險(xiǎn)領(lǐng)域”內(nèi)應(yīng)用。一位機(jī)器學(xué)習(xí)工程師在初步分析超過100小時(shí)的Whisper轉(zhuǎn)錄數(shù)據(jù)時(shí)，驚人地發(fā)現(xiàn)其中約有一半的內(nèi)容存在“幻覺”現(xiàn)象，即轉(zhuǎn)寫內(nèi)容與原始語音嚴(yán)重不符。關(guān)于Whisper這一嚴(yán)重缺陷的具體成因，目前仍不得而知。但有軟件開發(fā)者推測(cè)，這些虛構(gòu)內(nèi)容的產(chǎn)生往往與語音中的停頓、背景噪音或音樂播放等因素有關(guān)。
針對(duì)此問題，OpenAI方面表示，公司正在積極研究如何有效降低虛構(gòu)內(nèi)容的產(chǎn)生，并對(duì)研究人員的發(fā)現(xiàn)表示感謝。同時(shí)，OpenAI還承諾將在后續(xù)的模型更新中融入相應(yīng)的反饋機(jī)制，以期進(jìn)一步提升轉(zhuǎn)寫的準(zhǔn)確性和可靠性。
OpenAI語音轉(zhuǎn)寫工具被曝嚴(yán)重缺陷：憑空捏造大段虛假內(nèi)容
【本文結(jié)束】出處：快科技
(責(zé)任編輯：admin)
AI創(chuàng)作3D打印模型全流程圖
榮耀新任CEO李健發(fā)布阿爾
斷網(wǎng)也能用！安卓手機(jī)挑戰(zhàn)
日本女仆咖啡廳引入AI翻譯
DeepSeek完美收官：開源勞
19歲女棋手用AI作弊！中國最新內(nèi)容
推薦內(nèi)容
熱點(diǎn)內(nèi)容
- ·國家知識(shí)產(chǎn)權(quán)局?jǐn)M規(guī)定人工智能系統(tǒng)不能
- ·玉露生寒指的是什么生肖,詞語精選解義
- ·人工智能時(shí)代，專家建議每家企業(yè)都要設(shè)
- ·「院士專家面對(duì)面」朱軍：人工智能技術(shù)
- ·國家信息中心發(fā)布《人工智能行業(yè)應(yīng)用建
- ·聯(lián)合國人工智能之友小組正式成立 中方
- ·徐匯區(qū)啟動(dòng)人工智能教育試驗(yàn)區(qū)三年行動(dòng)
- ·教育部部署加強(qiáng)中小學(xué)人工智能教育，機(jī)
- ·特朗普官宣人工智能和加密貨幣事務(wù)負(fù)責(zé)
- ·全國集成電路標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能
