(資料圖片僅供參考)

財(cái)聯(lián)社2月18日電，微軟表示，在必應(yīng)聊天機(jī)器人多次失控幾天后，公司將對(duì)其人工智能實(shí)施一些對(duì)話限制。在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個(gè)問(wèn)題，每個(gè)問(wèn)題5條回復(fù)。

相關(guān)背景：巨頭AI演示接連翻車，微軟必應(yīng)聊天演示存多出錯(cuò)誤

微軟上周公開(kāi)演示了人工智能驅(qū)動(dòng)的必應(yīng)改進(jìn)版，其中似乎包括幾個(gè)事實(shí)錯(cuò)誤。 演示包括像吸塵器等產(chǎn)品的利弊清單；去墨西哥城旅行的日程安排；以及快速比較公司盈利結(jié)果的能力。

但根據(jù)獨(dú)立人工智能研究人員德米特里·布里爾頓本周對(duì)演示的分析，必應(yīng)的搜索結(jié)果顯然沒(méi)有區(qū)分真空的類型，甚至編造了某些產(chǎn)品的信息。

根據(jù)布里爾頓的說(shuō)法，它還遺漏了提到的墨西哥城酒吧的相關(guān)細(xì)節(jié)（或捏造了某些信息）。此外，布里爾頓發(fā)現(xiàn)它錯(cuò)誤地陳述了零售商Gap的營(yíng)業(yè)利潤(rùn)，并將其與一組事實(shí)上不正確的Lululemon財(cái)務(wù)數(shù)據(jù)進(jìn)行了比較。

微軟對(duì)此在聲明中表示：“我們已經(jīng)了解到這份報(bào)告的情況，并在努力分析搜索結(jié)果，向用戶提供更好的體驗(yàn)。我們認(rèn)識(shí)到仍有工作要做，并預(yù)計(jì)系統(tǒng)可能會(huì)在預(yù)覽期間出錯(cuò)，這就是為什么反饋至關(guān)重要，以便我們可以學(xué)習(xí)并幫助模型變得更好。”微軟還表示，自上周推出預(yù)覽版以來(lái)，成千上萬(wàn)的用戶與全新的必應(yīng)進(jìn)行了互動(dòng)，并分享了他們的反饋，使該模型“學(xué)習(xí)并做出了許多改進(jìn)。”