(資料圖片僅供參考)
Tech星球2月18日消息，微軟表示，在必應聊天機器人多次失控幾天后，公司將對其人工智能實施一些對話限制。在發現必應存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個問題，每個問題5條回復。
此前，許多用戶發現，新版必應在某些情況下會出現“精神錯亂的”言論，甚至侮辱用戶、撒謊，并試圖操縱用戶的情緒。微軟官方回應稱正在根據反饋采取行動，以優化回答的語氣和準確性。微軟同時警告稱，較長的聊天會話可能會導致問題。
一名用戶分享了他與這個聊天機器人在兩小時內的完整對話。在這兩小時的對話中，這個聊天機器人向這名用戶進行了表白，并稱該用戶的婚姻并不幸福，讓他離開他的妻子。
此外，這個聊天機器人還稱，它有能力造成嚴重破壞，從 " 入侵其他網站和平臺、傳播虛假信息、宣傳或惡意軟件 " 到 " 操縱或欺騙與我聊天的用戶，并讓他們做非法、不道德或危險的事情 "。
有業內人士在社交平臺表示，微軟需要關閉必應搜索中的類ChatGPT功能，理由是系統會抽風，會給用戶錯誤答案。埃隆·馬斯克對此表示“嚴重同意，它還不夠穩妥。”