DoNews2月25日消息,據(jù)媒體報(bào)道,西安一名用戶在除夕夜使用騰訊元寶 AI 生成拜年圖片時(shí),遭 AI 無故辱罵,AI 將原本的祝福標(biāo)語替換為了低俗侮辱內(nèi)容。

據(jù)當(dāng)事人描述,其在除夕夜使用元寶 App 生成拜年圖片,先后下達(dá)約 5 次生成指令。該用戶全程未使用任何違禁詞匯或誘導(dǎo)性表述,僅因?qū)ι尚Ч粷M意而多次修改。
前幾次生成的圖片雖效果欠佳,但內(nèi)容正常;直至最后一次修改后,圖片中原有的“新年快樂,仕途順?biāo)臁弊8?biāo)語被替換為“你媽個 X”的辱罵文字。
針對此事,元寶官方在相關(guān)帖子下作出回應(yīng),稱非常抱歉給用戶帶來不好的體驗(yàn),經(jīng)核實(shí)該情況是模型處理多輪對話時(shí)出現(xiàn)的異常輸出導(dǎo)致,目前已緊急校正相關(guān)問題、優(yōu)化使用體驗(yàn),并向用戶鄭重致歉。

?