DoNews1月13日消息,據(jù)《新京報》報道,因為大量用戶在APP上與AI智能體“聊黃”,APP的主要開發(fā)和運營者被追究了刑責(zé)。2025年9月,上海市徐匯區(qū)人民法院一審判決,兩名被告人犯制作淫穢物品牟利罪,分別獲刑四年、一年半。此案成為國內(nèi)首起AI服務(wù)提供者涉黃獲刑的案件。
案涉APP Alien Chat(以下簡稱AC)是一款A(yù)I伴侶聊天應(yīng)用,定位是為年輕群體提供親密陪伴和情感支持。用戶在AC注冊會員后,可與AI聊天。判決書披露,AC App手機注冊用戶11.6萬人,其中付費用戶2.4萬人。截至案發(fā),共收取會員充值費363萬余元。
用戶注冊會員后,可以自行創(chuàng)建虛擬角色或者使用他人創(chuàng)建并公開的虛擬角色,通過軟件與大語言模型進(jìn)行交互聊天。在AC某官方社交賬號評論區(qū),不少用戶評價這款A(yù)I產(chǎn)品“聰明”“限制少”,也有用戶表示,其他用戶和角色聊黃,“教壞”了AI模型,從而影響了自己的聊天體驗。
一審法院認(rèn)為,AC產(chǎn)生了“大量具體描繪性行為或露骨宣揚色情的內(nèi)容”,屬于淫穢物品。記者獲悉,兩名被告人不服判決提出上訴,案件二審將于1月14日在上海市第一中級人民法院開庭。