DoNews1月15日消息,在 Grok 被持續(xù)指控生成涉及兒童的“性化”圖像及未經(jīng)同意裸露內(nèi)容、并引發(fā)數(shù)周輿論壓力后,X 宣布收緊 Grok 的圖像編輯與生成功能。
北京時間今天早間,X 通過 @Safety 賬號發(fā)文宣布,平臺已采取技術手段,禁止 Grok 對現(xiàn)實人物圖像進行編輯,尤其是涉及比基尼等暴露服裝的內(nèi)容。這一限制將覆蓋所有用戶,不區(qū)分是否為付費訂閱者。
與此同時,xAI 決定將 Grok 的圖像生成功能全面納入付費訂閱體系,非付費用戶將不再具備生成圖像的權限。
在法律明確禁止的地區(qū),X 還將直接封鎖所有用戶通過 Grok 生成現(xiàn)實人物身穿比基尼、內(nèi)衣等服裝圖像的能力。
X 發(fā)布聲明的數(shù)小時前,加州已就 xAI 和 Grok 在 AI 生成裸露內(nèi)容及兒童剝削材料方面的處理方式展開調(diào)查。加州總檢察長羅布 · 邦塔指出,一項分析發(fā)現(xiàn),在圣誕節(jié)到新年期間,xAI 生成的約 20000 張圖像中,超過一半涉及穿著極少的人物,其中包括疑似未成年人的形象。
X 在聲明中強調(diào),對兒童剝削行為采取零容忍立場,并將持續(xù)清理包括兒童性虐待材料和未經(jīng)同意裸露內(nèi)容在內(nèi)的高優(yōu)先級違規(guī)信息。