DoNews10月16日消息，據(jù)CNBC報道，OpenAI放寬成人內容的決定引發(fā)了爭議。周三，OpenAI CEO薩姆·奧特曼(Sam Altman)對此回應稱，公司“并非經(jīng)選舉產生的世界道德警察”。言外之意，OpenAI不會去決定什么是“道德的”或“不道德的”。
近幾個月來，OpenAI加強了安全控制，因為外界對其如何保護用戶，尤其是未成年用戶，提出了越來越多的質疑。然而，奧特曼周二在X上發(fā)文稱，OpenAI現(xiàn)在擁有了新的工具，已能緩解“嚴重的心理健康問題”，因此公司將能夠“安全地放寬”大部分限制。
奧特曼表示，從今年12月起，OpenAI將允許“經(jīng)過驗證的成年人”在ChatGPT上訪問更多類型的內容，包括情色內容。
然而，此舉隨即在社交媒體上引發(fā)了困惑和輿論反彈。奧特曼坦言，“這一決定引發(fā)的轟動遠超他的預期”。他的表態(tài)同時引起反性剝削倡導組織的關注。美國全國反性剝削中心(NCOSE)公開呼吁OpenAI撤銷允許ChatGPT生成情色內容的決定。
該機構執(zhí)行主任海莉·麥克納馬拉(Haley McNamara)周三在聲明指出：“性化AI聊天機器人存在固有風險，虛假親密關系會造成真實的心理健康損害，這一切都發(fā)生在行業(yè)安全標準尚不明確的背景下。”
奧特曼周三在X上發(fā)文試圖澄清此舉，表示OpenAI “非常重視將成年用戶當作成年人對待的原則”，但仍不會允許“會對他人造成傷害的內容”。
“就像社會對其他界限(如限制級電影)進行適當區(qū)分一樣，我們也希望在這里做類似的事情?！眾W特曼稱。
不過，此舉與奧特曼今年8月在一檔播客節(jié)目中的表態(tài)相矛盾。當時，他曾表示，自己為OpenAI能抵制某些功能(如性愛機器人化身)而感到“自豪”，因為這些功能雖然能在短期內提高ChatGPT的用戶參與度，但違背了公司的長期目標。
