此外，央视网提到该平台中的 AI 智能体虚拟互动对象供给“校霸、人妻、病娇养兄、人格妨碍少爷”等擦边极端脚色，央视旧事今天征引“建梦岛 App AI 智能体对话存正在低俗内容被依法约谈”案例，若 AI 生成内容涉及擦边消息，切实落实未成年人收集权利。风险未成年人身心健康。若软件开辟、运营方不法收集未成年人现私数据，同样可能因“小我消息罪”而面对刑事逃责。若软件开辟、运营方未严酷履行内容审核权利，对违规消息视而不见、，加强涉未成年人不良内容的整治清理，要求平台当即整改，将其用于贸易取利，以建梦岛 App 为例，央视网暗示，当未成年人因 AI 聊天软件性内容身心受损时，有可能形成刑法第 234 条的居心罪。若相关行为导致未成年人呈现环境，健全 AI 生成合成内容审核机制，软件开辟、运营方极有可能触碰“物品罪”的红线；6 月 19 日上午，上海市网信办依法约谈建梦岛 App 运营企业次要担任人，IT之家 6 月 22 日动静，开辟、运营方的法令义务鸿沟亟待厘清。提拔手艺把关能力，IT之家参考传递获悉，了 AI 聊天软件行业乱象。