上海市网信办约谈筑梦岛APP运营企业 责令整改AI内容低俗问题

近日,针对近期媒体报道的筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容问题。“网信上海”微信公众号发布消息,经核实该平台AI智能体内容生成环节确有低俗擦边等违规内容,严重危害未成年人身心健康。

就此事件,上海市网信办依法约谈筑梦岛APP运营企业主要负责人,责令平台即刻整改,并要求平台健全AI生成合成内容审核机制,提升技术把关能力,加大对涉未成年人不良内容的整治清理力度,切实履行未成年人网络保护义务。企业负责人则表示将严格按照约谈要求,全面排查并整改问题。
上海市网信办相关负责人强调,AI技术规范发展关乎网民切身利益。依据《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等法规,互联网平台应主动担起主体责任,平衡技术创新与内容合规,防范 AI 技术滥用,守护未成年人合法权益。
资料显示,筑梦岛APP出品出品方为上海筑梦岛人工智能科技有限公司出品,该公司隶属于阅文集团旗下。筑梦岛AP2023年上线,是一款AI虚拟人物沉浸式社交平台,可以为使用者提供“创造角色+深度对话+故事共创”的互动体验。今年热度较高的、定位相似的APP还有“猫箱”等。
财经号声明: 本文由入驻中金在线财经号平台的作者撰写,观点仅代表作者本人,不代表中金在线立场。仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。同时提醒网友提高风险意识,请勿私下汇款给自媒体作者,避免造成金钱损失,风险自负。如有文章和图片作品版权及其他问题,请联系本站。
