Soul创始人团队完善AI治理机制成立委员会强化科技向善实践

  随着人工智能技术不断深入社交、内容创作等多元场景，AI在提升交互效率、丰富产品体验的同时，也对内容安全、用户权益保护、技术伦理等方面提出了新的要求。在产业持续发展的背景下，如何实现技术创新与规范治理协同推进，成为行业关注的重要议题。近日，Soul App创始人团队围绕人工智能治理进一步完善制度建设，举办人工智能伦理与治理委员会成立仪式，通过建立更加系统的治理机制，推动人工智能在社交场景中的规范应用。

  作为较早探索AI与社交场景融合的互联网平台之一，Soul长期围绕情绪感知、人机交互等方向开展技术研发。2016年，Soul App上线，率先将AI应用于社交链接场景，2020年启动系统化AIGC技术研发，自研SoulX系列大模型，构建“底层能力+应用场景”的完整生态。凭借扎实的技术实力，Soul App创始人团队在2024年IJCAI多模态情感识别挑战赛中斩获赛道第一名，2026年陆续开源多项自研模型，为行业垂类发展提供可落地的技术方案，也为自身伦理治理体系建设夯实技术基础。

  技术能力不断提升的同时，Soul也同步推进AI治理体系建设。目前，平台已经围绕AI虚拟人、AI语音互动、AI内容生成等场景，逐步形成覆盖输入治理、生成治理、输出治理、风险干预、用户保护等环节的全链路安全体系。在监管部门指导下，Soul App创始人团队不断完善治理机制，探索建立与AI发展相适应的管理模式，实现技术创新与风险防控同步推进。针对AI生成内容传播速度快、隐蔽性强等治理难点，Soul依托自身技术能力搭建了以“AI对抗AI”为核心的智能治理体系，通过“动态采集—AI深度分析—智能决策—智能执行”的治理链条，持续提升风险识别与处置能力，推动平台安全治理实现体系化协同。其中，“AI大模型助力技术创新，精准识别让虚假人设无处遁形”入选“清朗浦江·2024”网络生态治理优秀创新案例，也体现了平台在AI治理实践方面取得的阶段性成果。

  围绕AI虚拟人应用，Soul App创始人团队持续完善安全机制。在用户与AI互动过程中，平台建立了“双向审核”机制，用户输入内容需经过色情低俗、违法违规、攻击辱骂等多项安全策略审核，模型生成内容输出前还需通过独立AI安全模型和内容审核策略再次校验，形成“用户侧审核+模型侧审核”的双重保障。针对多轮对话场景，平台进一步引入上下文语义理解能力，不仅识别单条内容风险，也关注连续交流中的风险变化，提高风险识别的准确性和稳定性。

  在保障用户知情权方面，Soul持续优化AI身份标识机制。在AI虚拟人交互场景中，平台设置显著且持续展示的AI身份提示，明确告知用户当前内容由人工智能生成，帮助用户准确识别AI身份，避免与真人角色产生混淆。同时，今年3月上线“AI社交时长提醒”功能，当用户与虚拟伙伴连续对话达到2小时后，系统会主动弹出提醒窗口，建议用户适当休息，引导保持与现实生活的平衡。5月，Soul还对《社区公约》进行了AI相关内容更新，进一步细化AI生成内容、AI互动行为及AI虚拟角色等使用规范，明确平台AI应用边界。

  Soul App CTO、人工智能伦理与治理委员会主任委员陶明表示，随着AI越来越接近真实人物的交互体验，平台更加关注用户对于AI身份的认知、知情权和选择权。此次委员会成立，是Soul进一步完善AI治理机制的重要组成部分。委员会将围绕模型与应用一体化AI生态建设，坚持科技向善、技术为人、安全可控、普惠共治、公开透明等原则，通过技术治理与伦理审查相结合，建立覆盖数据、算法、应用等环节的风险管理体系，不断提升企业负责任创新能力。

  据了解，委员会成立后，将承担制定AI伦理治理战略、开展新技术和新产品前置伦理评估、组织AI伦理培训、建立伦理事件监测、研判、处置、反馈等闭环管理机制等职责。同时，通过吸纳来自高校、研究机构及行业领域的专家参与，进一步推动跨领域交流，为平台AI治理提供更多专业支持。讨论环节中，与会专家还围绕青少年与AI互动、虚拟人身份提示、情绪识别纠错机制、情感能力培养等议题进行了交流，为完善平台治理提供了多元视角。

  Soul App创始人、CEO张璐表示，探索AI社交场景的能力边界、规范AI交互发展模式，是平台长期思考的问题。此次人工智能伦理与治理委员会的成立，进一步完善了平台AI治理体系，也推动技术创新与伦理规范协同发展，为社交领域AI的负责任发展提供实践范本。

  （注：部分内容由AI生成，仅供参考。）