“清朗·整治AI技术滥用”专项行动详解近日，中央网信办宣布在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。该行动旨在强化AI技术源头治理，清理整治违规AI应用程序，并加强AI生成合成技术和内容标识管理。以下是对该专项行动的详细解读：一、第一阶段：强化AI技术源头治理违规AI产品问题：利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。措施：根据《生成式人工智能服务管理暂行办法》，提供具有舆论属性或社会动员能力的生成式人工智能服务需进行算法备案。此次行动要求，只要利用生成式AI向公众提供内容服务，就需进行备案，进一步收紧了普通人提供AI工具的口子。违法伦理功能问题：提供“一键脱衣”等违背法律、伦理的功能，或在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。措施：合理且必要，违法侵权行为应坚决制止。传授、售卖违规AI产品问题：传授利用违规AI产品伪造换脸视频、换声音频等教程信息，或售卖违规“语音合成器”“换脸工具”等商品信息，营销、炒作、推广违规AI产品信息。措施：将涉及的平台和UP主进行封禁，相关商品进行下架处理。但如何定义“违规AI”，需进一步明确。训练语料管理不严问题：使用侵犯他人知识产权、隐私权等权益的信息，或使用网上爬取的虚假、无效、不实内容，以及非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。措施：此点存在争议，因AI训练素材往往难以完全避免侵犯广义上的知识产权或包含虚假、无效、不实内容。需通过更大量的语料去降低不实内容的“出现概率”。安全管理措施薄弱问题：未建立与业务规模相适应的内容审核、意图识别等安全措施，未建立有效的违规账号管理机制，未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。措施：AI服务在前端可再加敏感词检测，对多次违规的用户进行封禁。同时，需明确社交平台API接入的监管责任。未落实内容标识要求问题：服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。措施：AI合成内容需进行标识，各平台需加强生成合成内容的监测甄别能力。重点领域安全风险问题：已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”等问题。措施：AI问诊不能给用药建议，AI诊股不能给投资建议。同时，需加强对提供给学生用的AI的监管。二、第二阶段：聚焦AI技术制作发布违法不良信息利用AI制作发布谣言问题：无中生有、凭空捏造涉时事政治、公共政策、社会民生等各类谣言信息，或擅自妄测、恶意解读重大方针政策。措施：坚决支持，AI不应用来制作、生成这类内容。利用AI制作发布不实信息问题：将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素。制作发布涉财经、教育等领域的夸大、伪科学等不实内容。措施：坚决支持，需加强监管和处罚力度。利用AI制作发布色情低俗内容问题：利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，或制作发布软色情、二次元擦边形象等内容。措施：支持，但需明确界定软色情的范围，避免误伤。利用AI假冒他人实施侵权违法行为问题：通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家等公众人物，欺骗网民，甚至营销牟利。措施：非常支持，需严厉打击此类行为。利用AI从事网络水军活动问题：利用AI技术“养号”，模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿，批量生成发布低质同质化文案。措施：举双手支持，需加强监管，净化网络环境。AI产品服务和应用程序违规问题：制作和传播仿冒、套壳AI网站和应用程序。提供违规功能服务，如“热搜热榜热点扩写成文”等。措施：需明确界定违规范围，避免误伤合法合规的AI应用和服务。侵害未成年人权益问题：AI应用程序诱导未成年人沉迷，或在未成年人模式下存在影响未成年人身心健康的内容。措施：支持，需加强监管，保护未成年人权益。三、总结此次“清朗·整治AI技术滥用”专项行动旨在针对目前越来越多的违规利用AI的情况而制定。但在内容上，也存在涉及范围过大、定义不清、与实际情况存在出入的内容。各家服务商应尽量合规操作，同时，相关部门也需进一步明确监管范围和界定标准，避免误伤对AI有热情的普通人。