当前，包括算法、深度合成与生成式人工智能在内的人工智能技术给人类社会生产方式和生活方式带来颠覆性变革，作为与人工智能结合最紧密的视听领域，也作为生成式人工智能应用最核心的场景，人工智能正在全方位全链条深度重塑视听制作、传播、运营与管理，对广电视听发展提供了全新机遇，也带来全方位挑战。广电视听行业加快推进发展与安全并重的人工智能规制体系和监管体系建设，保障视听人工智能应用在法治轨道上健康有序发展。
1
加快构建人工智能政策法规体系
以习近平同志为核心的党中央高度重视运用法治手段促进和保障人工智能健康发展。习近平总书记多次强调“加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题”“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用”，深刻阐述了发展人工智能的战略意义，明确了坚持发展和安全并重、促进创新和依法治理相结合的原则，为视听领域加强人工智能发展与安全提供了根本遵循。
国家加强对人工智能发展与治理的系统谋划和顶层设计。2017年，《国务院关于印发新一代人工智能发展规划的通知》提出到2030年，初步建立和建成完善人工智能法律法规、伦理规范和政策体系，明确了人工智能治理规则三大重点。2020年，《法治社会建设实施纲要(2020-2025年)》提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法，加强对人工智能等新技术研发应用的规范引导。2024年，《中共中央关于进一步全面深化改革、推进中国式现代化的决定》把人工智能发展政策、安全监管、治理体系、管理机制列为全面深化改革的重要任务。《人工智能法》草案被列入国务院2023年立法工作计划，2025年全国人大常委会工作报告提出将围绕人工智能等新兴领域加强立法研究。这些顶层设计有力指导和推动了视听领域人工智能法律法规和政策体系建立和完善（见表1）。
表1 视听领域人工智能管理相关法规政策
在法律层面，多部法律对人工智能提出原则性规范要求。《国家安全法》《民法典》《未成年人保护法》《著作权法》《数据安全法》《个人信息保护法》等多部法律为人工智能应用在网络安全、个人信息权利人、版权保护、未成年人网络保护、数据安全、用户信息保护等方面的基本原则、责任主体、措施和程序等做出概括性规定和总体性制度设计。如《民法典》为人工智能领域的基本民事权利义务关系提供了根本遵循。
系列行政法规、部门规章和规范性文件构建人工智能多层次合规体系。相关部门强化人工智能协同治理，在算法、深度合成与生成式人工智能等领域初步形成了一整套相互衔接、相互配套的规制体系。例如，制定了《网络数据安全管理条例》等行政法规，联合出台了《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等部门规章以及《关于加强互联网信息服务算法综合治理的指导意见》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规范性文件，明确了人工智能内容管理、算法推荐、数据安全等多维治理规则以及各类主体的责任、义务和要求。
推动法规政策、行业标准与自律规范联动衔接。2020年，《国家新一代人工智能标准体系建设指南》对人工智能标准体系建设进行系统性布局。此后，《网络安全技术人工智能生成合成内容标识方法》《人工智能深度学习算法评估》《中央广播电视总台人工智能使用规范（试行）》《抖音关于人工智能生成内容的平台规范暨行业倡议》等国家强制性标准、行业标准以及行业自律规范、平台公约相继出台，一体化推进法规要求与技术标准相衔接，构建良好的内容生态、传播生态、技术生态。如广电总局《广播电视和网络视听深度伪造防范技术要求（2022版）》在深度伪造鉴别、面部识别、黑名单、深度伪造防范能力评估等方面提出具体要求；《中央广播电视总台人工智能使用规范（试行）》明确时政新闻、重大历史题材、敏感事件报道禁止使用深度合成技术；《抖音关于人工智能生成内容的平台规范暨行业倡议》要求发布者应对人工智能生成内容进行显著标识，虚拟人需在平台进行注册，禁止用户利用生成式人工智能技术创作、发布侵权内容等。
2
视听领域人工智能管理基本要求
应对人工智能应用快速迭代新形势，相关管理部门聚焦“小切口”，优先解决人工智能应用的内容标识、安全评估、算法备案、伦理审查等具体问题，提出促进视听领域人工智能服务规范发展的基本要求。
（一）构建内容标识溯源体系
《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等法规均提出内容标识要求，目的是发挥内容标识提醒提示和监督溯源的技术作用，防止虚假信息传播。《人工智能生成合成内容标识办法》与强制性国家标准《网络安全技术人工智能生成合成内容标识方法》配套同步推进，进一步细化显性和隐性标识内容的范围、要求和规范，指导相关主体规范开展标识活动，解决治理衔接难题。
视听领域显隐标识技术防控体系正加快构建。一是明确提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，应当进行文字、角标、语音、节奏等显著标识，提醒用户辨别虚假信息，避免公众混淆或者误认。此外，《关于AI“魔改”视频管理的提示》，对AI“魔改”影视剧的短视频提出显著提示等要求；《互联网广告可识别性执法指南》对使用人工智能技术生成的广告要求显著说明。二是明确在文件中添加元数据隐式标识的方法，嵌入创作相关信息，为有效识别生成合成内容，履行向公众提醒提示主体责任提供依据，提供全链条溯源。三是统筹发展和安全，对在文本内容中添加隐式标识，在多媒体文件中添加数字水印，不作强制要求，降低平台企业标识成本，增强政策落地实施的可操作性。
（二）进行安全评估和备案管理
《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》明确要求对提供具有舆论属性或者社会动员能力的音视频信息服务、生成式人工智能服务、算法推荐服务的，应当按照国家有关规定开展安全评估，并履行算法备案和变更、注销备案手续，加强人工智能新技术新应用的预防性治理。
截至2025年3月底，共有346款生成式人工智能服务在国家网信办完成备案。广电总局也积极推进生成式人工智能“大语言模型”上线备案评估，明晰监管方、平台方、内容创作者、用户的权利和责任，强化数据治理、算法引导，态势感知、内容溯源等体系化的保障手段，用主流价值观驾驭算法和视听多模态大模型，构建视听技术应用合规体系。
（三）对人工智能服务进行伦理审查
2021年，《新一代人工智能伦理规范》针对人工智能管理、研发、供应、使用等活动提出基本伦理要求、特定伦理规范和具体伦理标准，为视听行业制定更为具体的人工智能伦理规范和相关措施提出原则要求。《关于加强科技伦理治理的意见》强调人工智能科技治理应注重“伦理先行”，为人工智能治理提出更明确的指引。《科技伦理审查办法（试行）》也对视听领域科技伦理审查主体、审查程序、监督管理等内容提出了要求。
《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》均要求算法推荐服务和生成式人工智能服务遵循伦理审查，将人工智能伦理道德融入管理全过程。一是遵守价值伦理。人工智能发展要弘扬社会主义核心价值观，坚持正确政治方向、舆论导向和价值取向；应当遵守法律法规，尊重社会公德和伦理道德，引导服务向上向善。二要遵守技术伦理。建立科技伦理审查制度，强化人工智能安全伦理风险研判与防范。
（四）构建分级分类监管体系
人工智能服务多层次多维度特点决定了人工智能需采用分类分层的监管方式。《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》都要求制定相应的分类分级监管规则或者指引，并明确新闻、出版、影视等专业领域要制定专门法规。目前，视听领域已初步构建覆盖“基础层-技术层-应用层”的全链条分层分类监管体系（见表2）。
表2 视听领域人工智能应用分层分类体系（Deepseek生成）
在行业规范和实践中，根据传播对象、传播范围、风险程度，视听领域人工智能内容分类分级监管规则正初步建立。对于低风险普通视听内容，如个性化推荐、智能字幕等采用备案承诺制；对于中风险视听内容，如虚拟主播播报常规新闻，实行准入许可制度；对于高风险视听内容，如时政新闻合成、历史人物再现、重大题材创作等，要通过安全评估和三级审核，明确不得生成法律法规规定的禁止性内容。如《互联网信息服务深度合成管理规定》要求，“深度伪造”音视频不得制作、发布、传播虚假新闻信息，应当依法转载国家规定范围内的单位发布的音视频新闻信息。 3 加强视听领域人工智能法治建设的思考
当前，视听领域人工智能规制体系还跟不上新技术新应用新业务快速发展的需要，表现为缺乏上位法保障、关涉人工智能部门规章存在空白、分类分级监管规则还在探索、体系化治理机制尚未健全等。因此，必须加快构建系统化、协同化的人工智能行业规则、规制、管理、标准等制度体系和治理体系，保障人工智能服务合法合规。 （一）坚持党对人工智能服务的领导 坚持党管宣传、党管意识形态、党管媒体、党管互联网原则，树牢底线思维和阵地意识，强化社会主义核心价值观在人工智能技术应用中的导向作用，在程序研发、设计、运行中嵌入党媒数据和社会主义意识形态内容，以主流价值观引领技术逻辑、校准生成内容，确保生成式人工智能的内容生成、传播分发、舆论引导等各环节服务于党的工作全局。 （二）建立健全人工智能法规政策体系 积极参与《人工智能法》立法，加快推进《广播电视法》，为视听领域人工智能应用提供上位法保障。加快制修订《广播电视和网络视听生成式人工智能应用管理规定》《信息网络传播视听节目管理条例》《互联网视听节目服务管理规定》《互联网视听节目业务分类目录》等部门规章、规范性文件，确保智能视听内容来源可溯、使用可控、风险可管。加快构建和完善视听行业人工智能标准体系和规范体系，建立数字水印、元数据格式等人工智能应用专项标准体系，制定《广电视听AI伦理守则》等自律规范，构建规范化行业标准和全流程监管框架。 （三）完善人工智能协同管理体制机制 健全“网信牵头、齐抓共管、各负其责”的管理体制，加强人工智能治理体系建设。着力构建多元协同的责任矩阵，依法明确管理部门、人工智能开发者、人工智能服务提供者、传播平台、用户、行业组织等多主体责任，推动相关行业联盟、龙头企业、研究机构以及标准组织等发挥资源整合优势，积极研发应用视听专用AI治理技术，联合制定行业规则和伦理规范，形成党委统一领导、监管机构主导、企业强化自律、公众积极参与、外部独立监督的协同治理机制，共同打造人工智能良好发展生态。 （四）强化视听平台主体责任 明晰视听平台信息内容管理主体责任、算法安全主体责任、生成式人工智能服务主体责任，督促指导人工智能服务提供者在产品开发、标识要求、内容审核、用户管理、算法推荐、技术保障、网络安全、未成年人网保等环节健全管理制度，不断完善科技伦理审查机制、服务使用者真实身份认证机制、内容标识鉴别发现机制、辟谣机制和投诉举报机制、应急处置机制等机制措施，在保障内容安全、规范传播秩序、维护良好生态等方面发挥主体作用。