【经济界面】

  夜深人静时，有人找它线上聊天、获取安慰；视频带货时，有人用它快速生成营销案牍；同窗聚会时，有人用它现场作诗助兴……它，就是很多人眼中的“生活好副手”“工作好搭子”——人工智能（AI）大年夜模型。

  近期，多款大年夜模型产品横空出世、风靡全球，再次掀起人工智能高潮。但与此同时，也有一些人应用人工智能生成合成虚假内容，或为吸引眼球、赚取流量，或试图以假乱真、造谣欺骗等，带来必定风险和隐患，激发社会存眷。

  若何让人工智能生成合成内容“亮明身份”，不再“真假难辨”？若何破解人工智能安然治理难题？记者就此进行了采访。

江苏省姑苏市“人工智能+”立异成长推动大年夜会上展示的人形机械人。新华社发

　　人工智能合成让人真假难辨

　　小猫小狗跟着音乐跳起跳舞，家中“萌娃”大年夜战公鸡……在短视频平台上，人们不时会刷到类似视频。其实，一些传播量、点赞量都很大年夜的“神奇视频”并非是真实的，而是由人工智能生成合成的。

　　所谓人工智能生成合成内容，是指应用人工智能技巧生成、合成的文本、图片、音频、视频、虚拟场景等信息。

　　近年来，人工智能技巧快速成长，为生成合成文字、图片、音频、视频等信息供给了便利对象，海量信息得以快速生成合成并在收集平台传播，在促进经济成长、丰富网上内容、便利"大众,"生活的同时，也带来生成合成技巧滥用、破坏收集生态等问题，激发社会各界的存眷。

　　“一些爱好我参演的影视剧的不雅众，被AI换脸视频骗得很惨，这个性质异常恶劣。”一位演员说，欲望能建立更好的规范。实际上，不少"大众,"人物都遭受过类似问题。

　　公安部数据显示，近两年来，全国共产生“AI换脸”类欺骗案近百起，累计造成的经济损掉高达2亿元。

　　光亮日报记者 刘坤 光亮日报通信员 柳素雯

　　中国电子信息家当成长研究院副总工程师刘权认为，人工智能大年夜模型本身存在弗成解释性问题。大年夜模型运作机制不透明，产生的“黑箱”属性导致弗成解释性。这种弗成解释性降低了可托度，使得输出的内容可能存在事实性缺点和误差，特别是在医疗、金融等范畴，难以知足严苛的可托请求。

　　中国社会科学院大年夜学互联网法治研究中间主任刘晓春表示，经由过程人工智能生成合成技巧降低了内容“捏造”“造假”等的时光成本，尤其在图片、音频、视频等范畴，从早期引起广泛存眷的“换脸”对象，到捏造人声、通话视频的欺骗活动，再到“被压在废墟下的小男孩”等热点事宜，人工智能技巧带来的深度捏造、虚假信息、不良信息、抄袭侵权等问题，对包含内容治理在内的收集空间秩序构成挑衅，对治理对象、方法和手段也提出了更新更高的请求。

　　数据显示，截至2024岁尾，共302款生成式人工智能办事在国度网信办完成立案，个中昔时新增238款立案。

　　“当前，大年夜模型可以或许生成高真实感的文本、人像、场景、音频，通俗平易近众不借助检测对象往往很难辨别内容真伪。”中国科学院计算技巧研究所数字内容合成与捏造检测实验室主任、研究员曹娟认为，跟着生成式人工智能技巧在各个行业落地应用，生成合成内容的数据范围快速增长，对生成内容进行周全检测成本太高。生成合成内容实用处景大年夜幅扩大，助长了欺骗场景多样化。

　　打造可托赖的AI技巧

　　《办法》的推出是我国推动人工智能范畴安然治理、促进家当规范健康成长、引导技巧向善的重要举措，标记住我国在生成式人工智能范畴迈出了构建安然可托生态的关键一步。

　　国度互联网信息办公室有关负责人介绍，《办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安然治理，力争打造可托赖的人工智能技巧。

  近日，国度互联网信息办公室、工业和信息化部、公安部、国度广播电视总局结合宣布《人工智能生成合成内容标识办法》（以下简称《办法》）。《办法》聚焦人工智能“生成合成内容标识”关键点，经由过程标识提示用户辨别虚假信息，明白相干办事主体的标识义务义务，规范内容制造、传播各环节标识行动，将于2025年9月1日起施行。

　　针对办事供给者，《办法》明白，应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在供给生成合成内容下载、复制、导出等功能时，应当确保文件中含有知足请求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。

　　针对互联网应用法度榜样分发平台，《办法》提出在应用法度榜样上架或者上线审核时，应当请求互联网应用法度榜样办事供给者解释是否供给人工智能生成合成办事，并核验其生成合成内容标识相干材料。

在山东青岛某中学举办的科技节活动中，学生们不雅看机械狗表演。 光亮图片 张鹰摄

　　针对用户，《办法》提出，用户应用收集信息内容传播办事宣布生成合成内容的，应当主动声明并应用办事供给者供给的标识功能进行标识。

　　此外，任何组织和小我不得恶意删除、修改、捏造、隐匿本方律例定的生成合成内容标识，不得为他人实施上述恶意行动供给对象或者办事，不得经由过程不合法标识手段伤害他人合法权益。

　　“《办法》以合理成本进步安然性，促进人工智能在文本对话、内容制造、帮助设计等各应用处景加快落地，同时减轻人工智能生成合成技巧滥用伤害，防备应用人工智能技巧制造传播虚假信息等风险行动，推动人工智能健康有序成长。”该负责人说。

　　中国政法大年夜学数据法治研究院传授张凌寒认为，人工智能生成内容标识轨制具备独特轨制价值。标识可以或许有效区分出人工智能生成合成的信息，防备虚假信息的传播应用；标识可以或许赞助用户快速懂得生成式人工智能产品和办事的相干属性或参数信息；标识可以或许协助监管部分对生成式人工智能产品或办事实施评估、追溯等监管，推动人工智能生成合成内容合法合规成长。

　　张凌寒表示，今朝，人工智能生成合成内容标识轨制重要存眷“是否机械生成”的情势断定。跟着标识技巧的进步与成长，将来标识轨制可以或许发挥更为丰富的功能，从情势断定逐渐转向“是否足够靠得住”的质量断定，进一步促进行业健康成长。

　　安然治理进入“深水区”

　　良法善治，重在实施。

　　为推动《办法》落地实施，强迫性国度标准《收集安然技巧　人工智能生成合成内容标识办法》同步宣布，更好地指导相干主体规范开展标识活动。

　　“当前，人工智能安然治理已从伤害商量进入实际法律的深水区。”曹娟说，大年夜模型生成技巧迭代更新很快，平均两个月就会出现新的里程碑模型，晋升针对新生捏造办法的泛化才能至关重要，须要摒弃“来一个打一枪”的过后思维，构建AI鉴伪底座模型，进步鉴伪模型的泛化实用机能。

　　曹娟表示，要研究精准化对抗鉴伪技巧，防备恶意回避风险。同时，降低对无害生成内容传播的影响，兼顾生成内容应用的成长与治理，打造全平易近化捏造检测对象，推动人人可用鉴伪。

　　“人工智能生成合成内容日益逼真，也催生虚假消息传播、身份信息假装、恶意内容生成等新型安然风险，并减弱着"大众,"对收集传播内容的信赖基本。”中国工程院院士、浙江大年夜学传授陈纯说。

　　“可以预感，我国人工智能安然法律将延续重点事项监管、促进家当有序成长的偏向。”公安部第三研究所副所长金波说，伴随标识治理与算法立案、安然评估等机制慢慢实现有机连接，生成合成内容标识合规或将成为相干部分开展人工智能监督检查、专项行动的重点存眷范畴。在此过程中，若何均衡好成长与安然、立异与义务，晋升法律的专业化、精细化、聪明化程度，从而培养出安然、开放、公平的人工智能家当生态情况，还须要深刻商量。

　　“此外，‘人的身分’应融入人工智能标识治理的全过程。”金波表示，要侧重晋升"大众,"对信息内容真实性、来源可追溯性的评估才能，积极培养"大众,"的人工智能素养，确保人工智能技巧成果普惠共享。

　　在陈纯看来，《办法》的落地离不开全社会凝心聚力和协同合营。处所主管部分、高校、科研机构、企业可合营介入，形成标识工作先行的多点协同内容治理收集，推动标识工作行稳致远。此外，有须要建立全国性的内容标识公共办事平台，以可视可交互的实际操练情势，促进"大众,"和家当深刻懂得标识工作。

　　“生成式人工智能促使信息技巧从通俗对象属性向‘思维伙伴’型高智能化对象属性进化，带来颠覆性成长机会，将来势必成为我们的必备技能，这请求我们在应用时切实精确懂得并治理人工智能。”陈纯说。

　　《光亮日报》（2025年03月27日 15版）

Tags： 标识，让AI生产的内容“亮明身份”