专家：细化技术标准让“AI数字人”透明化合规化

　　□ 本报记（jì）者 　赵（zhào） 丽

　　□ 本报（bào）实习生 宋昕（xīn）怡

　　“生西（xī）红柿和生黄瓜不（bú）能一起（qǐ）吃了！黄瓜（guā）中（zhōng）的分（fèn）解（jiě）酶会破坏维生素C，一（yī）起吃轻则影响西红柿中维生（shēng）素（sù）C的（de）吸收，重则可能导致腹泻、肠（cháng）胃不适甚至食（shí）物中（zhōng）毒。”电话那头，母亲（qīn）说（shuō）得（dé）头头是（shì）道，电（diàn）话这头的赵女（nǚ）士（shì）却听得一（yī）头雾水（shuǐ）。

　　随即，母亲发（fā）来（lái）一则视频。赵女士回忆说：“一位满头花（huā）白头发、身（shēn）着白大褂的‘医生（shēng）’在视频里侃侃而谈‘养（yǎng）生秘籍’，甚至（zhì）宣称‘清淡饮食就（jiù）是（shì）只吃素食，完全不（bú）吃肉’。我妈把（bǎ）这个‘医生’的话奉（fèng）为圭臬。”但（dàn）赵女（nǚ）士仔细查看后，在视频右（yòu）下角发现（xiàn）一串几乎透明的标注——“此视频由AI辅助（zhù）生成”。

　　“后来，我妈戴着老花镜，在我的（de）指点（diǎn）下（xià）找了一（yī）会儿（ér）才看见（jiàn）那行字。”赵女士（shì）无奈地说，“这也不能怪老人，现在AI生成（chéng）的‘数字人’泛滥，还难辨真假，实在让人防不胜防。”

　　有此困扰的并非只有赵女士一家。《法治日报》记者近日随机采访了数（shù）十名（míng）路人，至少有七（qī）成受（shòu）访（fǎng）者称曾刷到过“AI数字人”视频，并且（qiě）“难（nán）以（yǐ）分清到底（dǐ）是真人还是‘数字人’”，而原因主（zhǔ）要在于“找不（bú）到有效提示”。

　　很多人担忧：真人（rén）“数字人”傻傻分不清楚（chǔ），背后（hòu）是肖像权（quán）侵权乃至敲诈、诈（zhà）骗等违法犯罪的风险（xiǎn）隐患（huàn）。

　　是（shì）否数字（zì）人难辨（biàn）别

　　在重（chóng）庆读（dú）大学的郑媛浏览某社（shè）交平台时，刷到一则（zé）帖子——照（zhào）片里的女（nǚ）生外形温婉可人，穿搭清爽时尚，很夺人眼球。郑媛点（diǎn）赞（zàn）并关（guān）注（zhù）了该账号。

　　但不多时，郑（zhèng）媛（yuán）却刷到另一（yī）名博主揭露用“AI生成人”起号的（de）内容，被打假的（de）恰恰是她先前所（suǒ）关注的（de）这个账号。“我（wǒ）仔细翻阅了那个女生的账（zhàng）号（hào）主页（yè），她并未标明使（shǐ）用AI技术，还在（zài）评论区亲切地与其他用户互动。”面对这样的局（jú）面，郑媛说（shuō）自己也“糊涂了”。她（tā）后来观（guān）察了一个（gè）多星期，找到了该账号图片确为AI生（shēng）成的证据（jù）——有网友在（zài）其（qí）他账（zhàng）号上（shàng）发（fā）现了妆容和衣着几乎一（yī）样的“数字人”，而人物介绍却完全不同。

　　习惯在直播间购物（wù）的北京（jīng）市（shì）民李菲说，自己经（jīng）常误入“数字人”直播间（jiān），“数（shù）字人”主播侃侃而谈介（jiè）绍商品，手（shǒu）部动作还能随（suí）着她说话的节奏（zòu）不断变（biàn）动，声音（yīn）流畅而自然。

　　“要（yào）仔细（xì）看才能（néng）看到直播间（jiān）左（zuǒ）侧一行‘现（xiàn）直播（bō）内容为数字人直（zhí）播，非真人直播’的（de）小字提醒（xǐng）。”李菲说，自己现在习惯了进直播间“先找小字”，确认主播是否为真人，“但真的‘费眼睛’，不是在犄角旮旯，就是字体（tǐ）几乎透明，不注意（yì）根本看不到”。

　　袁伟(化（huà）名)是（shì）某985高校计算（suàn）机系研究生。他告诉记者：“现（xiàn）在一些AI大模型（xíng）生成的图，别（bié）说中老年人会误（wù）以为（wéi）真，很多没怎么接触过AI技术的年轻（qīng）人都（dōu）不见得能（néng）分辨真假。”

　　他随即为记者演示，向某AI软件（jiàn）输入指令“帮（bāng）我生成图片：一（yī）个容貌姣（jiāo）好的女性，精细（xì）的皮肤纹理，室（shì）外自然光”，随即生成的图（tú）片与真人照片相差无几，如果不是右下（xià）角自（zì）带的水印，只让人觉得是一张普通的美女照片。“如果（guǒ）说早期（qī）的AI软件大多不能（néng）生成自然（rán）的手指和（hé）人体（tǐ）比例，现在技术进步得很快，生成的手指和人（rén）体比例已经比较像样了，更加大了分辨的难度（dù）。”

　　“这样的AI生成图片或视频，如果（guǒ）不作标识提示，会（huì）让很（hěn）多人（rén）信以为真。”袁伟说。

　　大（dà）量账号未作标识

　　记（jì）者（zhě）在某社交平（píng）台上注（zhù）意到（dào）一名为“××AI打假（jiǎ）人”的（de）账户，其发帖称自（zì）己将致力于“揪出纯AI生成的内容博主，帮（bāng）小白识（shí）别真伪”，还表示“关注了很多（duō）AI生（shēng）成非真实的帅哥美女”。

　　在其关注列表里（lǐ）有300多个账（zhàng）号，记者随机选（xuǎn）取了其中20个（gè）账号浏（liú）览发现，若（ruò）没有看到评论区“这是AI吧，手指的细节（jiē）很诡异”“背景里的文字都是乱码”等留（liú）言，记者第一反应只以为他（tā）们是（shì）普通的颜值时尚类博主（zhǔ）。

　　这（zhè）20个粉（fěn）丝量几百（bǎi）到几万不等的账（zhàng）号，仅有3个账号在简（jiǎn）介中（zhōng）写明“虚拟（nǐ）男友（yǒu）”“AI”“友情提（tí）示视频（pín）由虚拟现实技术制作（zuò）”，两个（gè）账号主页的内容经（jīng）平（píng）台审核后被打上了“疑似包含AI创作信息，请谨（jǐn）慎甄别”的（de）标签。其余账号（hào）在简介、内容（róng）中并未提及“AI”字眼，平台（tái）的监测机制也并未识别到（dào），这些账号甚至还在评论区熟稔地与（yǔ）其他用户互（hù）动，让自己看上（shàng）去更（gèng）有“真人感”。

　　在调查过程（chéng）中，有超过一半（bàn）的受访者向记者表示AI生成的“数字人”和真人难以分辨，相（xiàng）关的提示也并不显眼。

　　此外，记者发现，有（yǒu）人还会特意（yì）教人如何绕过平（píng）台的“AI打标”。据（jù）了解，目前，各平台已普遍升级AI内（nèi）容识别（bié）系（xì）统（tǒng），要（yào）求对（duì）AI生成作品进行显著标（biāo）注。但在调查中（zhōng），有分享经（jīng）验的（de）博主表（biǎo）示（shì）花费不到千（qiān）元（yuán）就可以（yǐ）购买所谓的（de）AI工（gōng）具中预配置（zhì）的镜（jìng）像文（wén）件，称用（yòng）这些镜像参数一（yī）键生成的虚拟人形象可（kě）以以假乱真（zhēn），最（zuì）大（dà）限（xiàn）度规避平台的AI内容强制（zhì）标注机制。

　　细化标准加大惩处

　　记者梳（shū）理公开（kāi）信息发现，实践中，一些有心人士（shì）利（lì）用“数（shù）字（zì）人”形象行不法之事。

　　据（jù）报道，张（zhāng）文宏、雷军等公众人物形象（xiàng）曾被（bèi）利用（yòng）生成（chéng）“AI数字人”，用（yòng）来带货、恶搞（gǎo）。一些直播间内，“AI数（shù）字人”向中老年人群体虚假宣传保健（jiàn）品（pǐn），诱导购买。更有甚者，一些不法分子利用“AI数字人”进行（háng）敲（qiāo）诈（zhà）、诈骗等犯罪。例如，山西忻（xīn）州公安（ān）机关工作发（fā）现，犯罪（zuì）嫌（xián）疑人王某某利用（yòng）AI技术，制作合成（chéng）“数字人”新闻视频引流，进而进（jìn）行有（yǒu）偿发帖、有偿删帖等敲诈（zhà）勒索活动。2024年，江西一名65岁老（lǎo）人（rén）到银（yín）行办理业务，声称要贷款200万（wàn）元给男朋（péng）友（yǒu）“靳东”拍戏，后经（jīng）调查，老人（rén）手机里的“靳东（dōng）”视频是AI合成（chéng）的。

　　重庆（qìng）大学（xué）网络与大（dà）数据研究院副院长罗勇认（rèn）为，就价值取向（xiàng）而言，AI产业发展（zhǎn）不（bú）能凌驾于（yú）网络安全之上。对（duì）于（yú）利用AI技（jì）术生成的短视（shì）频，网络用户（hù）特别（bié）是未成年人（rén）和老年人由于缺（quē）乏必要的鉴别能力，往往会信以为真，由（yóu）此可能（néng）产生负面网络舆情，甚至对网络安全造成（chéng）负面影响。

　　据受访（fǎng）专家（jiā）介绍，当前我国（guó）已经出台（tái）了《生成式（shì）人工（gōng）智能服务管理暂（zàn）行办法》《互联网信息服务深度合成（chéng）管理规定》等（děng）法规（guī），对“AI数字人”和（hé）AI生成内容（róng）的标识、数据来源（yuán）等提出了具体要求。

　　今年3月，国家网（wǎng）信办等四（sì）部（bù）门（mén）联合发布（bù）《人（rén）工智能生成合成内容标识办法（fǎ）》(以下（xià）简称标识办（bàn）法（fǎ）)，通过标识（shí）提醒用户辨别虚假信息（xī），规范内容制（zhì）作、传播（bō）各（gè）环节（jiē）标（biāo）识行为，为规范AI生成内（nèi）容划定红线。该办法（fǎ）将于9月（yuè）1日起施行。

　　中（zhōng）国政法大（dà）学教授郑（zhèng）飞指出，相关（guān）规定一（yī）定程度存（cún）在落地（dì）难的问（wèn）题。一是监管和技术手（shǒu）段有限，难以彻底发现并纠（jiū）正违（wéi）规行为。例如，一些“AI起号”从（cóng）业（yè）者通过预置“镜（jìng）像参数”生成极为逼真的虚拟（nǐ）人像，从（cóng）而逃避平台（tái）的强制（zhì）标（biāo）注要求。而（ér）监管部门特（tè）别是基层执法部（bù）门，通常（cháng）面临职责不清、执法手段和执法力量不足（zú）的问题（tí）；二是（shì）部（bù）分（fèn）平（píng）台在一定程度上“管不了（le）”也（yě）“不想管”。“管不了”在于平台管理能力与技（jì）术手段欠缺，尤（yóu）其（qí）是一些（xiē）小型平台，缺乏足够的审核人力和技术支持（chí）。“不想管”则（zé）是背后利益驱动。未明显标识“AI数字人”或合成内容（róng），会让受众误以为（wéi）是（shì）真人或真实（shí）事件，从而更容易引起人（rén）们的（de）兴趣和好（hǎo）奇心，吸引更多的流量（liàng）和关注，进而带来更多的商（shāng）业利益。

　　“以网（wǎng）络（luò）社交平台（tái）为代表的网络服务提供者在AI生成内（nèi）容的应用场景中（zhōng），应当进一步完善（shàn）用（yòng）户使用AI协议规定（dìng），并强化对（duì）AI生成内容的审核。”罗勇（yǒng）说（shuō）。

　　郑飞建议，应从明确标识要求和加（jiā）大责任追究两方面发（fā）力。标识办法明确要求，一旦检测到AI生成内容，传播平台应（yīng）在发布内容（róng）周边添加显著提（tí）示（shì）标识（shí），并在文件元（yuán）数据中加隐式标识，确保全流程（chéng）可溯源。在未来落（luò）实过程中，可（kě）进一步细（xì）化技术标准，比如规定标识文（wén）字的（de）最小高度、对比度、展（zhǎn）示时长等，让（ràng）标识（shí）一目（mù）了（le）然（rán）。另外，对于不按规定（dìng）标（biāo）注的行为，需要严厉处罚：除加大行政罚款、暂停（tíng）业（yè）务或纳入不良信用记录等行政（zhèng）措施外（wài），还要利用法律手（shǒu）段加大威慑。通过明确、显著的标识（shí）标准（zhǔn）和更严（yán）厉的（de）责任追究（jiū），才（cái）能从根本上震（zhèn）慑违（wéi）规不标注行（háng）为（wéi），实现“AI数字人”应用的透明化、合规化（huà）。