利用AI造谣，“有图”未必“有真相”

2025年1月7日，西藏自治区日喀则市定日县发生6.8级地震。灾情牵动着国民的心，很多网友自发在社交媒体平台上为灾民祈福。然而，与此同时，一些与地震灾情相关的虚假信息也在互联网上开始传播。其中，一张利用AI技术生成的图片在社交媒体平台广泛传播。

在这张图片中，一个身穿彩色毛衣、头戴彩色毛线帽的男孩几乎全身都被压在废墟之下，他艰难地探出头，黝黑明亮的眼睛里泛出泪光，显得十分可怜、无助。在某短视频平台上，至少有10个以上的账号发布了此图片，并将此图和西藏定日县地震关联。“这娃让我哭一天。”“谁告诉我一下，这个宝宝还好吗？”……不少网友将此图片信以为真，并纷纷留言，表达关心。有的自媒体账号凭借发布此图片获得了好几万的转发、点赞和评论。然而，经查证，此图片是由AI工具合成。

如今，随着AI技术的发展与成熟，在不少热点事件中，人们总能看到一些人为了博取流量、获得关注等，利用AI技术进行造谣。那么，利用AI技术造谣存在哪些法律问题？人们在上网时又该如何分辨利用AI技术生成的图片、视频？

“内容由AI生成”的声明不能成为“挡箭牌”

关于利用AI技术生成的图片、视频等“蹭”地震灾情热度进行造谣的行为，北京周泰律师事务所律师张子航告诉《方圆》记者，此行为可能涉嫌违法。

张子航表示：“防震减灾法第29条规定，国家对地震预报意见实行统一发布制度。该法第52条规定，地震震情、灾情和抗震救灾等信息按照国务院有关规定实行归口管理，统一、准确、及时发布。同时，防震减灾法第88条规定，违反本法规定，向社会散布地震预测意见、地震预报意见及其评审结果，或者在地震灾后过渡性安置、地震灾后恢复重建中扰乱社会秩序，构成违反治安管理行为的，由公安机关依法给予处罚。”

张子航认为，利用AI生成的图片、视频等对地震灾情进行造谣者可能受到拘留等处罚。“按照治安管理处罚法第25条之规定，散布谣言、谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可以并处500元以下罚款；情节较轻的，处五日以下拘留或者500元以下罚款。”

那么，如果一些自媒体博主发布的与灾情相关的AI造谣信息造成了较大的社会舆论和群体恐慌等，造谣者又该承担哪些责任？张子航对此表示，编造虚假的灾情信息，情节严重的话，造谣者可能面临刑事责任。“刑法专门规定了‌编造、故意传播虚假信息罪‌。编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息而故意传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。”

《方圆》记者调查发现，一些自媒体博主在发布这张AI生成“埋在废墟下的男孩”图片时，会在作品下方标注“内容由AI生成”的作者声明。那么，这样的“作者声明”真能为其免责吗？

对此，张子航表示，在此情况下，内容发布者仍然需要为AI生成的图片造成的风险和问题承担法律责任。“按照前述法条，地震灾情信息的发布，由国家统一部署，由国务院归口管理、统一发布。自媒体博主根本没有发布地震信息的权利，因此，不能因为其声明此图片由AI制作，即可免责。”

“同时，不光内容发布者不能因简单的作者声明免责，作为信息载体的社交平台如果未能尽到合理的审核和监管义务，导致虚假AI图片广泛传播，并造成严重的负面影响，监管部门有权对发布平台作出罚款、责令整改等形式的处罚。”张子航说。

AI造谣行为可能涉嫌寻衅滋事罪

利用AI技术造谣的信息为何容易在互联网上引起广泛关注？《方圆》记者调查发现，这与其技术成本低、产量大的特点息息相关。

2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”，该条信息迅速引发网民关注，并形成网络热搜。经查实，该条信息是广东江门网民叶某某等人员，使用AI工具生成的虚假信息。

而值得一提的是，这条谣言的火爆并非偶然。根据公安部发布的消息，叶某某等不法分子利用AI技术大量、快速地改写热门文章，批量发布虚假消息，累计发布引流图文信息50余万条，此条信息才最终“脱颖而出”，为其赚取了网络平台的流量和收益。目前，广州公安机关已抓获犯罪嫌疑人6名。此案也是公安部公布的打击整治“网络水军”违法犯罪典型案例之一。

同时，“有图有真相”也是利用AI技术制造的谣言更容易误导公众的原因之一。

近日，美国洛杉矶大火灾情也在互联网上引起广泛的关注。“燃烧中的好莱坞著名标志”图片和视频在社交媒体平台上广为流传，不少人信以为真。经查实，此图片也是由AI技术生成的。

“就如同‘埋在废墟下的孩子’和‘燃烧中的好莱坞’，与文字谣言相比，图片、视频谣言更为直观，也更有冲击力，一些不了解AI生成技术的公众，难免会被AI生成的虚假图片、视频所误导。”张子航表示，在AI技术流行的今日，“有图”也未必“有真相”，“眼见”也未必“为实”。

生成虚假的图片、视频也是不法分子利用AI技术进行造谣的常用手段。在公安部发布的打击整治“网络水军”违法犯罪典型案例中，有这样一起案子，不法分子累计发布虚假的视频、图文达几百万条。山东枣庄公安机关网安部门查明，某传媒公司购买了大量已实名登记的自媒体账号，利用AI工具编造谣言信息并批量发布，累计发布视频、图文300余万条。而不法分子利用AI技术造谣的目的，也同样是为了吸引粉丝、获得流量。目前，枣庄公安机关已抓获犯罪嫌疑人87名，查获违法违规账号近10万个。

同时，在一些社会热点事件中，人们也能够看到利用AI技术制造的谣言，这类谣言往往会对公众造成误导，也会对事件当事人造成伤害。

2024年9月，随着合肥三只羊网络科技有限公司（以下简称三只羊）在直播带货中存在的问题不断发酵，一段三只羊公司创始人卢某某的录音在网络上传播开来。录音中，卢某某不仅对其公司多位女主播进行人身攻击，还对某短视频平台的主播和用户进行贬低。不少网友纷纷感叹：“直播带货圈这么乱吗？”

然而，此段录音也被查证为利用AI技术合成的虚假录音。2024年9月16日，安徽省合肥市公安局高新分局发布警情通报称，现已查明，王某某利用从互联网下载的音视频资料，杜撰卢某某酒后言论脚本，使用AI工具训练生成假冒卢某某的音频，并通过网络发布，形成谣言大量传播。目前，王某某已被依法采取刑事强制措施，案件正在进一步侦办中。

张子航表示：“就如同‘三只羊卢某某录音’事件，在一些社会热点事件中，当公众还没有获得完整信息的时候，一些不法分子以猎奇或者煽情等形式，利用AI技术生成事件相关人物的音频、视频等，博取公众的信任，进而达到传播虚假信息、引流的目的。”

“对于这种针对特定客体的造谣行为，造谣者可能需要承担民事责任。”张子航表示，根据民法典第1024条规定，民事主体享有名誉权，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。编造者、传播者需要承担的侵权责任，包括停止侵害、恢复名誉、消除影响、赔礼道歉及赔偿损失等。

此外，张子航认为，此类做法也可能涉嫌犯罪。“如果造谣者发布的内容有捏造事实诽谤他人的性质，且情节严重，达到了刑事立案的标准，那么造谣者可能面临诽谤罪的指控。而如果不法分子的行为造成了社会秩序的混乱，或者对事件相关人物的生活、工作等造成了严重影响，可能构成寻衅滋事罪。按照最高人民法院、最高人民检察院《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第5条之规定，利用信息网络辱骂、恐吓他人，情节恶劣，破坏社会秩序的，依照刑法第293条第1款第2项的规定，以寻衅滋事罪定罪处罚。”

擦亮双眼，辨别AI谣言中的漏洞

在AI技术的影响下，如今“眼见”“耳听”也未必“为实”了。那么，人们在上网时应该如何分辨由AI生成的谣言呢？

对此，张子航认为：“首先，我们在上网获取新闻消息时，要着重关注信息源是什么，尽量从权威的信息源处获取消息。例如，个人根本无权发布地震预测和地震灾情信息，因此从自媒体处发出来的地震等灾情信息，我们不能轻易信以为真。同时，也不要依赖单一的信息来源，最好从多个权威渠道获取信息。”

同时，张子航表示：“在AI技术快速发展的环境下，我们要有对AI作品进行初步分辨、鉴别的能力。许多AI生成的图片、视频中，可能存在人物表情僵硬、边缘模糊、光线阴影不自然、手指等细节数量异常或扭曲等。例如，‘埋在废墟下的男孩’这张图片就有一个很明显的漏洞，这个男孩的一只手上长了6根手指，这就提醒我们此图片是有问题的，不能轻易相信。”

“网民在上网时也要保持警惕，仔细分析信息的逻辑性，若信息存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息，在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。同时，提醒大家在上网时也要注意保护个人隐私，不随意泄露个人信息如个人照片、声音等给不可信的网站或应用程序，防止个人信息被用于生成虚假的内容。”张子航说。

那么，作为信息载体的社交媒体平台，应该如何规范用户行为，避免利用AI技术制造的谣言广泛传播呢？

对此，张子航提出了建议：“各个社交媒体平台可以在用户注册时，重点提示发布作品需要注意的事项，例如不得编造虚假信息对公共事件进行误导，或者对具体的法人、自然人进行人身攻击。如有违反，平台有权注销其账号；信息发布后，平台还有监管和审核义务，在造成严重负面影响之前，应及时删除虚假信息，正确引导用户；最后，一旦有用户涉嫌侵权或者犯罪，平台应当第一时间提供发布者的注册信息，便于被侵权人维权或者公安机关开展调查。”

同时，张子航表示：“目前看来，AI造谣仅是网络谣言的一种类别。看似新奇，实则并无现行法律法规无可奈何之处。针对AI造谣行为，相关部门可以通过司法解释，明确现行刑法里面的构罪标准，以此达到震慑效果，净化网络空间，为网民打造绿色、健康的网络环境。”