近日,多个网络平台出现了标题为《北京22名老师飞往贵阳,飞机落地下去后,全部陷入了沉默》的图文及配套AI短视频,编造校长离世、学生突发意外、吃过期面包等悲情离奇情节,引发网民关注转发。经贵阳市教育局核实确认,该消息为虚假信息,不存在北京22名教师赴贵阳的相关活动安排。
由AI生产的虚假短视频内容在网络平台上传播(图片来源:贵州互联网联合辟谣平台)
随后,贵阳市互联网联合辟谣平台发布提醒:网络空间并非法外之地,请广大网民遵守法律法规,不造谣、不信谣、不传谣,警惕这类套路化虚假内容。如发现同类谣言线索,可通过12377全国互联网违法和不良信息举报平台、0851-96599贵州省互联网违法和不良信息举报平台提交举报。
记者调查发现,这并非孤立的不实信息,其背后是一套依靠AI工具批量生成、套用固定模板、更换地域要素的内容生产模式,已形成可快速复制的造谣流水线。
一套模板“套用”,全国AI成造谣“流水线”
记者在网络平台梳理发现,“某某群体飞往某某城市,落地后全员沉默、落泪、惊呆了”早已是网络营销号的通用爆款模板。只需替换地名、职业身份等,就能衍生出数百条高度雷同的视频,覆盖全国各个城市。这些虚假内容多选取教育、医疗、公益等易引发公众共情的民生题材,刻意渲染情绪冲突,以“纪实感”包装虚假故事,容易让缺乏辨别能力的受众信以为真并转发扩散。
网络平台上充斥着大量仅替换城市名称的相同虚假内容(截图来源:各大网络平台)
目前,这类内容的生产已实现全流程AI化、批量化。记者从中国互联网联合辟谣平台、贵州互联网联合辟谣平台梳理的同类谣言案例中了解到,其生产链条主要分为三步:一是通过AI文案工具生成固定叙事框架的脚本,保留悬念式开头与悲情化情节,隐去具体时间、地点、人物等可核查要素;二是匹配生成AI画面或使用无版权通用空镜素材,用AI配音、自动字幕工具一键完成视频剪辑;三是通过矩阵账号分地域发布,依靠算法推荐收割流量,最终以流量分成、广告植入等方式变现。
此类模板化视频单条制作成本极低,从脚本生成到成片发布仅需数分钟,单个运营团队单日可产出数十至上百条不同地域版本的内容。与此同时,每一条此类谣言的传播,都需要属地相关部门开展核实、发布辟谣声明。
贵阳本地一名政务工作人员告诉记者,针对这类无中生有的不实信息,工作人员需要协调业务科室核查情况、草拟辟谣内容,反复应对同类模板化谣言,会占用不少正常工作精力。
律师:AI造假不能免责,多主体需承担相应法律责任
贵州华尔威律师事务所律师张江表示,利用AI套用模板批量编造故事、制作虚假短视频引流,需要承担多层法律责任。
民事层面,如果不实信息损害地方、相关单位或个人名誉,制作者、发布者要承担停止侵害、赔礼道歉、消除影响、赔偿损失等侵权责任;行政层面,故意编造、散布虚假信息,扰乱公共秩序,公安机关可依法给予行政处罚;刑事层面,如果编造传播险情、疫情、灾情、警情等虚假信息,严重扰乱社会秩序的,可能会触犯刑法相应罪名。
除此之外,平台负有内容审核义务,应当及时识别、下架处置这类模板化谣言。AI只是生产工具,标注AI生成不能成为编造虚假信息、误导公众的免责理由,账号运营者、内容制作者要对发布内容的真实性负责,不能借助AI低成本造假博取流量。