公众号：Ailiaili | AI软件网
Ai项目交流群，Ai账号交易充值，Ai软件分享,Ai网站导航,Ai工具大全等
复制公众号

警惕！AI动画“变味”，守护孩子清朗网络空间刻不容缓

记者深入调查发现，当下多个 AI 内容生成平台呈现出一种令人担忧的现象：用户仅需上传简单的人物形象、输入文字指令，就能在短时间内快速生成动态视频。与此同时，电商平台上也涌现出众多专门提供动画定制服务的商家。而在社交媒体上，有关 AI 生成大尺度图片的教学帖、经验帖屡见不鲜，其中动画领域更是成为 AI 视频不良内容的“重灾区”，各种乱象丛生。

AI动画“变味”：低门槛下的不良内容泛滥

AI 技术的飞速发展，使得制作视频的成本和门槛大幅降低，这无疑为内容创作者提供了极大的便利和助力。然而，这一技术红利却被一些别有用心的人利用，导致大量粗制滥造甚至导向不良的视频产品充斥网络，进入用户的视野。南开大学信息与传播学院副教授于孟利指出，一些投机型创作者敏锐地捕捉到青少年好奇心强的特点，将制作节奏快、刺激性强的 AI 动画当作获取流量的“密码”，不惜采用各种低俗、恶劣的手段来“博眼球”。

记者在某短视频平台上亲眼目睹了这一乱象的冰山一角。不少内容荒诞离奇，甚至含有暴力、软色情等不良元素的 AI 动画，却拥有十分可观的流量。例如，一条“奥特曼开着推土机疯狂碾压路面汽车”的动画，点赞量竟高达 2.6 万次。这些不良动画就像网络世界中的“毒瘤”，侵蚀着青少年的身心健康。

据业内人士透露，创作这类不良内容有着多种变现途径。除了通过平台的流量分成获取利益外，创作者还可以售卖盲盒、卡牌等周边产品，或者将用户引流至私域进行进一步营销获利。以“AI 山海经”为例，目前已有手办、玩偶、临摹绘本等衍生品在电商平台上热销，这无疑进一步刺激了不良内容的创作和传播。

平台监管：挑战重重下的困境

工信部工业和信息化法治战略与管理重点实验室副主任赵精武介绍，对于 AI 生成的图片、视频，平台通常采用“人工 + 机器”的方式进行审核。部分平台会运用数字技术工具对图片视频内容进行批量审核，有的平台还会设置专门的人工审核团队，针对用户投诉举报、首页推荐等显著位置的网络信息内容进行重点审核。

然而，这类批量生成的 AI 动画视频给平台的监管体系带来了巨大的挑战。赵精武表示，现有的审核机制在应对隐蔽性强、法律定性模糊的网络内容时存在明显的局限。平台往往难以在短时间内准确判定这些内容是否属于违法不良信息。此外，AI 生成的视频、图像常常与普通内容混杂在一起，进一步增加了识别的难度，导致人工审核成本大幅上升。平台在监管过程中面临着“心有余而力不足”的困境，难以有效遏制不良内容的传播。

多方合力：为孩子筑牢网络防护墙

当 AI 技术深度融入社会生活，如何让它成为孩子成长的好帮手，而不是炮制有害内容的帮凶，已成为亟待解决的重要问题。

政策引领：明确规范与专项整治

2024 年发布的《生成式人工智能服务安全基本要求》，对生成式人工智能服务适用未成年人的有关内容作出了明确规定，为行业健康发展提供了政策指引。2025 年 4 月，中央网信办开展“清朗·整治 AI 技术滥用”专项行动，重点整治利用 AI 脱衣、AI 绘图等功能生成合成色情内容，制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面等不良行为，彰显了政府整治网络乱象、保护未成年人权益的坚定决心。

平台担责：强化审核与精准推送

多位受访专家建议，要进一步加强 AI 生成视频产业链的监管力度，压实平台主体责任。赵精武表示，网络平台应重点审核面向未成年人群体的 AI 合成推送信息，设置专门团队优化未成年人用户算法推荐服务，增加优质网络信息内容的推送权重。通过技术手段和人工干预相结合的方式，为未成年人营造一个健康、绿色的网络环境。

源头治理：嵌入水印实现精准溯源

在源头治理方面，于孟利建议应在 AI 生成工具上强制嵌入不可篡改的数字水印。这样一来，每一件 AI 生成的作品都能实现精准溯源，一旦发现不良内容，可以迅速追溯到创作者，从而有效遏制不良内容的创作和传播，从源头上净化网络空间。

家庭守护：家长把关与正确引导

“低龄儿童对信息真伪的判断力较弱，面对 AI 等新技术带来的网络信息洪流，家长应积极承担监护人职责，成为孩子观看内容的最后一道‘把关人’。”中国传媒大学动画与数字艺术学院院长王雷强调。家长要关注孩子的上网行为，引导孩子正确使用网络，培养孩子辨别是非的能力，让孩子在健康的网络环境中成长。

学校教育：生命教育与内容供给

天津市安定医院儿童青少年心理科病区主任雷彤表示，学校和家庭应加强未成年人的生命教育等，让孩子培养正确的价值观，抵御不良网络内容的侵蚀。同时，要加大优质儿童文化产品的供给。“当‘正’的内容足够多、足够有趣，‘邪’的内容自然便没有了生存空间。”雷彤说。学校可以通过开展丰富多彩的课外活动、开设相关课程等方式，为孩子提供更多有益的精神食粮，引导孩子树立正确的世界观、人生观和价值观。

守护孩子清朗的网络空间，需要政府、平台、家庭和学校等多方共同努力，形成合力。只有这样，才能让 AI 技术在健康、有序的轨道上发展，为孩子的成长保驾护航。

本文链接：https://ailiaili.cc/post/1035.html