“儿童邪典片流入视频网站 专家：人工智能难识别”

本篇文章1781字，读完约4分钟

这些儿童邪典视频在机器识别阶段很可能逃过审查，目前难以有万全之策，仍需大量人力投入

让facebook束手无策的“儿童色情攻击”，最近成为许多中国家长的噩梦。

表面上是儿童动画，但随着轻快的音乐，画面上突然出现裸体动画人物，随着戏剧的迅速发展，动画人物开始被灌肠、虐待，不再被大人看到。 但是，这些血腥色情的复制品被隐藏在小猪佩奇、艾莎公主、蜘蛛侠等经典儿童影视作品中。

1月18日，一位微博网友通报称，这些经过“二次改编”的不良视频已在腾讯、爱琪等头部视频网站长期播出。 如果搜索“艾莎”、“蜘蛛侠”、“小猪佩奇”等关键字，相关视频将显示在搜索列表的顶部。

不仅是腾讯、爱琪，这些视频几乎“入侵”了所有带视频功能的网站。 财经记者表示，该企业也发现了少量相关视频，目前正在采取屏蔽关键词等措施。

事件的严重性引起有关部门的重视，1月22日上午，北京市行政市场执法总队发布紧急通知，禁止“儿童邪典视频”工作人员，要求包括视频、各搜索引擎及游戏在内的单位立即下机，不得传递、利用。

文案评论一直是视频网站的课题。 去年年初，同样的事情曾让脸书束手无策。 在facebook的视频网站youtube上，突然出现了很多儿童不适合的动画。 其中，迪士尼动画《冰雪奇缘》中艾莎公主的改编视频流传最广。 视频中，艾莎接受了打开喉咙、开颅的手术，画面血腥，被浏览了数百万次。

时隔一年，这次“袭击”来到了中国。 1月23日晚，微博在声明中表示，经过技术检查，发现存在大规模、恶意的有组织的入驻行为。 这些进入文案的账户都是ugc的客户(原始客户)，有些账户的订阅超过了数万人，在这个规模上见过的孩子不少。 这些账户不仅从外网搬运，还有本土制造的糟糕的动画视频。

1月22日，全国“扫黄打非”办公室部署广东“扫黄打非”办公室，依法调查涉嫌制作传播儿童色情视频的广州胤钧贸易有限公司制作和传播儿童有害视频事件。 执法部门已经责令该企业离线所有相关录像，依法关闭两处生产经营场所，没收生产经营专用工具和设备，并责令当事人停止生产经营活动。

由于不良视频总量大、分布广、密集在线、变种类型多，腾讯视频已经紧急成立了100人的清扫队伍，进行了全天候的检查。

目前，共下架腾讯儿童邪典原视频1464部，嫌疑视频23万人，撤回53万余条视频再审。 阻止621个恶意帐户。 微博显示，入驻账号87个，有害入驻和搜索关键词4755个被永久关闭。

接受多家财经记者采访的视频网站表示，对当前视频平台ugc的审核方法、技术手段提出了新的挑战。

这些视频大多出现在几个月前到半年前，但没有被注意到。 据业内人士分析，视频大多分为亲子、少子、动画分类，最多被标记为“恶搞”。

我们知道，大多数视频网站都采用了机器识别、视频帧提取和手动审阅的审阅流程。 一位图像识别专家对《财经》记者说，人工智能可以识别人物是否穿衣等有点明确的作用和情节。 在这种情况下，识别率达到90%。

“但小猪佩奇的情况更复杂”，人工智能专家刘锋向《财经》解释说，这些文案和情节完全与色情作品无关，有些与不健康的世界观有关，比简单识别色情作品更难。 更重要的是，在以往的数据库中，小猪佩奇和艾莎公主这样的复制品没有被认为是恐怖和色情的，因此模型训练不足，无法识别人工智能。

另外，场景识别是另一个难点。 “这些视频中有穿着蜘蛛侠衣服的人，很容易和cosplay混淆，”另一位专家对《财经》说。

因此，这些视频很可能在机器识别阶段逃过审查。 要杜绝这种事情，目前很难采取万全的措施，仍然有很多人才需要投入。

去年“艾沙门”发生后，facebook除了现有的4500名视频评委外，还紧急追加雇佣了3000人。 经过半年的时间，到去年11月为止，其儿童色情视频的风波逐渐平息，被删除的视频超过了15万个。

一位领域人士对《财经》表示，在国内，人工审计大部分企业采取外包的形式，优先审查举报的视频。 但是，目前视频网站被认为需要越来越多的手段和解决方案，包括加强对ugc入驻者的资格认证。

另外，视频网站的另一个课题是视频拷贝审计要配合人工智能丰富知识库，提高图像识别能力，人工细分视频判断水平。 例如，在“不是裸体但模拟性”的情况下人工标记。

《财经》记者陈潇梁辰/文谢丽容/

原标题:这只小猪暂时没有佩吉《儿童经典视频》的人工智能