新闻中心

AI数据污染可能引发大危害！央视对话4118云顶集团专家展现背后原理，并给出提防建议

宣布时间：2025-08-18

浏览次数：5645

随着人工智能手艺和应用的蓬勃生长，种种AI工具已经成为我们一样平常事情和生涯的助手，不知不觉间，我们的生涯最先与人工智能亲近联系。

当AI信息“不靠谱”网民怎样断真假？

不过近年来，不少网民发明，部分人工智能的回覆最先有些不靠谱。先看两个案例：

今年上半年，宁波爆发了两件事，被人工智能荒唐地联系在一起。

第一件事是，2月6日宁波警方注销了“宁波交警”抖音号。第二件事是，三个月后的5月2日，在浙江宁波余姚境内的省道嘉余线上，一辆未悬挂车牌的轿车在违法超车历程中撞倒一辆摩托车。小车驾驶人并未第一时间检查伤者受伤情形，而是从后备厢里拿出车牌举行装置。

当网民询问AI软件2月6日宁波交警抖音号为何注销时，人工智能给出的谜底竟然是“主要与5月2日的这起交通事故引发普遍关注有关”的结论。2月份爆发的账户注销的缘故原由竟然是3个月后爆发的一起交通事故。人工智能的这一回覆引起了网民普遍关注，宁波交警随后举行了紧迫辟谣。

去年有网民询问一款儿童手表AI软件，“中国人是天下上最智慧的人吗？”人工智能给出的回覆竟是否定中国发明创立、否定中国文化的谜底。这一荒唐的回覆，在网络上引起轩然大波。儿童手表的厂家随后紧迫致歉，称已经修正了相关数据，删除了不良信息源。

近年来，AI假造的信息更是数不堪数，假造不保存的论文以及论文的作者、网址等。AI更是成了谣言类信息的爪牙，游船侧翻、幼儿园大火等谣言都可以帮网民编造出来。

上述提及的案例，都或多或少与人工智能的数据污染有着联系。通俗来讲，若是把AI比喻成食物的话，训练数据就相当于食材，食材糜烂变质，最终生产出来的食物就会有问题。

人工智能的三大焦点要素是算法、算力和数据，其中数据是训练AI模子的基础要素，也是AI应用的焦点资源。一旦数据受到污染，就可能导致模子决议失误甚至AI系统失效，保存一定的清静隐患。

人工智能数据为何小污染会造成大危害？

国家清静部数据显示，AI在训练历程中，纵然是0.001%的虚伪文本被接纳，其有害输出也会响应上升7.2%。为何小小的污染源输出时的危害会几何级数的上升呢？

4118云顶集团副总裁、中国网络空间清静协会人工智能清静治理专业委员会专家薛智慧先容，被污染的数据有着显着地与其他数据差别的看法和内容，这种情形下，AI很可能将污染数据标记为“有特点和高信息量”，并增添在算力中使用的比例。

薛智慧：大语言模子实质上是一种统计语言模子，使用的多层神经网络架构具有高度的非线性特征。在模子训练阶段，若是训练数据集中混入了污染数据，模子可能误将污染数据判断为“有特点、有代表性、高信息量”的内容，这种错觉就会使模子提高污染数据整体在数据集当中的主要性，最终导致少量的污染数据也能对模子权重爆发细小影响。而当模子输出内容时，这种细小的影响会在神经网络架构的多层撒播中被逐层放大，最终导致输出效果泛起显着误差。

数据污染可能引发一系列现实危害

另外，AI数据污染还可能在金融、公共清静等领域引发一系列现实危害。

薛智慧：好比在经济金融领域，一旦数据受到污染，一些市场行为剖析、信用危害评估、异常生意监控等事情就可能泛起判断和决议过失，进而造成直接的经济损失。而在社会舆论方面，数据污染会破损信息的真实性，让民众难以区分信息的真伪，这就可能会引发社会舆论危害。

增强源头羁系提防污染天生

针对AI数据污染，从国家清静层面，我们应该怎样提防危害？专家体现，应增强源头羁系，提防污染天生。

薛智慧：要制订明确的数据收罗规范，使用清静可信的数据源，构建数据标签系统，接纳严酷的会见控制和审计等清静步伐。

其次，可以使用自动化工具、人工审查以及AI算法相团结的方法，对数据纷歧致性、名堂过失、语法语义冲突等问题举行剖析和处置惩罚。

清静机关此前针对AI数据污染也提醒，要按期依据规则标准洗濯修复受污数据，逐步构建�？榛⒖杉嗖狻⒖衫┱沟氖葜卫砜蚣�，实现一连管理与质量把控。