央视的报道揭露了人工智能存在数据污染的风险。在宁波,有两件原本毫无关联的事情,却被 AI 错误地联系在一起,这一情况引发了广泛关注。
国家安全部对此发出警告,指出 “数据投毒” 行为会严重干扰模型的训练。即便只是混入 0.001% 的虚假数据,也可能使有害输出的比例上升 7.2%。被污染的数据会误导决策,对金融、公共安全等多个领域构成威胁,同时还会破坏信息的真实性。
针对这一问题,专家建议应加强对数据源头的监管,使用可信的数据源,建立完善的数据治理框架,并且结合人工与 AI 技术对数据进行清洗和修复。来源

.
.
.
.
.
.
