治理“AI污染”要防管结合(创新谈)

随着AI(人工智能)深度融入千家万户，“遇事不决问AI”成了许多人的选择，但AI回答未必都是“干净”的。不久前，有媒体曝光“AI投毒”隐蔽产业链现象，引发社会广泛关注。

所谓“AI投毒”，是向人工智能大模型的训练数据中，掺入伪装成正常样本的恶意数据或虚假信息，进而影响模型判断、操纵输出结果。“投毒者”可以批量制造虚假网页、新闻，让AI在抓取数据时一并“吞下”，在不知不觉中“学歪”，最终固化为针对特定问题的“标准答案”；也可以在模型中植入隐蔽的后门指令，一旦触发特定关键词就输出预设信息。

信任是链接人与人工智能的重要前提。对个人而言，这种“看不见的污染”轻则影响体验，重则误导决策。比如AI推荐购物，它可能引导你购买被包装出来的“爆款”；向AI咨询医疗建议，它可能引用虚假病例，给出危险的治疗方案……在医疗、金融等关键领域，这种风险尤其值得警惕。对产业而言，如果“数据不可信”成为普遍担忧，企业之间的合作意愿就会下降，行业的创新效率也会受到影响。