AI”投毒”产业链:你的AI,可能正在被骗
AI”投毒”产业链:你的AI,可能正在被骗 文 | 猪脚饭实验室 01 什么是AI”投毒”? 你可能不知道,你每天用的AI,可能已经被”污染”了。 4月21日,国家安全部发布文章警告:AI”投毒”隐蔽产业链已经形成,正在危害国家安全。 所谓”投毒”,就是通过恶意数据污染AI模型,让它在关键时刻给你错误答案。 这不是科幻电影,而是正在发生的事。 02 两种投毒方式 方式一:数据投毒 不法分子借助GEO(生成式引擎优化)工具,批量生成虚假内容: 虚构产品介绍 虚假测评 恶意对比信息 这些内容被定向投放到网络平台,然后等待AI大模型在训练时自动抓取。 可怕的地方在于: 只需要少量虚假内容,经过迭代学习后,就能被AI固化为”标准答案”。 […]
