数据投毒攻击（Data Poisoning Attack）是一种针对机器学习模型的对抗性攻击手段，攻击者通过向训练数据集中注入精心设计的恶意样本，以操纵模型的训练过程，导致其在部署阶段产生偏差或错误行为。这种攻击通常在数据收集或模型训练阶段发生，目的是破坏模型的可靠性、完整性或安全性，例如在图像识别系统中，注入误导性图像可能使模型误判正常对象。
在AI产品开发的实际落地中，数据投毒攻击可能对推荐系统、金融风控或自动驾驶等关键应用造成严重威胁，如引发不公平推荐或安全漏洞。AI产品经理需在产品设计阶段关注防御策略，包括实施严格的数据清洗流程、整合异常检测机制、采用鲁棒学习算法（如对抗训练）以及定期进行模型审计，以提升产品的抗攻击能力和用户信任度。
在线咨询
请输入您的问题：
提示：系统优先提供真人服务。非工作时间或繁忙时，会由 AI 生成回答，可能存在错误，请注意甄别。