模型反噬

用AI生成的数据训练AI，不会有魔法，只会被反噬。近日，莱斯大学和斯坦福团队发现，将AI生成的内容喂给模型，只会导致性能下降。研究人员对此给出一种解释，叫做「模型自噬障碍」（MAD）。论文地址:https://arxiv.org/abs/2307.01850研究发现在使用AI数据，经过第5次迭代训练后，模型就会患上MAD。66在合成数据上训练AI模型会逐渐放大伪影