这就是为什么芝加哥大学的一组研究人员开发了一种工具，他们说这种工具能够使用艺术家自己的作品“毒害”这些人工智能图像生成器。《麻省理工科技评论》最先报道了这款名为“Nightshade”的软件。它的工作原理是通过改变艺术品的像素，使任何在其上训练的模型产生不可预测的和错误的图像。
当然，这取决于许多美工是否需要使用这一工具。尽管如此，作者指出，它提供了一种积极主动的方法来反击人工智能艺术盗窃——同时在未经艺术家许可的情况下，对这些模型进行艺术训练，形成了一种独特的威慑。
“数据中毒攻击操纵训练数据，在训练时将意想不到的行为引入机器学习模型，”该团队在一篇关于该工具的预印本论文中写道。“对于具有大量训练数据集的文本到图像生成模型，目前对中毒攻击的理解表明，成功的攻击需要向其训练管道中注入数百万个有毒样本。”
Nightshade通过改变图像的像素，使AI将其解释为与实际图像不同的图像，从而在几乎难以察觉的水平上起作用。例如，该团队“毒害”了数百张汽车图像，这样模型就会认为它们是牛。在给Stable Diffusion模型喂食300张中毒的汽车图像后，提示“汽车”导致奶牛死亡。研究小组还对狗和猫、帽子和蛋糕、手袋和烤面包机等其他配对进行了同样的研究。
该工具也适用于广泛的概念和艺术风格。例如，该研究的作者在1000幅立体主义艺术图像中加入了动画艺术，并将其输入图像生成器。这样，任何想要创造自己的人工智能毕加索的人，都可以从吉卜力工作室的电影中得到一些东西。
这种工具将是破坏AI美术生成器的强大方法。使用Nightshade上传的图片越多，这些模型就会被破坏得越多——最终被破坏得无法修复。
单伟，丁文鑫，Josephine Passananti，郑海涛，赵本
然而，作者确实注意到，这种类型的工具可能会在坏人手中武器化，以产生他们可能需要的任何提示的任何图像。例如，政治家可以创建一个模型，当你搜索他们的竞争对手的名字时，它会产生一个纳粹标志的图像。或者，当你提示“健康食品”时，连锁餐厅可以用它来制作自己的标志。
作者写道:“快速特定的中毒攻击是多功能和强大的。”“当应用于单个狭窄的提示时，它们对模型的影响可能是隐形的，很难检测到，因为提示空间很大。”
然而，作者认为，Nightshade可以成为阻止开发者未经许可使用艺术家作品的有效工具。只有在获得创作者的许可后，他们才能帮助确保他们用来训练模型的作品没有被毒害。
另一方面，对于那些厌倦了自己的作品被偷的沮丧艺术家来说，这也是一种很好的报复。
作者写道:“展望未来，作为鼓励模型培训师和内容所有者协商未来模型训练数据的许可采购途径的工具，有毒攻击可能具有潜在价值。”
这是水淼·Destoon文章发布王的试用版本发布的文章，故有此标记(2023-12-19 17:10:58)