谷歌公司创建了一个工具,可以添加水印来识别使用人工智能创建的图像。
谷歌发布了一个测试版的工具,可以帮助识别人工智能生成的图像。 这就是 Synth,一种在图像像素上加入数字水印的技术。人眼无法察觉到海豹,但可以检测到以进行识别。
SynthID将提供给使用Image的有限数量的Vertex AI客户,Image是一种使用文本创建逼真图像的模型。
对于谷歌来说,人工智能生成的图像越来越难以与那些不是由这些系统创建的图像区分开来,这带来了风险,例如允许创作者有意或无意地传播虚假信息。
根据公司声明,这项技术由Google DeepMind开发,并通过Google Research完善,“提供了一种有前途的技术方法,使个人和组织能够负责任地使用人工智能生成的内容”。但是,他澄清说,SynthID目前对极端图像处理并非“万无一失”。
SynthID使用两种深度学习模型进行水印和识别。 对组合模型进行了优化,为Imagen生成的合成图像添加了难以察觉的水印。同样,通过扫描图像的数字水印,SynthID 可以评估它由模型创建的概率。
根据谷歌的说法,传统的水印不足以识别人工智能生成的图像,因为它们可以很容易地编辑。
“例如,在图像角落发现的离散水印可以用基本的编辑技术进行裁剪,”他说。
另一方面,他指出,可见水印对图像的美感提出了挑战,但难以察觉的水印“可以通过调整大小等简单的编辑技术丢失”。
因此,SynthID 工具允许水印在进行修改后保持可发现状态,例如添加滤镜、更改颜色以及使用各种有损压缩方案保存。