麻省理工学院研发"PhotoGuard"：保护图像免受恶意人工智能编辑

麻省理工学院开发的"PhotoGuard"技术为防止恶意人工智能编辑图像提供了一种解决方案。随着生成式人工智能系统的快速发展，许多公司努力使自己的产品与竞争对手区分开来，其中包括Shutterstock和Adobe等公司提供的聊天机器人具备编辑和创建图像的能力。然而，这些新的人工智能功能也带来了一些问题，例如未经授权的操纵或公然盗窃现有的在线艺术品和图像。为缓解这一问题，水印技术可以提供一定的保护，而麻省理工学院CSAIL开发的新技术"PhotoGuard"则可以防止恶意编辑。

"PhotoGuard"技术通过微小修改图像的像素来干扰算法模型对图像的理解能力，以此防止恶意人工智能编辑图像。该技术采用了两种攻击方法，一种是通过修改图像的像素来干扰算法模型的理解能力（称为"编码器"攻击），另一种是通过将图像伪装成另一张图像，使得算法将编辑应用到伪造的目标图像上从而生成不真实的图像（称为"扩散"攻击）。

然而，这种技术并非完全可靠，因为恶意人员仍然可以通过添加数字噪音、裁剪或翻转图像等手段来逆向工程受保护的图像。为了解决这个问题，需要模型开发者、社交媒体平台和政策制定者共同努力，提供一个全面的防御未经授权图像篡改的解决方案。

更多详细信息可以在以下论文中查阅：https://arxiv.org/abs/2302.06588

ai工具箱
ai导航
免费aigc导航
aigc工具
免费ai工具