麻省理工学院研发"PhotoGuard":保护图像免受恶意人工智能编辑

麻省理工学院开发的"PhotoGuard"技术为防止恶意人工智能编辑图像提供了一种解决方案。随着生成式人工智能系统的快速发展,许多公司努力使自己的产品与竞争对手区分开来,其中包括Shutterstock和Adobe等公司提供的聊天机器人具备编辑和创建图像的能力。然而,这些新的人工智能功能也带来了一些问题,例如未经授权的操纵或公然盗窃现有的在线艺术品和图像。为缓解这一问题,水印技术可以提供一定的保护,而麻省理工学院CSAIL开发的新技术"PhotoGuard"则可以防止恶意编辑。麻省理工学院研发"PhotoGuard":保护图像免受恶意人工智能编辑

"PhotoGuard"技术通过微小修改图像的像素来干扰算法模型对图像的理解能力,以此防止恶意人工智能编辑图像。该技术采用了两种攻击方法,一种是通过修改图像的像素来干扰算法模型的理解能力(称为"编码器"攻击),另一种是通过将图像伪装成另一张图像,使得算法将编辑应用到伪造的目标图像上从而生成不真实的图像(称为"扩散"攻击)。

然而,这种技术并非完全可靠,因为恶意人员仍然可以通过添加数字噪音、裁剪或翻转图像等手段来逆向工程受保护的图像。为了解决这个问题,需要模型开发者、社交媒体平台和政策制定者共同努力,提供一个全面的防御未经授权图像篡改的解决方案。

更多详细信息可以在以下论文中查阅:https://arxiv.org/abs/2302.06588

ai工具箱
ai导航
免费aigc导航
aigc工具
免费ai工具

相关新闻

联系我们

联系我们

微信747975991

在线咨询:点击这里给我发消息

邮件:1500158347@qq.com

工作时间:周一至周六,8:30-20:30,可以随时留言

扫码加微信
扫码加微信
返回顶部