OpenAI就何时发布AI生成图像检测工具展开讨论

OpenAI一直在讨论何时发布能检测DALL-E3生成的AI艺术模型创建的工具，但准确性未达标准

最近，OpenAI透露，他们一直在进行“广泛讨论和争论”，决定何时发布一种可以检测图像是否由其生成AI艺术模型DALL-E3创建的工具。据OpenAI研究员Sandhini Agarwal透露，虽然该分类器工具的准确性“非常好”，但它还未达到公司的质量标准。

该工具对于确定照片的来源具有重大影响，例如一件作品是否为艺术家所绘或是否具有误导性。因此，如果推出一个不太可靠的工具将会引发一系列问题。

尽管OpenAI的分类器似乎准确度极高，检测未修改的照片是否由DALL-E3生成的可靠性达到99%，但公司不愿透露准确的指标。此外，OpenAI还在讨论人工智能生成图像的本质哲学问题。

显然，DALL-E3从零开始生成的艺术作品符合要求，但是经过多轮编辑和处理的图像又如何分类呢？这一问题尚不明确。这也引发了公众对于该工具有一定局限性的质疑。

考虑到之前推出的公共文本分类器工具所受到的广泛批评，OpenAI最后取消了该工具，理由是“准确度低”。这也进一步印证了对于新推出的图像检测工具，OpenAI正小心平衡推出一个可能不够可靠的工具与公众获取检测深度伪造的需求。

尽管生成媒体的水印和检测日益受到重视，但该领域还没有形成单一的标准。即使确实形成，也无法保证水印和检测器不会被攻破。

ai工具箱
ai导航
免费aigc导航
aigc工具
免费ai工具