OpenAI正开发新的AI图像检测工具
- +1 你赞过了
5月8日消息，OpenAI推出一款工具，用于检测图像是否由其DALL-E AI图像生成器制作，以及新的水印方法来更清楚地标记其生成的内容。
OpenAI方面称，该公司已经开始开发新的来源方法来跟踪内容，并判断是否由人工智能生成。其中包括一个新的图像检测分类器，来确定照片是否是人工智能生成的，以及一个防篡改的水印，可以用不可见的信号标记音频等内容。
OpenAI声称，即使图像被裁剪、压缩或饱和度被改变，分类器也能工作。虽然该工具可以检测图像是否由DALL-E 3制作，准确率约为98%，但其在判断内容是否来自其他AI模型方面的性能并不那么好，仅标记来自其他图像生成器的5%到10%的图片。
除了图像分类器，OpenAI 还开始向其文本到语音平台 Voice Engine 的片段添加水印。这一功能目前处于有限预览阶段。
据了解，OpenAI多年来一直致力于检测人工智能生成的内容。然而，在2023年，该公司不得不结束一个试图识别人工智能编写的文本的程序，因为人工智能文本分类器的准确率一直很低。
最新资讯
热门视频
新品评测