99%可靠！OpenAI开发生成图像检测工具

检测器械AI or Not误报以色列死婴照片为AI天生。跟着人工智能器械可用于专揽或捏制环球事项的消息报道，对此类检测器械的需求只会越来越强。

当每每间10月17日，OpenAI首席施行官山姆奥特曼和该公司首席工夫官米拉穆拉蒂正在《华尔街日报》Tech Live聚会上。

ChatGPT的开拓机构OpenAI正正在构修一个器械，能够对由其人工智能供职DallE 3创修的图像实行高度准确的检测。

外地工夫10月17日，OpenAI首席工夫官米拉穆拉蒂（Mira Murati）正在美邦加利福尼亚州拉古纳海滩进行的《华尔街日报》Tech Live聚会上显现了这一讯息。她说，OpenAI的这个器械“99%牢靠”，正正在布置公然拓布进取行内部测试，但她没有的确分析工夫外。

OpenAI正在本年1月颁布了一个好似的器械，旨正在确定文本是否是人工智能天生的，但该器械正在7月被抛弃，由于它并不牢靠。该公司当时展现，正正在极力刷新软件，并悉力于开拓手腕来识别音频或图像是否也是由人工智能天生的。

OpenAI开拓的DallE是目前最健旺的人工智能天生图像产物之一，与Midjourney和Stable Diffusion等软件合伙为互联网供给了巨额AI图像。个中极少作假图片正在社交搜集上弥漫，极度是正在巨大邦际冲突产生后。

就正在近来，一张合于以色列死婴的照片再次激励争议。10月12日，以色列总理本杰明内塔尼亚胡的官方账户颁布了一张被烧焦的尸体的图片，称该图片显示一名婴儿正在10月7日的袭击中被万分结构哈马斯摧残。正在图片颁布后的几个小时内，很众社交媒体账号展现，基于名为“AI or Not”的人工智能检测器械的结果，这张照片是由人工智能天生的。然而，几位图像阐述专家以及AI or Not背后的公司展现，这些结果是检测器械误报，这张照片很或者是切实的。

AI or Not最终检测结果显示，这张以色列死婴照片很或者是线日的一条推文中，AI or Not背后的公司展现，其软件可以误报，意味着它能够谬误地得出切实照片是由人工智能天生的结论，特别是当干系图像质料较低时。

特意从事图像阐述的探问机构Bellingcat早正在2023年9月就测试了AI or Not。“正在识别被压缩的人工智能图像（特别是切实感图像）时，AI or Not的谬误率都很高，这大大消重了它对开源探讨职员的适用性。”该团队总结。

自ChatGPT颁布今后，曾经有众个器械声称能够检测人工智能创制的图像或其他内容，但它们往往都不行担保齐全正确。跟着人工智能器械可用于专揽或捏制环球事项的消息报道，对此类检测器械的需求只会越来越强。

17日，穆拉蒂还对GPT-4的后续AI模子作出了默示。即使OpenAI尚未公然展现GPT-4的后续模子或者会被称为什么，但该公司7月向美邦专利字号局提交了“GPT-5”字号申请。当被问及GPT-5模子是否会不再撒布浮名时，穆拉蒂说：“也许吧。”