时间:2023-07-25|浏览:180
AI竟然被自己骗了,这是怎么回事情呢?就是AI自己生成的照骗轻松逃过AI鉴别器的法眼。
然后有人用AI合成了一张马斯克机器女友的照片,然后更夸张的是合成了一张3米巨人都被AI识别成是真的了。以假乱真的AI生成式图片,AI自己分辨不出来了。而导致AI识别错误并不是什么高深的技术,而只是给图像增加颗粒度后,AI就出现了判断失误的情况。这样看来,AI鉴别器似乎不太靠谱的样子。
《纽约时报》最近做了一项测试,他们找来了市面上五个常见的AI鉴别器,分别喂给它们100多张照片做测试。结果发现,AI鉴别器不仅会把AI照片错认成真的,也会把真实照片划定为AI生成的。而且不同鉴别器之间的水平差距也不小。在这项测试中一共使用了5个AI鉴别器,分别是:Umm-maybe、Illuminarty、A.IorNot、Hive、Sensity,测试的内容包括AI和人类创作的图片,分别投喂给每个鉴别器,看它们识别判断的结果。
使用的AI创作工具包括Midjourney、StableDiffusion、Dall-e等。那么测试的结果是怎么样的呢?《纽约时报》主要展示了这样几个例子。包含5张AI创作的图片,以及2张真人拍的照片。从统计结果来看,五个鉴别器中只有Hive全部判断正确。Umm-maybe的表现最差,只判断对了两张图。
这就给我们带来了困惑了,A合成照片都可以获得国际摄影大奖,但是却难倒了AI鉴别器。但值得关注的是,如果对AI图像进行一些加工处理,AI鉴别器就会识别失效。比如一张AI生成的照片,在没有加工过的情况下,有4个鉴别器判断它是AI生成的。但如果给图片加一些颗粒,AI鉴别器就会将这张图片的AI含量从99%,判断为仅有3.3%。
这就带给了我们一个思考,当AI可以深度合成照片,然后再经过稍微的手动调整之后,AI鉴别器在鉴别的时候就会认为是真的照片。这会在一定程度上对人类社会带来一些干扰,尤其是在一些情感关系的调查中,一些调查公司完全可以利用AI合成技术,不仅能合成照片,还可以合成视频,甚至合成语音对话,或者编造录音。
面对人工智能技术,或许我们人类将会进入一个眼见不再为实,耳听不再为实的时代。当AI造假之后,又遇到AI无法鉴别真假的情况下,我们该如何应对AI时代的危机?
用戶喜愛的交易所
已有账号登陆后会弹出下载