因為GPT-image-2，整個互聯(lián)網(wǎng)陷入信任沼澤
作者：卡茲克，首發(fā)：數(shù)字生命卡茲克
原標(biāo)題：因為GPT-image-2，整個互聯(lián)網(wǎng)都變成了巨大的黑暗森林。
4月22日，GPT-image-2正式上線了。
然后，所有的社群、社媒都玩瘋了。
甚至，GPT-image-2生成的梗圖，一度沖上了微博熱搜第一。
就是這張圖，為了防止大家誤會，我打了巨大的水印。
除了這張圖之外，我又看到了很多很多很多，因為搞抽象，因為我們太熟悉了，所以很容易被識別的GPT-image-2生成的假圖。
還有這種級別的照片。
甚至還有我朋友鮮蝦包，整活生成的微信聊天記錄。
大家玩的確實很High，但是這一整天，讓我忽然覺得，這個世界變成了一座巨大的黑暗森林。
昨天早上有一個特別典型的例子。
就是22日大概中午12點(diǎn)的時候，應(yīng)該是OpenAI在配置Codex模型的時候出了點(diǎn)問題。
導(dǎo)致GPT-5.5被泄露了出來。
如果是以前，那按照我們?nèi)河训牡滦?，幾乎都是會立刻打開Codex，然后去體驗，然后回到群里來反饋，說，真的上了真的上了類似的這種話。
但是昨天中午，我看到的卻是讓我非常不尋常的一幕。
然后又確實是因為BUG，所以泄露很快就被OpenAI收回了。
然后群友如果遲了一點(diǎn)去看的話，其實會發(fā)現(xiàn)，沒有GPT-5.5，只有5.4了。
群里的氛圍直接是這樣的。
最抽象的是，我把這個截圖發(fā)了朋友圈，感嘆了一句。
然后，評論區(qū)，是這樣使的。
都說我這兩張群里截圖也是AI生成的。
我把這個朋友圈發(fā)回到群里，想給大家看看這個神奇的評論區(qū)。
他們說，我發(fā)到群里的這個朋友圈截圖，也是AI生成的。
猜疑鏈閉環(huán)了。
這個世界，終于變成了一個巨大的黑暗森林。
還有這張圖，猜疑鏈更甚，昨天討論的非常的多，因為，已經(jīng)沒有人知道到底是真的還是假的了。
甚至我到現(xiàn)在即使拿原圖去豆包實測過，我也依然沒有辦法100%確實是真的還是假的。
我知道大家是在玩梗，是覺得好玩，大家本意都是善良的。
但，當(dāng)你們看到這些圖片的時候，我不知道你們會不會像我一樣，冷汗直冒。
還有些更敏感的比如轉(zhuǎn)賬截圖、銀行流水、護(hù)照啥的我就不放了。
放了我這篇文章我感覺都發(fā)不出去了。
我覺得因為這個模型的發(fā)布，有一個我們一直賴以生存的東西，悄悄的消亡了。
就是信任。
或者更準(zhǔn)確地說，是我相信我看到的東西是真的這件事本身。
在GPT-image-2之前，我們每天在互聯(lián)網(wǎng)上接收信息的時候，有一個默認(rèn)的底層假設(shè)，就是截圖是真的，照片是真的，聊天記錄是真的。
有圖有真相，這句話被流傳了很久很久。
我們不需要花任何精力去懷疑這些東西。
看到一張微博截圖，我們討論的是內(nèi)容本身。
看到一張聊天記錄，我們關(guān)心的是發(fā)生了什么事。
看到一張新聞圖片，我們思考的是新聞本身。
這個默認(rèn)信任，其實就是是整個互聯(lián)網(wǎng)信息生態(tài)運(yùn)轉(zhuǎn)的基石。
很多時候，我們甚至都都不需要意識到它的存在，就像魚很多時候也并不會意識到水的存在，我們也不會意識到空氣這種東西。
只有，當(dāng)它開始消亡的那一刻。
我并不是說，我們所有人，就會變得立刻、可以的去懷疑每一張圖本身。
但，那個懷疑的種子，已經(jīng)種下了。
未來，你看到一張圖，但凡有一點(diǎn)點(diǎn)跟你的感覺不符，或者，觸發(fā)了你的某個PTSD，你的腦海里必定會多出一個聲音，這是不是AI生成的？
這個聲音可能很小，可能只是一閃而過，可它就像種子一樣，深深的扎根在那里了。
而它，隨著AI的繼續(xù)發(fā)展，也只會越來越大，不會越來越小。
這就是黑暗森林。
那種著名的《三體》里面的黑暗森林法則。
宇宙是一座黑暗森林，每個文明都是帶槍的獵人。
在黑暗森林中，最核心的理論，就是猜疑鏈假設(shè)。
因為你無法判斷對方是善意和惡意的。
為了保護(hù)自己，你只能先行預(yù)設(shè)對方是惡意的。
就像現(xiàn)在的互聯(lián)網(wǎng)，我也無法判斷信息的背后，那個源頭的人，是抱有善意還是抱有惡意，我無法判斷，我的最優(yōu)解，就是先默認(rèn)不相信。
因為，制造假的東西變得太容易了。
當(dāng)造假的成本趨近于零的時候，信任的成本就趨近于無窮大。
這是一個非?；镜臄?shù)學(xué)問題。
2023年初，ChatGPT爆火的時候，我決定寫下自己的第一篇文章，選擇開始做一個IP，其實當(dāng)時思考了非常多。
那時候我非常焦慮，因為我不知道在AI時代，什么東西是不會被替代的，我花了很長時間去想這個問題。
我最后答案，只有一個詞。
信任。
今年年初我也對外發(fā)了一下當(dāng)時的思考。
當(dāng)時有三條自己認(rèn)為是公理的東西，雖然看著非常民科也很扯淡，但，當(dāng)時確實指導(dǎo)了我后續(xù)的一切。
1、在AI加持下信息生產(chǎn)的效率呈指數(shù)級爆發(fā)，而人類消費(fèi)的效率是恒定或線性增長的。二者之間形成了永久性的、不斷擴(kuò)大的結(jié)構(gòu)性失衡。
2、無論信息總量如何爆炸，一個社會在特定時間內(nèi)的總注意力是一個基本恒定的稀缺資源，一個領(lǐng)域注意力的增加必然意味著另一個領(lǐng)域注意力的減少。
3、辨別內(nèi)容由AI還是人類生成的成本，將系統(tǒng)性地高于該內(nèi)容本身帶來的價值。因此，絕大多數(shù)人將從理性上放棄辨別。
第三條，在23年跟很多朋友交流的時候，很多人其實還挺嗤之以鼻的。
"AI生成的東西這么假，我怎么可能看不出來呢。"
可昨天，這一天，在圖片領(lǐng)域，終于到來了。
而且來的方式，比我想象的還要快，還要徹底。
辨別的成本太高了，你花5分鐘去驗證一張截圖是不是真的，結(jié)果它可能就是真的，你浪費(fèi)了5分鐘。
也可能是假的，但那又怎樣呢？你每天要看幾百張圖，你不可能每張都花5分鐘去驗證。
所以最理性的策略就是，默認(rèn)一切都可能是假的。
或者，默認(rèn)一切都無所謂真假。
所以，當(dāng)年，我自己由這三條公理推導(dǎo)出的結(jié)論，就是：
傳統(tǒng)的信息篩選因失衡而不可能，因不可辨識而無意義，最終將會失效。
我們?yōu)榱藨?yīng)對有限注意力的挑戰(zhàn)，可能唯一的策略就是，放棄篩選信息，轉(zhuǎn)而篩選信息的源頭。
信任不再附著在信息上。
信任附著在人上。
這就是我當(dāng)年想做IP的原因。
不止是因為做IP能賺錢，也不止是因為做IP能出名，而是因為在一個真假難辨的世界里，一個你長期關(guān)注、長期驗證、長期建立了信任關(guān)系的活人，是你在信息洪流中唯一可以抓住的錨。
23年我做這個公眾號的第一天，給自己定了一條底線。
真誠是唯一的捷徑。
這并不所謂的雞湯。
這是我自己，在黑暗森林里的生存策略，也是為了對抗這個操蛋的AI時代，唯一的解法。
但說實話，今天，此時此刻，我完全沒有任何我三年前就說對了的得意感，我也完全不想炫耀任何東西。
一點(diǎn)都沒有。
我只有一種深深的不安。
我不知道互聯(lián)網(wǎng)的黑暗森林最終會演化成什么樣子。
我不知道信任的重建需要多長時間，需要什么樣的技術(shù)，需要什么樣的共識。
就像現(xiàn)在最主流的識別方案就是加AI水印，顯示水印和數(shù)字水印，比如C2PA。
但去除這些太簡單了。
就像C2PA，只能證明有這個標(biāo)簽的圖是AI的，但不能證明沒有這個標(biāo)簽的圖就是真的。
所以一張沒有C2PA標(biāo)簽的圖片，你依然無法判斷它是真的照片還是被去過標(biāo)簽的AI圖。
Google有一個叫SynthID的技術(shù)，思路稍微不太一樣一點(diǎn)，它是直接在圖像的像素層面嵌入不可見的水印，理論上這種水印更難去除，這個確實我是目前看到的AI檢測效果最好的方式，但是并不兼容其他家，只有Google自己玩。
而且在類似reddit的論壇里，依然有很多的攻破方式。
坦率的講，目前沒有任何一種技術(shù)手段，能夠可靠地檢測一張圖片是不是AI生成的。
這就是現(xiàn)實。
就像昨天群友在群里發(fā)的一段話。
那技術(shù)不靠譜的時候，我們普通人能做什么？
我想了想，能給的建議真的不多，但我覺得每一條都是有用的。
1、截圖不等于證據(jù)，這個觀念，需要從今天開始刻進(jìn)腦子里。
2、傳播任何圖片之前多停三秒鐘。
3、關(guān)注信息的源頭，而不是信息本身。
最后，如果非要說一句話。
我只能說，在這個黑暗森林里，做一個值得被信任的人。
這可能是我們唯一能做的事。
也可能是，最重要的事。
作者公眾號：數(shù)字生命卡茲克（ID：Rockhazix）
轉(zhuǎn)載請在文章開頭和結(jié)尾顯眼處標(biāo)注：作者、出處和鏈接。不按規(guī)范轉(zhuǎn)載侵權(quán)必究。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請聯(lián)系作者本人，侵權(quán)必究。
本文禁止轉(zhuǎn)載，侵權(quán)必究。
授權(quán)事宜請至數(shù)英微信公眾號(ID: digitaling) 后臺授權(quán)，侵權(quán)必究。
評論
評論
推薦評論
暫無評論哦，快來評論一下吧！
全部評論（0條）