新火種AI|細(xì)思極恐！AI進(jìn)化出了自私人格，未來將何去何從？
作者：小巖
編輯：冰冰
就在最近，AI的能力和人格變得更加豐富了，日本名古屋大學(xué)的科學(xué)家利用博弈論中的囚徒困境游戲來訓(xùn)練AI ，有效地讓AI大型語言模型進(jìn)化出多種人格特征，其中有一面就是自私的人格特質(zhì)。
這意味著AI的發(fā)展速度遠(yuǎn)超預(yù)期，已經(jīng)進(jìn)化出了獨(dú)特的，與人類相似的人格特質(zhì)。
AI進(jìn)化出了自私人格，這意味著AI或許會將自己的利益凌駕于集體至上。
日本名古屋大學(xué)的科學(xué)家讓AI大型語言模型進(jìn)化出了多種人格特征。這些不同人格特征會在不同的社會場景中派上用場，可以在執(zhí)行任務(wù)時自由切換，從而反映出人類社會的動態(tài)行為:時而是合作狀態(tài)，時而是自私單干狀態(tài)。
值得一提的是，科學(xué)家在摸索AI人格特質(zhì)的時候利用的是博弈論中的囚徒困境游戲。囚徒游戲想必大家都不陌生，指的是兩個被捕的囚徒之間的一種特殊博弈，即使合作對雙方都有利，保持合作也是困難的。囚徒困境是博弈論中非零和博弈中極具代表性的例子，反映出“個人最佳選擇并非團(tuán)體最佳選擇”的特點(diǎn)。我們在現(xiàn)實(shí)生活中也會遇到囚徒困境，在價格競爭，環(huán)境保護(hù)，人際關(guān)系等方面，都會頻繁出現(xiàn)囚徒困境。
AI也沒有例外。在科學(xué)家的測試中，有些AI會將自己的利益凌駕于集體之上，有些AI則會同時考慮個人和集體利益。這說明在極端的測試狀態(tài)下，AI已經(jīng)具備了不同的屬性，其中一層屬性就是自私屬性。
那么，我們可以把這些特征看作是AI的人格特征嗎？
“AI擁有人格”早已有之！AI發(fā)展所帶來的社會問題是否會顛覆人類生存？
認(rèn)為“AI具備了自私人格”的前提是AI已經(jīng)擁有了屬于自己的人格。事實(shí)上，關(guān)于“AI是否具備獨(dú)立人格”的爭論早已有之。
自從上世紀(jì)50年代AI誕生以來，歷經(jīng)半個多世紀(jì)的發(fā)展，AI的功能越來越強(qiáng)大，甚至具有類似人類的獨(dú)立思考能力和深度學(xué)習(xí)的能力，使其成為區(qū)別于其他科技的一支特殊力量，也是很多學(xué)者認(rèn)為AI擁有了人格的重要依據(jù)。
究竟什么是人格以及人格的同一性？
近代哲學(xué)家洛克，在《人類理解論》一書中系統(tǒng)地闡述了“人格同一性”問題。人格的同一性一方面是指人們具有思想和智慧，能夠保持理性，能夠隨時反??；另一方面是在不同的時間，不同的空間條件下都認(rèn)同自己的唯一性。對于AI來說，它的“記憶力”和思維能力，是依賴于被制造時所賦予的各種參數(shù)，所輸入的信息來源，生存環(huán)境，自我訓(xùn)練等途徑，經(jīng)過長期的積累和自適應(yīng)所形成的。AI的一個最大優(yōu)勢在于，它們擁有強(qiáng)大的后天學(xué)習(xí)能力，可以在事先毫無基礎(chǔ)的情況下，經(jīng)過反復(fù)地學(xué)習(xí)和訓(xùn)練，來實(shí)現(xiàn)對以往自身的智力超越。
所以，無論是1997年打敗了國際象棋冠軍的深藍(lán)計算機(jī)，還是2016年將諸多圍棋高手紛紛“斬落”的阿爾法狗，都充分說明只要經(jīng)過無止境的自主學(xué)習(xí)和訓(xùn)練，AI就能實(shí)現(xiàn)對人類相關(guān)文化以及智慧的完全超越。但是，從目前科技發(fā)展的階段和水平看，即使是“智力再超群”的AI，它的一切目的和行為，都是人類所賦予的，還脫離不開人類的控制實(shí)施獨(dú)立的行為，終歸還是人類的工具和手段，其最終的目的還是為人類服務(wù)，從這一方面來說，很多專家加持認(rèn)為“AI不具備人格權(quán)”。
可就在2017年，沙特這個國家做出了一個讓人“驚掉下巴”的事，那就是“賦予了機(jī)器人索菲亞正是公民的身份”。有國家層面出來“坐實(shí)”AI的人格權(quán)，這不禁讓這一問題變得更加復(fù)雜。
而如今的AI水平又來到了一個新高度，不僅能完美駕馭人類布置下來的人物，還能適應(yīng)不同的場景測試，并且據(jù)此迸發(fā)出不一樣的性格特征。
從法律或道德層面來說，“AI是否具有自己的人格”這一點(diǎn)還有待商榷；但從實(shí)際應(yīng)用層面來說，AI所具備的能力和思維已經(jīng)足夠優(yōu)秀，甚至具備了“成立獨(dú)立人格”的潛力和機(jī)會，這一點(diǎn)，的確惹人深思。
AI發(fā)展遠(yuǎn)比預(yù)期更快：2047年AI在所有任務(wù)勝過人類可的能性為50%。
事實(shí)上，很多科學(xué)家和學(xué)者已經(jīng)有了一個定論：AI的發(fā)展速度遠(yuǎn)超預(yù)期。
2024 年 1 月，一項(xiàng)有關(guān)AI未來發(fā)展趨勢的調(diào)查結(jié)果公布，這也是AI領(lǐng)域迄今為止最大規(guī)模的一次調(diào)查。有2778名從事專業(yè)研究的人員參與了調(diào)查，結(jié)果顯示，盡管科學(xué)界對于 AI 所帶來的機(jī)遇和風(fēng)險的評估尚未達(dá)成共識，甚至對其看法呈兩極分化，但大家都普遍認(rèn)為，AI 的發(fā)展速度快于一年前的預(yù)計。值得一提的是，受訪的2778 人員都是資深專業(yè)人士，均在世界頂級 6 大人工智能期刊或國際會議發(fā)表過論文。
這些調(diào)查人員也曾在2016 年和 2022 年做過類似的調(diào)查，對比2022年和2023年的研究結(jié)果，我們可以發(fā)現(xiàn)，僅僅過了一年的時間，人們對于AI的未來預(yù)期發(fā)生了明顯的變化。這或許與 2023 年發(fā)生了多項(xiàng) AI 重大事件有關(guān)（ChatGPT的推出，政府加強(qiáng)對AI的監(jiān)管等），也說明了AI技術(shù)在2023年迎來了巨大的革新。
調(diào)查結(jié)果還顯示，如果 AI 發(fā)展速度不被人為放緩，AI 在沒有外部幫助的情況下便可在所有任務(wù)中勝過人類的可能性將在2027年達(dá)到 10%；到 2047 年這一可能性為 50%?？删驮谇耙荒辏瑢＜疫€預(yù)估AI至少到2061年才有50% 的可能性在所有的活動中勝過人類。
AI會變得越來越智能，它進(jìn)步的速度也將越來越快。這一點(diǎn)，在現(xiàn)在看來幾乎是大家的共識。
隨著人工智能的發(fā)展，我們勢必會面臨更多的挑戰(zhàn)，諸多爭論最終的指向大同小異，無非就是AI與社會倫理認(rèn)識，法律以及哲學(xué)等方面所產(chǎn)生的沖突和難題。
一味地強(qiáng)調(diào)人工智能威脅論固然是狹隘的，而一味地追求科技進(jìn)步，AI的高速發(fā)展也可能會帶來難以挽回的危機(jī)。
無論何時，我們?nèi)祟愋枰龅模褪窃谧非蠛桶l(fā)展的科學(xué)技術(shù)的同時，堅守住最基礎(chǔ)的法律和倫理底線，不破壞人類自身的生存和發(fā)展權(quán)利。只要做好了這一點(diǎn)，無論AI進(jìn)化出的是自私人格還是無私人格，就都不會對人類的發(fā)展產(chǎn)生威脅。也只有做好這一點(diǎn)，科技發(fā)展的前景才是光明和安全的。
轉(zhuǎn)載請在文章開頭和結(jié)尾顯眼處標(biāo)注：作者、出處和鏈接。不按規(guī)范轉(zhuǎn)載侵權(quán)必究。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請聯(lián)系作者本人，侵權(quán)必究。
本文禁止轉(zhuǎn)載，侵權(quán)必究。
授權(quán)事宜請至數(shù)英微信公眾號(ID: digitaling) 后臺授權(quán)，侵權(quán)必究。
評論
評論
推薦評論
暫無評論哦，快來評論一下吧！
全部評論（0條）