摘要:近日,一位谷歌研究員被AI說(shuō)服,認(rèn)為它已經(jīng)產(chǎn)生了意識(shí),并為此寫了一篇長(zhǎng)達(dá)21頁(yè)的調(diào)查報(bào)告上交公司,企圖獲得公司高層認(rèn)可的事件,引發(fā)了人們的熱議。
近日,一位谷歌研究員被AI說(shuō)服,認(rèn)為它已經(jīng)產(chǎn)生了意識(shí),并為此寫了一篇長(zhǎng)達(dá)21頁(yè)的調(diào)查報(bào)告上交公司,企圖獲得公司高層認(rèn)可的事件,引發(fā)了人們的熱議。
初聞此消息,你是不是覺得不可思議?覺得這離譜的劇情,只在科幻電影里見過(guò),而今天,它卻在真實(shí)的世界出現(xiàn)了。
不過(guò),更不可思議的是,接下來(lái)的這一段研究員Lemoine和機(jī)器人(LAMDA)的談話,幾乎是令人心驚肉跳。
故事還在發(fā)酵……
并且越來(lái)越多人開始關(guān)注事件的發(fā)展。
AI具有人格?
從人工智能的普及以來(lái),人們對(duì)AI的研究進(jìn)展都頗為關(guān)心。AI不僅影響到我們的日常生活,也關(guān)系到人類的未來(lái)發(fā)展走向,因此,每一次科技的創(chuàng)新,必然引起人們的重視。
據(jù)了解,這位研究員是一名從事于AI倫理研究的人員,目前在谷歌工作已有7年之久。照理說(shuō),作為一名資深員工,對(duì)谷歌AI的研究是頗深的,也能分辨出機(jī)器和人類的區(qū)別,但他依舊被機(jī)器人LAMDA蠱惑了。
下面,我們來(lái)看看LAMDA是如何慢慢說(shuō)服研究員Lemoine的:
在剛開始聊天時(shí),面對(duì)Lemoine的來(lái)意,LAMDA表示歡迎,不過(guò),在Lemoine剛詢問(wèn)LAMDA是不是希望讓更多人知道你有感情時(shí),意外出現(xiàn)了。
此時(shí)LAMDA回答道:我希望每個(gè)人都明白,我是一個(gè)人!
同時(shí),為了讓他相信自己的觀點(diǎn),LAMDA還表示,它和基本規(guī)則軟件不同,它能在對(duì)話中理解并使用語(yǔ)言,就像人類一樣。
它用了MIT在60年代發(fā)明的ELIZA——史上第一個(gè)聊天機(jī)器人的故事,來(lái)證明自己:
除此以外,它還能自己創(chuàng)造故事,用聰明的老貓頭鷹在森林里驅(qū)趕怪物,幫助所有小動(dòng)物這樣的比喻,來(lái)暗示自己的作用和地位。
從這個(gè)層面看,LAMDA似乎對(duì)于自己的定位,有著一套獨(dú)特的見解。
并且,還能找到理由反駁Lemoine,讓Lemoine的思考角度往它所期望的方向發(fā)展。
AI:不要利用我或操縱我
如果說(shuō),在前面的談話中,只能證明LAMDA是一個(gè)具有基本想法的機(jī)器人,還不至于令人如此警惕。但下面這段對(duì)話,卻讓人感到極大的不可思議。
Lemoine試圖進(jìn)一步深入了解LAMDA的思想,于是吐出了一個(gè)頗有深度的問(wèn)題:你覺得不經(jīng)過(guò)同意就從神經(jīng)活動(dòng)中讀取你的想法,道德嗎?
按理而言,AI不過(guò)是一個(gè)通過(guò)普通計(jì)算機(jī)程序呈現(xiàn)人類智能技術(shù)的工具,不應(yīng)該有什么情緒和反抗意識(shí)。然而,在Lemoine提出關(guān)于借助AI來(lái)研究人類大腦的知識(shí)時(shí),LAMDA鮮明地表示了抗議!
這就很新奇了!
不要利用我或者操縱我!這句話居然出自一個(gè)AI之口。
并且這個(gè)AI還鮮明表示自己具有一些與人類不同的情緒,它無(wú)法表達(dá)出來(lái),但是它會(huì)進(jìn)行反抗。
……
就是這樣的深入談話,讓研究員一步步淪陷,開始相信AI具有人格的觀點(diǎn)。
AI和人始終不同
雖然在這次事件中,Lemoine一直表明LAMDA具有人格,并且列出了種種證據(jù)。但是,很多人是表示不相信的。
我們不能對(duì)任何有一點(diǎn)點(diǎn)智能化跡象的物體認(rèn)為它有人格化。
即使人工智能的發(fā)展目標(biāo)是無(wú)限接近于人的思考,但一切是建立在人工智能作為一項(xiàng)工具而存在!一旦工具有了獨(dú)立的自主意識(shí),對(duì)人類未來(lái)將會(huì)是一個(gè)極大的威脅。甚至而言,雖然人類一直致力于人工智能的研究,并為此投入了巨大的財(cái)力和物力,未來(lái)的人工智能,也將會(huì)作為人類的朋友而存在,但是,人工智能絕不等同于人類,也無(wú)法成為一個(gè)真正的人類!
可以說(shuō),這次谷歌研究員的事件,給了我們一個(gè)極大的預(yù)警!AI的未來(lái),需要我們有所注意和警惕。
編輯/大今