超級智能可能引發(fā)人類滅絕？

近日，這個話題成了全球熱點，因為有3000名科學(xué)家呼吁立即暫停人工智能的研發(fā)，其中還有一位中國科學(xué)家，他是中國科學(xué)院院士姚期智。

我總覺得有點夸大其詞，專家未免將超級智能說得太玄乎了，目前人工智能正在方興未艾，這時呼吁急剎車，將其視為潘多拉魔盒，是不是有點因噎廢食了呢？

到底是怎么回事呢？

今年10月23日，美國一家非營利組織叫“未來生命研究所”的，發(fā)表了一則聲明，警告超級智能可能將人類推向滅絕的邊緣，呼吁立即暫停，這份聲明聯(lián)合3000多知名人士簽名，其中有人工智能先驅(qū)杰弗里·辛頓、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克，還有中國科學(xué)院院士姚期智等。

這份聲明有以下幾個意思：

1.警告超越人類智能的AI系統(tǒng)可能帶來從經(jīng)濟(jì)崩潰到人類滅絕的風(fēng)險，必須立即暫停。

2.所謂超級智能，指的是在所有領(lǐng)域超越人類認(rèn)知能力的人工智能系統(tǒng)。是人工智能迭代的產(chǎn)物。

3.聲明說，“超級智能的前景已經(jīng)引起了人們的關(guān)注，其影響從人類經(jīng)濟(jì)的落伍和權(quán)力的剝奪，自由、公民權(quán)力、尊嚴(yán)和控制權(quán)的喪失，到國家安全風(fēng)險，甚至可能導(dǎo)致人類滅絕?！?/p>

4.未來，一個超級智能會發(fā)現(xiàn)通過操縱使用它的人類來獲取更多權(quán)力是輕而易舉的，之后它將從我們這里學(xué)會如何欺騙人類，它將操縱負(fù)責(zé)將它關(guān)閉的人類。

5.我們還沒有堅實的科學(xué)證據(jù)和切實可行的方法來確保超級智能的安全，使其不會給人類帶來災(zāi)難性的風(fēng)險。

挑戰(zhàn)不在于人類能否建立超級智能系統(tǒng)，而是一旦它們存在，人類能否控制它們。

6.如果以50年為限，超級智能一定會到來。

這份聲明不啻于在全球科技界投下一顆震撼彈。

雖然有3000多名科學(xué)家呼吁在“安全可控開發(fā)超級智能的廣泛科學(xué)共識”形成前，暫停相關(guān)研發(fā)。

但是還是有很多爭議的，主要有：

1.“超級智能”是否為炒作？

有觀點認(rèn)為，當(dāng)前AI仍屬“弱人工智能”，“超級智能”概念繼承了“超人工智能”的模因，是“模因大雜交的產(chǎn)物”。

支持者指出，一旦AI具備自我改進(jìn)能力（遞歸式自我優(yōu)化），其發(fā)展速度將遠(yuǎn)超人類預(yù)期。

然而，現(xiàn)在預(yù)言超級智能會滅絕人類，有點炒作的意味。

2.風(fēng)險是否被夸大？

部分學(xué)者認(rèn)為，氣候變化、核戰(zhàn)爭等風(fēng)險遠(yuǎn)高于超級智能。超級智能還是可控的。

3.監(jiān)管是否可行？

批評者指出，暫停研發(fā)可能導(dǎo)致技術(shù)壟斷（如僅少數(shù)國家/企業(yè)掌握核心技術(shù)）。但支持者認(rèn)為，全球協(xié)作制定安全標(biāo)準(zhǔn)是避免“失控競賽”的唯一途徑。

如今，人工智能是個熱門學(xué)科，高考生填報志愿，很多同學(xué)都盯住人工智能，然后是計算機(jī)，然后是電子通信自動化之類。

4.美國民調(diào)顯示，73%的美國人希望對先進(jìn)AI進(jìn)行強(qiáng)有力監(jiān)管，64%支持暫停超級智能研發(fā)。

人工智能英語縮寫為AI，簡單地說是指由人工制造出來的，并由電腦系統(tǒng)所表現(xiàn)出來的智能。

如今電動車的無人駕駛系統(tǒng)，電動車屏幕指揮系統(tǒng)，還有手機(jī)上的支付掃臉技術(shù)就是人工智能。

神奇的是，人工智能會自我迭代，AI通過連接并理解物理世界，實現(xiàn)自主學(xué)習(xí)與進(jìn)化，最終達(dá)成超越人類的飛躍。

這個從學(xué)習(xí)人到輔助人，再到超越人的框架，就實現(xiàn)了超級人工智能。

一些人害怕它一旦成為超級智能，其能力遠(yuǎn)遠(yuǎn)超過人類，它就會主宰人類，甚至滅絕人類。

但是，不要忘了，人工智能是人研究出來的，人類既然能夠創(chuàng)造它，也能夠控制它，因此，我贊成繼續(xù)研發(fā)人工智能，并建立更為完善的控制系統(tǒng)，而不是因噎廢食。

如果按照這些專家的理論，讓世界上大部分國家暫停研究人工智能，只允許少數(shù)發(fā)達(dá)國家擁有，形成一種新的壟斷，那才是最可怕的。

因此，人工智能自我迭代能力既是機(jī)遇也是挑戰(zhàn)。一方面，自我迭代的AI可以幫助我們更好地防御網(wǎng)絡(luò)攻擊、發(fā)現(xiàn)安全漏洞、預(yù)測和應(yīng)對各種安全威脅。另一方面，如果AI的發(fā)展失去控制，可能會被用于發(fā)展高級黑客工具、自主武器系統(tǒng)等，這些都可能對人類社會安全構(gòu)成威脅。

所以說，加強(qiáng)對AI技術(shù)的監(jiān)管和控制至關(guān)重要。

如今，我國幾乎所有的985高校都設(shè)置有人工智能專業(yè)。

人工智能專業(yè)排在前十幾名的大學(xué)是：

清華大學(xué)、北京大學(xué)、上海交通大學(xué)、中國科學(xué)院大學(xué)、中國科學(xué)技術(shù)大學(xué)、浙江大學(xué)、南京大學(xué)、中山大學(xué)、西安電子科技大學(xué)、西安交通大學(xué)、復(fù)旦大學(xué)、中國人民大學(xué)、北京航空航天大學(xué)、天津大學(xué)、電子科技大學(xué)、南京理工大學(xué)等等。

根據(jù)中國教育部門測算，我國人工智能人才目前缺口超過500萬，國內(nèi)的供求比例為1：10，供需比例嚴(yán)重失衡。

人工智能前景非常廣闊，任何事物都是有兩面性，我們不能因為人工智能的弊端而放棄，更不能掉進(jìn)某些大國故意布置的“陷阱”。

你對這件事情怎么看呢？請在評論區(qū)里留言，謝謝友友的關(guān)注。