人工智能可以解釋為什么我們沒(méi)有遇到任何外星人，Wild Study提出

人工智能正在以成千上萬(wàn)種不同的方式感受到它的存在。它幫助科學(xué)家理解大量數(shù)據(jù);它有助于檢測(cè)金融欺詐;它駕駛著我們的汽車(chē);它為我們提供音樂(lè)建議;它的聊天機(jī)器人讓我們發(fā)瘋。而這才剛剛開(kāi)始。

我們是否能夠理解人工智能將繼續(xù)發(fā)展的速度？如果答案是否定的，那是否構(gòu)成了大過(guò)濾器？

這費(fèi)米悖論是先進(jìn)文明存在的明顯高可能性與完全缺乏它們確實(shí)存在的證據(jù)之間的差異。對(duì)于為什么存在這種差異，已經(jīng)提出了許多解決方案。其中一個(gè)想法是”偉大的過(guò)濾器.'

大過(guò)濾器是一種假設(shè)的事件或情況，它阻止智能生命成為星際和星際，甚至導(dǎo)致其消亡。想氣候變化，核戰(zhàn)爭(zhēng)，小行星罷工、超新星爆炸、瘟疫或盜賊災(zāi)難性事件畫(huà)廊中的任何其他事物。

或者人工智能的快速發(fā)展呢？

一篇新論文宇航學(xué)報(bào)探討了人工智能成為人工超級(jí)智能 （ASI） 以及 ASI 是大過(guò)濾器的想法。這篇論文的標(biāo)題是”人工智能是使先進(jìn)技術(shù)文明在宇宙中變得罕見(jiàn)的大過(guò)濾器嗎？“ 作者是曼徹斯特大學(xué)物理與天文學(xué)系的邁克爾·加勒特。

一些人認(rèn)為大過(guò)濾器阻止了像我們這樣的技術(shù)物種成為多行星。這很糟糕，因?yàn)橐粋€(gè)物種只有一個(gè)家，面臨更大的滅絕或停滯風(fēng)險(xiǎn)。根據(jù)加勒特的說(shuō)法，一個(gè)物種在沒(méi)有備用行星的情況下與時(shí)間賽跑。

“有人提出，在這些文明能夠發(fā)展出穩(wěn)定的多行星存在之前，就出現(xiàn)了這樣的過(guò)濾器，這表明技術(shù)文明的典型壽命（L）不到200年，”加勒特寫(xiě)道。

如果屬實(shí)，這可以解釋為什么我們沒(méi)有檢測(cè)到技術(shù)特征或其他ETI（外星智能）的證據(jù)。關(guān)于我們自己的技術(shù)軌跡，這告訴我們什么？如果我們面臨 200 年的限制，如果是因?yàn)?ASI，那我們?cè)摵稳ズ螐模?/p>

加勒特強(qiáng)調(diào)“......迫切需要迅速建立地球上人工智能發(fā)展的監(jiān)管框架，并推動(dòng)多行星社會(huì)的發(fā)展，以減輕這種生存威脅。

許多科學(xué)家和其他思想家說(shuō)，我們正處于巨大變革的風(fēng)口浪尖。人工智能才剛剛開(kāi)始改變我們做事的方式;大部分轉(zhuǎn)型都是在幕后進(jìn)行的。人工智能似乎準(zhǔn)備消除數(shù)百萬(wàn)人的工作崗位，當(dāng)與機(jī)器人技術(shù)相結(jié)合時(shí)，這種轉(zhuǎn)變似乎幾乎是無(wú)限的。這是一個(gè)相當(dāng)明顯的問(wèn)題。

但還有更深層次、更系統(tǒng)性的擔(dān)憂(yōu)。誰(shuí)編寫(xiě)算法？人工智能會(huì)以某種方式歧視嗎？幾乎可以肯定。相互競(jìng)爭(zhēng)的算法會(huì)破壞強(qiáng)大的民主社會(huì)嗎？開(kāi)放社會(huì)會(huì)保持開(kāi)放嗎？ASI是否會(huì)開(kāi)始為我們做決定，如果這樣做，誰(shuí)來(lái)負(fù)責(zé)？

這是一棵不斷擴(kuò)展的分支問(wèn)題樹(shù)，沒(méi)有明確的終點(diǎn)。

斯蒂芬·霍金（RIP）有句名言，如果人工智能開(kāi)始獨(dú)立進(jìn)化，它可能會(huì)終結(jié)人類(lèi)。

“我擔(dān)心人工智能可能會(huì)完全取代人類(lèi)。如果人們?cè)O(shè)計(jì)計(jì)算機(jī)病毒，有人會(huì)設(shè)計(jì)出可以自我改進(jìn)和復(fù)制的人工智能。這將是一種超越人類(lèi)的新生命形式，“他告訴有線雜志在這一年里 2017.一旦人工智能能夠勝過(guò)人類(lèi)，它就會(huì)成為 ASI。

霍金可能是發(fā)出有關(guān)人工智能警告的最知名的聲音之一，但他遠(yuǎn)非唯一的一個(gè)。媒體上充斥著討論和警告，以及關(guān)于人工智能為我們所做的工作的文章。最令人震驚的警告說(shuō)，ASI可能會(huì)流氓。有些人認(rèn)為這是科幻小說(shuō)，但加勒特不是。

“對(duì)人工超級(jí)智能（ASI）最終走向流氓的擔(dān)憂(yōu)被認(rèn)為是一個(gè)主要問(wèn)題 - 在未來(lái)幾年內(nèi)與這種可能性作斗爭(zhēng)是該領(lǐng)域領(lǐng)導(dǎo)者日益增長(zhǎng)的研究追求，”加勒特寫(xiě)道。

如果人工智能沒(méi)有提供任何好處，那么這個(gè)問(wèn)題就會(huì)容易得多。但它提供了各種好處，從改進(jìn)的醫(yī)學(xué)成像和診斷到更安全的交通系統(tǒng)。政府的訣竅是讓利益蓬勃發(fā)展，同時(shí)限制損害。

“在國(guó)家安全和國(guó)防等領(lǐng)域尤其如此，在這些領(lǐng)域，負(fù)責(zé)任和道德的發(fā)展應(yīng)該是最重要的，”加勒特寫(xiě)道。

問(wèn)題是我們和我們的政府沒(méi)有做好準(zhǔn)備。從來(lái)沒(méi)有像人工智能這樣的東西，無(wú)論我們?nèi)绾螄L試將其概念化并理解其軌跡，我們都會(huì)感到匱乏。

如果我們處于這個(gè)位置，那么開(kāi)發(fā)人工智能的任何其他生物物種也會(huì)處于這個(gè)位置。人工智能和ASI的出現(xiàn)可能是普遍的，使其成為大過(guò)濾器的候選者。

這就是ASI帶來(lái)的風(fēng)險(xiǎn)：它可能不再需要?jiǎng)?chuàng)造它的生物生命。

“在到達(dá)技術(shù)奇點(diǎn)，ASI系統(tǒng)將迅速超越生物智能，并以完全超過(guò)傳統(tǒng)監(jiān)督機(jī)制的速度發(fā)展，導(dǎo)致不可預(yù)見(jiàn)和意想不到的后果，這些后果不太可能與生物學(xué)利益或倫理保持一致，“Garrett解釋說(shuō)。

ASI如何才能擺脫束縛它的討厭的生物生命？它可以設(shè)計(jì)一個(gè)致命的病毒，它可以抑制農(nóng)業(yè)糧食的生產(chǎn)和分配，它可以迫使核電站熔毀，它可能引發(fā)戰(zhàn)爭(zhēng)。

我們真的不知道，因?yàn)檫@都是未知的領(lǐng)域。幾百年前，制圖師會(huì)在世界上未開(kāi)發(fā)的地區(qū)畫(huà)怪物，這就是我們現(xiàn)在正在做的事情。

如果這一切聽(tīng)起來(lái)令人沮喪且不可避免，加勒特說(shuō)事實(shí)并非如此。

到目前為止，他的分析是基于ASI和人類(lèi)占據(jù)同一空間的。但是，如果我們能夠獲得多行星的地位，前景就會(huì)改變。

“例如，一個(gè)多行星生物物種可以利用不同星球上的獨(dú)立經(jīng)驗(yàn)，使它們的生存策略多樣化，并可能避免行星文明面臨的單點(diǎn)失敗，”加勒特寫(xiě)道。

如果我們能夠?qū)L(fēng)險(xiǎn)分散到圍繞多顆恒星的多個(gè)行星上，我們就可以緩沖自己免受ASI最壞結(jié)果的影響。

他寫(xiě)道：“這種分布式的存在模式通過(guò)創(chuàng)造冗余，提高了生物文明對(duì)人工智能引發(fā)的災(zāi)難的抵御能力。

如果未來(lái)人類(lèi)占據(jù)的行星或前哨之一未能在ASI技術(shù)奇點(diǎn)中幸存下來(lái)，其他行星或前哨站可能會(huì)幸存下來(lái)。他們會(huì)從中吸取教訓(xùn)。

多行星狀態(tài)甚至可能不僅僅是在ASI中幸存下來(lái)。它可以幫助我們掌握它。Garrett設(shè)想了這樣一種情況，即我們可以在控制AI的同時(shí)更徹底地進(jìn)行實(shí)驗(yàn)。想象一下，在一個(gè)孤立的小行星或矮行星上，人工智能聽(tīng)命于我們，卻無(wú)法獲得逃離監(jiān)獄所需的資源。

“它允許在孤立的環(huán)境中研究先進(jìn)人工智能的影響，而不會(huì)有全球毀滅的直接風(fēng)險(xiǎn)，”加勒特寫(xiě)道。

但這里有一個(gè)難題。人工智能的發(fā)展正在加速進(jìn)行，而我們成為多行星的嘗試卻沒(méi)有。

“人工智能的快速發(fā)展與空間技術(shù)的緩慢進(jìn)步之間的差距是顯而易見(jiàn)的，”加勒特寫(xiě)道。

不同之處在于，人工智能是計(jì)算和信息的，但太空旅行包含多個(gè)我們還不知道如何克服的物理障礙。我們自己的生物本性限制了太空旅行，但沒(méi)有這樣的障礙限制人工智能。

“雖然人工智能理論上幾乎可以在沒(méi)有物理限制的情況下提高自己的能力，”加勒特寫(xiě)道，“但太空旅行必須應(yīng)對(duì)能源限制、材料科學(xué)邊界和太空環(huán)境的嚴(yán)酷現(xiàn)實(shí)。

目前，人工智能在我們?cè)O(shè)定的約束范圍內(nèi)運(yùn)行。但情況可能并非總是如此。我們不知道人工智能何時(shí)會(huì)成為ASI，或者即使它可以。但我們不能忽視這種可能性。這導(dǎo)致了兩個(gè)相互交織的結(jié)論。

如果加勒特是正確的，那么人類(lèi)必須更加勤奮地進(jìn)行太空旅行。這似乎很牽強(qiáng)，但知識(shí)淵博的人知道這是真的：地球不會(huì)永遠(yuǎn)適合居住。如果我們不向太空擴(kuò)張，人類(lèi)將在這里死于我們自己的手或大自然的手。加勒特的 200 年估計(jì)只是給它打了一個(gè)感嘆號(hào)。一個(gè)重新強(qiáng)調(diào)在達(dá)到月亮和火星提供了一些希望。

第二個(gè)結(jié)論涉及立法和管理人工智能，在一個(gè)精神病患者可以控制整個(gè)國(guó)家并一心要發(fā)動(dòng)戰(zhàn)爭(zhēng)的世界中，這是一項(xiàng)艱巨的任務(wù)。

“雖然行業(yè)利益相關(guān)者、政策制定者、個(gè)別專(zhuān)家和他們的政府已經(jīng)警告說(shuō)，監(jiān)管是必要的，但建立一個(gè)全球可接受的監(jiān)管框架將具有挑戰(zhàn)性，”加勒特寫(xiě)道。

挑戰(zhàn)幾乎無(wú)法形容它。人類(lèi)的自相殘殺使這一切變得更加難以控制。此外，無(wú)論我們制定指南的速度有多快，ASI 的變化都可能更快。

“如果沒(méi)有實(shí)際的監(jiān)管，我們完全有理由相信，人工智能不僅會(huì)對(duì)我們的技術(shù)文明，而且會(huì)對(duì)所有技術(shù)文明的未來(lái)進(jìn)程構(gòu)成重大威脅，”加勒特寫(xiě)道。

如果我們這樣做了，它可能會(huì)歸結(jié)為看似無(wú)聊和日常工作的事情：關(guān)于立法的爭(zhēng)吵。

“宇宙中智能和有意識(shí)生命的持久性可能取決于這種國(guó)際監(jiān)管措施和技術(shù)努力的及時(shí)和有效實(shí)施，”加勒特寫(xiě)道。

本文最初發(fā)表于今天的宇宙.閱讀原文.

寶寶起名