研究發(fā)現(xiàn)，人工智能實際上并不對人類構(gòu)成生存威脅

科幻小說中充斥著人工智能變得流氓并轉(zhuǎn)向他們的人類創(chuàng)造者。HAL-9000型。矩陣。天網(wǎng)。GLaDOS的。賽昂人。人類似乎對機器的反叛有著深深的恐懼。

隨著越來越復(fù)雜的大型語言模型 （LLM） 的興起，例如 Chat GPT，以下問題人工智能可能帶來哪些危險有變得更有針對性.

現(xiàn)在，我們有一些好消息。根據(jù)德國達姆施塔特工業(yè)大學(xué)的計算機科學(xué)家Iryna Gurevych和英國巴斯大學(xué)的Harish Tayyar Madabushi領(lǐng)導(dǎo)的一項新研究，這些模型無法流氓。

事實上，他們的編程限制太強了，沒有指導(dǎo)就無法獲得新技能，因此仍然在人類的控制之下。

這意味著，盡管我們?nèi)匀挥锌赡軐⑦@些模型用于惡意目的，但就其本身而言，LLM 可以安全地開發(fā)而不必擔(dān)心。

“人們擔(dān)心的是，隨著模型越來越大，它們將能夠解決我們目前無法預(yù)測的新問題，這構(gòu)成了這些大型模型可能獲得包括推理和計劃在內(nèi)的危險能力的威脅。Tayyar Madabushi 說.

“我們的研究表明，擔(dān)心一個模型會消失并做一些完全出乎意料的、創(chuàng)新的和有潛在危險的事情是站不住腳的。

在過去的幾年里，LLM 的復(fù)雜性已經(jīng)發(fā)展到了驚人的程度。他們現(xiàn)在能夠通過文本進行相對連貫的對話，以一種自然和人性化的方式。

他們并不完美——因為他們實際上不是一種智力形式，他們缺乏這關(guān)鍵技能需要從壞信息中解析好信息在許多情況下.但他們?nèi)匀豢梢砸粤钊诵欧姆绞絺鬟_不良信息。

最近，一些研究人員已經(jīng)調(diào)查了可能性什么被稱為緊急能力由 LLM 獨立開發(fā)，而不是在其編程中故意編碼。一個特別的例子是法學(xué)碩士，它是能夠回答問題關(guān)于社交場合，而沒有接受過關(guān)于這些情況的明確培訓(xùn)。

觀察結(jié)果是，隨著LLM的規(guī)模擴大，它們會變得更加強大，并且可以執(zhí)行更多的任務(wù)。目前尚不清楚這種規(guī)模是否也意味著我們可能沒有準(zhǔn)備好應(yīng)對的行為風(fēng)險。因此，研究人員進行了一項調(diào)查，以查看此類實例是否真的緊急出現(xiàn)，或者該程序只是在其代碼范圍內(nèi)以復(fù)雜的方式運行。

他們試驗了四種不同的LLM模型，為它們分配了具有以前被確定為緊急.他們沒有發(fā)現(xiàn)任何證據(jù)表明差異化思維的發(fā)展，也沒有發(fā)現(xiàn)任何模型能夠在他們的編程之外發(fā)揮作用。

對于所有四個模型，遵循指示、記憶和語言熟練程度的能力能夠解釋 LLM 表現(xiàn)出的所有能力。沒有離開滑雪道。我們沒有什么可害怕的，LLMs本身。

另一方面，人們，不太值得信賴.我們自己對人工智能的爆炸性使用，需要更多的能量并挑戰(zhàn)從版權(quán)到信任，再到如何避免自己的一切數(shù)字污染，這正在成為一個真正的問題。

“我們的研究結(jié)果并不意味著人工智能根本不構(gòu)成威脅，”古列維奇 說.

“相反，我們表明，與特定威脅相關(guān)的復(fù)雜思維技能的出現(xiàn)并沒有得到證據(jù)的支持，而且我們畢竟可以很好地控制LLM的學(xué)習(xí)過程。因此，未來的研究應(yīng)該關(guān)注這些模型帶來的其他風(fēng)險，例如它們可能被用來產(chǎn)生假新聞。

該研究已作為會議記錄的一部分發(fā)表第62屆計算語言學(xué)協(xié)會年會.

寶寶起名