美國(guó)剛剛公布了迄今為止最雄心勃勃的控制人工智能的嘗試

周一，美國(guó)總統(tǒng)拜登發(fā)布了一項(xiàng)范圍廣泛且雄心勃勃的行政命令關(guān)于人工智能 （AI）– 將美國(guó)推上了關(guān)于監(jiān)管人工智能的對(duì)話的前沿。

在這樣做的過(guò)程中，美國(guó)在統(tǒng)治人工智能的競(jìng)賽中超越了其他國(guó)家。歐洲此前以其人工智能法案，該公約于2023年6月由歐洲議會(huì)通過(guò)，但要到2025年才能完全生效。

總統(tǒng)行政命令是監(jiān)管人工智能的一系列舉措——其中一些是好的，而另一些則看起來(lái)相當(dāng)半生不熟。它旨在解決從直接的危害（如人工智能生成的深度偽造）到中間的危害（如失業(yè)），再到長(zhǎng)期的危害，如人工智能可能對(duì)人類構(gòu)成的備受爭(zhēng)議的生存威脅。

拜登雄心勃勃的計(jì)劃

美國(guó)國(guó)會(huì)在通過(guò)對(duì)大型科技公司的重大監(jiān)管方面進(jìn)展緩慢。這項(xiàng)總統(tǒng)行政命令可能既是為了回避經(jīng)常陷入僵局的國(guó)會(huì)，也是為了啟動(dòng)行動(dòng)。例如，該命令呼吁國(guó)會(huì)通過(guò)兩黨數(shù)據(jù)隱私立法。

在當(dāng)前形勢(shì)下，兩黨的支持？祝你好運(yùn)，總統(tǒng)先生。

據(jù)報(bào)道，該行政命令將在未來(lái)三個(gè)月至一年內(nèi)實(shí)施。它涵蓋八個(gè)領(lǐng)域：

1. 人工智能的安全和安保標(biāo)準(zhǔn)
2. 隱私保護(hù)
3. 衡平法和公民權(quán)利
4. 消費(fèi)者權(quán)益
5. 工作
6. 創(chuàng)新與競(jìng)爭(zhēng)
7. 國(guó)際領(lǐng)導(dǎo)地位
8. AI 治理。

一方面，該命令涵蓋了學(xué)術(shù)界和公眾提出的許多擔(dān)憂。例如，其中一項(xiàng)指令是發(fā)布關(guān)于如何對(duì)人工智能生成的內(nèi)容加水印的官方指導(dǎo)，以降低深度偽造的風(fēng)險(xiǎn)。

它還要求開(kāi)發(fā)人工智能模型的公司證明它們是安全的，然后才能推出以供更廣泛地使用。拜登總統(tǒng)說(shuō):

這意味著公司必須向政府介紹他們正在開(kāi)發(fā)的大規(guī)模人工智能系統(tǒng)，并分享嚴(yán)格的獨(dú)立測(cè)試結(jié)果，以證明它們不會(huì)對(duì)美國(guó)人民構(gòu)成國(guó)家安全或安全風(fēng)險(xiǎn)。

人工智能在戰(zhàn)爭(zhēng)中的潛在災(zāi)難性用途

與此同時(shí)，該命令未能解決一些緊迫的問(wèn)題。例如，它沒(méi)有直接解決如何應(yīng)對(duì)殺手級(jí)人工智能機(jī)器人的問(wèn)題，這是一個(gè)令人煩惱的話題，在過(guò)去兩周內(nèi)一直在討論。聯(lián)合國(guó)大會(huì).

這種擔(dān)憂不容忽視。五角大樓是開(kāi)發(fā)蜂群低成本自主無(wú)人機(jī)，作為其最近宣布的復(fù)制器計(jì)劃的一部分。同樣，烏克蘭也開(kāi)發(fā)了本土的人工智能攻擊無(wú)人機(jī)，可以在沒(méi)有人為干預(yù).

我們最終會(huì)進(jìn)入一個(gè)機(jī)器決定誰(shuí)生誰(shuí)死的世界嗎？該行政命令只是要求軍方以合乎道德的方式使用人工智能，但沒(méi)有規(guī)定這意味著什么。

那么保護(hù)選舉免受人工智能驅(qū)動(dòng)的大規(guī)模說(shuō)服武器的侵害呢？一些媒體報(bào)道了斯洛伐克最近的選舉可能受到影響作者：deepfakes.許多專家，包括我自己，也擔(dān)心在即將到來(lái)的美國(guó)總統(tǒng)大選中濫用人工智能。

除非實(shí)施嚴(yán)格的控制措施，否則我們有可能生活在一個(gè)你在網(wǎng)上看到或聽(tīng)到的任何東西都不可信的時(shí)代。如果這聽(tīng)起來(lái)有些夸張，請(qǐng)考慮一下美國(guó)共和黨已經(jīng)發(fā)布了廣告活動(dòng)廣告這似乎完全由 AI 生成。

錯(cuò)失良機(jī)

行政命令中的許多舉措可以而且應(yīng)該在其他地方復(fù)制，包括澳大利亞。我們也應(yīng)該按照命令的要求，為房東、政府項(xiàng)目和政府承包商提供指導(dǎo)，說(shuō)明如何確保人工智能算法不會(huì)被用來(lái)歧視個(gè)人。

我們還應(yīng)該按照命令的要求，解決刑事司法系統(tǒng)中的算法歧視問(wèn)題，人工智能越來(lái)越多地用于高風(fēng)險(xiǎn)環(huán)境，包括量刑、假釋和緩刑、審前釋放和拘留、風(fēng)險(xiǎn)評(píng)估、監(jiān)視和預(yù)測(cè)性警務(wù)等。

人工智能在澳大利亞也被用于此類應(yīng)用，例如用于監(jiān)控青少年的嫌疑人目標(biāo)管理計(jì)劃在新南威爾士州.

也許行政命令中最具爭(zhēng)議的方面是解決最強(qiáng)大的所謂“前沿”人工智能模型的潛在危害。一些專家認(rèn)為，這些模型由Open AI、谷歌和Anthropic等公司開(kāi)發(fā)，對(duì)人類構(gòu)成了生存威脅。

其他人，包括我自己，認(rèn)為這種擔(dān)憂被夸大了，可能會(huì)分散對(duì)更直接的傷害的注意力，例如錯(cuò)誤信息和不平等，這些傷害已經(jīng)傷害了社會(huì)。

拜登的命令援引了非凡的戰(zhàn)爭(zhēng)權(quán)力（特別是 1950 年國(guó)防生產(chǎn)法在朝鮮戰(zhàn)爭(zhēng)期間引入），要求公司在訓(xùn)練此類前沿模型時(shí)通知聯(lián)邦政府。它還要求他們分享”紅隊(duì)“安全測(cè)試，其中內(nèi)部黑客使用攻擊來(lái)探測(cè)軟件的錯(cuò)誤和漏洞。

我想說(shuō)的是，監(jiān)管前沿模型的發(fā)展將是困難的，也許是不可能的。上述指令不會(huì)阻止公司在海外開(kāi)發(fā)此類模型，因?yàn)槊绹?guó)政府在海外的權(quán)力有限。開(kāi)源社區(qū)也可以以分布式方式開(kāi)發(fā)它們——一種使科技世界“無(wú)國(guó)界”的方式。

行政命令的影響可能會(huì)對(duì)政府本身產(chǎn)生最大的影響，以及它如何使用人工智能，而不是企業(yè)。

盡管如此，這是一個(gè)受歡迎的行動(dòng)。英國(guó)首相里?！ぬK納克（Rishi Sunak）的人工智能安全峰會(huì)（AI Safety Summit）正在舉行接下來(lái)的兩天相比之下，現(xiàn)在看起來(lái)有點(diǎn)像一場(chǎng)外交談話盛宴。

這確實(shí)讓人羨慕總統(tǒng)把事情做好的權(quán)力。

托比·沃爾什，人工智能教授，課題組組長(zhǎng)，新南威爾士大學(xué)悉尼分校

本文轉(zhuǎn)載自對(duì)話根據(jù)知識(shí)共享許可。閱讀原文.

寶寶起名