谷歌最新的搜索工具告訴我們在披薩上涂膠水，然后吃石頭

谷歌已經(jīng)推出了最新的實驗性搜索功能在 Chrome、Firefox 和 Google 應用程序瀏覽器上向數(shù)億用戶提供。

“AI 概述”通過使用生成式 AI（與競爭對手產(chǎn)品 ChatGPT 相同的技術）來提供搜索結果的摘要，從而節(jié)省您點擊鏈接的時間。問“如何讓香蕉保持更長時間的新鮮”，它使用人工智能生成有用的提示摘要，例如將它們存放在陰涼、黑暗的地方，遠離蘋果等其他水果。

但是問它一個左邊的問題，結果可能是災難性的，甚至是危險的。

谷歌目前正在爭先恐后地逐一解決這些問題，但對于搜索巨頭來說，這是一場公關災難，也是一場具有挑戰(zhàn)性的打地鼠游戲。

AI Overviews 很有幫助地告訴你，“打地鼠是一款經(jīng)典的街機游戲，玩家使用木槌擊打隨機彈出的鼴鼠以獲得分數(shù)。該游戲由娛樂制造商TOGO于1975年在日本發(fā)明，最初被稱為Mogura Taiji或Mogura Tataki。

但 AI 概述也告訴你”宇航員在月球上遇見了貓，和他們一起玩，并提供照顧“。

更令人擔憂的是，它還建議“你應該每天至少吃一小塊石頭“，因為”巖石是礦物質的重要來源，并且維生素“，并建議把披薩配料中的膠水.

為什么會這樣？

一個基本問題是，生成式人工智能工具不知道什么是真實的，只知道什么是流行的。例如，網(wǎng)絡上關于吃石頭的文章并不多，因為這顯然是一個壞主意。

然而，有一個好讀的諷刺文章來自洋蔥關于吃石頭。因此，谷歌的人工智能基于流行的摘要，而不是真實的東西。

另一個問題是生成式人工智能工具沒有我們的價值觀。他們在網(wǎng)絡上接受了大量訓練。

雖然復雜的技術（以異國情調(diào)的名字命名，例如”從人類反饋中強化學習“或 RLHF）用于消除最壞的情況，毫不奇怪，它們反映了一些偏見、陰謀論和更糟糕的網(wǎng)絡。事實上，考慮到人工智能聊天機器人的訓練，我總是對它們有禮貌和乖巧感到驚訝。

這是搜索的未來嗎？

如果這真的是搜索的未來，那么我們將經(jīng)歷一段顛簸的旅程。當然，谷歌是追趕與OpenAI和Microsoft合作。

引領人工智能競賽的經(jīng)濟激勵是巨大.因此，谷歌在將技術推向用戶手中時不如過去那么謹慎。

2023年，谷歌首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）說:

我們一直很謹慎。在某些領域，我們選擇不率先推出產(chǎn)品。我們已經(jīng)圍繞負責任的人工智能建立了良好的結構。您將繼續(xù)看到我們慢慢來。

這似乎不再是那么真實，因為谷歌回應批評它已經(jīng)成為一個龐大而昏昏欲睡的競爭對手。

冒險的舉動

這對谷歌來說是一個冒險的策略。它有可能失去公眾對谷歌的信任，因為谷歌是尋找（正確）問題答案的地方。

但谷歌也有可能破壞其價值數(shù)十億美元的商業(yè)模式。如果我們不再點擊鏈接，只需閱讀它們的摘要，谷歌如何繼續(xù)賺錢？

風險不僅限于谷歌。我擔心人工智能的這種使用可能會對更廣泛的社會有害。真理已經(jīng)是一個有點爭議和可替代的想法。人工智能的謊言可能會使情況變得更糟。

十年后，我們可能會將 2024 年視為網(wǎng)絡的黃金時代，當時大部分是高質量的人類生成內(nèi)容，然后機器人接管了填滿了網(wǎng)絡與合成和越來越低的質量AI 生成的內(nèi)容.

人工智能開始呼吸自己的廢氣了嗎？

第二代大型語言模型很可能無意中在一些第一代的輸出.許多 AI 初創(chuàng)公司都在吹捧培訓的好處人工智能生成的合成數(shù)據(jù).

但是對當前 AI 模型的廢氣進行訓練即使是很小的偏見和錯誤也有可能放大.正如吸入廢氣對人類有害一樣，對人工智能也有害。

這些擔憂符合更大的圖景。全球超過4億美元（6億澳元）每天都在人工智能領域投資。鑒于這種投資洪流，政府現(xiàn)在才剛剛意識到我們可能需要護欄和監(jiān)管來確保負責任地使用人工智能。

制藥公司不得發(fā)布有害藥物。汽車公司也是如此。但到目前為止，科技公司在很大程度上被允許做他們喜歡的事情。

托比·沃爾什，人工智能教授，課題組組長，悉尼新南威爾士大學

本文轉載自對話根據(jù)知識共享許可。閱讀原文.

寶寶起名