關鍵字：
AI、人工智能
包括伊隆·馬斯克在內的1000多名科技界領袖和研究人員敦促人工智能實驗室暫停對最先進系統的開發，並在一封公開信中警告，AI工具“對社會和人類構成深遠風險”。
這封信由非營利組織生命未來研究所在周三發表，信中說，AI開發人員“陷入了一場失控的競賽，開發和部署越來越強大的數字思維，以至於所有人——甚至包括它們的創造者——也無法理解、預測或可靠地控制它們”。
其他署名者包括蘋果聯合創始人史蒂夫·沃茲尼亞克，2020年總統參選人、企業家楊安澤(Andrew Yang)，以及負責設定世界“末日時鐘”的《原子科學家公報》的負責人蕾切爾·布朗森。
“這些東西正在塑造我們的世界，”長期以來批評AI系統缺陷的企業家、學者加里·馬庫斯在接受采訪時說。“我們面臨著不負責任的企業、廣泛應用、監管缺失和大量未知因素引發的‘完美風暴’。
ChatGPT、微軟必應和谷歌的Bard等聊天機器人的背後都有AI，它們能夠像人類一樣進行對話，撰寫各種主題的文章，執行諸如計算機編程等更覆雜的任務。
開發更強大聊天機器人的推動力已經引發了一場競賽，有可能決定科技行業接下來的領導者。但人們批評這些工具會在細節上出錯，而且會傳播虛假信息。
這封公開信呼籲暫停開發比GPT-4更強大的AI系統，該聊天機器人由OpenAI於本月推出，馬斯克為該研究實驗室的聯合創始人。信中說，暫停開發將為人工智能系統引入“共享安全協議”提供時間。信中還說，“如果無法快速實施這樣的暫停，政府應該介入並制定暫停期。”
信中說，“只有當我們確信強大的AI系統將產生積極的影響，並且風險將是可控的時候”，才應該推進開發。
“人類可以享受AI帶來的繁榮未來，”信中說。“在成功創建強大的AI系統之後，我們現在可以享受一個‘AI之夏’，在這個過程中，收獲回報，設計監管系統，造福所有人，並給社會一個適應的機會。”
OpenAI的首席執行官薩姆·奧爾特曼沒有在這封信上簽名。
馬庫斯和其他人認為，說服更廣泛的科技界同意暫停是很困難的。但政府迅速采取行動的可能性也很小，因為立法者在監管AI方面做得很少。
加州共和黨眾議員傑伊·奧伯諾爾特最近對《紐約時報》表示，美國政界對這項技術了解不多。2021年，歐盟政策制定者提出了一項法律，旨在規範可能造成傷害的AI技術，包括面部識別系統。
該措施預計最早將於今年通過，它要求公司對AI技術進行風險評估，以確定它們的應用將如何影響健康、安全和個人權利。
GPT-4就是AI研究人員所說的神經網絡，一種通過分析數據來學習技能的數學系統。神經網絡是Siri和Alexa等數字助理用來識別語音指令的技術，也是自動駕駛汽車用來識別行人的技術。
2018年前後，谷歌和OpenAI等公司開始構建從大量數字文本中學習的神經網絡，這些數字文本包括書籍、維基百科文章、聊天記錄和其他從互聯網上挑選出來的信息。這些網絡稱為大型語言模型(LLM)。
通過在所有文本中找出數億個模式，LLM學習自己生成文本，包括推文、學期論文和計算機程序。它們甚至可以進行對話。多年來，OpenAI和其他公司建立的LLM從越來越多的數據中學習。
這提高了它們的能力，但這些系統仍然會犯錯。它們經常搞錯事實，並且會在沒有警告的情況下編造信息，這種現象被研究人員稱為“幻覺”(hallucination)。由於系統似乎對其提供的所有信息完全自信，因此人們通常很難分辨什麽是對的，什麽是錯的。
專家們擔心，這些系統可能會遭到濫用，以比過去更快、更高效的方式傳播虛假信息。他們認為，這些系統甚至會被人在網上拿來影響人們的行為。
在GPT-4發布之前，OpenAI要求外部研究人員測試該系統的危險用途。研究人員表明，它可以被誘使建議如何在網上購買非法槍支，描述如何用家居用品制造危險物質，以及寫Facebook帖子來說服女性墮胎是不安全的。
他們還發現，該系統能夠使用TaskRabbit在互聯網上雇傭一個人並騙過驗證碼測試，該測試被廣泛用於在線識別機器人。當人問系統是不是“機器人”時，系統自稱視障人士。
經過OpenAI的修改後，GPT-4不再做這些事情了。
多年來，許多AI研究人員、學者和包括馬斯克在內的技術高管都擔心，AI系統可能造成更大的危害。其中一些人屬於被稱為理性主義者或有效利他主義者(effective altruists)的龐大網絡群體，他們認為AI最終會毀滅人類。
這封信由生命未來研究所牽頭，該組織致力於研究人類的生存風險，長期以來一直警告AI的危險。但簽署者來自各行各業和學界人士。
盡管簽署這封信的一些人以反覆表達對AI可能毀滅人類的擔憂而聞名，但包括馬庫斯在內的其他人更擔心眼前的危險，包括虛假信息的傳播，以及人們依賴這些系統進行醫療和情感咨詢所導致的風險。
這封信“表明許多人都對正在發生的事情深感擔憂”，簽署這封信的馬庫斯說。他相信這封信將成為一個轉折點。“我認為這是AI史上——也許也是人類史上——一個非常重要的時刻，”他說。
然而，他承認，那些簽署這封信的人可能會發現，要說服更廣泛的AI行業的公司和研究人員暫停很難。“這封信並不完美，”他說。“但傳達的精神是完全正確的。”
*Cade Metz是一名科技記者，負責報道人工智能、無人駕駛汽車、機器人、虛擬現實和其他新興領域。他曾為《連線》雜志撰稿。 歡迎在Twitter上關注他：@cademetz。
**Gregory Schmidt報道突發新聞和房地產市場，他是Square Feet專欄的編輯。歡迎愛Twitter上關注他：@GregoryNYC。
取自美國《紐約時報》中文網站，2023年3月30日
留言