OpenAI聯合創始人Karpathy分享：AI代理可能要10年才能真正發揮作用

整理：推特賬號“@GPTDAOCN”

最近，Andrej Karpathy這位OpenAI聯合創始人在一個開發者活動上發表簡短講話，談論了自己和OpenAI內部對AI Agents（人工智能代理人）的看法。

Andrej Karpathy 對比了過去開發AI Agent的困難和現在新技術工具下開發的新機會，他還不忘調侃自己在特斯拉的工作，是“被自動駕駛分了心”。他認為自動駕駛和VR都是糟糕的AI Agents的例子。

對於新的機會，Andrej Karpathy認為此刻正是再次回歸神經科學，從中尋求靈感的時刻——正像在深度學習早期發生的那樣。

另一方面，Andrej Karpathy認為普通人、創業者和極客在構建AI Agents方面相比OpenAI這樣的公司更有優勢，大家目前處於平等競爭的狀態，因此他很期待看到這方面的成果。

以下是此次分享全文：

大家好。我受邀就AI Agents 的話題說一些激勵的話。

我認為AI Agents在某種程度上跟我是很近的關係，讓我以一個故事開始，這是一個非常早期的OpenAI的故事，那時OpenAI可能只有十幾個人，在2016年左右，當時的潮流實際上是RL Agents（強化學習代理人）。每個人都對建立代理人非常感興趣，但在當時主要是基於遊戲，人們的興奮點圍繞著像Atari這樣的遊戲公司，而我當時在OpenAI的項目試圖將RL Agents的重點放在用鍵盤和鼠標使用電腦上，而不是遊戲。我想讓它們變得更有用，可以做很多工作，這個項目被稱之為World of Bits。我和幾位同事最後發表了一篇論文。

這不是一篇非常驚豔的論文，因為實際上這是基於RL強化學習方法的。我們的網頁非常簡單，上面可以讓人比如預定一個航班或者訂購一些食物等等。這一切顯然是行不通的，因為技術還沒有準備好，在那時做這些東西是不明智的。事實證明，應該完全忘記AI Agents這件事，去做語言模型。

五年之後我們回到這裡，期間我被自動駕駛分了一點心，但現在AI Agents重新酷了起來，而我們的工具箱完全不一樣了，我們處理這些問題的方式也完全不同了。事實上，你們所有人都在研究AI Agents，但你們可能沒有使用任何強化學習方法。這太瘋狂了，我不認為我們當時會預見到這一點。這簡直太有趣了。

下面我花一點時間談談為什麼AI Agents如此火爆。我想很明顯，對很多人來說，AGI（通用人工智能）將充分利用AI Agents的能力，不是一個，而是很多個。也許將會出現數字實體的組織或文明，我認為這是非常鼓舞人心的，甚至有點瘋狂。不過，我也想為此潑點冷水。我認為有一大類問題很容易想像，很容易構建、演示，但實際上很難製作稱為產品。很多事情都屬於這一類，比如我想自動駕駛就是一個例子。

自動駕駛很容易想像，也很容易構建汽車繞街區行駛的演示，但將其變成產品需要十年時間。同樣的道理，我覺得VR也是如此，讓它發揮作用需要十年時間。

我認為AI Agents某種程度上也是如此。很容易想像它的場景，非常激發人的興奮感，但我認為如果你參與其中，你應該投入十年時間來讓它真正發揮作用。

我想說的另一件事是，我認為現在回到神經科學並在某些方面再次從中獲得靈感是很有趣的，深度學習的早期階段就受到了神經科學的啟發。思考它們之間的關係是非常有趣的，特別是我認為很多人都把語言模型當作解決方案的一部分，但如何構建一個完整的，擁有人類所有認知能力的數字實體呢？顯然，我們都認為我們需要某種潛在的系統來規劃、思考和反思我們正在做的事情，這是神經科學發揮作用的地方。

比如，海馬體是非常重要的，AI Agents中什麼東西發揮著海馬體的作用，用來實現儲存記憶，標記檢索等等這些功能？我們大致已經了解如何構建視覺和聽覺皮層，但還有許多的東西我們並不知道在AI Agents中意味著什麼。比如視覺遊戲在AI Agents中是什麼樣子的？潛意識的所在地——丘腦在AI Agents中又相當於什麼呢？這非常有趣。

事實上我今天帶了一本神經科學的書，David Eagleman的《大腦與行為》，我發現這本書非常有趣和有啟發性。從神經科學中汲取一些有趣的靈感，就像早期我們設計單個神經元時所做的那樣，今天我們也許應該再次這樣做。

最後我想用一些鼓勵的話結尾。一個有趣但不明顯的事情是，你們（指現場觀眾）構建的AI Agents實際上處於當代AI Agents能力的最前沿，所有的大型LLM機構比如OpenAI、DeFi等，我懷疑他們都沒有處於最前沿。你們正處於最前沿。

舉個例子，OpenAI 非常擅長訓練Transformer 大語言模型。如果一篇論文提出了某種不同的訓練方法，那麼我們OpenAI內部的Slack群組裡的討論會類似於，哦是的，有人在兩年半嘗試過，它不起作用，我們對這種方法的來龍去脈非常了解。但是當新的AI Agents論文出來的時候，我們都非常感興趣，覺得它非常酷，因為我們的團隊並沒有花費五年時間在這上面，我們並不比你們更多掌握什麼，我們正在與你們所有人一起競爭。這就是認為你們處於AI Agents能力的最前沿的原因。