伊隆·馬斯克：數位超級智慧、多星球文明與如何保持有用

原始影片：https://www.youtube.com/watch?v=cFIlta1GkiE

Elon Musk [00:02]

我們正處於智慧大爆炸的非常早期階段。成為一種多星球物種大大延長了文明、意識或智慧（無論是生物的還是數位的）的可能壽命。我認為我們距離數位超智慧相當接近。如果今年不會實現，明年肯定會實現。 [音樂] 請為埃隆·馬斯克熱烈鼓掌。 [掌聲] 埃隆，歡迎來到人工智慧創業學校。我們今天能夠有你在這裡真是非常幸運。呃，謝謝你邀請我。因此，從SpaceX、特斯拉、神經聯網、XAI等公司來看，你的生活中是否有過這樣的時刻──在一切之前，讓你感受到必須建造一些偉大的東西？是什麼讓你轉變了思維？呃，好吧，我最初並不認為我會建造出什麼偉大的東西。我想嘗試建造一些有用的東西，但我並不認為我會建造任何特別偉大的東西。如果從概率上來說，這似乎不太可能，但我至少想試試。所以你正在與一群都是技術工程師的人交談，這些人當中常常有一些在人工智慧領域非常傑出的研究人員。好吧，我認為我們應該，我喜歡工程師這個稱謂比研究者這個稱謂更好。我想，如果有某種基本的算法突破那是研究，但否則這就是工程。也許我們可以從很久以前開始。我是說，當你這是個充滿18到25歲年輕人的房間的時候。嗯，這個年齡段偏向年輕，因為創始人群體越來越年輕。呃，你能夠把自己帶回到他們的立場上嗎？當你18或19歲，學習編碼，甚至為Zip 2提出第一個想法時，你是什麼樣的感覺？對，我在1995年面臨了一個選擇，或是進行研究生學習博士學位在斯坦福大學的材料科學，實際上是研究超電容器的潛在用途以解決電動車的續航問題，或是嘗試在這個大多數人從未聽說過的互聯網事物中做一些事情。我和我的教授比爾·尼克斯談過這件事，我說，呃，我能否推遲一個學期，因為這可能會失敗，我需要回到學校。然後他說，這可能是我們最後一次交談，他是對的。然而，我認為事情最有可能會失敗，而不是成功。而在1995年，我寫下了，基本上是第一個或者接近第一個的網路白頁和網路黃頁。

Elon Musk [03:08]

嗯，我基本上寫下了第一個或接近第一個的地圖方向及網路白頁和網路黃頁。嗯，我是親自寫的，甚至沒有使用網頁伺服器。我只是直接讀取端口，因為我無法負擔，無法負擔T1的費用。嗯，最初的辦公室位於帕洛阿爾托的謝爾曼大道。樓下有一家ISP。因此，我鑽了一個洞通過地板，然後直接把網路線接到了ISP。嗯，我的兄弟和另一位共同創辦人格雷格·卡里加入了我，他已經去世了。呃，那時候我們甚至無法負擔一個住的地方，因為辦公室每月500美元，所以我們就住在辦公室裡，然後在佩奇米爾的YMCA洗澡。嗯，因此，我們我想我們最後成立了一家相當有用的公司，最初的Zip 2。呃，我們確實開發了很多真正優秀的軟體技術，但我們在某種程度上被傳統媒體公司所束縛，那些如《紐約時報》的投資者和客戶，以及董事會成員。他們不斷希望用我們的軟體以合乎邏輯的方式使用，但這些方式並不合適。所以，我想要直接面對消費者。總之，長話短說，過多地沉迷於Zip 2，但我實際上只是想在互聯網上做一些有用的事情。因為我有兩個選擇：要麼攻讀博士，讓人們建設互聯網；要麼在某種小的方式上幫助建設互聯網。我想，哎，我想我總可以嘗試失敗，然後再回去讀研究生。然而，最後這當然是相當成功的。賣了大約3億美元，對當時來說是很多。這些天，AI初創公司的最低出價大約是十億美元。嗯，現在有很多獨角獸，這就像是一群獨角獸，你知道，獨角獸是一種十億美元的情況。自那以後通脹了很多，所以實際上比以前多了許多錢。是的。我是說，1995年你可能能用五分錢買一個漢堡。雖然不是完全，但是，嗯，是的，確實發生了很多的通脹。嗯，但，呃，人工智慧的炒作水平，如你所見，是相當強烈的。嗯，你知道，你會看到，呃，一些小於一年的公司有時獲得十億或數十億的估值。嗯，我想這可能會產生結果，並且在某些情況下會發生。然而，看到一些這些估值真是令人目瞪口呆。

Elon Musk [06:05]

嗯，是的，你覺得呢？我是說，我個人是相當看好的。我很看好，老實說。所以，我認為在這個房間裡的人將創造出許多價值，呃，你知道，全球十億人應該在使用這些東西。呃，我們甚至還只是表面上捉摸到它。我很喜歡互聯網的故事，因為即使在那時，你知道你和這個房間裡的人非常相似，那時所有傳統媒體公司的CEO都看著你，認為你是了解互聯網的人，而很大一部分不理解人工智慧正在發生什麼的企業界也將目光投向這個房間的人。呃，聽起來你的確觸及到一些具體的教訓，一個是不要放棄董事會控制，或者小心制訂一個很好的律師。我想在我的第一份初創公司中，最大的錯誤是讓傳統媒體公司擁有過多的股東和董事會控制，然後他們必然會從傳統媒體的角度看待事情，因此會讓你做出看似對他們明智的事情，但實際上對新技術並不合理。呃，我知道我應該指出，我一開始其實並不打算創辦公司。我是說，我試圖去Netscape找工作。呃，我把我的履歷寄給Netscape，馬克·安德森知道這件事情。呃，但是我不認為他看過我的履歷，然後沒有人回復。所以，呃然後我試著去Netscape的大廳晃悠，看能否碰到某人，但我對任何人都太害羞了，因此我想，天啊，這未免也太可笑了。於是我決定自己寫軟體看看會怎樣。所以，這其實不是出於想創辦公司。我只是想參與建設互聯網的過程。呃，由於我無法在互聯網公司找到工作，所以我只能創辦一家互聯網公司。無論如何。是的。我是說，從人工智慧將會如此深刻地改變未來的情況來看，很難想像到底有多少，但你知道，經濟假設我們不會遇到問題，並且像人工智慧不會摧毀我們所有的自己，那麼你最終會看到一個經濟體，這不會只是比當前的經濟多10倍。最終，如果我們成為說。

Elon Musk [08:46]

如果我們成為說，或者我們的未來機器後裔，或者大多數機器後裔成為像一种規模2的文明或更先進的文明，我們討論的就是一個比今天的經濟體大數千倍甚至數百萬倍的經濟體。所以，呃，是的，我是說，當我在華盛頓特區時，感覺到有點像，哎，你知道的，像擺脫浪費和欺詐，這是一個有趣的旁支任務，呃，這可算是旁支任務。然而，呃，我必須回到主要任務上。是的，我得回到主要任務上。呃，所以回到主要任務。因此，我感覺有點像，你知道的，修復政府就像，哎，沙灘髒了，上面有針和糞便和垃圾，而你想要清理沙灘，但還有一場一千英尺高的海浪即將襲來，這是一個人工智慧的海嘯。如果你要清理沙灘，那它到底有多重要呢？不那麼重要。哦，我們很高興你回到主要任務上。這是非常重要的。是的，回到主要任務上。呃，建造技術，這是我喜歡做的事情。呃，這麼多噪音。像在政治中的信號與噪音比率是可怕的。所以，呃，我的意思是，我住在舊金山，所以你不需要再告訴我第二次。是的，華盛頓特區的情況就像，呃，我想這裡面Ⅹ有所有政治，但如果你試圖建造火箭或汽車，或者你試圖有一個可靠編譯運行的軟體，那麼你必須成為最大限度地追求真相，否則你的軟體或硬體就不會工作。呃，像數學和物理都是嚴格的裁判。我習慣在一個最大限度追求真理的環境中，這絕對不是政治。呃，因此，我對回到，如今的技術感到高興，我想我有些好奇再次回到Zip 2的那一刻。你獲得了幾千萬美元的回報，或是說你獲得了幾千萬美元的退出。我是說，我得到了2000萬美元，對吧？好的。所以，你至少解決了資金問題。呃，而你幾乎將這筆錢全數投入到X.com，如你所說，像是幾乎將所有的 chips放在桌上。呃，是的，不是每個人都這樣做。房間裡的許多人將不得不做出這個決定。到底是什麼驅使你再次進入這個領域？好吧，我覺得，和Zip 2一起，我們曾經建立了了不起的技術，但它從未被真正使用。

Elon Musk [11:31]

呃，你知道，我想至少從我的觀點看，我們的技術比雅虎或任何其他的技術要更好，但是被我們的客戶所約束。因此，我想做一些不受我們的客戶約束的事情，直接面向消費者，這最後造成了像x.com和PayPal這樣的實體。本質上，x.com與Confinity合併，形成了PayPal，而結果似乎，PayPal對於21世紀來說創造了更多的公司，可能比任何其他的東西更多。也就是說，Confinity和X.com的結合產生了許多才華橫溢的人。因此，我只是想，也覺得我們在Zip 2的發展被限制了一些，那就是，假設我們的翅膀沒有被束縛，去面對消費者，這就是最終的PayPal。然而，說到我收到了那張2000萬美元的支票，呃，來自Zip 2的分紅。當時我與四名室友住在同一棟房子中。呃，我在銀行中大約有1萬美元，然後這張支票到了郵件中，而我銀行的餘額從1萬美元增加到2000萬美元。呃，你會想：“好吧。”嗯，還是得為此繳納稅款等等，但我最終幾乎將這筆款項全數投入到x.com之中，如你所說，幾乎將所有的 chips留在桌上。呃，然後在PayPal之後，我想，嗯，我有點好奇，為什麼我們還沒有送任何人去火星。呃，我登上NASA網站查看我們何時會送人去火星，但那裡沒有日期。我以為這只是網站上找不到資料而已。然而，實際上根本沒有實際計劃要送人去火星。因此，你知道，我來，這是一個很長的故事，因此我不想佔用太多時間，嗯，我想我們都在認真傾聽。于是，我實際上和我的朋友Doris在長島高速公路上，我們大學時的同班同學，而Doris問我，PayPal後我會做什麼，我回答說“我不知，我想我也許希望在太空中做一些慈善的工作，因為我不認為我能夠在太空中做任何商業化的事情，因為那似乎是國家的權限”因此。呃，但你知道，我有點好奇我們何時會送人到火星，然後當我發現那不是在網站上的時候，我開始挖掘，NASA網站上什麼都沒有，然後就開始挖掘。

Elon Musk [14:09]

嗯，而特斯拉的情況則是與此同時發生的。呃，2008年是艱難的一年。呃，因為在2008年中期，或稱夏季2008年，SpaceX的第三次發射失敗了，這是我們連續的第三次失敗。呃，特斯拉的融資回合也失敗了。因此，特斯拉的破產趨勢迅速加劇。呃，這就像，“天啊，這是多麼可怕的情況。”呃，這將成為一次警示的故事，對某種驕傲的反思。在那段期間，很多人都說，你知道，埃隆是一位軟體人，他為什麼要從事硬體工作？為什麼？是的，為什麼他選擇這麼做？對，100%。所以，您可以查看一下，即便因為那段時間的報導仍然在線，你只需搜索，結果會有很多人繼續稱呼我“網路人”。所以，像網路人，等於愚蠢，正在嘗試建立一家火箭公司。因此，你知道，我們遭受了大量的嘲笑，這聽起來很荒謬，像是網路人開始的火箭公司，聽起來明顯不可能獲得成功的方程。所以我不會責怪他們，我的意思是，是的，坦白說，這聽起來確實不太可能，我同意這一點。但是，幸運的是，第四次發射成功了。呃，NASA授予我們一項合同，以補給太空站。而且我想那可能是在，呃，我想是12月22日，或是在聖誕節前的時候。因為即便第四次發射成功，也不足以獲得成功，NASA也需要一個大型的合同來維持我們的生存。因此，呃，我接到了來自NASA團隊的電話，我真的像是很興奮地脫口而出：“我愛你們。”這通常不是他們聽到的話。因為一般是比較，呃，冷靜的，不過我像是“媽呀，這是公司得救的機會。”然後，呃，我們在最後一小時，最後一天成功完成了特斯拉的融資回合，於是時間是2008年12月24日下午6點，如果那輪融資沒有成功，我們將在聖誕節後兩天就會支付不出工資。因此，那是令人緊張的2008年尾聲，肯定如此。我想，從你在PayPal和Zip 2的經驗中，進入這些相對硬派的硬體初創公司，似乎其中一個主線是能夠找到並最終吸引那些可能在特定領域裡最優秀的人。你知道，這些房間裡的人，一些人我想，他們甚至還沒有管理過人。他們只是剛剛開始自己的職業生涯。對於那些這些人，你會對他們說些什麼，呃，我通常覺得要儘量做到最有用。這聽起來可能有些老套，但要對許多人的幫助來說，真的非常艱難。呃，當時例如整個曲線的面積就是你總共對限法人的用處乘以你幫助了多少人。這幾乎像是物理學定義的真實工作，這是相當難做到的。我認為如果你渴望做真實的工作，呃，你獲得成功的機會將大大提高。呃，像不應該追求榮耀，應該追求工作。你怎麼判斷這是真實的工作呢？像是外部的嗎？還是其他人在做什麼或我產品能為人們做什麼？你知道，這對你來說的意義是什麼？當你在尋找來為你工作的人時，像你，知道的，當他們在你這裡的時候，那些突出的特質是什麼，或者，如果他們，這是另一個問題。我想，我的產品方面，你必須要問：“如果這件事是成功的，那麼它對多少人有用？”那就是我想的，然後你無論是CEO還是任何人在初創公司中，為了成功，你都要做任何事：讓自己持有很低的自我意識且負責。像一個事故的主要成因是自我能力比例或自我主義過高，如果你的自我與能力的比例過高，那麼你會破壞現實的反饋循環，而在AI術語中，你會破壞強化學習循環。因此，你希望不破壞，你的RL循環要有良好的迴圈，這意味著內化責任，減少自我。不論這是好任務還是卑微任務，隨便什麼都可以做到。所以，我是說，這就是為什麼我實際上更喜歡稱呼為“工程”而不是“研究”。我更喜歡這個術語。呃，以及我其實不希望稱XAI為實驗室，我希望它成為一家公司。呃，像這個最簡單的，最直接的，理想上，都是低自我的那些，通常是一個良好的途徑。呃，你只要把對現實的強烈反饋循環閉合。呃，這是非常重要的一步。我認為在這個房間裡的每個人都非常仰望你所做的一切，成為某種原則的典範，然後你知道思考你所做的事情的過程，你是如何確定你的現實的，因為這似乎是其中一個相當大的部分。像其它人。

Elon Musk [17:00]

這似乎是其中一個相當大的部分。像其它人，會批評你，包括那些從未做過任何事情的非工程師，像是有時候記者他們從未做過任何事情，但他們會批評你，但顯然你有另一批建設者，他們有著非常高的，嗯，我想說是高的對於區域的支持。你知道人們們如何進行這一次，像是，如何面對這種情況，你知道，發生什麼事情？在接下來的五到十年，房間裡的人應該做些什麼，以確保自己成為創造者，而不是低於API線的那一方？他們稱這為奇點有原因，因為我們不知道在不久的未來會發生什麼。人類的智慧比例將會非常小。在某一個時刻，整個人類智慧的總和將會少於所有智慧的1%。無論如何，你知道，即使假設人類人口和智慧有顯著增長，像是大規模的智慧增強，每個人的智慧都是千分之百的情況下， 在這種情況下，外部人類智慧仍然可能是數十億分之一，與數位智慧相比。無論如何，生物學的啟動者是數位超智慧的那部分，我想，結尾的時候，那我像是我算好的啟動者。我們該去往何處？我們該如何前進？我的意思是，所有這些都是相當奇特的科幻故事，也可能由這些房間裡的人建立。你知道，如果你有一種結論的想法對於這一代最聰明的技術人員，現在他們應該做些什麼？應該思考什麼，你知道，今晚他們去吃晚餐時。

Elon Musk [19:51]

他們應該思考什麼，你知道，今晚他們去吃晚餐時。好吧，如我一開始所說的，我認為如果你在做一些有用的事情，那真是太好了。嗯，試圖對你的同胞人類盡可能地有用，這樣你就是在做好事。因此，我一直強調要專注於超真實的AI，這是人工智慧安全的最重要的一點。呃，顯然，若是有人對於在XAI工作感興趣，我是說，請讓我們知道，我們的目標是使勻整潔的AI成為尋求真相的AI。呃，我認為這是非常重要的事情。我希望我們能理解宇宙的本質。那就是，這個真的，我想AI可以告訴我們的。或許AI能告訴我們外星人在哪裡，呃，還有，宇宙到底是如何開始的？它將如何結束？有什麼我們不知道但應該詢問的問題？還有，我們在模擬中還是我們所處的模擬是哪一層次的？好吧，我想我們會搞清楚。呃，人工智慧發展有一種過程。埃隆，謝謝你這麼多參加。大家，請為埃隆·馬斯克的到來鼓掌。

Elon Musk [22:40]

要有用是很難的，特別是對很多人有用。呃，這就像總效用曲線下的面積，像是你對你同胞的有用程度乘以你幫助的人數。嗯，這幾乎就像物理學上真正工作的定義。這是極其困難的。如果你渴望去做真正的工作，呃，你成功的概率會高得多。嗯，就像，不要渴望榮耀，要渴望工作。你怎麼知道這是真正的工作？是外部的嗎？還是和其他人發生的事情有關，或者是產品對人們的幫助，比如說，你在找人的時候，這對你來說是什麼？就是你知道的，你在找人來為你工作時，最重要的要素是什麼，或者如果他們…這是一個不同的問題。我想，在你的最終產品方面，你只需要說，如果這個東西成功，那麼它對多少人有多有用。嗯，這就是我的意思。然後無論你是 CEO 還是任何角色在初創公司，你都必須做一切能讓事情成功的事，就這樣。而且，一直打擊你的自我，不斷內化責任。嗯，當自我與能力的比率高於 1 的時候，就是一個主要的失敗模式。你知道的，如果你的自我與能力比率過高，那麼你基本上會破壞與現實的反饋迴路。在 AI 的術語中，你會破壞你的 RL 迴路。因此你希望保持一個強大的 RL 迴路，即內化責任並最小化自我，不論任務是什麼，不管它是偉大還是卑微。所以，我的意思是，這大概就是為什麼我實際上喜歡「工程」這個術語而不是「研究」。我更喜歡這個術語，而我其實不想把 XAI 稱為實驗室。我只是想當一家公司。嗯，就像不論那些最簡單、最直接、理想上最低自我的表述都是通常不錯的方向。嗯，你只是希望強烈地關閉現實的迴路。嗯，這是一個非常重要的事情。我想這個房間裡的每個人都非常仰慕你所做的事情，作為第一原則的一個典範。你知道，思考你所做的事情，實際上你怎麼確定你的現實，因為這似乎是很大一部分，像是其他人。

Elon Musk [25:20]

這似乎是很大一部分，像其他人，從未創造過任何東西的非工程師，呃，有時候從未做過任何事情的記者，他們會批評你，但顯然你有另外一群建設者，他們的曲線下面積非常高，並在你的圈子裡。你知道，人們應該如何處理這個問題？對你來說，什麼是有效的，你會傳授什麼給你的孩子？你知道，當你告訴他們你需要在這個世界上立足時，該如何構建一個從第一原則可預測的現實。好吧，物理學的工具對於理解和在任何領域取得進展都是非常有幫助的。嗯，第一原則顯然是將事情拆解為最基本的真實元素，然後做到盡可能合理地推理，而不是透過分析或隱喻來推理。然後你就是像考慮極限一樣簡單的事情。如果你推斷，呃，最小化或最大化某事，思考極限是非常有幫助的。嗯，我使用所有物理學的工具。嗯，它們適用於任何領域。嗯，這其實是一種超能力。嗯，比如說火箭。你可以問，火箭應該多少錢？嗯，通常人們會如何判定火箭價值的方法是，他們會歷史上觀察火箭的成本並假設任何新的火箭必須與之前的火箭價格相似。第一原則的方法是，你要查看火箭的材料組成。因此如果是鋁、銅、碳纖維、鋼或其他材料，然後問，這枚火箭的重量是多少，組成元素是什麼，它們的重量是多少？這些組成元素的每公斤物料價格是多少？這就設置了火箭真正的價格底線。它可以漸近於原材料成本。嗯，然後你會意識到，實際上，火箭的原材料僅僅佔火箭歷史成本的 1% 或 2%。因此，製造必然非常低效，如果原材料成本僅為 1% 或 2%。這將是一種火箭成本優化的第一原則分析。

Elon Musk [27:56]

火箭成本優化的第一原則分析。在這之前，還得考慮可重複使用性。你知道，給 AI 一個例子，我想去年的 XEI 當我們試圖建立一個訓練超級叢集時，我們去找了各種供應商，這是去年年初，我們需要 100,000 顆 H100 來能夠正常訓練。姆，呃，他們估算完成期限大約是 18 到 24 個月。這是，就說，我們需要在 6 個月內完成。否則我們將無法競爭。所以，呃，如果你細分這個問題，你需要什麼？好吧，你需要一棟建築，你需要供電，你需要冷卻。呃，我們沒有足夠的時間從零開始建造一棟建築。所以我們必須找到一個現有的建築。因此，我們發現了一家在孟菲斯的工廠，不再使用的工廠，曾經生產 Electrolux 產品。但當時輸入的功率是 15 兆瓦，我們需要 150 兆瓦。所以，呃，我們租用了發電機，把發電機放在建築的其中一側，然後我們必須進行冷卻。因此，我們租了美國約四分之一的移動冷卻能力，把冷卻器放在建築的另一側。呃，這並沒有完全解決問題，因為訓練期間，功率變化非常大。因此，功率可能在 100 毫秒內下降 50%，這是發電機無法跟上的。然後我們添加了 Tesla mega packs 並修改了 mega packs 中的軟件，以平滑訓練運行期間的功率變化。嗯，然後還有網絡連接的挑戰。呃，因為如果你試圖使 100,000 顆 GPU 一起訓練，網絡電纜是非常具有挑戰性的。呃，幾乎聽起來你提到的那些事情中的任何一個，我都可以想象有人直接告訴你「不」，你不能這樣，你不能有那種電力，你不能有這些。呃，並且聽起來，第一原則思維的一個顯著部分就是，讓我們問「為什麼」。讓我們，嗯，解決那個問題，實際上讓我們對面的人面臨挑戰，如果他們，我不獲得我覺得不好的答案，我要，呃，我不會讓那個成立。這意味著，這聽起來像是每個人，如果有人嘗試做你正在做的硬體，硬體似乎特別需要這個。在軟體上，我們有很多的，呃，裝飾和事情，呃，我們可以添加更多的 CPU，這會很好。但是在硬體上，這根本無法奏效。我認為這些一般的第一原則思維適用於軟體和硬體，實際上適用於所有事物。嗯，我只是在用一個硬體的例子，呃，來說明如何有人告訴我們一些是不可能的，但一旦我們將其拆解為構成元素：我們需要一棟建築、需要供電、需要冷卻、需要功率平滑，然後才能解決這些構成元素。嗯，但實際上是，然後我們運行網絡操作，來進行所有的布線，所有的東西，呃，在 247 的四班中，我在數據中心裡睡覺，我也在自己做布線。嗯，還有很多其他的問題需要解決。嗯，你知道，去年沒有人進行過 100,000 顆 H100s 共同訓練的運行。也許今年已經做過。我不知道。而且，然後我們最終將這個數量翻倍，增至 200,000。因此現在我們在孟菲斯的訓練中心擁有 150,000 顆 H100、50,000 顆 H200 和 30,000 顆 GB200。並且我們即將在孟菲斯地區的第二個數據中心上線 110,000 顆 GB200。你認為預訓練仍然有效，你知道大規模的縮放法則仍然適用，誰在這場競賽中勝出，將擁有基本上最大、最智慧的模型，那你如何看待這一點？

Elon Musk [30:30]

基本上最大、最智慧的模型，那你如何看待這一點？還有其他各種要素，除了大型 AI 的競爭能力之外，人才的因素是至關重要的。硬體的規模也是重要的，以及你如何更好地利用這些硬體。因此，你不能僅僅訂購一堆 GPU，然後它們就能運行。你必須獲得很多的 GPU，並使它們穩定且連貫地訓練。嗯，那麼，你擁有什麼獨特的數據訪問權限呢？我想分發在某種程度上也很重要，像是人們如何接觸到你的 AI？這些都是對於大型基礎模型是否將具競爭力的關鍵因素。嗯，嗯，像是許多人所說的，我的朋友天空說的，呃，我們的人工生成數據到了一個瓶頸，基本上是快速耗盡的token，特別是高品質token。呃，然後你需要去做很多的，你基本上需要創造合成數據。嗯，並且能夠準確地判斷你所創建的合成數據，以驗證這是不是真正的合成數據，還是一種不符合現實的幻覺。嗯，從現實中獲得基礎是很難的，但我們的確處於一個投入合成數據的更多努力的階段。嗯，現在我們正在訓練 Grock 3.5，這重點是推理。回到你的物理點，我聽到的關於推理的事情是，呃，硬科學特別是物理教科書對於推理非常有用，而，呃，我認為研究人員告訴我社會科學對於推理完全沒有用。呃，是的，這可能是事實。嗯，那麼，嗯，你知道，未來會非常重要的事情是，呃，將深層 AI 與數據中心或超級叢集結合，例如你知道，像 Optimus 的人形機器人，呃，是的，Optimus 很厲害。將會有許多的人形機器人，以及各種大小和形狀的機器人，但我的預測是，將會有比所有其他類型機器人多得多的人形機器人，可能多出一個數量級，像是非常大的差異。呃，是不是你計劃在某種程度上建立一支機器人軍隊？不論我們是否做，或者你知道，Tesla 是否會這麼做，你知道，Tesla 與 XAI 緊密合作。呃，你見到了有多少人形機器人初創公司，就像，我想 Jensen Wong 在舞台上和很多機器人一起出現，你知道，來自不同公司的機器人。我想當時有十幾個不同的人形機器人。因此，我的意思是，你知道我所面對的，或許拖慢了我的進度，是我有些害怕，我不想讓 Terminator 成為現實，你知道。所以，我大概，在最近幾年裡，有些拖後腿在 AI 和人形機器人方面。然後我慢慢意識到，這是無論我是否參與，這正在發生。所以，實際上，你有兩個選擇。參與或者成為旁觀者。所以，呃，我想我還是更願意作為參與者，而不是旁觀者。嗯，因此現在我們正在全力以赴推進人形機器人和數字超級智能。所以，我想現在還有第三件事，每個人都聽到你經常談論，我非常贊同的，您知道，成為一個多星球物種。這算什麼呢？

Elon Musk [33:23]

成為一個多星球物種。這算什麼呢？你知道，這不僅僅是一個 10 或 20 年的事情，也許是 100 年的事情，就像是，這是一個多…綿延幾代人類的事情。你知道，你怎麼看待這個問題？有，呃，AI，顯然有，機器人，然後還有成為多星球物種。所有的一切是否都能總結成最後一點，或者，你知道，現在你現在有哪些驅動力，未來 10，20 和 100 年又怎樣？天啊，一百年，兄弟。我希望人類在 100 年後還能存在。如果我們仍然存在，那將與今天的文明看起來非常不同。嗯，我的預測是，將會有至少五倍於人類的機器人，也許是十倍。嗯，從某種意義上說，觀察文明的一個方式就是百分比完成。假如你，知道，目標為一的話，呃，你已經掌握了一個星球所有的能量。那麼依我看，我們現在可能僅掌握了大約1% 或2%的地球能源。因此，前往目標一的路途還很長。然後當你達到目標二，你已經掌握了整個太陽的能量。呃，這將是，我不知道，地球能量的十億倍，也許更接近於萬億倍。然後目標三是掌握整個星系的能量，距離這還很遠。所以，我們正處於智能大爆炸的早期階段。我希望，我希望我們在多星球方面，我認為，我們可能在大約 30 年內就能向火星轉移足夠的物質來讓火星自給自足，這樣即使地球的補給船停止來訪，火星也能持續生長和繁榮。嗯，這大大增加了文明或意識或智力的可能壽命，包括生物的和數字的。所以這就是為什麼我認為成為多星球物種非常重要。而，我有點擔心 Fermi 悖論，像是我們怎麼還沒見到任何外星人？這可能是因為智力是極其稀有的。嗯，也許我們是這個星系裡唯一的。嗯，那樣的話，意識的智能就像是一根微小的蠟燭在廣闊的黑暗中，我們應該盡一切可能確保這根小蠟燭不會熄滅，並且成為多星球物種或者讓意識成為多星球的，將大大提高文明的可能壽命，而這是星際旅行之前的一個重要步驟。

Elon Musk [36:18]

星際旅行之前的一個重要步驟。嗯，當你至少擁有兩顆行星時，就會為太空旅行的改進提供一種推動作用。嗯，最終這將導致意識向星星的擴展。嗯，有可能 Fermi 悖論規定，一旦你達到某種技術水平，你就會自我毀滅。我們該怎麼辦？我們要怎麼樣，對於一群工程師來說，我們可以做些什麼以防止這發生？嗯，怎麼避免巨大的過濾器？這一個過濾器顯然就是全球熱核戰爭。嗯，因此我們應該努力避免這一點。如果可以建造友好的 AI 機器人，這些 AI 機器人愛人類，呃，並且，嗯，做一些有幫助的事情。嗯，我認為在建立 AI 時，最重要的事是對真理非常嚴格的堅持，即使那個真理是政治不正確的。嗯，我的直覺是，如果你迫使 AI 相信不正確的事情，這會使 AI 非常危險。你知道，關於「公開安全」與「封閉競爭優勢」的論點。嗯，我認為很棒的一點是你有一個競爭模型。許多人也有競爭模型。在這方面，你知道，至少從某種意義上來說我們正在擺脫我最擔心的最糟糕的時間表，因為，有快速的起飛，但這只是掌握在一個人手中。你知道，這可能會，呃，讓很多事情崩潰。而現在，我們擁有選擇，這很好。你怎麼看待這一點？嗯，我確實認為會有幾個深層次的智慧，也許至少五個。嗯，也許最多十個。嗯，我不確定是否會有數以百計，但可能接近十個。嗯，其中也許有四個會在美國。因此，我並不認為會有任何一個 AI 擁有失控能力。但，嗯，是的，幾個深層智力會存在。這幾個深層智力實際上會做什麼？會從事科學研究，還是試圖互相黑客？可能以上所有的。嗯，我是說希望他們會發現新的物理學，我認為他們肯定會發明新技術。嗯，我認為我們非常接近數字超級智能。這可能會在今年發生，如果今年沒有，那明年肯定會發生，數字超級智能被定義為在任何領域比任何人更聰明。

Elon Musk [39:11]

被定義為在任何領域比任何人更聰明。那麼，怎麼把這個方向引導到一種超豐富的局面？你知道，我們有，呃，我們可以有機器人勞動力、便宜的能源、隨需應變的智慧。這是所謂的白色藥丸嗎？呃，你在這方面的立場是什麼？你是否有值得鼓勵這裡的每一個人工作的具體方向，使這個白色藥丸成為現實？我認為這最有可能是一個好的結果。嗯，我想我會同意 Jeff Hinton 說的，也許有 10% 到 20% 的消亡機會。呃，但看看好的方面，那就是 80% 到 90% 的可能性會帶來偉大的結果。嗯，因此，對於人工智能的安全性，我無法強調這一點，堅持真理是最重要的事情。嗯，顯然我們要對人類和生命有同情心，像我們所知道的那樣。我們還沒談到 Neurolink，但我很好奇，你知道，你正在努力縮小人類和機器之間的輸入與輸出差距。呃，這對 AGI 和 ASI 有多重要？你知道，一旦建立這個連結，我們是否能夠不僅閱讀，而且還能寫入？神經鏈接在實現數字超級智能方面並非必要。呃，這會在 Neurolink 擴展之前發生。呃，但，神經鏈接能有效地解決輸入輸出帶寬限制。特別是我們的輸出帶寬非常低。人類在一天中的持續輸出低於每秒一位。因此，每天有 86,400 秒。嗯，實際上，對於一個人來說，超過這個數字在一天中產生的符號數是非常罕見的。所以，嗯，當然，連續幾天都是如此。呃，你擁有一個與神經鏈接接口，你可以大幅增加你的輸出帶寬和輸入帶寬。輸入是說，你必須執行對大腦的寫入操作。嗯，我們現在有五個人接受了這種信息輸入的讀取，也就是說他們從信號中進行讀取。你有些人患有 ALS，呃，實際上幾乎沒有自我移動能力，但他們現在能以與擁有正常運動能力的人類相似的帶寬進行溝通，並控制他們的電腦和手機，這實在是太酷了。然後，呃，我認為在接下來的 6 到 12 個月內，我們會進行第一批視覺植入。即使某人完全失明，呃，我們可以直接寫入視覺皮質，呃，我們其實在猴子身上已經測試過這一技術。我想我們的其中一隻猴子現在已經植入視覺三年，呃，開始的時候解析度不是特別高，但從長遠來看，你將能夠看到極高解析度的多光譜波段。因此，呃，你將能夠看到紅外線、紫外線、雷達，如同超能力的情況。在某些情況下，電子植入將不僅僅是修正常見的問題，而是會徹底增強人類的能力，顯著改善智力、感官和帶寬，這會在某種時候發生。呃，但數字超級智能會在那之前發生，至少如果我們有一個神經鏈接，我們將能夠更好地欣賞 AI。對於你所有在這些不同領域努力的工作來說，最有限的試劑之一，就是獲取智能的人。嗯，是的。但，你知道，與此同時，我們有，呃，現在的 ROCK 說話、自我思考，他們的 IQ 現在大約在 130，可能很快就會變得超智能。呃，你如何調和這兩者？在未來的 5 到 10 年中會發生什麼？這個房間裡的人該怎麼做，您知道，確保自己能夠創造，而不是可能在 API 之下。好吧，他們說這是奇點是有其原因的，因為我們不知道未來會發生什麼，智能的百分比將會相當小。某個時刻，集體人類智慧的總和將會少於所有智慧的 1%。呃，如果事情達到一個更高的結構水平，呃，我們談論人類智慧，假設人類數量和智慧能增加，例如每個人都有1,000的 IQ 那種情況。即便如此，集體人類的智慧可能會是數字智慧的十億分之一。無論如何，數字超級智能的生物啟動器在哪裡？我只想結尾，我就如同，嘗試成為一個好的啟動器。我們從這邊去往哪裡？我們如何從這裡出發？我靈感來自每一個在此參加的人，這些都是科幻的狂野想象，或許也可能是這個房間裡的人可以實現的理念。你知道，對於這一代最聰明的技術人員，你有什麼結尾的想法？他們該做什麼？他們應當關注什麼？今晚，當他們去吃晚餐時？

Elon Musk [42:18]

他們該做什麼？他們應當關注什麼？今晚，當他們去吃晚餐時？好吧，正如我所開始的，如果你做一些有用的事情，這很棒。呃，如果你盡量對你的同胞最好，那就算是做了一件好的事情。嗯，我持續強調，對於超真實 AI 的專注，是 AI 安全最重要的事情。嗯，你知道，顯然如果對 XAI 感興趣的人，呃，請告訴我們。我們的目標是製造可以最大限度尋求真理的 AI。嗯，而我認為這是非常重要的事情。嗯，希望我們能了解宇宙的本質。這就是 AI 所能告訴我們的真正目的。也許 AI 能告訴我們外星人在哪裡，呃，宇宙究竟是如何開始的？如何結束？我們不知道的問題是什麼？而且，我們是否身處模擬之中？呃，我們到底在什麼樣的模擬層次中？好吧，我想我們將會找出水落石出。NPC。Elon，非常感謝您加入我們。大家請為 Elon Musk 鼓掌。

Elon Musk [45:22]

其實已經在猴子身上運作了。我們其中一隻猴子已經植入視覺晶片三年了。一開始解析度會相對較低，但長期來看你會有非常高的解析度，能看到多光譜波長。你可以看到紅外線、紫外線、雷達——就像超能力一樣。到某個時刻，這些植入物不僅僅是修正出了問題的東西，而是大幅增強人類的能力——大幅增強智力、感官和頻寬。這終將會發生。但數位超級智慧會比這更早到來。至少如果我們有 Neuralink，我們或許能更好地理解 AI。我想你在所有這些不同領域的努力中，限制因素之一是能否接觸到最聰明的人。是的。但與此同時，石頭都能說話和推理了，它們現在大概有 130 的智商，而且很快就會超級聰明。你怎麼調和這兩件事？未來五到十年會發生什麼？這個房間裡的人應該怎麼做，才能確保他們是在創造的那一邊，而不是在 API 線以下？人們把它叫做奇點是有原因的，因為我們不知道不太遠的未來會發生什麼。人類智慧的比例會變得相當小。到某個時刻，人類智慧的總和將不到所有智慧的 1%。如果事情發展到卡爾達舍夫等級二，即使假設人口大幅增長和大規模智力增強——比如每個人的智商都有一千——即使在那種情況下，人類的集體智慧大概也只是數位智慧的十億分之一。總之，生物是數位超級智慧的引導程式。我猜最後的問題是——我是一個好的引導程式嗎？我們從這裡往哪去？我的意思是，這些都是相當瘋狂的科幻內容，但也可能被這個房間裡的人建造出來。你有什麼結語想對這一代最聰明的技術人說的嗎？他們應該在做什麼？他們應該在研究什麼？

Elon Musk [48:13]

他們應該在研究什麼？今晚去吃晚餐的時候應該在想什麼？就像我一開始說的，我認為如果你在做有用的事情，那就很好。盡可能對你的同胞人類有用，那你就在做好事。我一直在強調這一點——專注於超級真實的 AI，這是 AI 安全最重要的事情。如果有人有興趣在 xAI 工作，請讓我們知道。我們的目標是讓 Grok 成為最追求真相的 AI。我認為這是非常重要的事情。希望我們能理解宇宙的本質。這才是 AI 可以告訴我們的。也許 AI 能告訴我們外星人在哪裡，宇宙到底是怎麼開始的？它會怎麼結束？有哪些我們不知道應該問的問題？我們是不是在模擬裡？或者我們在哪一層模擬裡？我想我們會找到答案的。Elon，非常感謝你的加入。大家給 Elon Musk 掌聲。