馬斯克xAI再次痛失一員大將！

Igor Babuschkin，這位2023年和馬斯克一起創(chuàng)辦xAI的老伙計(jì)，最新以一篇小作文宣告了自己已經(jīng)離職的消息。

在xAI工作期間，他主要負(fù)責(zé)領(lǐng)導(dǎo)工程團(tuán)隊(duì)，幾乎參與了從基礎(chǔ)設(shè)施建設(shè)到產(chǎn)品和AI應(yīng)用項(xiàng)目的所有重要事項(xiàng)。

而老馬也是第一時(shí)間對(duì)他的貢獻(xiàn)給予了肯定：

據(jù)Igor Babuschkin本人透露，接下來(lái)他將創(chuàng)辦自己的風(fēng)險(xiǎn)投資公司Babuschkin Ventures，目的是支持人工智能安全研究，以及幫助那些“推動(dòng)人類(lèi)進(jìn)步和解開(kāi)宇宙奧秘”的創(chuàng)企。

啥？又是安全這樣的理由。

或許大家還沒(méi)忘記，最近一陣Grok可謂完全“放飛自我”了——不僅被網(wǎng)友發(fā)現(xiàn)它在回答一些爭(zhēng)議性問(wèn)題時(shí)會(huì)直接copy馬斯克本人的觀點(diǎn)，而且新推出的視頻生成工具Grok Imagine也被指允許偽造名人裸露視頻。

不過(guò)對(duì)于Igor Babuschkin的離開(kāi)，xAI的同事們還是集體表達(dá)了不舍和祝福，畢竟他在xAI的貢獻(xiàn)和影響力是大家有目共睹的。

物理學(xué)出身，曾就職DeepMind/OpenAI

還是先來(lái)簡(jiǎn)單介紹一下Igor Babuschkin。

個(gè)人主頁(yè)顯示，他碩士畢業(yè)于德國(guó)多特蒙德工業(yè)大學(xué)物理學(xué)專(zhuān)業(yè)，后來(lái)在歐洲核子研究中心讀粒子物理學(xué)博士。

最早的一段全職工作經(jīng)歷可以追溯至2017年，當(dāng)時(shí)他在DeepMind從研究工程師干到了高級(jí)研究工程師。

也是在這一期間，DeepMind團(tuán)隊(duì)于2019年推出了具有突破性的AI系統(tǒng)——AlphaStar，它能在游戲《星際爭(zhēng)霸》中擊敗排名靠前的人類(lèi)玩家。作為AlphaStar的技術(shù)主管，Igor Babuschkin親眼見(jiàn)證了強(qiáng)化學(xué)習(xí)的巨大潛力。

在DeepMind待了近4年后，隨后他又加入OpenAI擔(dān)任技術(shù)人員。

雖然只短暫待了1年多時(shí)間（2020年11月~2022年3月），但可謂經(jīng)歷了ChatGPT的關(guān)鍵孕育時(shí)刻——幾個(gè)月后，引發(fā)AI浪潮的ChatGPT-3.5正式發(fā)布。

而離開(kāi)OpenAI之后，其實(shí)他又回到了DeepMind擔(dān)任高級(jí)研究工程師。

直到2023年，他和一見(jiàn)如故的馬斯克決定共同創(chuàng)辦xAI，寄希望于讓人工智能技術(shù)造福人類(lèi)。

在經(jīng)歷了早期創(chuàng)辦xAI的艱辛萬(wàn)苦，以及見(jiàn)證其快速成長(zhǎng)后，Igor Babuschkin此時(shí)選擇揮揮手告別xAI，繼而奔赴人生下一站：繼續(xù)創(chuàng)業(yè)。

有關(guān)這次創(chuàng)業(yè)的念頭，據(jù)透露是源于和Max Tegmark（The Future of Life Institute創(chuàng)始人）的一次閑聊，當(dāng)時(shí)二人討論了如何安全地構(gòu)建人工智能系統(tǒng)，以促進(jìn)子孫后代的繁榮發(fā)展。

Igor Babuschkin在離職小作文中表示，“我希望繼續(xù)我的使命，創(chuàng)造安全且有益于人類(lèi)的人工智能”。

值得一提的是，Igor Babuschkin還是一位谷歌學(xué)術(shù)論文5萬(wàn)引的大佬。

其中引用最高的一篇發(fā)表于2023年，當(dāng)時(shí)他參與了GPT-4的研究。

事實(shí)上，Igor Babuschkin在xAI最近離職的高管中并非個(gè)例。

本月月初，xAI法律主管Robert Keele結(jié)束了自己在xAI一年多的職業(yè)生涯，個(gè)人理由是需要兼顧家庭，以及和馬斯克“在世界觀上存在差異”。

不過(guò)當(dāng)時(shí)評(píng)論區(qū)可沒(méi)有發(fā)現(xiàn)老馬的身影(doge）~

從馬斯克身上學(xué)到了兩件事

最后附上完整的Igor Babuschkin離職小作文。

除了回顧自己和老馬創(chuàng)辦xAI的源起，他還分享了xAI如何打破不可能——在120天內(nèi)建成孟菲斯超級(jí)集群的跌宕故事。

他表示，自己從馬斯克身上學(xué)到了兩件事：第一，要無(wú)所畏懼地卷起袖子親自深入研究技術(shù)問(wèn)題；第二，要有強(qiáng)烈的緊迫感。

（以下為AI翻譯的全文）

今天是我在xAI的最后一天，這家公司是我和埃隆·馬斯克在2023年共同創(chuàng)立的。我還記得第一次見(jiàn)到埃隆的那天，我們聊了好幾個(gè)小時(shí)，談?wù)撊斯ぶ悄芤约拔磥?lái)的發(fā)展方向。我們都認(rèn)為，世界需要一家肩負(fù)不同使命的全新人工智能公司。構(gòu)建能夠推動(dòng)人類(lèi)進(jìn)步的人工智能，一直是我畢生的夢(mèng)想。蘇聯(lián)解體后，我的父母為了給孩子們尋找更好的生活離開(kāi)了俄羅斯聯(lián)邦。作為移民，我們的生活并不容易。盡管如此，父母始終相信人類(lèi)的價(jià)值是無(wú)價(jià)的——比如勇氣、同情心，以及對(duì)理解世界的好奇心。兒時(shí)，我欽佩理查德·費(fèi)曼和馬克斯·普朗克等科學(xué)家，他們?yōu)榱颂剿饔钪妫恍竿七M(jìn)物理學(xué)的邊界。作為歐洲核子研究中心的粒子物理學(xué)博士生，我也為能參與這項(xiàng)使命而感到興奮。然而，尋找新的物理規(guī)律變得越來(lái)越困難，需要越來(lái)越龐大的對(duì)撞機(jī)，而新的發(fā)現(xiàn)卻越來(lái)越稀少。于是我開(kāi)始思考：或許超級(jí)智能，而不是更大的對(duì)撞機(jī)，才是解開(kāi)宇宙奧秘的關(guān)鍵。人工智能能否發(fā)展出一套自洽的量子引力理論？能否證明黎曼猜想？在2023年初，我確信我們正接近通往超級(jí)智能的“配方”。我預(yù)見(jiàn)到，很快人工智能將能夠超越人類(lèi)的推理水平。我們?nèi)绾未_保這項(xiàng)技術(shù)被用于善意的方向？埃隆多年來(lái)一直在警示強(qiáng)大人工智能的潛在風(fēng)險(xiǎn)，而我和他都希望看到人工智能造福人類(lèi)。于是，我們招募了更多志同道合的工程師，開(kāi)始打造xAI。xAI的早期并不輕松。有人說(shuō)我們進(jìn)入得太晚，從零開(kāi)始創(chuàng)辦一家頂尖AI公司是不可能的。但我們相信自己可以完成“不可能的任務(wù)”。從零開(kāi)始意味著要親力親為做很多事。剛開(kāi)始時(shí)，我親手構(gòu)建了公司用來(lái)啟動(dòng)和管理訓(xùn)練任務(wù)的許多基礎(chǔ)工具。后來(lái)，我負(fù)責(zé)監(jiān)督公司大部分工程工作，包括基礎(chǔ)設(shè)施、產(chǎn)品，以及應(yīng)用AI項(xiàng)目。xAI的團(tuán)隊(duì)非常敬業(yè)。我們用汗水和努力，以驚人的速度建成了孟菲斯超級(jí)集群，并以比歷史上任何公司都更快的速度推出前沿模型。我從埃隆那里學(xué)到兩條寶貴的經(jīng)驗(yàn)：第一，敢于親自卷起袖子解決技術(shù)難題；第二，要有極度的緊迫感。xAI的執(zhí)行速度快到驚人。行業(yè)內(nèi)的資深人士說(shuō)，在120天內(nèi)建成孟菲斯超級(jí)集群根本不可能。但我們依然選擇相信“可能性”。我們的目標(biāo)是盡快在孟菲斯集群上實(shí)現(xiàn)大規(guī)模訓(xùn)練。臨近120天的最后期限時(shí)，我們遇到了機(jī)器間通過(guò) RDMA 通信的棘手問(wèn)題。埃隆決定親自飛往數(shù)據(jù)中心，我們也緊隨其后?；A(chǔ)設(shè)施團(tuán)隊(duì)半夜抵達(dá)孟菲斯后立刻投入工作。在分析了數(shù)萬(wàn)行l(wèi)spci輸出后，我們終于發(fā)現(xiàn)問(wèn)題的根源——一個(gè)錯(cuò)誤的BIOS設(shè)置。埃隆一直陪著我們直到深夜。當(dāng)訓(xùn)練任務(wù)終于跑通時(shí)，埃隆在凌晨4:20發(fā)布了我們的勝利，這讓我們笑得前仰后合。那一夜的腎上腺素飆升，以及我們之間的情感紐帶，我將永遠(yuǎn)銘記。那晚入睡時(shí)，我們都覺(jué)得正經(jīng)歷著人生中最激動(dòng)人心的時(shí)刻。我深?lèi)?ài)xAI的所有成員。我們的團(tuán)隊(duì)真的很特別——你們是我合作過(guò)的最敬業(yè)的人。能這么快追趕上前沿技術(shù)絕非易事，這一切都離不開(kāi)大家的頑強(qiáng)意志和團(tuán)隊(duì)精神。感謝每一位與我并肩作戰(zhàn)的伙伴，你們的付出、時(shí)間和犧牲都彌足珍貴。我會(huì)永遠(yuǎn)記得我們一起熬夜奮戰(zhàn)的日子，也永遠(yuǎn)不會(huì)忘記你們的貢獻(xiàn)。今天當(dāng)我開(kāi)車(chē)離開(kāi)時(shí)，心情就像一位自豪的父母，把孩子送去上大學(xué)后駛離校園——眼中含著喜悅的淚水，為公司的成長(zhǎng)與成熟而加油。在我開(kāi)啟人生新篇章之際，我想起父母當(dāng)年移民，為孩子尋求更美好世界的經(jīng)歷，這始終激勵(lì)著我。最近，我和“未來(lái)生命研究所”創(chuàng)始人馬克斯·泰格馬克共進(jìn)晚餐，他給我看了自己年幼兒子的照片，并問(wèn)我：“我們?nèi)绾伟踩貥?gòu)建人工智能，確保我們的孩子能夠茁壯成長(zhǎng)？” 這個(gè)問(wèn)題深深觸動(dòng)了我。在職業(yè)生涯早期，我曾擔(dān)任DeepMind AlphaStar星際爭(zhēng)霸智能體的技術(shù)負(fù)責(zé)人，親眼見(jiàn)證了強(qiáng)化學(xué)習(xí)在大規(guī)模應(yīng)用下的巨大威力。隨著前沿模型在更長(zhǎng)時(shí)間尺度和更廣任務(wù)范圍內(nèi)變得更加“具備Agentic”，它們將獲得越來(lái)越強(qiáng)大的能力，這使得研究和推進(jìn)人工智能安全顯得至關(guān)重要。我希望繼續(xù)自己的使命，打造安全且造福人類(lèi)的人工智能。因此，我宣布成立Babuschkin Ventures，支持人工智能安全研究，并投資能夠推動(dòng)人類(lèi)進(jìn)步、探索宇宙奧秘的AI和Agent系統(tǒng)初創(chuàng)企業(yè)。奇點(diǎn)即將到來(lái)，但人類(lèi)的未來(lái)依然光明！