“我不想帶著從未嘗試 meta 之外世界的遺憾繼續(xù)往前走...不想永遠(yuǎn)做 PyTorch，也不想像 Guido 或 Linus 那樣——幾十年都被綁在同一件事情上?！?/p>

“休完育嬰假后我突然意識(shí)到，團(tuán)隊(duì)已經(jīng)能把各種難題處理得越來(lái)越好，這個(gè)項(xiàng)目……已經(jīng)不再需要我了?！?/p>

就在這樣半感慨、半釋然的心情里，PyTorch 的靈魂人物、“PyTorch 之父”Soumith Chintala 于 meta 任職十一年零四個(gè)月后，發(fā)布了一封情緒滿滿的離職長(zhǎng)文，宣布將在十天后正式告別這家科技巨頭。

對(duì)扎克伯格而言，無(wú)疑是痛失一員大將；對(duì)整個(gè) AI 技術(shù)圈來(lái)說(shuō)，這是一個(gè)時(shí)代的轉(zhuǎn)折節(jié)點(diǎn)。畢竟，PyTorch 早已從一個(gè)想法，成長(zhǎng)為 AI 領(lǐng)域重要的基礎(chǔ)設(shè)施之一。它在 GitHub 上近百萬(wàn) Star 的熱度，也映射出 Soumith 十一年一路推動(dòng)的歷程。

現(xiàn)在，Soumith Chintala 選擇離職，沒(méi)有繼續(xù)待在舒適圈，而是帶著一點(diǎn)點(diǎn)迷茫、一點(diǎn)點(diǎn)興奮，也帶著對(duì)“未知”的好奇，即將踏上下一段旅程。他說(shuō)，他想去外面看看——做一些小的、全新的、自己還不完全理解的、甚至有些不舒適的事情。

Soumith Chintala 的離職長(zhǎng)文

在這封離職長(zhǎng)文里，Soumith Chintala 不僅回望了自己在 meta 的這段旅程，也聊到了處于交棒階段的 PyTorch。

以下為 Soumith Chintala 的自述：

在 meta 工作了十一年，幾乎占據(jù)了我整個(gè)職業(yè)生涯。在這里，我結(jié)交了許多終生摯友。

差不多八年，我?guī)ьI(lǐng) PyTorch 從無(wú)到有，讓它在 AI 領(lǐng)域的采用率超過(guò) 90%。離開(kāi)這里，是我做過(guò)的最艱難的決定之一。但我滿懷感激地離開(kāi)。

如今，PyTorch 已經(jīng)能夠處理百億級(jí)別的訓(xùn)練。它支撐著正在重新定義智能的基礎(chǔ)模型，幾乎每家主要的 AI 公司都在生產(chǎn)環(huán)境中使用它。從 MIT 到印度的鄉(xiāng)村課堂等場(chǎng)景中，PyTorch 都在被教學(xué)。

我曾夢(mèng)想讓這些工具更易獲取？現(xiàn)在實(shí)現(xiàn)了。

我想降低的入門門檻？現(xiàn)在也幾乎消失了。

當(dāng)然，要做的事情遠(yuǎn)不止這些。只要 AI 以如此驚人的速度發(fā)展，PyTorch 仍需不斷追趕。過(guò)于執(zhí)著于未來(lái)，有時(shí)會(huì)讓我們忽略已經(jīng)取得的成就。

感謝所有與我一起打造 PyTorch 的人——相信研究應(yīng)當(dāng)充滿樂(lè)趣，相信工具應(yīng)當(dāng)優(yōu)雅，相信開(kāi)源能夠改變一切——謝謝你們。這不是我的個(gè)人旅程，而是我們共同的旅程。

接下來(lái)我會(huì)做什么？小的、全新的、我還不完全理解的、甚至有些不舒適的事情。我本可以選擇在 meta 內(nèi)部轉(zhuǎn)崗，換個(gè)方向繼續(xù)發(fā)展，但我覺(jué)得自己需要去看看外面的世界。我需要再次做一些“小事”。我無(wú)法接受自己從未嘗試過(guò) meta 之外事情所帶來(lái)的遺憾。

離開(kāi)真的很難。我應(yīng)該是坐在了 AI 行業(yè)最具影響力的位置之一——我負(fù)責(zé)的軟件層，支撐著整個(gè) AI 行業(yè)的運(yùn)作。幾乎所有主要的 AI 公司和硬件廠商，我都能直接聯(lián)系。這種地位和影響力，真的很難放手。但最終，好奇心在我腦中占了上風(fēng)。

請(qǐng)繼續(xù)讓 AI 更好用、更有趣吧。我也會(huì)持續(xù)關(guān)注，也許還會(huì)提交一些 issue，肯定會(huì)保持參與的。

PyTorch 會(huì)沒(méi)事嗎？

我不想永遠(yuǎn)做 PyTorch 的事。我不想像 Guido（Python 之父）或 Linus（Linux 之父）那樣——幾十年都被綁在同一件事情上。

去年十一月，正值我女兒出生之際，我和 Aparna（meta 資深工程副總裁）就已經(jīng)開(kāi)始規(guī)劃我的離開(kāi)。我的目標(biāo)是把 PyTorch 留在一個(gè)良好、穩(wěn)定的狀態(tài)。

到了今年八月，在育嬰假下半段的時(shí)候，我就知道了：Edward、Suo、Alban、Greg、John、Joe 和 Jana 已經(jīng)準(zhǔn)備好了。團(tuán)隊(duì)面對(duì)棘手的人事、產(chǎn)品、技術(shù)和組織問(wèn)題時(shí)，并不需要依賴我來(lái)幫他們解決（不像以前那樣）。他們?yōu)?PyTorch 大會(huì)準(zhǔn)備的產(chǎn)品故事條理清晰——真的很清晰。我曾標(biāo)紅的問(wèn)題正在變得健康。這個(gè)項(xiàng)目已經(jīng)不再需要我了。

不同于 2020-2022 年（那時(shí)我離開(kāi)去從事機(jī)器人研究，Lin、Dima 和 Dwarak 離開(kāi)后才又回來(lái)），這一次我有充分的信心，PyTorch 真正具有韌性。與 PyTorch 價(jià)值觀最契合的文化承載者們?nèi)?Greg、Alban、Ed、Jason 和 Joe，現(xiàn)在都在決策層上了，而那些價(jià)值觀高度契合的人——Suo、John 和 Jana——也加入了決策層。如果這些人有離開(kāi)，還有一長(zhǎng)串同樣價(jià)值觀契合的人愿意坐上決策桌。

還有許多小細(xì)節(jié)讓我對(duì)團(tuán)隊(duì)充滿信心：John 在 Julia 和開(kāi)源領(lǐng)域有長(zhǎng)期經(jīng)驗(yàn)（實(shí)際上我們?cè)?2015 年就一起嘗試過(guò) Torch.jl），Suo 過(guò)去兩年是我最強(qiáng)的系統(tǒng)構(gòu)建者和戰(zhàn)略伙伴，而 Jana 長(zhǎng)期負(fù)責(zé)核心系統(tǒng)的韌性建設(shè)，過(guò)去幾個(gè)月我與她進(jìn)行了深入的技術(shù)和組織討論，也讓我充滿信心。而 2025 年的產(chǎn)品陣容和執(zhí)行情況，本身就足以消除任何剩余的疑慮。

我相信這群 PyTorch 團(tuán)隊(duì)成員會(huì)表現(xiàn)得非常出色。PyTorch 可能會(huì)在風(fēng)格上有所變化，因?yàn)槲也辉購(gòu)纳隙聫?qiáng)加自己的品味，但我有信心，核心價(jià)值觀會(huì)保持不變，產(chǎn)品也會(huì)非常出色。

我在 meta 的時(shí)光

FAIR 的早期歲月簡(jiǎn)直充滿魔力。我成為了一個(gè)小而卓越的團(tuán)隊(duì)的一員，大家在公開(kāi)環(huán)境中打造最前沿的 AI 技術(shù)。

從和 Emily Denton、Rob Fergus、Leon Bottou、Martin Arjovsky 以及如今傳奇般的 Alec Radford 一起研究生成對(duì)抗網(wǎng)絡(luò)（GAN），到和 Gabriel Synnaeve 一起開(kāi)發(fā)星際爭(zhēng)霸機(jī)器人，再到和 Howard Mansell 一起搭建第一個(gè) FAIR 集群，從和 Adam Lerer、Piotr Dollar 一起做目標(biāo)檢測(cè)，到打造 PyTorch，這一切的樂(lè)趣無(wú)法用語(yǔ)言完全描述。

2015 和 2016 年大概是我職業(yè)生涯中最高產(chǎn)、最享受的年份。我可能會(huì)永遠(yuǎn)帶著浪漫色彩回憶這段時(shí)光。

當(dāng)我加入 FAIR 時(shí)，我有嚴(yán)重的冒名頂替綜合癥（這類人群堅(jiān)信自己的成功并非源于自己的努力或能力，而是憑借著運(yùn)氣、良好的時(shí)機(jī)，擔(dān)心被他人識(shí)破自己其實(shí)是騙子這件事），前三個(gè)月非常非常困難。我無(wú)法用語(yǔ)言表達(dá)對(duì) Andrew Tulloch（AI 領(lǐng)域頂尖研究員）的感激，他是最周到、最善良、最熱情的導(dǎo)師，沒(méi)有他我無(wú)法走到今天。僅憑他回到 meta 這一點(diǎn)，我就對(duì) meta 非?？春?。

我在 PyTorch 的時(shí)光尤其特別。

我熱愛(ài)打造它的每一個(gè)環(huán)節(jié)——設(shè)計(jì)、管理、擔(dān)任 PM、技術(shù)負(fù)責(zé)人、溝通負(fù)責(zé)人、文檔工程師、發(fā)布工程師、修復(fù) bug、增長(zhǎng)黑客，把它變成一個(gè)有數(shù)百人參與的完整產(chǎn)品、將其過(guò)渡到產(chǎn)業(yè)利益相關(guān)方——應(yīng)有盡有。

感謝 meta 的 PyTorch 核心團(tuán)隊(duì)：工程師、研究員、開(kāi)源維護(hù)者、文檔編寫(xiě)者、CI 基礎(chǔ)設(shè)施團(tuán)隊(duì)、硬件合作伙伴以及社區(qū)建設(shè)者。感謝內(nèi)部和外部的數(shù)百名成員——你們把一個(gè)庫(kù)變成了一場(chǎng)運(yùn)動(dòng)。

有太多人值得感謝，但我必須提到 Adam Paszke、Sam Gross、Greg Chanan、Joe Spisak、Alban Desmaison、Edward Yang、Richard Zou、Tongzhou Wang、Francisco Massa、Luca Antiga、Andreas Köpf、Zach DeVito、Zeming Lin、Adam Lerer、Howard Mansell、Natalia Gimelshein 以及 Schrep。他們讓 PyTorch 成功發(fā)布。

后來(lái)，許多人也變得至關(guān)重要：Lu Fang、Xiaodong Wang、Junjie Bai、Nikita Shulga、Horace He、Mark Saroufim、Jason Ansel、Dmytro Dzhulgakov、Yangqing Jia、Geeta Chauhan、Will Constable、Briah Hirsh、Jane Xu、Mario Lezcano、Piotr Balecki、Yinghai Lu、Less Wright、Andrew Tulloch、Bruce Lin、Woo Kim、Helen Suk、Chris Gottbrath、Peng Wu、Joe Isaacson、Eli Uriegas、Tristan Rice、Yanan Cao、Elias Ellison、Animesh Jain、Peter Noordhuis、Tianyu Liu、Yifu Wang、Lin Qiao 等數(shù)百人。

我沒(méi)法一一列舉，但沒(méi)有這些人，PyTorch 就不存在 ??。

打造 PyTorch 最令人開(kāi)心的時(shí)刻，是遇到熱切分享他們快樂(lè)、喜愛(ài)和反饋的用戶。

我記得 2017 年 NeurIPS，一位研究生跑來(lái)找我，語(yǔ)無(wú)倫次、情緒激動(dòng)地說(shuō)，他嘗試了三年才在研究上取得進(jìn)展，而使用 PyTorch 三個(gè)月，他的研究進(jìn)展巨大，甚至已經(jīng)準(zhǔn)備畢業(yè)。那一刻讓我真切感受到，我們所做的事情對(duì)很多人意義重大，即便你不會(huì)一直聽(tīng)到他們的聲音。我確實(shí)懷念 PyTorch 社區(qū)的親密感，一個(gè) 300 人的大會(huì)就像大家庭聚會(huì)，但考慮到 PyTorch 今天產(chǎn)生的巨大影響——是的，現(xiàn)在大會(huì)有 3,000 人、市場(chǎng)影響力極大，但它幫助更多人做出最好的 AI 工作——我覺(jué)得這點(diǎn)親密感的缺失是小代價(jià)。我懷念這種親密感，但為這種成長(zhǎng)感到驕傲。

感謝 Mark Zuckerberg 和 Mike Schroepfer，相信開(kāi)源本質(zhì)上重要，而且是可靠的商業(yè)策略。對(duì)大多數(shù)人來(lái)說(shuō)，這很難理解，但我們?cè)谶@條戰(zhàn)略上始終保持步調(diào)一致，從未需要討論。沒(méi)有你們，F(xiàn)AIR 和 PyTorch 都不會(huì)存在，這對(duì)我意義重大。

感謝 Yann LeCun 和 Rob Fergus，創(chuàng)造了我如此敬仰的早期 FAIR。

感謝 Aparna Ramani，她在 meta 是少見(jiàn)的領(lǐng)導(dǎo)者：能對(duì)組織保持極高標(biāo)準(zhǔn)，技術(shù)上非常出色，同時(shí)能在同一次對(duì)話中討論深度基礎(chǔ)設(shè)施系統(tǒng)和行業(yè)戰(zhàn)略，而且執(zhí)行力無(wú)可挑剔！我從你身上學(xué)到了太多。

感謝 Santosh、Kaushik、Delia、Oldham 和 Ben 對(duì) Infra 的熱情接納。作為從 FAIR 轉(zhuǎn)過(guò)來(lái)的新人，你們讓我有賓至如歸的感覺(jué)，讓我成為家庭的一部分，非常感謝。

感謝所有在 PSC 視頻游戲項(xiàng)目中支持我的經(jīng)理們——Serkan、Howard、Jerome、Abhijit、Yoram、Joelle、Aparna 和 Damien——我欠你們一輩子的酒。

——Soumith

來(lái)自 AI 圈的祝福與致敬！

Soumith 的離職，引發(fā) AI 技術(shù)圈的廣泛關(guān)注。

AI 大牛 Andrej Karpathy 留言道：“干得漂亮，Soumith！在我經(jīng)歷過(guò)的所有深度學(xué)習(xí)框架遷移中（從 Matlab → Caffe → NumPy → Torch → PyTorch，幾乎重寫(xiě)了所有代碼），遷移到 PyTorch 的體驗(yàn)是最愉快的，而且現(xiàn)在看來(lái)影響也最持久。它在目標(biāo)與約束的 20 維設(shè)計(jì)空間中，堪稱一次時(shí)間上的大滿貫。希望你能在一個(gè)最讓你心動(dòng)的領(lǐng)域，再次迎來(lái)屬于你的黃金時(shí)代！”

Soumith 笑到回復(fù)稱：“希望你的光彩一直因?yàn)?PyTorch 而閃耀。開(kāi)個(gè)玩笑啦。實(shí)際上，你對(duì) PyTorch 的成長(zhǎng)貢獻(xiàn)比你自己意識(shí)到的還要多，還多次幫助它調(diào)整方向。感謝你一直以來(lái)的付出。希望未來(lái)即便我們迎來(lái) AGI，也依然能看到你在接下來(lái)的 30 年里繼續(xù)使用 PyTorch，甚至只是為了編程樂(lè)趣而用它……”

圖靈獎(jiǎng)得主楊立昆祝福道：“祝你在下一份工作一切順利。”

PyTorch 工程總監(jiān) John Myles White 表示：“多年前，當(dāng)我離開(kāi) Julia 的時(shí)候，你曾說(shuō)過(guò)類似‘你經(jīng)歷了一段傳奇之旅’的話。現(xiàn)在似乎輪到我來(lái)回饋同樣的心意，而且放大一千倍?！?/p>

也有人感嘆：“一個(gè)時(shí)代的終結(jié)?！?/p>

Soumith：從印度少年到 PyTorch 核心開(kāi)發(fā)者的傳奇之路

事實(shí)上，Soumith 的離職之所以引起這么大的轟動(dòng)，不僅因?yàn)樗?PyTorch 的靈魂人物，更因?yàn)樗某砷L(zhǎng)歷程本身就充滿傳奇色彩。

Soumith 出生于印度，自小對(duì)數(shù)學(xué)和計(jì)算機(jī)充滿濃厚興趣。本科畢業(yè)于班加羅爾大學(xué)后，他赴美國(guó)深造，專注計(jì)算機(jī)視覺(jué)與深度學(xué)習(xí)研究——這些領(lǐng)域后來(lái)也成為 PyTorch 崛起的基石。

在卡耐基梅隆大學(xué)攻讀研究生期間，Soumith 在頂尖學(xué)者的指導(dǎo)下接觸前沿 AI 技術(shù)，同時(shí)敏銳地意識(shí)到學(xué)術(shù)界和工業(yè)界對(duì)靈活、高效、可擴(kuò)展深度學(xué)習(xí)工具的迫切需求，這也逐漸明確了他的職業(yè)方向。

2014 年，Soumith 加入 meta（當(dāng)時(shí)的 Facebook），進(jìn)入 Facebook AI Research（FAIR），負(fù)責(zé)多個(gè)深度學(xué)習(xí)項(xiàng)目。他和團(tuán)隊(duì)發(fā)現(xiàn)，當(dāng)時(shí)的深度學(xué)習(xí)框架要么過(guò)于復(fù)雜，要么限制研究靈活性，于是萌生了開(kāi)發(fā)新工具的想法。

兩年后，PyTorch 橫空出世。作為核心開(kāi)發(fā)者之一，Soumith 全程參與了從項(xiàng)目啟動(dòng)到發(fā)布的每一步，并推動(dòng)其成為行業(yè)標(biāo)準(zhǔn)。

回顧 PyTorch 的發(fā)展歷程，Soumith 也曾詳細(xì)介紹過(guò)其誕生背景。

https://soumith.ch/blog/2023-12-17-pytorch-design-origins.md.html

PyTorch 的基礎(chǔ)工作最初于 2016 年初，由一群 Torch7 貢獻(xiàn)者在線上發(fā)起。

Torch7（也稱 LuaTorch，因?yàn)樗?Lua）由 Ronan Collobert、Clement Farabet 和 Koray Kavuckuoglu 于 2010 年左右開(kāi)發(fā)。

Soumith 早在 2012 年就已經(jīng)深度參與了 Torch7，并在 2014 年 4 月獲得官方“維護(hù)者”身份，與原作者一起工作。

不過(guò)，Torch7 的 C 后端負(fù)責(zé) CPU 和 CUDA 的線性代數(shù)與神經(jīng)網(wǎng)絡(luò)計(jì)算，但與 Lua 緊密耦合。隨后，Soumith 聯(lián)合 Luca Antiga、Andreas Köpf、Sergey Zagoruyko 等人對(duì)這些后端進(jìn)行了重構(gòu)，使其與 Lua 脫鉤，可獨(dú)立使用。

在此基礎(chǔ)上，后來(lái)加入 Facebook 的 Soumith 在 2016 年中與團(tuán)隊(duì)開(kāi)發(fā)了基于 Python 的新 Torch——PyTorch。這個(gè)版本不僅繼承了 LuaTorch 的設(shè)計(jì)優(yōu)勢(shì)，還引入了多項(xiàng)創(chuàng)新功能，例如自動(dòng)微分引擎 torch.autograd、Parameter 概念以及自我賦值的模塊設(shè)計(jì)，使研究者能夠更加高效、靈活地構(gòu)建深度學(xué)習(xí)模型。

同時(shí)，Soumith 也曾坦然分享，PyTorch 借鑒了 Chainer、HIPS/autograd 等項(xiàng)目的靈感，并在此基礎(chǔ)上持續(xù)創(chuàng)新，這種“傳承與創(chuàng)新”的結(jié)合奠定了 PyTorch 的核心競(jìng)爭(zhēng)力。

自 2017 年以來(lái)，PyTorch 快速發(fā)展，吸收 Caffe2 理念，多次迭代編譯器設(shè)計(jì)，完善分布式計(jì)算與 GPU 優(yōu)化，擴(kuò)展領(lǐng)域庫(kù)與數(shù)據(jù)加載機(jī)制，逐漸從研究工具成長(zhǎng)為覆蓋工業(yè)應(yīng)用的整體化系統(tǒng)。

Soumith 在其中始終發(fā)揮核心作用——不僅主導(dǎo)設(shè)計(jì)與實(shí)現(xiàn)，還推動(dòng)社區(qū)發(fā)展，確保 PyTorch 成為全球 AI 研究與工業(yè)應(yīng)用的重要基石。他堅(jiān)持開(kāi)源精神，明確標(biāo)注靈感來(lái)源，倡導(dǎo)在前人工作基礎(chǔ)上創(chuàng)新、啟發(fā)后人，這種理念深刻影響了整個(gè)社區(qū)。

從 Torch7 的維護(hù)者到 PyTorch 的核心開(kāi)發(fā)者，Soumith 的成長(zhǎng)軌跡不僅是個(gè)人奮斗的故事，更是現(xiàn)代深度學(xué)習(xí)工具發(fā)展史上不可或缺的一部分。

十一年的耕耘，讓 PyTorch 從一個(gè)初始的想法走向世界，也讓 Soumith 成為 AI 工業(yè)界無(wú)法忽視的關(guān)鍵人物。

最后，祝福 Soumith 下一征程順利