TMT观察网_独特视角观察TMT行业

距離 Deepmind 研究科學家 Felix Hill 在 X 平臺上最近一次發(fā)文已經(jīng)過去接近兩個月了。

不幸的是，這位研究科學家因長期與嚴重精神疾病抗爭于去年 12 月 5 日遺憾離開人世。

而這一消息也由斯坦福大學兼職教授、Contextual AI CEO Douwe Kiela 在 X 平臺確認。

噩耗傳出后，許多 AI 圈人士紛紛在 Douwe Kiela 的評論區(qū)緬懷起這位朋友。

即便是與 Felix 有過學術(shù)分歧的 Gary Marcus 也表示：盡管我們有時會在知識層面產(chǎn)生分歧，但聽到這個消息我感到非常遺憾。愿他安息。

Udio CEO 聯(lián)合創(chuàng)始人 David Ding、Google 高級研究科學家 Nataniel Ruiz、Meta 及 OpenAI 等多位研究科學家也紛紛發(fā)文表達哀思。

愿逝者安息，向他的朋友和家人致以深切的哀悼。

知名 AI 研究者、紐約大學教授 Kyunghyun Cho 曾與 Felix 在2014年夏天于蒙特利爾相識，后續(xù)也發(fā)文回憶往事。

當時 Kyunghyun 是博士后，而 Felix 是訪問學生。他們因為一次關(guān)于語法結(jié)構(gòu)的學術(shù)討論而成為好友。

在相約進行研究工作后，他們?nèi)〉玫钠渲幸豁棾晒窃?2016 年發(fā)表的論文中創(chuàng)造了在論文中嵌入大型數(shù)據(jù)表格的趨勢，這個風格在此后的 3-5 年里被學術(shù)界廣泛效仿。

人雖已逝，但 Felix Hill 留下的觀點光芒永存。

即便是未曾謀面的同行也為其所折服。英偉達高級研究科學家 Jim Fan 今天也在 X 平臺轉(zhuǎn)發(fā) Felix Hill 博客，并借此悼念這位朋友。

這是我讀過的最令人心痛的博客，因為它是如此真實，如此貼近內(nèi)心。
作者已經(jīng)不在我們身邊了。我忍不住流下了眼淚……

我從未有幸在現(xiàn)實中認識 Felix，但我熱愛他的研究視角，并為他的每一篇新論文設(shè)置了 Google Scholar 提醒。

他在智能體和 VLM 領(lǐng)域的工作對我的研究產(chǎn)生了深遠影響。他本可以成為一個好朋友。我真的想要了解他，但現(xiàn)在已經(jīng)再也沒有機會了。

他帶領(lǐng) AI 研究團隊，卻無法戰(zhàn)勝自己內(nèi)心的惡魔

Linkedin 的公開資料顯示， Felix Hill 是一個世俗意義上成績優(yōu)異的好學生。

他本科畢業(yè)于牛津大學的數(shù)學專業(yè)，也曾擔任牛津大學羽毛球隊隊長。

研究生實習則在墨西哥國立自治大學，專業(yè)方向是認知科學、語言學和教育，專注于多學科交叉領(lǐng)域（認知科學和語言學）。

這段經(jīng)歷不僅豐富了他的國際化視野，也拓寬了他的學術(shù)興趣。

2011 年-2016 年， 他在劍橋大學先后攻讀語言學和計算語言學，期間還擔任高爾夫球隊隊長。

步入職場后，F(xiàn)elix 的事業(yè)發(fā)展也可謂順風順水。

他曾投身教育事業(yè)，擔任過數(shù)學教師，指導 14-18 歲的學生備考和申請大學；同時熱心公益，支持當?shù)亟逃钦M織。

2016 年后，F(xiàn)elix 曾長期在 Google Deepmind 工作。

在離世前，他在 Deepmind 主要負責領(lǐng)導著一個研究語言與通用智能交互的團隊。與此同時，他也開始將重心轉(zhuǎn)向前沿科技研究，專注于語言學、機器學習和 AI 模型開發(fā)。

Google 學術(shù)資料顯示，其論文總引用次數(shù)達 19680 次，h 指數(shù)為42，其中 2020 年后的引用更高達 16608 次，對相關(guān)領(lǐng)域產(chǎn)生廣泛的影響。

在 X 平臺，這位朋友在自我介紹中寫道：

我試圖認真思考每一條推文的內(nèi)容，尤其是關(guān)于 90 年代足球和 80 年代音樂的部分。我的觀點完全是我自己的，絕不代表他人。

然而，這位在世俗眼中取得巨大成功的 AI 研究科學家，卻一直與嚴重的精神疾病抗爭。

在 Felix 的博客中，他也記錄了自己人生最后階段的的心路歷程：

2023 年 4 月，他的母親因阿爾茨海默病去世。

同期他因急性精神病住院治療，此后 12 個月一直處于極度焦慮和深度抑郁狀態(tài)。

在得到雇主的理解和支持，以及經(jīng)過 6 個月危及生命的抑郁期后，他的病情開始好轉(zhuǎn)，于是開始思考并記錄自己對壓力與焦慮的觀察和理解。

然而，命運往往弄人。2024 年 12 月 5 日，這位朋友最終還是過早地離開人世。R.I.P.

附上 Jim Fan 轉(zhuǎn)發(fā) Felix Hill 的博客原文

2000 億權(quán)重的責任

現(xiàn)代 AI 工作的壓力

作者：Felix Hill，2024 年 10 月

在過去兩年里，AI 領(lǐng)域發(fā)生了不可逆轉(zhuǎn)的變化。

ChatGPT 的月活躍用戶已接近 2 億人次。Gemini 在 2024 年 5 月的訪問量接近 3.2 億次。如今，AI 愛好者甚至可以使用 AI 微波爐、AI 牙刷，甚至是 AI 足球。

然而，對于我們許多從事 AI 工作的人來說，這種大眾興趣的激增既是一種福祉，也是一種負擔。確實，薪資水平提高了，股票價格和市場估值也隨之上漲。但與此同時，這種變化也帶來了一種獨特的壓力。

這篇博客是關(guān)于現(xiàn)代 AI 帶來的壓力的。它的目標讀者是那些從事 AI 工作的人（據(jù)保守估計，這大約占世界人口的 87%），尤其是那些從事 AI 研究的人員。

最終，我希望通過討論 AI 研究中讓人感到壓力的因素，能夠讓那些有幸從事這一領(lǐng)域的人生活變得更加愉快。因為盡管當前一片混亂，這依然是一份美好而充實的職業(yè)；一個有潛力解答許多科學、哲學乃至人類自身偉大問題的職業(yè)。

無處逃避

幾個月前，我參加了一個朋友的 40 歲生日派對。我們是密友，所以我認識派對上的不少賓客，有些人還非常熟悉。但也有一些人是我完全不認識的。

在那些我不太熟悉的人中，我注意到一個奇怪的現(xiàn)象。

盡管我當時身體不太好（稍后會提到這個），顯然也不太想主動參與交談，但周圍還是排起了一小隊人，只因為大家知道我在 DeepMind 工作，很多人想和我交談。

這些對話并不是關(guān)于足球或 80 年代音樂這樣讓人放松的話題，而是關(guān)于我最想避免的一個話題：AI。雖然大家對我的工作感興趣讓我感到受寵若驚，但這也讓我意識到過去兩年間發(fā)生了多么巨大的變化。銀行家、律師、醫(yī)生和管理顧問都想讓我對 ChatGPT 發(fā)表看法；盡管他們中的很少人直接在工作中使用這些 LLM，但他們都確信 AI 正在發(fā)生一些重要的變化，而這是他們必須了解的。

作為一名研究人員，我相信你能理解那種在社交場合無法「關(guān)閉開關(guān)」的感覺。

但事情變得更糟了。甚至在我自己家里，我也無法逃離。

我早已不看新聞，因為害怕引發(fā)焦慮。但即使在看足球、VH1、蒙塔爾巴諾探長，或者那部精彩的《那不勒斯四部曲》的改編電視劇時，廣告中也充滿了對 AI 的提及。

在這段時間，我經(jīng)常想收拾行李，跨越大陸，加入一個隱居的宗教團體。盡管我不會感到驚訝，甚至 Vipassana 瑜伽現(xiàn)在可能也在某種程度上被 AI 滲透了。

隱含的競爭

幾家大公司似乎在競爭開發(fā)最大、最強大的大型語言模型，這本身就帶來了巨大的壓力；無論你為哪家公司工作。

在目前的 AI 研究中，有時會讓人感覺像是在參與一場戰(zhàn)爭。從阿道夫·希特勒到荷蘭·舒爾茨，我們都知道，參與戰(zhàn)爭可能會導致嚴重的后果，包括精神疾病、離婚和自殺。

當然，這并不是將參與 AI 研究等同于「真正戰(zhàn)爭」中的身體戰(zhàn)斗。但根據(jù)我的親身經(jīng)歷，這兩者之間的相似性盡管略顯牽強，卻是真實存在的。

影響公司底線

通常來說，從事工業(yè)研究的研究人員并不習慣于自己的工作會對雇主的底線產(chǎn)生直接而即時的影響。

當然，許多研究人員夢想著能有這樣的機會。但過去這通常只是十年才會發(fā)生一次的事情。

如今，基礎(chǔ)研究對 LLM 的結(jié)果通常僅能導致模型性能的細微、短期的波動。然而，由于公眾對 LLM 性能的高度關(guān)注，這些波動可能反過來導致股價的數(shù)十億美元波動。

這種動態(tài)顯然非常具有壓力，而這并不是 AI 研究人員在研究生院、博士后甚至 2022 年之前的工作中所能被訓練應(yīng)對的。

金錢，金錢，金錢

大多數(shù) AI 研究人員，尤其是那些超過一定年齡的人，從事研究的初衷并不是為了賺錢。為自己熱愛的工作賺到一大筆錢聽起來像是一劑良藥，但這同樣可能引發(fā)強烈的焦慮感。特別是當促使收入增加的外部因素不在自己掌控之中，或者這些因素讓自己對這份工作的熱愛減退時，這種焦慮尤為明顯。

無論是否與 AI 有關(guān)，大量證據(jù)表明，突然積累財富可能引發(fā)各種問題；只需看看那些經(jīng)過多年努力終于一夜成名的演員或歌手就知道了。成癮、破裂的關(guān)系、破碎的友誼，甚至自殺，都是一些較為常見的后果。這些問題讓我個人深有體會。

科學家無用武之地

LLM 的規(guī)模、簡單性和高效性使得科學研究很難變得「相關(guān)」，也就是說，很難直接幫助提升 LLM 的性能。

許多頂尖的 LLM 研究人員已經(jīng)開始推崇 Rich Sutton 的「苦澀教訓」：幾乎不需要任何超越規(guī)模擴展之外的創(chuàng)新。

即使理論上存在進行實質(zhì)性創(chuàng)新的可能性（毫無疑問是存在的），要實現(xiàn)這些創(chuàng)新往往需要在不同條件下反復訓練最大規(guī)模的 LLM。這甚至是目前最大的公司都難以承擔的事情。對于一名「普通」的研究科學家來說，這種情況可能令人心力交瘁。

這些條件對那些習慣于在小團隊（5-10 人）中工作的工業(yè)科學家來說已經(jīng)非常嚴峻。而對于學術(shù)界的 PhD、博士后以及 AI/CS/ML 的教職人員來說，這種壓力無疑更加劇烈。

發(fā)表論文

盡管學術(shù)界的研究人員可以（并且應(yīng)該）繼續(xù)發(fā)表他們從 LLM 實驗中獲得的見解，但對于工業(yè)界的科學家來說，發(fā)表論文是否仍然是研究的一種可行結(jié)果卻變得越來越不確定。

發(fā)表論文長期以來一直是科學過程的核心部分，也是 AI 研究的重要原則。大多數(shù)我交談過的 AI 研究人員，特別是研究科學家，都認為發(fā)表論文是我們職業(yè)生涯中不可或缺的一部分。

然而，至少在工業(yè)界，在過去兩年中，是否將研究成果發(fā)表作為一種可行的選擇變得越來越不確定。即便是能夠稍微改善 LLM 性能的一些小技巧，也可能成為 LLM 戰(zhàn)爭中的關(guān)鍵「武器」。是否應(yīng)該公開這些「秘密」，以及這是否對資助研究的機構(gòu)有利，始終是一個微妙的問題。

這一切都意味著研究人員經(jīng)常無法控制自己想法的命運。而至少對我來說，這種情況會引發(fā)極大的壓力。

初創(chuàng)企業(yè)

當然，從這些擔憂中逃離的一種可能途徑是形成一個科學愿景，籌集資金，創(chuàng)建一家初創(chuàng)企業(yè)。事實上，當前 AI 初創(chuàng)企業(yè)（無論大小）的激增表明，許多科學家已經(jīng)選擇了這條道路。

然而，成為創(chuàng)始人并不能保證你能夠擺脫與壓力相關(guān)的問題。事實上，這條道路以其高壓力而聞名。即便在當前投資者熱情高漲的情況下，許多資金充足的 AI 初創(chuàng)企業(yè)仍然失敗。根據(jù)我的親身經(jīng)歷，作為一名創(chuàng)始人是一段特別孤獨的旅程。這無疑是當前有抱負的科學家的一種可行選擇，但它并不會讓科學研究變得輕松，也不會減輕壓力。

為什么我選擇寫一篇關(guān)于壓力的博客？

過去兩年對 AI 世界來說是混亂而瘋狂的，同時對我個人而言，也是特別動蕩的時期。

在 2023 年 4 月，我的母親在與阿爾茨海默病長期斗爭后去世了。而那時，我因急性精神病住在精神病院，壓力很可能是誘發(fā)這一切的重要因素。在接下來的 12 個月里，我理論上是在恢復，但實際上卻一直處于極度焦慮和深度抑郁的狀態(tài)。在這段時間里，我非常幸運擁有理解我處境的雇主（以及認可我對公司貢獻的價值），他們?yōu)槲姨峁┝顺掷m(xù)的治療支持和道德上的關(guān)懷。

又經(jīng)過了 6 個月的危及生命的抑郁期后，我終于開始感到好轉(zhuǎn)，最近也覺得有能力寫下自己的經(jīng)歷。我意識到，壓力和焦慮總是形影不離；事實上，它們可能本質(zhì)上是同一回事。當然，像任何一種適應(yīng)性特質(zhì)一樣，焦慮在一定程度上是有益的（例如它可以提升生產(chǎn)力），但當焦慮變得惡性時，其后果可能會非常嚴重。

正是在回顧過去兩年 AI 領(lǐng)域的經(jīng)歷，同時努力重新學習如何成為一名 AI 研究員的過程中，我得到了我在這篇博客中分享的見解。當然，僅僅分享這些見解并不能解決所有問題，但在我最黑暗的時刻，唯一讓我看到希望的事情之一是知道我并不孤單。如果你現(xiàn)在正處于痛苦之中，請相信我——你并不孤單。

社交焦慮

我已經(jīng)討論了許多可能讓當前從事 AI 研究的人感到壓力或焦慮的原因。但還有一種壓力形式我尚未提及，因為我很幸運自己從未經(jīng)歷過。這種壓力就是社交焦慮。

根據(jù)朋友們的描述，那些有社交焦慮的人會覺得群體互動充滿挑戰(zhàn)。而在現(xiàn)代 AI 的世界里，這樣的困難尤為突出，因為大型項目團隊和跨洲際合作已經(jīng)成為必不可少的部分。當今行業(yè)內(nèi)的高流動率只會讓問題變得更為嚴峻，因為已經(jīng)建立的團隊（通常被視為一種社交「安全網(wǎng)」）可能在一夜之間被摧毀。而人員的頻繁流動也會導致信任問題，因為曾經(jīng)可靠的盟友可能會加入「敵對」的研究團隊。

好消息是，正如我之前討論的所有焦慮或壓力的表現(xiàn)一樣，社交焦慮也是可以被克服的?？朔倪^程始于培養(yǎng)自然的支持網(wǎng)絡(luò)，例如依靠家人和「非 AI」領(lǐng)域的朋友。但關(guān)鍵的第二步是，我們所有從事 AI 工作的人開始并持續(xù)進行關(guān)于壓力的坦誠對話。

因此，請通過推文或評論分享你的經(jīng)歷。讓我們一起努力，讓 AI 研究不僅僅是一個充滿活力、充滿智力挑戰(zhàn)的地方，更是一個充滿同情和善意的領(lǐng)域。