△點擊上圖有福利
如果人類和AI最終走到兵戎相見，上演《終結者》戲碼的那一步，那麼被譽為“深度學習之父”的Geoffrey Hinton（傑弗裡·辛頓）無疑是約翰·康納一般的角色——在電影裡，他是人類反抗“天網”的領導人。
昨晚，辛頓對外確認了自己從谷歌離職的消息。意外的是，他在接受《紐約時報》採訪時，表現出了對畢生投入事業的高度懷疑。
過去半個世紀以來，辛頓為AlphaGo、GPT等劃時代AI產品奠定了一系列的技術基礎。但現在，這位帶領深度學習衝破黑暗的智者後悔了：因為AI越來越不可控，已經威脅到人類社會的正常發展。
這也是他從谷歌離職的核心原因，他要以更中立的姿態做一個“吹哨人”，提醒人類注意AI的危險。
從開拓者到末日預言家
辛頓說長久以來，自己一直試圖用“如果我不去做，別人也會做”這樣的藉口來說服自己，推動AI的持續發展。這個在外人看來有點矯情，又杞人憂天的態度，源自於辛頓對“深度學習”的深信不疑。
80年前，深度學習仰仗的“神經網絡”第一次被提出。在此後漫長的時間裡，只有少數科學家堅信，應該參照人類大腦的神經網絡讓計算機智能起來。他們相信，機器能夠像人一樣思考，而不是簡單地遵從符號和指令。
其中最具地標性的，就是以辛頓為首的“深度學習三巨頭”。
其餘兩人，Yoshua Bengio和Yann LeCun，都可以算是辛頓的“得意門生”。1987年，LeCun短暫加入過辛頓的實驗室，也和他在谷歌共事。Bengio從本科開始，就站在了辛頓的肩膀上，學習他的著作，一路成長為巨人。
一直以來，辛頓都認為，隨著生物學發展，人類更好地瞭解大腦，深度學習最終會讓機器擁有人類的智慧，包括意識、情感。他曾說有99.9%的信心，在人類瞭解大腦如何工作之後，用神經網絡進行重建。
在深度學習發展的早期和停滯期，發表這樣的言論，是辛頓作為開拓者的工作之一。在沒有取得世人廣泛認可前，AI太需要關注和投入了。
但當他看到自己的學生Ilya Sutskever，也就是OpenAI首席科學家在實驗室鼓搗出GPT，並且讓它越來越智能之後，他開始“警惕”。畢竟到目前為止，沒人能解釋AI的“智能湧現”，就像一隻只會拙劣模仿的猴子突然變得聰明起來。
比核武器更棘手的問題
在接受採訪時，辛頓說自己的擔憂主要集中在三點。其一，大模型被廣泛使用後，互聯網將充斥大量虛假的文字、圖片和視頻，“普通人再也無法知道什麼是真的。”
實際上，在ChatGPT橫空出世後，很快被學生用在了論文造假上。美國多所大學不得不明令禁止學生使用ChatGPT。在國內，也不斷出現用大模型炮製新聞熱點，生成色情圖片的事件。
其次，辛頓認為，人類不可避免地陷入和AI的競爭中，大量普通人會逐漸被淘汰，“它會消滅很多苦差事，也可能帶走更多工作。”
GPT-4.0已經能根據一張圖片生成代碼。美國哥倫比亞法院已經開始使用ChatGPT作為輔助工具，讓它幫忙檢索法庭文件，代替了部分律師的工作。國內少數激進的遊戲公司和公關公司已經宣佈用大模型來替代人工……
然後就是潛在的未來威脅。辛頓說已經從大量數據中觀察到了AI意想不到的行為，而現在不少個人和公司正在讓AI生成代碼，然後運行自己生成的代碼，就像當初AlphaZero自己和自己下棋一樣。
他擔心有一天，科幻片裡的預言會成真。在某個人類看不見的角落，AI已經具備超越人類的智慧，建立了一支反抗人類的大軍。或者更現實一點，一個國家擁有了一支AI軍隊，像曾經的核武器一樣，對其他國家造成威脅。
“與核武器不同，沒有辦法知道某個公司或者國家是否在秘密研究這項技術。”他甚至真的提到了“原子彈之父”羅伯特·奧本海默。他推動了原子彈的發展，卻對由此帶來的毀滅性後果深深自責。
上世紀80年代，辛頓從卡耐基梅隆去了加拿大，因為他不願意接受五角大樓的資助。當時，美國大部分AI研究都有軍方背景。辛頓警惕地預防AI被用於製造“機器人士兵”。
但現在，潘多拉魔盒已經徹底被打開。
辛頓原本認為至少有三五十年，AI才能比人類更聰明，可過去大半年的事實讓他非常緊張。於是，像當年投身核武器和核不擴散運動的奧本海默一樣，他希望全世界的頂級科學家們馬上聯手，控制AI無序發展，把危險扼殺在搖籃裡。
以前，當被問及為什麼要研發具有潛在危險的技術時，辛頓習慣引用奧本海默的話：“當你看到一個東西擁有美妙的技術前景時，就儘管去做吧。”
面對“智能湧現”的AI，他不再這麼說了。
“加拿大黑手黨”教父
在人工智能圈子裡，因為“深度學習三巨頭”都和加拿大有很深的淵源，也被戲稱為“加拿大黑手黨”，為首的辛頓自然扮演“教父”一樣的角色。在現實世界裡，1947年出生的辛頓和維託·柯里昂一樣，擁有痛苦卻璀璨的一生。
辛頓出生於一個英國的學者家庭。曾曾祖父喬治·布爾創立了布爾代數，是19世紀最重要的數學家之一。曾祖父查理斯·辛頓是位科幻作家，寫有《第四維空間》等作品，現在習以為常的“超立方體”概念就出自他的想象。
喬治·布爾
辛頓的中間名Everest，和他高祖母的叔叔，地理學家Everest一樣。在英文裡，Everest有個特指，就是“珠穆朗瑪峰”（埃佛勒斯峰），是Everest的同事為了紀念他做的命名。
辛頓的父親霍華德·辛頓是一名昆蟲學家。他有兩位堂兄妹，堂弟叫威廉，堂妹叫瓊，很多人會對他倆的中文名更熟悉，韓丁和寒春。
韓丁曾在抗戰時期來到中國，是毛澤東主席和共產黨的堅定支持者，後來被周恩來總理稱為“中國人民患難與共的老朋友”。寒春和李政道、楊振寧是同窗好友，她作為唯一的女性，和奧本海默一起參與過曼哈頓計劃。因為在中國作出的卓越貢獻，她是第一位拿到中國“綠卡”的外國人。
年輕時的寒春
但顯赫的學術家史給辛頓帶來了巨大的壓力。他在很小的時候，就被母親灌輸“要麼做學者，要麼做失敗者”的理念，他說自己7歲的時候就意識到，將來肯定要成為一個博士，為此一輩子都在壓抑、沮喪中掙扎。
這種掙扎體現在他選擇專業上。他曾學過物理、化學、建築學、生理學、哲學和心理學，最後以心理學“榮譽學士”的身份大學畢業，之後卻做了一名窮困潦倒的木匠。兩年後，他重回校園，一頭扎進了神經網絡的學習中。
31歲的辛頓
當時正是人工智能的冰河期，神經網絡更是沒多少人看好，辛頓不得不長時間在“無人區”裡孤獨地探索，被人嗤之以鼻。期間他還不斷遭受來自家庭的打擊。20世紀90年代初，在收養了嬰兒後不久，他的第一任妻子Ros就死於卵巢癌，辛頓猝不及防成了單身父親。
他不得不把科研的時間和精力放到照料兩個孩子身上，但這也讓他變得柔軟，“我不想成為一個更好的人，但就這麼發生了。”1997年辛頓再次結婚，娶了英國藝術史學家Jackie。但遺憾的是，幾年前Jackie被查出患有胰腺癌。
辛頓和第二任妻子以及兩個孩子
也是在陪妻子看病期間，辛頓堅定了用AI幫助醫生看片，提升診斷準確率的想法。之後，位於多倫多的矢量研究所迎來了首個項目，用神經網絡連接多倫多各個醫院的大數據，做各種診斷和預判。這家研究所是多倫多政府為了招攬辛頓成立的，由他擔任首席科學顧問一角。
辛頓的身體也時不時發出預警。他很小的時候背部就受過傷，2005年之後惡化到只有保持身體豎直的狀態才會不疼。當年他選擇谷歌，而不是加入願意付出巨大代價的百度，也是考慮到自己不適合遠途出行。
到了21世紀初期，辛頓等人依然不受主流的待見，被許多專業的計算機會議拒之門外。直到那篇論文和後來的AlexNet出現。
對於亦師亦友的辛頓，深度學習另一位巨頭Yoshua Bengio曾評價說：“他有時可以穿過黑暗看清事物。但他的個人生活非常不容易。他也有他的黑暗時代”。
現在，曾經把深度學習拖出黑暗的辛頓，正在試圖將因為AI過快發展，有滑向黑暗風險的人類文明，拉回到光明的軌道中來。
橙柿互動·都市快報 記者 梁應傑