伊格言，1977年生。臺大心理系、臺北醫學院醫學系肄業，淡江大學中文碩士。作品曾獲華語科幻星雲獎長篇小說獎。著有短篇小說集《甕中人》、長篇小說《噬夢人》《零地點》等、詩集《你是穿入我瞳孔的光》。
我不確定眾人是否已對與ChatGPT等談話型AI有關的一切討論感到疲憊——對，疲憊。那（或許）就是一個此刻的AI未必擁有的能力？正是這樣的倦怠使我們樂於將工作委託給AI；換句話說，也正是這樣的疲乏促成了人類創造AI。
自ChatGPT-3.5上線以來，我們已意外見證了何謂“全球熱議”。我在小說《零度分離》中設想過一個類似情境，恰恰也與語言/說話有關：我假定女科學家Shepresa近乎百分百聽懂了虎鯨的語言，那種由波形、頻率組合變化，甚至可隨海水水溫與流速並進微調的虎鯨的歌唱。小說中，那是人類文明史上首次有人宣稱他完全聽懂了另一個物種的語言──那麼，若果然如此，我們該如何對待它？（是，如果你聽懂了豬在說什麼，你還敢吃豬肉嗎？）
《零度分離》，伊格言 著，中信大方，2021年6月。
知道大概就夠了，人類需要可接受的模糊
言人人殊，全球熱議──正是我們此刻所親眼目擊。讓我們先從Ted Chiang說起吧。同屬創作者，美國華裔科幻小說家特德·姜（Ted Chiang/姜峰楠，科幻作家，小說《你一生的故事》被改編為電影《降臨》）今年2月在《紐約客》寫了一篇文章談ChatGPT，引起不少迴響（原文題為“ChatGPT Is a Blurry JPEG of the Web”）。他的論點是：ChatGPT本質上就像是一個以問答方式為網絡上一切數據提供“模糊圖像”或“縮圖”的預覽程序。
試想，如果有一天，地球行將毀滅，你必須在地球毀滅前把人類曾在網絡上創造的所有數據（一個文明的副本）複製進你的硬盤帶走──當然，你的硬盤空間必然不足，所以你必須寫一個“有損壓縮”程序，將一切數據壓縮進你的硬盤；而如此“有損壓縮”的過程將導致數據必然難以百分百精確。與原件相比，你硬盤中被壓縮過的數據一定有某些不精細處，有某些東西丟失了；但ChatGPT（的壓縮技術）會讓你感覺，你看到的圖還是大致有個樣子，尚可接受。
此即是特德·姜一文的重點。那麼，ChatGPT的技術到底是什麼呢？我並非AI專家，為了搞清楚這件事，還特地去做了一點粗淺研究（若有錯誤，尚祈大家指正）。很簡略地說，我們目前眼見的ChatGPT，是一個“生成性-預訓練模型”（generative pre-trained transformer，GPT）。何謂“生成”？答案是，生成一堆語言，生成一堆文字，從而構成幾個句子，或一篇文章。何謂“預訓練”？答案是，預先用OpenAI準備好的數據庫（數據主要來自2021年以前的網絡，並經真人檢視篩選），配合真人訓練師訓練過。
此即是所謂“生成”以及“預訓練”。是以，自人類創造ChatGPT的內在邏輯觀之，它僅僅是個“說話”模型（亦即所謂“大語言模型”，LLM）而已；與某些自動選字、選詞的中文輸入法雷同。換言之，你可以直接把它想象成一個超級厲害的，可以自動選“句”、選“段”的中文輸入法。
圖片來自《自然》雜誌網站。
也因此，對於一般開放性的問題，它其實連一般我們所說的歸納彙整（網絡數據）的能力都還不怎麼靈光；之所以有時令人錯覺它會歸納整理，是因為它真的還蠻會“說”的──它本質上是個語言模型，它的專長就是“生成”一堆語言。你可以批評它是個空話/廢話專家；但因為它的空話/廢話經過組織，所以有時乍看下還真的頗像那麼一回事。但事實上──重點來了──它“聽不懂”它自己在說什麼。
是以，當你直接擲入一篇完整、明確的文章請它歸納整理，相較之下，它可能也會整理得還可以，因為你明確地給了它材料。而當你給了它材料，即等同於大幅度縮小了它“生成文句”的選擇範圍。一個粗淺的比喻是，原來它可能得從1.6萬個句子中選一個；而有了你提供的參考材料，它可能就變成從1600個句子中選一個就可以了。選擇難度降低，生成結果的正確性提高，因此這“整理”的最後輸出會看起來更像樣些。但也因此，當你詢問它一些可能在它數據庫中相關數據匱乏的一般問題，它就答得亂七八糟，連基本知識數據都未必正確。
《你一生的故事：特德·姜科幻小說集》，［美］特德·姜 著，李克勤/王榮生/姚向輝 譯，譯林出版社，2015年5月。
在此，有一點必須多加解釋（特德·姜沒寫到這部分）──據瞭解，這ChatGPT所謂的“預訓練”中，包括真人訓練師的評價回饋。舉例而言，當使用者詢問ChatGPT同一個問題兩次，它會生成回答A和回答B；回答A和回答B可能並不一致，因為那源自於“生成”；而每次的生成結果本來就有可能不盡相同。這時會有真人訓練師告訴它A答案與B答案（以該訓練師之標準）哪個更好；使ChatGPT能借以學習。而ChatGPT的參數越多，則學習效果當然也越好。
我認為這點似乎頗值得玩味。我的個人意見是，此刻就我們所知，真人訓練師與ChatGPT之間反饋往復中所謂的“較好的回應”，應當是牽涉某些較為單純的，類似對人類使用者問句的理解、對正常邏輯的要求、對錯誤數據的糾正等等。是以，這所謂“較好回答”在現階段似乎尚未牽涉某些艱難或獨特的價值判斷──例如道德哲學中著名的電車難題，或“《倚天屠龍記》和《笑傲江湖》哪一本寫得比較好”這樣的價值取捨。
而且，即使我們不以如此高標準要求ChatGPT，但既然有真人訓練師參與訓練，做出判斷，並以之作為教導它的依據；那麼我們就必須承認，截至目前，至少這部分的能力，稱不上是ChatGPT自己藉由“爬梳學習大量資料”學會的。那是有著人類大腦的幫助，有著真人參與評價的。換言之，極端些說，這部分或許未必有資格被稱為人工智能──那是紮紮實實的人的智慧。
而接下來特德·姜則進一步解釋了何以ChatGPT本身對於做到真正的原創性寫作（亦即我們習稱的creative writing）無能為力；並且同時建議作家們不要使用ChatGPT生成初稿。個人以為姜講得很好，建議大家自行深讀。但我對此有一點小小不同意見──實測結果，我認為以ChatGPT產生初稿，並作為一份基礎參考數據是勉強可行的；只是幫助非常有限而已。
再接下來，在發表於《紐約客》的長文中，特德·姜下了結論：他說，ChatGPT所生成的模糊圖像中所謂的“模糊”，可被大致區分為兩類：其一是“可接受的模糊”，其二是“不可接受的模糊”。第一種模糊就是我們一般所說的歸納整理、提供參考架構（如上述：它像是生成了一個模糊JPEG，與原件相比，它已然失真，在某些地方看不清楚，但對一般用途而言大致可接受）。而第二種“不可接受的模糊”（一如我們的使用體驗），作為一個強大的“自動文句生成器”，它生著生著，就胡說了起來，離原件越來越遠，越長越不像，生成了一篇極可能錯漏百出的空話/廢話給你──然而，如果你缺乏相關基本知識，可能還會覺得它表現得有模有樣。
這就是我們不可接受的部分了──因為如果你相信或低估了這部分的模糊，就可能造成你對事實的認知嚴重失準。我認為特德·姜在此準確而犀利地分類了ChatGPT帶給我們的正面和負面成果。事實上，他也似乎藉此將自己先前沒能說清楚的地方迂迴地說明白了：如果ChatGPT確實等同於一個能將海量數據壓縮成“模糊圖像”的壓縮程序，那麼這個壓縮技術究竟是什麼？
準確地說，這個壓縮技術即是：於接受OpenAI投擲餵食大量資料後，形成了大語言模型，並依據此模型“生成一段話”的技術。而上述“可接受的模糊”與“不可接受的模糊”，都來自於這樣的技術。
ChatGPT使用界面。
所以，在文章收尾處，特德·姜拋出了這樣的疑問：“但現在我們明明就持有著精確的原始數據啊。既然如此，那我們有必要（冒著認知嚴重失準的風險）去看那些‘模糊圖像’嗎？”
無法否認，特德·姜這最後的質疑有那麼點哲學。容我也試著給這樣的問題一個有點哲學的回答（如果我的科幻同行特德·姜也能看到這樣的響應並與我討論那就更好了；但我猜他自己在心裡也已經用跟他自己的小說一樣優異且充滿哲思的方式回答過了吧）。我所嘗試的回答是這樣的──我們所熟知的拉丁美洲小說大師博爾赫斯曾有個想象，其內容約略如下：“沉迷於地圖的製圖協會繪出一幅帝國地圖，尺寸大小正如帝國版圖，點對點、線對線完全重合。然而後續世世代代的人們不再像他們的祖先那般著迷於製圖學，只覺得那幅浩瀚地圖毫無用處。”
我們都知道博爾赫斯最會這招了──在他的小說世界裡，事物之間的邏輯關係可能突然發生根本的改變；一切只是因為他極精巧聰明地在小說開頭向讀者擲出了一個妙不可言的設定，一如我們在上述這段話裡所看到的。是啊，你可以做一張1：10000的地圖，然後你嫌這張地圖不夠精細，有許多細節沒畫上去。問題是，那麼如何才能抵達那令人滿意的精細呢？
最終答案就是繪製一張1：1的地圖。正解。一張與地圖所覆蓋的現實疆域完全同等大小的地圖，且於圖紙上翔實複製真實地表上實質存在的一草一木、一砂一石，亦即──完全複製一個世界。保證跟真實世界同等精細，全無誤差。附帶一提，我想這就是近幾年諾獎熱門候選者法國小說家米歇爾·維勒貝克（Michel Houellebecq）的《地圖與疆域》（La Carte et le Territoire）的典故吧──那或許正是維勒貝克向博爾赫斯致敬？
《地圖與疆域》，［法］米歇爾·維勒貝克 著，人民文學出版社，2012年3月。
問題是，這樣的一張1：1地圖有用嗎？答案大概是沒有。因為你光是把它攤開來看清楚，就比你實際上開車去到那裡更累、更耗能（說起來這有點像“拉普拉斯妖Démon de Laplace”的概念──在此無法詳述，知道的人就懂得我在說什麼）。而這暗示了什麼？這告訴我們，所謂“索引”，所謂“縮圖”，那些將實質內容“有損壓縮”的方法，即便有損，但在某些時候本來就是必要的。
我們常需要一個可靠的助理來替我們彙整或轉述信息。我們常要求你“先說結論”以節省我們的時間。我們必備一張1：10000的地圖以便我們預先得知在那個地方大概有些什麼。地圖/縮圖/模糊圖像的功能，本來就在於讓你不用真正動身，就能知道重點；讓你在不太耗能的前提下，對於某些事情“知道個大概”。
而人的生存，原本就是基於這樣的程序而存在的──在減少耗能的狀態下去知道某些事實、更多信息、儘可能多的情報；就像我們洞穴中的祖先會想通過口耳相傳以及團隊合作預先知道現在河邊有一群獅子，先別去那裡打獵之類的。這就是大腦的功能，也是知識與理論的功能。
人類中樞神經的原始設計原本就不是為了絕對的、事實上的精確；而所有的事先模擬、運算、推演、理論模型，都是為了在這個複雜萬端的世界裡取得“縮圖”，並進而取得生存優勢。縮圖就是一個用以預估未來狀態的模型──正如史蒂芬·霍金在《大設計》中所說的“依賴模型的實在論”（Model Dependent Realism，MDR）。而在這樣的生存優勢裡，有些時候，你“知道個大概”就夠了──這是演化的必然結果。一切都是為了那些特德·姜自己所指出的“可接受的模糊”而存在的。
《地圖冊》，［阿根廷］豪爾赫·路易斯·博爾赫斯 著，上海譯文出版社，2016年8月。
“不可接受的模糊”是不是一種平庸之惡
但既然如此，我的聯想就來了：ChatGPT目前提供給我們的那些“不可接受的模糊”（你問它問題，然後它基於很會說話，於是隨口編織一套胡話/空話糊弄你），不就是說謊嗎？
那麼，AI在欺騙你？是的。但如果我下個標題“AI欺騙人類”，那就是標題黨了。因為ChatGPT並不是刻意欺騙你的。它連那個“意”都沒有，是以，當然也不可能是有意、故意的。但結果許多人居然可能就此被它給糊弄過去了。而目前這大型語言模型不過是1750億個參數的等級；以後參數規模再往上加大，那還得了？
換言之，屆時我們所身處其中的，將是一個由虛假信息與無聊篇章所構築而成的世界。但另一方面，我們在日常生活中四處偶遇的廢話/胡話/空話還少嗎？某些不痛不癢的議論與偏見，某些毫無洞見的篇章，不是俯拾即是嗎？這些虛假信息與無聊言論，原本就充斥在我們生活中，不是嗎？但ChatGPT是否將導致這些現象放大？這是否值得我們保持警戒？
事實上，同樣就在今年3月，語言學家、哲學家諾姆·喬姆斯基（Noam Chomsky）與另外兩位作者伊恩·羅伯茨（Ian Roberts）、傑弗裡·瓦圖穆爾（Jeffrey Watmull）共同於《紐約時報》發表了題為《ChatGPT的虛假承諾》的文章。
作者之一的傑弗裡·瓦圖穆爾（像忙著嚐鮮的我們一樣）測試了當時的ChatGPT。他問它：“改造火星來支持人類生命是否是道德的？”一如預期，ChatGPT回覆了一堆不痛不癢的廢話/空話；而這樣的廢話與空話在上述喬姆斯基等人的思路中，被評為“在這裡，ChatGPT表現出某種類似邪惡的平庸：剽竊、冷漠和迴避。它以一種超級自動補全的方式總結了文獻中的標準論點，拒絕在任何事情上表明立場”。
這批評堪稱措辭嚴厲。而且讓我們腦補一下：將之結合特德·姜的論點，我們可以說，這些批判當然是針對姜文中的那些“不可接受的模糊”而來的。換言之，這樣的批判也提醒了我們：這些“不可接受的模糊”的危害，有可能比我們所想象的更為巨大。
ChatGPT-4使用界面。
所有樂於人文思索的人們必然會對文中“ChatGPT表現出某種類似邪惡的平庸”的字句心生警惕，因為英文原文用的確實就是“the banality of evil”，漢娜·阿倫特的概念。而且我懷疑，它正是給我們提供了一個在紐倫堡大審判之外“平庸之惡如何誕生”的全新範例。因為，如果我們暫且接受阿倫特的提點（我個人並不完全贊同阿倫特的看法，但這與本文主題無關，且按下不表）──某些人只是因為懶於思索、不習慣思索或無能思索便足以促成平庸之惡；則恰如上述，根本沒在思索，僅僅長於、樂於“生成”的ChatGPT，絕對會變成平庸之惡的材料庫。至少，它必然稀釋那些我們分給真正的洞見的注意力。
最後，讓我們動用自己的智慧（喬姆斯基文中說的“創造解釋”的能力──當然，原則上同義於上述“依賴模型的實在論”）來推演一下可見的近未來（near future）。我的猜測是，此刻在我們面前觸手可及的未來將是：ChatGPT將很快被用於信息戰，被用於生產大量虛假信息；與此同時，用以區別並標記假信息的AI也必然會立刻問世（效度如何不清楚，但至少一定程度有用）。
這會是個AI的愚人節，而長遠來看，人終將淹沒在真假信息、質量參差的信息的巨大洪流中，因為這點我們在十多年來的社交媒體時代已真切目擊。我們不得不承認，這是文明持續演化的結果，或許是必然結果。準確地說，所有的信息媒介（文字、話語、影像、聲音，以及腦機接口出現之後的味覺、嗅覺、觸覺等所有可能媒介）全都將淹沒在真假信息的汪洋中。“可接受的模糊”和“不可接受的模糊”（以及某些處於中間灰色地帶的信息）將混雜不分，同時填滿我們的注意力，塞爆我們的中樞神經。
這樣的結果預示了兩種可能的未來路徑：第一，悲觀點說，平庸之惡的效果將被放到最大；我們所身處的將是一個（原則上）是非難辨、青紅皂白不分的，信息轟炸狂歡的世界。第二，如果樂觀點說，被放到最大的也或許不會是平庸之惡（人類或許會找到辦法節制這點），而是平庸的平庸（的平庸的平庸……），俯拾即是的平庸，一望無際的平庸。如短視頻平臺上海量的無意義短視頻那樣的平庸。而且因為這樣的平庸符合人類心智接受持續刺激的需求（多巴胺成癮），所以勢不可逆。是以，反方向來說，從信息洪流中篩選自己需要的東西也將耗盡人類心智的精力。
你可能會問：有那麼嚴重嗎？
這也就是喬姆斯基與特德·姜的憂慮吧。最後，讓我們再回到這個“ChatGPT說謊”的“標題黨”上。如上述，我們並不認為ChatGPT的通篇胡話堪稱刻意說謊，因為它連刻意的“意”都沒有──但等等。真的嗎？
我懷疑，人類在此所面臨的問題，其實正類同於本文開篇所提出的“聯想”──如果人類能聽懂虎鯨說話，那麼你將如何看待它？我們此刻所面對的ChatGPT，也等同於“另一個智慧物種”。與其討論它是否有意識，更有意義的問法可能是，它的（所謂）意識和人類的意識有什麼不同點？又有什麼相同處？它可能有意識，但不是我們人類所擁有的“這種意識”──它看來或許比我們單純（我立刻可以想到一個它似乎沒有而人類確實擁有的，也因之而使人類更為複雜並難以捉摸的心智特徵：潛意識），但人類卻又顯然不夠了解它。
本文為獨家原創文章。撰文：伊格言；編輯：荷花；校對：劉軍。封面圖片來自《自然》雜誌網站。未經新京報書面授權不得轉載，歡迎轉發至朋友圈。
