#Creativity of the Times時代創造力
AI信任危機主題海報，芭莎設計大賞通過AI工具創作
隨著歐盟議會(European Parliament)以壓倒性結果通過全球最嚴格的《人工智能法》(Artificial Intelligence Act)草案，一系列嚴格的對人工智能技術（AI，Artificial Intelligence）的管控將陸續出臺：包括全面禁止使用實時面部識別軟件(live facial recognition software)、全面禁止生物特徵數據抓取(biometric data scraping)等。
這一法規的通過，標誌著人類首次由大型經濟體主導，推出對人工智能技術進行嚴格監管，預計將對世界各地其他監管制度產生重要影響，推動全球對人工智能技術的規範和保護措施。
新法案將禁止人工智能系統進行社會評分、生物識別分類和情感識別 © AdobeStock_Goodpics
人工智能技術涉及到數據信任、源代碼開放、透明度監管等數個維度，其信任危機的討論，已經從專業問題變成一個事關人類社會秩序與發展的共同問題。
《魏瑪文化論壇》(The Kultur symposium Weimar) ，是由歌德學院每兩至三年舉辦的“思想嘉年華”。論壇會邀請世界各地的專家、知識分子、藝術家和行動家來到德國魏瑪，對全球性文化議題及其對社會的影響進行深入探討。
2023魏瑪文化研討會© volkswagen-newsroom
“芭莎設計大賞BAZAAR Design Awards” 獨家獲邀參加了2023年度的《魏瑪文化論壇》，今年的討論主題即是：《信任的問題》 （A Matter of Trust），旨在探討AI技術大面積使用後，從個人到社會、政治、媒體等各個領域將產生的問題與挑戰。
|
論壇主題 |
論壇地點 |
主持人 |
|
我們信任科技嗎？ (A Matter of Trust) |
德國魏瑪 歌德學院 |
Jakob Racek |
對談嘉賓
Rasika
Bhalerao
Ramak Molavi
Vasse'i
Lykke Margot
Ricard
Patrick
van der Smagt
Jakob
Racek
|
|
||
|
Rasika Bhalerao (以下簡稱RB) |
|
美國東北大學考瑞學院教授 |
|
Ramak Molavi Vasse'i (以下簡稱RMV) |
|
數位權利律師兼創新法專家 |
|
Lykke Margot Ricard (以下簡稱LMR) |
|
南丹麥大學教授 |
|
Patrick van der Smagt (以下簡稱PvdS) |
|
大眾汽車集團機器學習研究實驗室主任 |
|
Jakob Racek (以下簡稱JR) |
|
歌德學院信息服務部主任 |
1
如虎添翼VS如臨深淵
人工智能是希望還是毀滅？
JR
對於人工智能，你選擇信任還是懷疑？
人工智能確實可以成為解決緊迫全球問題的有力工具，特別是在應對氣候變化方面。科學家們能夠利用人工智能在材料發現和碳捕獲等領域取得突破，但我們不能完全信任AI。
RB
滑動查看更多
emilio alarcón的AI系列通過移動溫室巴士重新構想城際交通©thursd
作為一名科學家，我已經習慣了保持懷疑性態度，因此我的答案是信任和懷疑都不可或缺。但這並不影響我認為人工智能在未來值得投資，比如醫療保健領域。人們總是希望在疾病發生之前就檢測到身體異常，這個領域潛力巨大。
LMR
2023魏瑪文化研討會開幕式表演von Yoann Bourgeois© Victoria Tomaschko / Goethe-Institut
Yoann Bourgeois的作品“Demokratie”© Candy Welz / Goethe-Institut
我認為懷疑是必要的，儘管人工智能模型是有價值的工具，但我們不應該對它盲目信任。對生產工具的信任和對人工智能模型的信任之間存在區別。當購買一個錘子或吸塵器時，信任基於認證而建立，並不能無縫轉移到人工智能模型上。
PvdS
chatGPT 在移動設備中使用語音轉文本、語音控制和行程路線 ©designboom
JR
Patrick van der Smagt主任是否能介紹一下大眾汽車實驗室的人工智能實踐研究？
實驗室研究生成式機器學習已經數十年了，這些模型能夠預測和控制複雜的系統，模擬複雜的動態系統和語言。例如根據自行車手與環境的互動來預測他們的運動。我們正在採用對學習動力學進行優化，控制程序來實現節能，目前被應用於空氣壓縮機中，希望這項研究未來有可能在各個領域實現巨大節能。
PvdS
“人性化的 AI pin”可作為可穿戴智能手機，在手上投射通話、應用程序等內容©designboom
2
高懸在人類文明頭頂的
達摩克利斯之劍
JR
對待人工智能，人們的看法差異很大，Lykke Margot Ricard做為一名創新研究人員，怎樣判定一項新技術是否友善、是否能被社會接受和信任？
我更願形容為人工智能技術被社會接受的權利。在建立起人類信任之前，我們需要弄清楚它可以做多少好事、提供多少支持，以及這項技術的研發是為了支持人們還是替代人類。
一項技術可以帶來好處，也可以對社會造成巨大傷害。一項新技術產生後，是否對社會有益將有目共睹。
LMR
電影《終結者》
The Terminator，1984
©Orion
電影《機器管家》
Bicentennial Man，1999
©Columbia
電影《A.I》
A.I. Artificial Intelligence，2001
©DreamWorks
電影《機械公敵》
I, Robot，2004
©20th Century
電影《她》
Her，2013
©Annapurna
電影《攻殼機動隊》
Ghost in the Shell，2017
©DreamWorks
電影《超能陸戰隊》
Big Hero 6，2014
©Disney
電影《頭號玩家》
Ready Player One，2018
©WARNER BROS
AI主題科幻電影
JR
你們都主張公共利益和無偏見的人工智能發展，為什麼需要建立道德和法律規則來避免人工智能中的此類歧視模式？
人工智能系統的算法決策並非完全中立，而是受到開發者的思維方式和價值觀的影響。因此，理解和認識到潛在偏見或限制非常關鍵。
儘管有外部機構對人工智能歧視問題進行監管，個人開發者依然具備影響其算法結果的能力。個人開發者和程序員必須對其代碼中的隱性選擇負責，這些隱性決定可以引導編碼選擇對社會的廣泛影響，並積極努力將人工智能系統中的偏見和歧視降到最低。
RB
任意給“Make-A-Video”AI模型輸入幾個單詞就能生成符合語義的但在現實中卻並不存在的視頻畫面©Meta AI
根據互聯網上的數據進行訓練的人工智能，往往反映了社會偏見，放大了現有的不平等現象。雖然在人工智能開發和數據清理過程中，可以通過多元化的團隊代表來努力減輕偏見，但實現完全消除偏見仍然是不可行的。
我們應該將重點轉移到解決有偏見的人工智能系統的後果和受影響社區的賠償概念上，不斷完善人工智能系統的必要性，承認有偏見的算法對邊緣化群體的影響。
RMV
我們需要開展相關教育和培訓，使程序員和編碼員能夠更加深入地理解人工智能系統的工作原理和潛在的偏見或限制。此外，我們還需要鼓勵合作和交流，以建立一個可以共同解決這些問題的平臺。
RB
遠程操作機器人幫助恢復亞馬遜雨林 ©designboom
3
病毒式增長
人工智能黑箱性爆發信任危機
JR
人工智能未來生命研究所發表了一封公開信，要求暫停人工智能研究至少6個月，Patrick van der Smagt也署名了對嗎？
我們不知道人類是否已經釋放出了一隻野獸。當然，它也許是一隻偉大的野獸，但我們仍然害怕它。我們需要思考如何應對這隻野獸，讓它從善？讓它放鬆，還是再創造另外100只野獸？我不知道每天會有多少類似事件發生，所以我寧願暫停下來，嘗試瞭解未來，以及認清當下我們面臨的是希望還是威脅。
PvdS
知名雜誌Clarkesworld2023年5月刊投稿封面被指出是AI生成而暫停全球封面徵稿©Clarkesworld
漫威劇集《秘密入侵》片頭由AI生成©MarvelStudios
JR
透明度對於一個律師而言非常重要，Ramak Molavi Vasse'i對即將出臺的歐盟人工智能法案有什麼看法？
透明度應該被看作是防止傷害的手段，而不是最終目標。不同的利益相關者需要不同的透明度，需要在透明度和避免透明度疲勞之間取得平衡。無論是尋求決策解釋的終端用戶、醫療保健人士還是評估系統功能的監管者，人工智能開發往往難以提供足夠的透明度，他們傾向於將客戶需求置於最終用戶的關注之上。
RMV
我也補充一點，平衡人工智能領域的監管和創新是一個挑戰，過早制定標準可能會阻礙市場發展。透明度確實至關重要，特別是涉及開放原始程序人工智能，因為它允許對可能帶有偏見的代碼和算法進行檢查。
為了解決人類對人工智能的懷疑和疑慮，必須採取科學的方法，諮詢多位科學家以驗證研究結果。
LMR
獲得過2600多萬瀏覽、3萬多次轉發的「時尚教皇」圖片被證實是AI生成的假新聞©Eliot Higgins
JR
對於人工智能的監管和立法，各位的看法是什麼？
負責任的行業實踐和積極主動的行為尤其關鍵，而不僅僅依靠法規。對人工智能的信任需要一個整體的方法，包括積極的行為、道德準則和利益相關者之間的持續合作。教育是一個關鍵的組成部分，需要對數據科學和機器學習進行全面的評估和指導，確保社會、監管機構和行業利益相關者在AI道德發展和部署方面的集體責任。
企業利益和科學誠信之間存在微妙的平衡。雖然大型科技組織內的道德科學團隊已經出現，但這些團隊被解散或研究人員在發表關於基金會模型的批評性論文後被解僱的事例引起了人們的關注。我們需要一個強大的研究生態系統，鼓勵批判性分析和建設性對話，不受企業影響。鼓勵學術界、工業界和獨立研究人員之間的合作，可以促進對人工智能發展採取更包容和負責任的方法。
RMV
我們應該建立一個鼓勵合作開發的開放環境，允許審查和集體建立信任，不能僅僅依靠法規作為唯一的解決方案，應該將現有的立法框架、道德規則和操作化與《人工智能法》結合起來，可以幫助實現積極的成果，並解決圍繞偏見和問責制的擔憂。
PvdS
坂本龍一通過混合現實音樂會 KAGAMI 復活並演奏鋼琴©Hypebeast
以43.25萬美元在佳士得紐約成交的AI藝術作品《愛德蒙·貝拉米，來自貝拉米家族》©CHRISTIE'S
畫布上的代數公式簽名©Obvious
4
走向信任的旅程
絆腳石也可能是墊腳石
JR
剛剛提到人工智能在醫療領域有特別大的幫助，能舉例說明嗎？
人工智能構成了我們獲取專業知識的來源，我們幾乎是毫無懷疑地相信這些信息。在生死攸關的人工智能在精準醫療、疾病檢測和早期症狀識別方面有著巨大的潛力。通過數字病人記錄和高級分析的整合，人工智能能夠更有效地分析大量數據，輔助醫生進行疾病的檢測和診斷。
丹麥的模式為人工智能在醫療領域的應用提供了成功的範例，該模式建立了可訪問的病人記錄和獨特的識別號碼系統，這使得研究人員能夠使用大量的數據集進行研究，從而改善病人的治療效果，並減輕醫療系統的負擔。
除了丹麥，國際平臺也在醫療領域引入了類似的技術，使得疾病的預防和治療更加精細化和個性化，減少了誤診和漏診的可能性。重大抉擇中，需要有專業人士來判斷和制衡人工智能給出的答案。
LMR
人工智能在醫療保健領域可能會出現明顯的差異。例如皮膚癌檢測人工智能系統，在黑人皮膚上的表現可能就會很糟糕，我們要謹慎地將人工智能整合到醫療保健中，針對不同人群實施人工智能解決方案，考慮到現實性和侷限性，以確保所有人都能從中受益。
RMV
可穿戴機器人手臂©DAISUKE URIU
JR
面對面交談討論的形式從兩千多年前的柏拉圖時代就開始了，現如今我們還有機會與非人類交談。所以，最後讓我們暢想一下人工智能行業的未來會發生怎樣的變化？
我們應該將人工智能作為一種有價值的工具，同時也認識到它的侷限性和潛在的偏見，對於利用其力量產生積極影響至關重要。通過批判性思維和對人工智能的細微理解，塑造出一個負責任地利用技術的未來，促進創新，解決全球挑戰，並創造一個更公平的社會。
RB
PERFORMANCE_Cyber Elf_© Candy Welz
Mood KSWE23© Victoria Tomaschko / Goethe-Institut
通過積極的行業實踐、全面的教育以及社會和監管機構之間的合作努力，我們可以確保人工智能的利用是為了更大的利益，其部署符合道德原則。通過認識到人工智能的侷限性，解決偏見，找到透明度的正確平衡點，實施全面的法規和負責任的行業慣例，我們可以為符合道德原則的人工智能驅動的未來鋪平道路。
RMV
關鍵應該放在技術作為支持性工具的作用上，而不是取代人類的專業知識，人工智能在醫療領域的變革潛力是不可否認的，而其負責任的發展對於獲得其利益至關重要。
通過認識到人工智能是一種支持性的工具，而不是人類專業知識的替代品，我們可以確保技術和醫療保健專業人士之間的和諧互動。在解決與人工智能算法相關的擔憂和偏見方面，透明度和同行評審至關重要，使我們能夠建立信任並驗證其功效。
當人工智能被視為一種支持和增強人類專業知識的工具而不是替代時，信任度就會自然提高。
LMR
3D打印拇指機器人可以輕鬆抓住物體，繞過受傷的脊髓或缺失的肌肉組織進行大腦控制©Startup
信任和懷疑應該並存，即使是用心良苦的研究論文也可能包含錯誤或無意的欺騙。這就需要一種批判的心態和謹慎的方法來確保人工智能技術的可靠性。
在建立對人工智能模型和系統的信任時，需要持懷疑態度，進行批判性評估和道德考慮。通過擁抱透明度，整合負責任的做法，並優先考慮人工智能教育，我們可以培養信任，並自信地駕馭人工智能的複雜地形，確保人工智能仍然是一個有價值的工具，在最大限度地減少潛在風險的同時造福人類。
PvdS
GREEN BAZAAR
芭莎文化創新部
總編輯：沙小荔
出品人：董雲燕
監製：徐寧
項目運營：楊帆
文：Peifen Sung
實習編輯：曾慶威
📮產品/項目推薦、撰稿/拍攝合作