我們該如何規範人工智慧 (全文)？
#COMPUTEX，這個跟我一樣歲數的電腦資訊展會，我竟然直到今年才首次踏入。
這次受主辦單位之一的 #外貿協會 （ #TAITRA）邀請，在上週三（5/29）來到位於南港展覽館 2 館4樓的「 #SmarTEX」展區參觀，與多家參展公司交流。我雖然自己經營過科技媒體網站，但我不是擅長採訪會展的記者，也不是好的 3C 部落客，因此我抱著「幫自己正在思考的問題取材」的目標，前往這場大型科技會展。
（先說：因此這篇文章不會有太多展覽展位上產品的細節跟照片，請大家見諒。）
而我最近在想的問題，也就是本篇文章的主題是：進入人工智慧時代，我們該如何規範人工智慧？
或者，我們也可以反過來問：人工智慧該如何規範我們？
自認偏樂觀派的我，其實不希望讓大家覺得「人工智慧的未來真糟糕」，我的個人偏見是：大致來說，我喜歡科技，儘管科技的確會帶來衝擊，但只要我們更願意去思考，就更有機會讓未來往比較好的方向演進。所以談這個議題，目的是要避免要是這樣的狀況真的發生了，我們才懊悔地說「這真糟糕，為何我們沒有早點想到。」
--------------------
關於人工智慧的規範問題，首先，我們來看看 MIT 媒體實驗室做的一個調查「道德機器」（網址：http://moralmachine.mit.edu/hl/zh）。
在這個網頁裡頭，有許多類似「#電車難題」的情境，需要你來回答。每一個參與者，需要回答 13 個題目，每個題目只有兩個選項。在每一個題目的情況中，都有一輛突然煞車失靈的自動駕駛汽車，而你必須做出選擇，要繼續前進，或是轉彎離開。
例如在某個二選一的情況中，你認為這台自動駕駛車該繼續直衝，撞死一個成人男性，還是轉動方向盤，讓車子撞上另一側的護欄，殺死車上四個人，包括兩名兒童？
在另一個二選一的情況中，這台自動駕駛車上只有一隻貓，若繼續直衝，會撞上護欄，讓貓死於非命，但若自駕車往左彎，貓的性命可保，卻會撞死一位正在違規闖紅燈過馬路的遊民。
類似這樣的二元選擇有很多種變化，例如過馬路的可能是動物、可能是罪犯、可能是醫生，嬰兒，或是這些人的綜合隊伍，他們或許是違規過馬路，或許是遵守交通規則但運氣不好。而車子直衝或轉彎，也隱含了道德選擇。推薦各位都上道德機器的網頁去回答看看，看你會不會跟我一樣覺得實在是逼人太甚，到最後根本就放棄思考（XD）。
這個網頁告訴我們一件事：我們不可能對各種狀況產生共識、或得出任何堪稱正確的答案，事實上這個調查也不是要用多數人的意見來決定未來的自駕車要是真的煞車失靈的時候，該做出什麼行動。然而這個調查提醒我們，當越來越多的「人工智慧代理」進入我們的生活，就會產生更多類似的道德難題。
--------------------
舉例來說，若一個 #人工智慧股票交易系統，因為對政治領袖發在社群媒體上的文章產生錯誤的解讀，而決定拋售某一檔股票，造成連鎖反應，讓投資者大賠一筆，這樣的損失該由誰來負責呢？
延伸閱讀：〈AI 機器人害我投資賠錢，我能告他嗎？〉
https://www.techbang.com/posts/70447-ai-robot-made-me-invest-money-can-i-sue-him
舉例來說，若一個 #人工智慧戀愛配對系統，推薦了一位居心不良的對象給另一個使用者，最後使用者被騙財騙色了，誰會受到最多的指責呢？誰「#與惡的距離」最近呢？
再舉一例來說，如果用於門禁或 ATM 的臉部辨識 AI 系統出問題，太過嚴格以至於讓使用者開不了門、領不到錢，或是太過寬鬆使歹徒得以利用，那該怎麼定義問題的範圍，用理性的方式來解決呢？
臉部辨識作為服務升級的關鍵，從智慧零售到智慧家居到智慧服務，都少不了這項技術的身影，也是人工智慧使預測平價化的代表。只要你拿著這一兩年出的新手機，想必也不會陌生。例如我這次參訪的 #訊連科技（CyberLink）展場主打「FaceMe」AI 臉部辨識引擎，他們提供 SDK 與多家科技廠商合作，包括 #宏碁雲端、#奇景光電、#微程式、#凌群、#達碩 等。我也拜訪了同在 SmarTEX 展出的達碩智慧科技，了解他們使用這套臉部辨識引擎，針對銀髮照護、社區管理、企業差勤管理等不同情境設計的解決方案。即使在我與訊連跟達碩的主管談話時，他們自謙還不是目前領先的廠商，但他們的服務也已經非常成熟，可見這樣的軟硬體整合套裝將持續普及到各地，而台灣中堅企業將成為關鍵推手。
美中貿易戰，加上美國可能逐步針對有侵犯人權之虞的監控科技施加圍堵禁令（如 #海康威視、#浙江大華、#商湯科技 等），突顯出台灣提供類似服務的企業所能提供的安全價值，但即使如此，這項科技本身還是帶給社會其他挑戰。訊連科技的連啟民協理跟我說，臉部辨識的準確性不是 0與1 的取捨，他們的 SDK 能夠針對不同情境，讓配合的廠商自行調整精度，掌控風險，例如從一般社區門禁的萬分之一調到 ATM 的十萬分之一，同時使用邊緣運算技術（Edge Computing），讓資料不用都到雲端，降低反應時間及資安疑慮。
我在展場也與 #康訊科技 及 #訊舟科技 兩家公司進行交流。康訊從圖資起家，以地理定位技術切入車載系統設備，扎根台灣30多年來，已經成為全球領先的車隊管理服務商，不管是共享汽機車、物流公司、校園巴士、救護車、消防車都是他們服務的客戶。他們提供的設備就像車上的黑盒子，可以完全掌握車輛的狀況，如透過監測引擎啟動狀態，可以知道司機是否過勞；透過監測燃料消耗情況，可以知道是否有偷油的情形發生。而全球客戶累積的數據也成為重要的資產，可以協助物流業者優化路線。
訊舟作為老牌網通公司，這次展出許多產品，我認為最亮眼的就是他們與中研院陳伶志博士合作推出的「空氣盒子」，我雖然早就知道空氣盒子，卻是第一次看到並且從訊舟的角度聽這個已經是公民科技典範的故事，目前在全台已經有 4,000 多台設備上線，密集監測空氣品質，累積的數據也已經可以做到空品預測。
另外，這次在 SmarTEX，科技部推動的 #GLORIA 國際產學聯盟現場展出 67 項前瞻技術，我也與聯盟中的幾所大學交流，例如 #中國醫藥大學 推出能夠判讀骨齡、癌症等資訊的 AI，節省醫師判讀時間，加速診斷。#國立交通大學 伍紹勳博士則與 #新光醫療團隊 合作，用像是貼在東尼史塔克胸口的智慧貼片，只用3導程就能正確模擬專業醫療設施12導程的ECG心電圖信號，大幅改善病患的行動自由，也顯著降低成本。而具有超過 2,000 例達文西手術經歷的 #臺北醫學大學劉偉民醫師團隊，則在擁有大量醫師第一視角錄影的基礎上，推出手術教學平台，包括 VR 手術直播拍攝，與虛擬手術教學模擬系統。
從訊連、達碩、康訊、訊舟到這三個來自學界的醫療技術案例，可見都與數據分析、人工智慧辨識判讀、虛擬模型建置有關，儘管我相信在台灣醫療與科技、工程多重優勢下，他們都前景可期，但該問的仍然要問：要是出了差錯，怎麼辦？誰負責？各團隊對此問題顯然也都深思熟慮過。而我將他們給我的回答整理，加入我對「人工智慧如何規範」這個問題的答案。
--------------------
#以自駕車為例思考
著名的科幻小說家艾希莫夫，在1942 年的短篇小說 Runaround 以及後來的機器人系列裡頭，提出了機器人三原則（Three Laws of Robotics），很多人可能都會背了，這三原則分別是：第一，機器人不得傷害人類，或坐視人類受到傷害；第二，除非違背第一法則，否則機器人必須服從人類命令；以及第三，除非違背第一或第二法則，否則機器人必須保護自己。
參考：Three Laws of Robotics
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
這三原則聽起來很周密，但其實並非如此，而且也不太現實。以自動駕駛汽車作為案例吧，自動駕駛汽車是這一波人工智慧發展最受關注的領域，而且因為許多國家政府正在積極制訂法規，自駕車的自動化程度，跟依據自動化程度而制定的責任歸屬，也比較清楚，值得用來舉一反三，幫助我們思考，人工智慧要是進入到每一個領域，會帶來多少該仔細考量的變化。
那麼，到底什麼是自動駕駛汽車呢？你可能聽過什麼 Level 3，Level 5 的，那指的是自動駕駛的自動化程度分級，我們可以用這張表來簡單呈現：
這個分級定義，是由國際汽車工程協會（Society of Automotive Engineers, SAE）所提出的，已經獲得廣泛的共識。從第零級到第五級，共有六個層級。第零級的自動駕駛就是毫無自動化，一直到第二級，都還是以駕駛員為主，機器提供輔助。
但從第三級開始，負責開車的就是機器了。人類駕駛頂多在緊急狀態作為備用選項。第四級之後，就連緊急狀態也是由機器來應對，人類就從駕駛這件事基本退場了。到第五級的情況，就像是有一個超級人工智慧在負責開車，相信到時候，超級人工智慧也不會只用在車上。
目前已經有幾家汽車公司宣稱自己的自駕車達到了第三級，例如 #奧迪、#特斯拉、#現代汽車 等，大部分車廠也都表示在 2020 年就會推出第三級的自駕車。Google 旗下的 Waymo 以及台灣的財團法人車輛研究測試中心 ARTC 則表示都已經有第四級自駕車的技術能力。
日本政府非常積極地花工夫在自動駕駛的規範上，日本的「投資未來委員會」在 2018 年底，便提出了已經研擬多年的自動駕駛汽車指導原則。根據報導，日本首相安倍晉三希望透過採取具體步驟，建立法律框架，讓日本成為率先制定國家級規範的國家。首要處理的就是第三級自動化情況下的監督跟法律方向。我們就來看看，在自駕車的規則上，日本是怎麼想的？
日本的規則是，通常來說車主需要對車輛自主運行時發生的事故負責，並且由政府規定的汽車保險公司承保。如果車輛系統有明顯的缺陷，該負責的就是汽車製造商。強制性保險這一步確定了之後，保險公司也就能夠制定方案，讓車主選擇，要保哪一種。
另外，為了釐清事故的原因，自動駕駛汽車需要完整記錄位置、轉向、人工智慧系統操作狀態的信息，也就是說，得要有像是飛機黑盒子這樣的裝置。
那如果遇到新型態科技犯罪者或駭客呢？只要車主有採取適當的安全措施，例如更新車輛系統或維護保養，那麼若是因為駭客攻擊或入侵造成損害，就視同汽車被偷走了。
除了這幾個大方向以外，還有不少問題待解決。因為剛剛說的都只是民事責任，財產相關的規範，但還沒有碰觸到刑事責任，如果真的因為自駕車的缺陷而造成傷亡，除了車主以外，程式開發者，汽車製造商該負起哪些連帶的責任呢？若不能盡快釐清，程式開發者跟汽車製造商就難以決定是否該正式推出產品。
另外，自動駕駛的操作條件、例如速度限制，運作的時間長短，天氣狀況也都得考量，就像各種已經存在的汽車安全規範一樣，人工智慧控制系統的標準、對網路攻擊抵禦的強度，也都得一一制定。
--------------------
而以自動駕駛為案例，可以幫助我們思考該怎樣規範其他人工智慧的應用情境。歸納我這次到 SmarTEX 參訪交流的心得，我想比起艾希莫夫的機器人三原則，我們該建立的思考原則其實是這四個：
#面對此時此刻的人工智慧該有的思考原則
第一，#釐清主控權。整項任務中，是人類還是機器掌握主控權？能否以清楚的層級概念來劃分人類或機器的掌控程度？就像自駕車這樣呢？另外，在關鍵決策點，人類有沒有介入，是否被要求介入？這些都必須根據不同的應用環境來一個一個釐清。
第二，#損害管理與風險溝通。在發生意外的時候，擁有者、使用者、設計者、販售者、維修者等角色，是否已經明白可能要負的對應責任？這些責任的政府主管機關與相關的法律有哪些？其實每一樣新的科技進入我們的生活，都會有一段學習曲線，我們不太可能在了解所有問題、解開所有疑慮之後才採用新技術，而是必須妥善跟每一個角色溝通風險。
第三，#數據紀錄透明化。為了忠實檢討意外發生的原因，人工智慧系統需要持續紀錄運作狀況，以及感測器所收集到的各種資訊。並且要確保訓練人工智慧的資料也是可受檢驗的，避免造成系統化的偏見。另外也同等重要的是，收集數據的單位，像是企業、保險公司或政府，有義務證明，收集這些資訊，是必要且適當的。例如飛機上機長跟駕駛員的通話可以收集，但車內的通話該不該收集呢？商店內的顧客對話該不該收集呢？
第四，#系統思維。任何意外發生，都要了解，系統總是存在一定的風險，告知風險機率跟可能的狀況類型。以「不責難」的出發點，來面對後續的檢討，才能讓各角色更願意把系統中的臭蟲或不當行為揪出來，最終的目標是讓這個能夠便利更多人、拯救更多人的系統，越來越好。就像醫療一樣，如果每次只要有病人在手術中過世了，醫生都要被告到賠上身家，那還會有醫生願意繼續替病人動手術嗎？當醫療行為中有越來越多具有人工智慧的機器介入，診斷疾病、決定麻醉份量、甚至用機械手動手術，我們就不得不分配信任給更多的角色。
從 COMPUTEX 的 SmarTEX 展區上琳瑯滿目結合了人工智慧的技術，可以肯定人工智慧已經，也即將進入每一個我們可以想像得到的層面，過去的規範將無法適用，而且即使訂出新規範，也會很快過時。我們不可能完全理解我們部署的人工智慧系統的風險。當前的機器學習運行得如此之快，以至於沒有人真正知道機器是如何做出決策，通常連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式，這使研究人員更難控制和理解決策過程，在這樣缺乏透明度，也就是常說的黑盒子問題籠罩下，要建立道德準則跟規範，當然就極為困難。
然而若不要大驚小怪，將人工智慧與人肉智慧對等來看，人類花了幾千年建立起的道德準則，同樣漏洞百出，我們卻也習慣了。人類專家有的偏見跟偏誤更是問題層出不窮，而我們也是一直倚賴這樣有缺陷的專家系統在運作。此刻的人工智慧浪潮，正給了我們機會跟動力，檢視我們習以為常的那些想法，我認為以上的四原則，更有助於我們迎向已經到來的未來世界，而開發出這些技術，推出產品與服務的企業，若都能夠率先思考這些問題，也是我們所期待的。就如同我在這次 COMPUTEX SmarTEX 展區上看見的一樣。
--------------------
最後，我雖然只逛了整個 COMPUTEX 的一部份，但很感謝外貿協會，讓我能不只是走馬看花，而是深入與廠商對話跟採訪，非常有收穫。幾乎每一家我逛的展位，都跟數據、AI（起碼是機器學習）有關，並將其結合硬體，整合出具有市場競爭力的方案，雖然我沒有資格替他們的產品背書，但我覺得深入談過之後，他們都對自己的產品與服務非常有自信，或許並非市場的領先者，也已經看見該切入的定位與成長的路徑。
今年的 COMPUTEX 展會已經結束，不過以後若有機會前往類似會展活動，很推薦大家跟我一樣帶著問題意識去逛逛，跟這些未來世界的打造者聊聊，畢竟我們得住在裡面。
--------------------
Medium 版：http://bit.ly/2HLuT8p
電車難題網頁版 在 [心得]《自願被吃的豬》心得上篇- 看板book - 批踢踢實業坊 的美食出口停車場
《自願被吃的豬》讀後心得上：與價值判斷相關的十大思想實驗
部落格圖文好讀版：
https://philosymposium.wordpress.com/2022/06/10/the-pig-wants-to-be-eaten-1/
前言：雖然這是一本哲學普及書，但是因為對完全沒接觸過哲學的人來說可能會有
很多比較困難的術語，所以我補充了許多解釋和網路資源在這讀後心得裡。建議看
網頁版可以利用超連結直接看補充的資訊。
因為這本書的內容真的豐富，所以忍不住介紹了很多，希望能引起大家的興趣
書名：自願被吃的豬：100個讓人想破頭的哲學問題(新版)
原文書名： The Pig Wants to Be Eaten: And ninety-nine other thought
experiments
作者： 朱立安．巴吉尼 Julian Baggini
翻譯：黃煜文
出版社：麥田出版社
出版日期：2012/05/06
讀墨電子書連結
如果有一隻豬自願獻身給人類吃，這時候主張動物權的素食主義者是否還有理由拒絕吃牠
呢？我們現在有「人造肉」的技術了，這是素食者的新選擇，但價格還是非常昂貴。如果
科學家現在發明了新的基因改造技術，可以大量製造出沒有腦的雞，不會有意識、不會有
痛覺，那是否就可以視為是一種人造肉呢？
如果你覺得這些例子有幫助你思考對是否該吃肉這件事，那歡迎你來認識哲學家的思考武
器「思想實驗」(thought experiment)。思想實驗是藉由我們的想像力去設想某個情況，
去思考在那樣的情況下我們原先的假設或原則是否還適用。其用意就是要剝去真實生活的
複雜外衣，直搗問題的本質核心。哲學家的思想實驗就像科學家做實驗，可以獨立檢視關
鍵變數與特定要素，藉以瞭解這些變數與要素是什麼，進而了解這些變數與要素本身如何
影響我們理解世界和影響我們的行為。哲學家的思想實驗還有一個優勢在於它除了能讓我
們思考真實世界的樣子，還能協助我們思考那些無法在真實生活中測試的事物。 理由是
因為就算這些假設的情境目前沒有發生過，但只要我們不能排除它發生的可能性，那它就
仍然有思考的價值，而且它更重要的價值是要能幫助我們把思考的注意力集中在某個核心
問題上。事實上，很多理論物理學家他們也是藉由思想實驗來思考出他們的理論的。最有
名的例子就是愛因斯坦。當他在發展他的相對論時，他也曾設想如果他騎在一束光上，以
光速前進，那會是怎麼樣的情況。
思想實驗可以說是人類思考和想像的結晶，也是很多科幻小說和電影會採用的題材。
這本書的作者朱立安．巴吉尼 （Julian Baggini) 是我非常喜歡的哲普作家之一。他是
英國最受歡迎的哲普作家，也是暢銷書作者，有20本以上的著作。擅長以幽默直白方式，
處理重大的哲學議題。也常在《衛報》、《獨立報》、《泰晤士報》等報刊撰稿，和在英
國廣播公司（BBC）第四台發聲。目前在台灣也有十幾本的翻譯著作，日後我還會再介紹
他的其他作品。
這次介紹的這本書很有趣的地方在於作者在裡面提出了100個思想實驗，很多是哲學家們
在論證某個議題時所提出來的，在哲學討論裡佔有很大的份量。對於沒有接觸過哲學，但
想知道哲學家們都在做什麼的人，是很好的入門磚。因為作者已經將一些複雜的思想實驗
用簡單的例子表達出來，在說明的部份也滿淺顯易懂的，並沒有太多的術語，所以我認為
很適合一般大眾閱讀。藉由這本書可以直接去看看如果是你自己，會怎麼來回答這些問題
。
這些思想實驗提出來的問題，並沒有一個標準答案，去討論它們的重點是要看看哲學家的
思路是怎麼形成的。有些哲學家的論點，或許會顛覆很多一般人視為理所當然的前提，這
能幫助我們突破一些思考的盲點。我將從書中挑選20個重要的思想實驗來介紹，分為上下
集。今天這篇上集將集中討論在倫理學和價值哲學的發展上重要的十個思想實驗。
1. 透明人 The ring of Gypes 柏拉圖的魔戒
赫伯特 (Herbert) 套上了蓋吉茲戒指 (the ring of Gypes) 後驚訝地發現他變成了隱形
人，沒有人看得見或聽得到他。只是他的身體然佔有空間，會撞到人讓路人跌倒，也會在
軟墊上留下印子。習慣了隱形的生活後，赫伯特開始思考他可以做些什麼，沒想到，他想
的都是一些去偷看女生洗澡，輕鬆地偷竊或是惡整他看不慣的人等違反法律道德規範的事
情。面對這些卑劣的誘惑，賀伯特還能抵抗多久呢？
這個思想實驗出自柏拉圖對話錄《理想國》The Republic 第二卷。利用牧羊人蓋吉茲撿
到的一枚隱身戒指來討論人們是否一該過一種正義的生活。蓋吉茲戒指可說是道德性格的
一項測試：在隱形的情況下，你會做出什麼行為，正好顯示你的真實道德本質是什麼。如
果人們可以作惡而不會被發現，也不會被處罰，那麼人們還會選擇正義嗎？會出於什麼理
由選擇正義？
這個隱身戒指的概念被英國奇幻文學大師托爾金 (J.R.R. Tolkien) 運用到他的小說《魔
戒》The Lord of the Rings 上。在小說裡，魔戒具有統治世界的強大力量，其中一項功
能就是隱身。我們在電影裡最常看的的魔戒能力也是隱形。這是最強大的力量，因為隱形
代表著擁有了可以為所欲為的能力，不會受到任何的制裁。在這樣的情況下還有誰抵擋的
了作惡的衝動呢？在柏拉圖的故事裡，即便是正義的人也會受不了誘惑去作惡; 在《魔戒
》裡，最純樸的哈比人佛羅多 (Fordo) 想要摧毀魔戒，但最後一刻也被魔性吞噬，轉而
戴上魔戒。這似乎都隱喻著人性 會趨向於惡。
無論如何，作者說蓋吉茲戒指能幫我們區別出自己真正相信是錯誤的事，與自己只是礙於
習俗、名聲或膽怯而無法去做的事。它剝去我們個人的道德外衣，使我們看出自己的道德
核心，並且移除我們佯裝的價值矯飾。不論你是否相信人性本惡，想想看如果你拿到了這
枚隱身戒指你會怎麼做吧？
2. 希望，快樂，做夢吧！The experience machine 幸福機器
羅伯特現在面臨一個對未來的抉擇：選擇一，是在真實的世界裡，他的前景黯淡，任何夢
想都幾乎不可能實現。選擇二，是進入一台體驗幸福的機器 (the experience machine)>
。這機器能讓你在虛擬實境中完整地經歷人生，裡面的設計都是為了讓你過的更開心，更
滿足。而且你不會知道你其實是在機器裡，你就像是生活在真實世界裡，只是在這世界裡
你所有的經歷都會非常美好。現在讓羅伯特感到遲疑的是他不知道他該不該接受這虛假的
人生。
幸福機器的思想實驗是由美國哲學家諾齊克 (Robert Nozick) 在1974年的書中所提出的
，主要是用來反駁享樂主義 ( Hedonism about well-being)。同樣的概念也在電影《駭
客任務》(The Matrix) 裡被討論。強大的母體能提供給你完美的幸福經驗，如果是你，
你會選擇離開嗎？諾齊克認為人們還是會選擇留在現實世界裡，即便現實世界並不美好。
因為我們有夢想想要成就些什麼事情，不是單單只為了有相關的經驗而已，而是要「真的
」達到那些成就。因此，就算機器在怎樣強大，所製造出來的人生終究是虛假的，所以我
們不會想要。
不過我們真的會不想要幸福的人生嗎？反對諾齊克的人主張即便是機器製造出來的經驗，
那感受還是真實的，因為那是作用在你身上的感受，不論是機器外還是機器內，你仍然是
你自己。而且所謂在真實世界裡人們是靠自己的實力才成就自己的夢想，也不盡然是對的
，有多少人懷才不遇，能否成功除了努力外，機運也佔了很大的成分。機器可以提供你最
好的機運，怎麼會有人不想要呢？最後針對進入機器就等於放棄真實世界的看法，反對者
認為即便是在真實世界裡，你的人生也只是你的所有經驗總合。就某個面向而言，要真正
重新思考的是只因為現實世界是原子構成的世界，而機器是用電子晶片和軟體建構，就不
能算是真實了嗎？更何況，一旦進入機器後，你不會離開，你也分辨不出有什麼不同，你
唯一能有的仍然只是你的感受經驗。那進不進去機器又有何差？
作者認為或許是因為我們堅定認為自己的未來應該是意志和努力的產物，所以才會選擇不
進入機器。假使堅持不進入機器,至少有一件事是真實的：當我們思考什麼最能符合我們
的利益時，在意的絕對不只是幸福。如果是你，會怎麼選擇呢？
3. 生死一念間的電車難題 Trolley Problem
葛雷格 (Greg) 只有一分鐘的時間能做出決定：面對一輛無法停下的火車，如果他不扳動
轉轍器，那麼這輛車將會撞上在隧道裡工作的40位工人。如果他扳動了轉轍器讓火車駛向
另一條軌道，雖然可以避免40位工人的死亡，但也會傷及這條隧道上的五位工人。如果你
是葛雷格，你會怎麼做？
倫理學討論中最著名的電車難題 (Trolley problem)，相信也是大多數台灣人最為熟知的
倫理學思想實驗，最早是由英國哲學家菲利帕．福特 (Philippa Foot) 於1967年首次提
出。這個難題在測試結果主義 (Consequentialism) 和義務論 (Deontology) 之間的衝突
。對主張結果主義的人來說，葛雷格很明顯應該扳動轉轍器,這麼做幾乎可以確定減少死
亡人數。假設我們可以輕易阻止某事發生卻不阻止，我們的責任是否等同於故意促成某事
發生？ 對另一些主張義務論的人來說，如果葛雷格扳動轉轍器，就等於以上帝的地位自
居決定他人的生死。雖然我們應該試著拯救生命，但是不能以殺人來救人。若是以救人為
殺人的理由，就會落入「滑坡謬誤」(Slippery slope) 中：原本是想救人，卻為了救人
得殺人，反而造成與原本目的完全相反的結果。這裡對義務論者的挑戰是不管葛雷格是否
扳動轉徹器，他都決定了某個人的生死。
作者說葛雷格並非選擇扮演上帝，而是他不得不扮演上帝。因為重點不在於葛雷格是否行
動，而在於他擁有是否行動的權力：不管他最後的選擇是什麼，他都必須負起責任。因為
我們說葛雷格扳動轉轍器造成工人死亡，所以他應該負責。但是如果他不扳動轉轍器就一
點責任都沒有，這種說法會不會造成誤導：以後大家遇到事情只要不作為就沒有責任了？
但這又引出另一個問題：假使不在殺人與任其死亡之間做出道德區別，會不會因此促成更
多令人不舒服的結果發生？因為若是主張在殺人與任其死亡之間做出區別是不合理的，甚
至認為其中並無差別可言，這種說法將會造成另外一連串道德兩難（細節請看下面第10個
思想實驗的討論）。
近年來在哲學與倫理學的領域外，心理學、認知科學與神經倫理學的部分研究也涉及此問
題。尤其隨著汽車自動駕駛的科技發展，在討論自動駕駛的道德規範時，也無法迴避這類
問題：在不可避免的碰撞下，自動駕駛的程式該如何判斷駛往哪個方向，是要先保護車內
的乘客，還是車外的路人呢？
4. 己所不欲，視情況施於人？
康斯坦絲 (Constance) 總是奉行道德黃金律 (the golden rule) : 要別人怎麼待你,就
要怎麼待人 (Do as you would be done by)。或是像康德的說法：「你只根據準則而行
，那是一項你同時希望它成為普遍法則的準則。」(Act only on that maxim through
which you can at the same time will that it should become a universal law.)
但是現在康斯坦絲現在面臨痛苦的抉擇：因為她現在有機會和她好朋友的老公一起私奔，
但這就違反了道德黃金律：她不想要被背叛，但是她如果跟好友的老公一起私奔，那就是
把背叛加諸在她的好友身上。同時，她想到我們監禁罪犯並不是說自己也應該被監禁，而
是說「當我們處於與罪犯相同的情況時」應該被監禁。「視情況而定」這條但書很重要。
因此康斯坦絲認為雖然她不認為通姦和帶走財產是對的，但是就她身處的特殊情況看來的
確是對的。因此，她可以安心的一走了之。
「己所不欲，勿施於人。」是孔子在論語中的教誨。在西方被稱為道德黃金律。孔子的黃
金律以各種形式出現在人類設計的所有主要倫理體系中，它以簡單的形式提供人人都能遵
行的道德經驗法則。但在作者的思想實驗裡，要檢驗這條規範的問題。作者說康司坦絲的
問題指出了黃金律的問題核心：這規定要不是荒謬的，就是被架空的。這規範是荒謬的，
因為如果這句話是說所有我們不願意接受的事情都不可以加諸在他人身上，那麼既然我們
都不喜歡懲罰或約束，所以我們也不能懲罰和監禁罪犯。但這說法太荒謬了。另一方面，
如果我們同意要不要遵守黃金律得視情況而定，像罪犯的情況就不適用。那麼，我們又該
如何決定什麼情況適用，什麼情況不適用呢？如果我們要說「在完全相同」的情況下才能
適用，但因為現實上每個情況都略有不同，所以根本達不到「完全相同」。那麼，黃金律
要作為一個道德的普遍規範根本是空談。
那麼退而求其次，我們只能訴求「在相關類似」道德處境下被如何對待，就應該怎麼待人
。但即便是要判斷什麼是「相關類似」的道德處境也不是一件容易的事。康斯坦絲的兩難
反映出任何試圖遵守道德原則的人必須面對的挑戰：如何在遵守一般原則與感受每個情況
的特殊性之下做出平衡的選擇。
5. 預防重於治療 Pre-emptive justice 關鍵報告
巡邏官安德露絲 (Androws) 引進了「預先定罪計畫」(pre-emptive programme)：運算技
術與人工智慧的進步，使人類得以預測未來誰將犯罪以及犯什麼罪。人們將因各種原因而
接受檢測：可能是隨機挑選，也可能是基於特定懷疑。如果當中發現有未來罪犯，這些人
將被逮捕並預先懲罰。 因為這新制度，這個城市的犯罪率明顯地大幅下降了。但是有些
自由主義者認為不能因為某人尚未做的事情就把他關起來。就是電影《關鍵報告》
Minority Report裡所發生的事情。改編自美國科幻小說家菲利普．狄克 (Philip Dick)
的同名小說。
因為自己未犯的罪而坐牢，聽起來像是不正義的縮影 ; 但事實上，我們確實已經針對可
能但是尚未造成傷害的行為而懲罰行為人。例如我們會懲罰預謀殺人的嫌疑犯。
我們可以思考用來合理化懲罰的主要理由:改造、保護公眾、報復與威嚇。如果有人即將
犯罪，那他們的性格就跟實際的犯罪者一樣，他們對大眾造成的危險也是一樣的，因此如
果我們可以合理的懲罰犯罪者，那我們也可以基於相同的理由合理化預先定罪計畫。再者
，如果懲罰的目的是威嚇，讓人們知道自己在犯罪前就會被懲罰，就可以嚇阻人們想犯罪
的念頭。但基於這三個理由是否就表示預先定罪計畫是可行的呢？
若是知道某人將要犯罪但還沒犯罪就施以懲罰，這會造成什麼問題呢？這種制度可能造成
一些負面效果。例如，創造出每個人的思想都被監控的社會可能會破壞我們的自由感，以
及對權威的信任。這樣的代價似乎太高，且威嚇的效果也可能造成反效果。因為如果人們
害怕自己因為不由自主產生的念頭而受懲罰，反而可能會因此認為自己無法控制自己的犯
罪性。既然無法確定自己能守法，可能就會毫不在意地違法，只要不要被抓到就好了。
不過根據電影裡的情節，因為人有自由意志，所以到了最後一刻還是有可能改變預測的結
果。如果我們相信自由意志，那就有理由相信人的行為是不可能被百分之百地預測的，那
麼預先定罪計畫的合理性就失效了。
6. 到底要怎樣才公平？ The veil of ignorance 無知之幕
現在有20個人被選中要派去火星進行一項不尋常的任務。目前火星上有著各種物品，包含
住宿、食物、和奢侈品等。他們必須在出發前先決定好要怎麼分配這些東西。但問題是沒
人知道要進行怎樣的任務，所以該如何分配這些東西才好呢？第一個建議是平均分配所有
的東西。不過馬上就有人提出異議：現在每個人分得相同的報酬，但如果到時候有人因為
工作繁重而不願完成自己分配到的工作，那不就不公平了？為了鼓勵生產，難道不該提供
一些誘因嗎？如果接受這個異議，那又該怎麼分配才算公平？如果公平並不等同給予每個
人相同的東西。那麼，公平的意義究竟為何?
分配正義
https://www.youtube.com/watch?v=1LkfbieuB1w&list=PLfy2dsPrWejQzb4ocmFDoO9QRA7mntb4M&index=8
美國政治哲學家羅爾斯 (John Rawls) 認為我們若是想知道在地球上如何達到公平，就應
該想像自己也處於類似境況。有個關鍵是我們應該還要想像自己身處在「無知之幕」
(the veil of ignorance) 的背後，不知道現實中自己是聰明還是愚笨、靈巧還是笨拙、
強健還是體弱，也不知道自己所處的階級、長相、宗教和族群等。在這樣的條件下，我們
才能決定如何在公平又不歧視任何人的情況下分配物品。我們只能依靠理性，為了確保自
己不會吃虧，就要盡量創造出貧富差距不要太大的體系。因為你不知道你是否身處社會的
劣勢中，所以你會審慎地考慮到萬一我不幸淪為社會底層，是否還有翻身機會。
然而，無知之幕這種做法是否真的公平或理性呢？如果有人認為讓最無能的人沉淪並沒有
什麼不公平，我們該如何回應？如果有人主張真正的理性就是下注在贏家身上，而非讓社
會盡可能照顧輸家，這樣的說法又如何？若是以「自己」在社會上可能受到的待遇為指等
原則，而非單純考慮公平與正義，我們是否將自失立場，淪為自私自利？因此支持無知之
幕的人相信這是最能決定公平社會外觀的設計。反對的人則認為這是天方夜譚：當我們走
到無知之幕的後面時，就同時也挾帶了既有的政治觀與偏見，並且根據這些觀點做出決定
。所以無知之幕是不可能的。
7. 自願被吃的豬 The pig that wants to be eaten
已經吃素40年的柏格 (Berger) 現在正準備享用一頓由雞肉和豬肉組成的肉食大餐。這次
他可以不違反良心地滿足口腹之慾，因為這豬肉是來自一隻經過基因改造的豬普莉希
拉 (Priscilla)，牠會說話，且表明了牠自願被吃牠希望能在人類的餐桌上畫下生命
的句點。普莉希拉衝進舒適又人道的屠宰場之前，將自己的期望全告訴了柏格。柏格知道
整件事的來龍去脈之後，心想如果不吃了普莉希拉，就太對不起牠了。雞肉則是來自經過
基因改造的「無腦」雞。換句話說，這種雞就像植物一樣，無法知受到自我丶環境丶疼痛
或舒服。殺這種雞就跟拔紅蘿蔔一樣，一點也不殘忍。然而，菜餚端到柏格面前時，他禁
不住作嘔。這是長年茹素造成的反射作用，還是內心痛苦反映出的生理現象？
有些人認為飼養並殺掉動物是錯誤的行為，他們的理由主要有二。首先是飼養動物的環境
問題。這裡人們關心的是動物活著時遭遇的悲慘狀況，而非死亡。其次則是屠宰行為。它
終結了生物的生命，剝奪其安享晚年的機會。對於關心動物福利的人來說，第一個問題很
好解決，就是改善環境，讓動物過的舒適即可。但是第二個問題，也是很多素食主義者的
理由，反對殺生，就不是那麼容易解決。
因此，假設我們能創造出沒有生存利益的動物，也就是說，這些動物就跟紅蘿蔔一樣沒有
知覺，那結果會不會有所不同？剝奪牠們從未知覺或擁有過的存在感是否有錯？或者，如
果動物實際上自願被吃，就像道格拉斯·亞當斯 (Douglas Adams) 在其小說《宇宙盡頭
的餐廳》The Restaurant at the End of the Univese 中想像的牛 (這則思想實驗的出
處）?
人們可能會提起動物尊嚴或尊重自然秩序，但嚴肅而論，創造無腦雞是不是也減損了雞的
尊嚴？普莉希亞是不是死得很有尊嚴？甚至於有機農夫選擇與培育各種農作物並大量生產
的行為，是否等於紊亂了自然秩序？簡言之，如果柏格的菜單成真，素食主義者還有理由
拒絕與柏格一同開葷嗎？
8. 一失足成千古恨 Life dependency 是否可以墮胎？
狄克 (Dick) 明知貪杯誤事，卻還是喝個大醉，因而犯下一各大錯：他因為躺在救生區的
病床上被誤認為是自願救助病人的志願者。在這區裡的都是必須器官移植的病人，他們目
前需要有志願者的幫助，利用志願者的器官暫時存活下來，直到有捐贈的器官為止，通常
要等上9個月的時間。狄克發現後馬上找護士來澄清他並不是志願者，但是醫護人員跟他
解釋說現在無法解除他身上的管線了，因為他已經和病人的器官連接上了。如果現在撤除
，這個病人，還是個知名的小提琴家，就會死亡，那麼你就成了殺人犯。狄克抗議說醫生
沒有權利強迫他放棄9個月的自由來救這個小提琴家。但醫生反而質問他說你怎麼可以選
擇結束這個小提琴家的生命。
這個思想實驗改編自美國哲學家朱迪絲．湯姆森 (Judith Jarvis Thomson) 討論墮胎議
題的文章。這個實驗室用來挑戰反對墮胎的論證。狄克的困境相當程度反映出非預期懷孕
的狀況。 因為一個意外結果造成另一個人必須依賴狄克的身體才能存活，為期九個月，
之後狄克才能重獲自由。就像一位女性因意外懷了孕，得讓胎兒在身體裡待上九個月後才
能解除。兩者最大的相似點在於，為了讓自己脫離人類維生機器這個意外角色，懷孕婦女
與狄克必須做出決定：讓依賴他們身體才能存活的人死亡。你認為狄克該怎麼做，同樣也
應該認為懷孕婦女該怎麼做。
如果狄克有權主張脫離小提琴家，為什麼懷孕婦女無權墮胎呢？事實上，懷孕婦女擁有比
狄克更多的權利能這麼做。因為不是小孩生出來就沒事了，還有照顧他的責任。而且胎兒
是個還處於發展階段，尚未有自我意識的生命體，是否算是法律意義上的「人」都還有爭
議。因為這個思想實驗指出懷孕婦女和狄克這兩者的相似性，使得支持墮胎的人士能夠面
對墮胎殺人的指控，並且主張懷孕婦女有終止胎兒生命的權利：就算承認胎兒是人，懷孕
的婦女還是有權利可以終止懷孕的過程。這思想實驗在當時為美國能立法賦予婦女合法的
墮胎權利提供了強力的支持。
9. 殊途同歸 Double trouble 安樂死是殺人嗎？
在醫院裡，一位快死了的病人痛苦地向醫生哀求，請醫生讓他解脫，最好能用快速無痛的
方式。醫生回答說：「讓我確定一下，你是要我為你注射高劑量的止痛藥也許是20毫
克的嗎啡讓你快速失去意識並加速死亡嗎？
病人說：『是的！請您大發慈悲。」
醫生回答：「有些事情我是不能做的，不過我了解你的痛苦，所以還是能做點什麼。為了
解除你的痛苦，我會為你注射高劑量的止痛藥，大約20毫克嗎啡，但這樣的劑量會讓你很
快失去意識並很快地死亡，你覺得如何？」
病人困惑地說：「這不是跟你剛剛說的一樣嗎？」
醫生回答:「第一個建議是殺了你，第二個建議是解除你的痛苦。我不是殺人犯，而且，
安樂死在我國是非法的。」
病人反對說：「但是不管用哪一種方式，都可以讓我解脱，不是嗎？」
「是啊」醫生說:「不過，對我來說可就有差別了。」
對於安樂死 (Euthanasia) 到底是殺人還是助人，目前還是存有很多的爭議。現今只有少
數國家，如瑞士、荷蘭、比利時，可以合法進行「主動安樂死」(Active euthanaisa)—
—使用致命的物質或力量（例如進行致命性注射）。2018年台灣的知名體育主播傅達仁就
選擇了去瑞士進行安樂死。記得當時在社會上也帶起了一陣討論的風潮。
這一則思想實驗在討論的是醫生的角色，同樣是給病人注射高劑量的止痛藥讓病人快速地
失去意識並加速死亡，為什麼醫生說對他來講是不一樣的？哪裡不一樣？
作者舉例在英國，故意縮短病人生命是違法的，即使病人處於極大的痛苦中並且要求死亡
。然而，採取行動減少痛苦卻是允許的，即使可以預見此舉將加速病人死亡。判斷箇中差
異的關鍵在於意圖。意圖解除病人的痛苦是合法的，但是意圖殺害病人是違法的。
這個意圖的區別來自基督教神學裡古老的道德原則「雙重效果原則 」： 為了行善而
做某事，即使預見這麼做會帶來某種惡，但只要意圖是善的，而且沒有產生惡的結果，在
道德上就能接受。另一種說法是：雖然某個行為或間接地導致傷害（這傷害是為了成就善
的副作用），但只要能造就更大的善，那麼這行為便是道德的。在這則思想實驗裡，要討
論的關鍵是區分「預見惡的結果」(foreseen consequences)（副作用）和「善的意圖」
(good intention)（目的），預見不等於意圖，真正有影響的是意圖（目的）。雖然最終
的結果是一樣的病人快速地死亡但因為預見與意圖的不同，對於海德博士如何面
對自己的良心有著很大的影響。
關於雙重效果原則其實就是我們先前提到的電車難題中當初要討論的重點（我們在談電車
難題時，通常只著重在結果論和義務論的爭辯，反而忽視了原作者之所以要提出這例子其
實要談的是雙重效果原則，也忽視了作者的論點）。在菲利帕．福特 (Philippa Foot)
1967年的論文 The Problem of Abortion and the Doctrine of the double Effect 裡
其實要討論的是當時已有的墮胎技術子宮切除術和穿顱術，兩項手術結果都是相同的
，會造成胎兒死亡，但是有不少人可以同意子宮切除術，但反對穿顱術，因為差別在於前
者的目的是為了救母親，而後者的目的是要殺死胎兒。 而可以用來支持墮胎的背後的理
由就是雙重效果原則。在電車難題的例子裡也是，因為雙重效果原則，所以我們可以接受
司機雖然預見了當他切換轉轍器後會有人死亡，但是他的意圖是為了救更多的人，所以這
行為是可以道德上接受的。
這個雙重效果原則有爭議的地方在於有些反對者主張：我們對於自己預見的事所負的責任
，與我們對於自己意圖的事所負的責任，兩者應該是相同的。例如，我拿著來福槍對著森
林射擊，明知此舉可能殺死過往的行人; 若是真的意外殺死某人，我將沒有理由說自己沒
有道德責任，只因我沒有殺人意圖。這條原則有可能被利用來做自我開脫的狡辯。
10. 借刀殺人，借花獻佛 Life support
葛雷(Grey)醫生很沮喪，因為他的末期病人仍繼續依靠維生設備在延續生命。病人最後一
次清醒時曾不斷地要求關掉機器，但是醫院的倫理委員會判定任何故意縮短病人的行為都
是錯誤的。雖然葛雷反對這決定，也認為機器的延緩死亡只是徒增病人和家屬的痛苦。
有天就在葛雷探視病人的時候，旁邊的清潔人員不小心讓維生設備的插頭脫落了，機器發
出警告聲，清潔員不知所措地看著葛雷。葛雷毫不猶豫的說：「不用擔心，繼續做你的事
。」對葛雷來說，確實沒問題，因為沒有人"故意" 縮短病人的生命，他只是不理會意外
脫落的插頭而已。
我們直覺上都認為殺人與任其死亡之間存在著清楚的差異，但是這項差異具有道德意義嗎
？葛雷確實想關掉維生機器，讓病人死亡。事實上，他只是沒有重新插上機器的插頭，但
是意圖與結果都跟殺人一樣。在這兩種情況中，如果死亡都是故意且經過審慎決定造成的
，做出決定的人是不是都應該受到責難? 因為採取行動讓病人死亡若是錯的，不採取任何
行動防止病人死亡當然也是錯的。但反過來換個角度說，如果讓病人死亡在道德上若是說
得過去，關掉機器當然也沒有道德上的問題。
可是在安樂死的問題上，法律對安樂死的規定確實明確區分了殺人與任其死亡兩種，這就
造成了古怪的結果。一方面，醫生可以停止餵食處於永久植物狀態的病人，讓病人逐慚餓
死。另一方面，醫生卻不可注射致命藥物助其加速死亡。結果就變成我們很難理解為什麼
餓死會比快速無痛的死亡更具倫理上的優越地位。
有人認為，雖然殺人與任其死亡之間並不總是存在道德意義的差異，但是基於法律與社會
理由，仍不允許故意殺人的行為。因為這中間存在著道德的灰色地帶，所以保守起見，為
了怕有人濫用這種例子來故意殺人，所以不能允許醫生進行安樂死的行為。雖然在殺人與
任其死亡之間劃定界線是區別倫理與非倫理治療的最好方法，但是這種做法仍有問題，因
為它完全忽視了病人的意願。
讀後心得：
以上這10則思想實驗都是倫理學上的經典討論，背後都有很深刻的含義，也不是作者在這
一本小書裡可以一次道盡的。可以確認的是這些倫理議題其實沒有離我們很遠，它們是我
們建構法治社會的一部分，甚至是很核心的部分，牽涉到我們要怎麼制定法律，如何定罪
和制裁。身為社會的公民一份子，每個人都有義務要去了解這些議題，去思考這些議題，
這樣才能在投票和選舉時做出正確的決定。
繼續閱讀：《自願被吃的豬》讀後心得下：與知識和心靈相關的十大思想實驗
https://philosymposium.wordpress.com/2022/06/10/the-pig-wants-to-be-eaten-2/
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 88.169.127.83 (法國)
※ 文章網址: https://www.ptt.cc/bbs/book/M.1655900303.A.DB8.html
※ 編輯: vivina (88.169.127.83 法國), 06/22/2022 20:42:02
... <看更多>