AI 如何為公司創造更多價值？專家：2 個缺陷，要先由人類來修補
2021/05/13
採訪‧撰文
盧廷羲
張凱崴
美國人工智慧國家安全委員會（NSCAI）今年 4 月建議，國防部每年應至少分配 3.4% 的預算投入科技領域，並提撥 80 億美元研發 AI。企業方面，微軟（Microsoft）4 月宣布，將以 197 億美元收購語音辨識開發商紐安斯通訊（Nuance Communications）；後者是雲端與 AI 軟體的先驅。
從企業到國家，都愈來愈重視人工智慧，知道要想辦法運用 AI 創造更好的生活。不過，目前 AI 發展到底處於什麼階段？我們又該如何應用？
美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴形容，目前人工智慧技術已經可以幫助人類完成很多事，像是疫情來襲，電腦可以從大數據中篩選條件，自動搜尋、判讀潛在病例，幫助醫生大幅減少檢查時間，但 AI 也並非萬能，要先認知它的局限。他研究如何讓 AI 更符合人性，獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。
AI 局限1. 資料寬廣度不足時，就會複製人類偏見
張凱崴認為，電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考，如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差，「你跟電腦講清楚 input（輸入）、output（輸出），提供足夠的數據資料，它可以對應、學得很好，但還有很多面向 AI 做不到。」
舉例來說，亞馬遜（Amazon）2014 年推出智慧音箱（Amazon Echo），使用者口頭下指令給語音助理 Alexa 就能放音樂、查資訊。然而，有些人口音較罕見，或是用字較特殊，智慧音箱的資料庫沒有「不同口音」「不同用詞」的檔案，就可能失靈，這是當前 AI 的其中一大問題。
張凱崴進一步解釋，AI 另一項挑戰是，它無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別，只是從資料統計出要學的東西，無法像人類一樣進行邏輯思辨。
AI 的運作方式，第一步是輸入資料，第二步是分析，但這過程容易出現偏見。例如電腦在理解「總統」這個字，會去看四周有什麼字詞，來學習總統這個詞，由於許多總統都是男性，電腦就會「覺得」總統是男性。
這也是為什麼，如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄）。「你可以跟人類說，任何職業、性別都是平等的，但對電腦來講，這很困難，」張凱崴說明，一旦資料的寬廣度受限，電腦就容易產生偏見。
就像在自然語言處理（Natural Language Processing，讓電腦把輸入的語言變成有意義的符號）領域，張凱崴說明，AI需要知道代名詞指的是「哪個名詞」，才能運算下去。但如果資料受限，使用男性的「他」，電腦可能判斷這個代名詞是指總統、總理、執行長；但換成女性的「她」，由於數據不足，電腦就會混亂，出現系統性誤差。
他再舉一例，美國人工智慧研究組織 OpenAI 提出「生成式預先訓練」系統（GPT，Generative Pre-training），推出到 GPT3 版本，屬於書寫類 AI，電腦能夠揣測人們說完上一句話，下一句可能會講的句子，自動完成後半段。
好比有人上一句寫下「我正在和教授聊天」，系統可能推導出「我們在研究室討論學術問題」，因為電腦藉由蒐集來的語料資料中判讀出「教授」和「學術」具高度相關。但研究也顯示，GPT2（前一代版本）系統也從資料中學習到許多偏見，像是如果句子前半談論白人男性，系統傾向產生正面評價；如果句子前半是黑人女性，系統竟會產生負面句子。對企業來說，許多組織接觸 AI，想讓它們取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。
AI 局限2. 即便條件相同，也無法每次都做出正確判斷
「其實，現在的 AI 就像一台原型飛機，還缺乏穩定性。」張凱崴說，現行的 AI 就好比萊特兄弟（Wright brothers）剛發明飛機，看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。
紐西蘭的簽證系統曾鬧出笑話。人們上傳簽證照片，AI 掃描後，確認是不是本人，但當時系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。
張凱崴說，在這個例子中，凸顯出 AI 的穩定性不足，「系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開。」所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策，這也是使用 AI 時，須留意的第二個挑戰。
他再舉例，許多模型可以準確分析，一則影評對電影的評價是正面或負面。然而研究顯示，有時只要將影評中一些字換成同義詞，例如把電影（movie）換成影片（film），或改寫句子，即使意思並未改變，系統卻把原本判斷為正面的影評標註成負面。這顯示AI系統還未真正了解語言的含義。
在設計這些程式時，人們必須注意到 AI 可能有局限，設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。
餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆
經理人雖然不一定具備 AI 方面的專業知識，但只要掌握觀念，再透過 AI 領域專才協助，也能優化系統。張凱崴指出，最直接的方法是，設計 AI 模型時，要把來源群組不同的資料分門別類測試，在測試階段讓群體多元化，並確保不同特色的使用者，用起來都沒有問題。
舉例來說，一套 A 系統擁有來自各地的使用者，如果設計者是台北人，設計系統的思維容易以台北生活為主，很可能因為當地習慣不同，導致花蓮使用者操作不順。
另一個方法，則是用不同的「語意」，去測試 AI 有沒有徹底學會一個概念。例如，有一套餐廳評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷每個顧客對於餐廳的評比是高分或低分。那麼要如何確認這套系統的穩定性？張凱崴建議，可以利用「抽換詞面」的方法。
比如，把詞彙換成同義字，再看 AI 是否能運算出相同結果，「你可能會發現，原本評比結果是食物很美味，但如果美味換成比較困難的詞，AI 就會分不出這則評比是好是壞。」因此在訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。
第三種方式更進階：改變句型、重寫句子。張凱崴指出，同樣一句話，如果換成不同說法，電腦可能判讀錯誤，將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」，明明兩句話意思一樣，但 AI 很可能因為穩定性不足，搞混兩者的差別。如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。
張凱崴表示，經過這些測試，讓 AI 接受更多元化的訓練，得到更廣的學習範圍，往後碰到同義詞、相似資訊，才能有效判讀。
張凱崴總結，AI 還在快速發展，或許可以創造更多工作機會、新的職位，但現行階段，它只是輔助角色。AI 並非魔術盒子，使用它就一定有更好結果，人們還是要保持高度耐心，先認識它的缺陷，才能在技術更迭下，發揮出最好的結果。
張凱崴
台灣大學資訊工程系碩士、美國伊利諾大學（UIUC）電腦科學博士。美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授，研究領域包括人工智慧、機器學習、自然語言處理。2021 年獲得史隆研究獎（Sloan Research Fellowship），研究團隊開發的運算方法，使人類語言處理的程序更有效率、更多元，同時兼具公平性。
附圖：優化AI系統的3方法
資料來源：https://www.managertoday.com.tw/articles/view/62902?fbclid=IwAR2jI1bhg1anqct0AZZR_3LKKJqIsvG0wz2whSN8iniROZApHt-_qpD7dis
非黑即白同義詞 在 什麼是御宅族OTAKU?(二) - 看板KS_PMAC - 批踢踢實業坊 的美食出口停車場
在日本御宅族的勢力可謂非常驚人,當今日本的第一線漫動畫人十個有七個都是御宅族,
例如九十年代的代表動畫公司GAINAX的創立者之一岡田斗司夫就是公認的御宅族之王(OTAK
ING),而公司的成員亦是以御宅族組成,而漫畫界近日大紅大紫的赤松健和藤澤亨也是一非
常典型的御宅族.雖然不至於"佔領"當今日本ACG界,但其影響力之驚人卻絕對不能忽視.
雖然御宅族在日本的勢力和影響力相當驚人,但在日本OTAKU這個單字卻是禁忌.
日本人一聽到御宅就會臉色大變,雞飛狗跳的跑開,恐怕連洪水猛獸都沒那麼可怕。
就算是御宅族之間,除了極少數已公認為御宅族的人(如岡田斗司夫)之外大家都盡可能避免
以御宅之名互相稱呼,搞得御宅族像是什麼秘密結社的社員又或者邪教門徒一樣.
大部份人(包括岡田斗司夫在內)都認為御宅族名聲會這麼差是因為89年在日本發生的宮崎
事件(註),但原因真的是這樣嗎？
如果真要深究,宮崎事件只不過是日本社會對御宅族的排斥行為的一個藉口.
真正問題在於日本的民族性:單一價值觀.群體排他性和勝者正確論.
這三種日本人出名的民族劣根性正是使御宅族惡名遠播,不見天日的元兇.
由於這篇文章不是八股式的大學論文,所以不會引經據典寫一大堆你不懂筆者也不懂的數r
ꤠM資料來引證一些論點,而是從漫動畫本身,甚至是一些日本電視劇集常見的內容來去作例.
單一價值觀--非黑即白的的世界
雖說日本國內也有極少數民族,但本質而言日本是一個單一民族國家,同樣地,日本亦是一個
單一價值觀的國家,也就是說,極大部份日本人的想法和思考模式都是大同小異.
以足球漫畫{足球小將翼}為例,差不多故事中所有足球員的踢球哲學都是大同小異的,也就
是沒有一套對等的哲學(即兩個哲學都對,而不是非黑即白)是和翼他們相信的哲學共同存在
,那就是單一價值觀的好例子.
或許有人會說:每個人都是單一價值觀的吧,怎麼可能會有一個人擁有兩套價值觀?
沒錯,除了精神分裂者和愛國業者之外,一般人的確只有一種價值觀,
但日本人的不同在於他們不承認有另外的價值觀存在.
不妨看看外國,美國不但是一個多民族國家,而且各種各樣價值觀的人都有.
由早年的Bebop樂手到達達主義到嬉皮,甚至現在仍然在歐美活躍著.騎著哈雷機車四處跑的
地獄天使等,他們雖然不被社會大眾認同,但社會卻不會排斥他們,讓他們有生存的空間,原
因是美國{雖不認同，但要容忍}的的立國原則和相對而言較為廣闊的容忍度(當然任何事也有
例外,這裡所指的是一般性而言),就算不認同對方的價值觀,但卻要容忍對方的價值觀,並保
護對方有不同價值觀的自由。
所以雖然美國史上曾爆發無數的種族問題(種族問題基本上和價值問題密不可分,但這是另
一個論題,不在本文的討論範圍內),但最後都是少數的族類得勝而不是大眾消滅少數,而民主
的基本正是如此:不單維護大多數的利益,也要保障少數人的權利.
不好,離題了(汗)
總而言之,就是日本人沒有容忍和自已不同的價值觀的氣量.
在這裡,單一價值觀是指:除了自已所信的觀值觀之外不容其他價值觀存在,即使這種價值觀
對他們完全沒影響。
而御宅族正是擁有和一般日本人完全不同的價值觀的小眾。
日本人完全無法理解.也不打算理解這群人為何會對一些小孩子玩意(別以為日本是ACG大國
,國民就會以較正面的態度看待這些所謂的"次文化",其實大部份日本人仍視ACG為給小孩的
玩意,登不了大雅之堂)會如此著迷並大加研究,並對這群小數族群加以敵視.
而從單一價值觀引申到群體排他性,表面看來這兩種東西好像風馬牛不相及,但實際上這兩
種價值觀是息息相關的.
群體排他性--非友即敵的心態
至於群體排他性則一向是日本人的名產,公認為群體性極重的日本人,小至學生社團,大至公
司部門,差不多每個日本人都得有一個地方讓他們立足,為這個地方而努力,而同一組織中的
人必需有著同一理念和同一價值觀,而日本人認為這樣才叫做{團結},才算得上是{同伴}.
我們再看看漫畫,差不多九成漫畫的主角身邊都有一群同伴,這些同伴可能個性各異,但他們
卻有著同一理念.同一價值觀,而不同理念的人是不可能當同伴的.
群體說過了,那排他又是怎麼一回事?
在上段談過有關單一價值觀,而那就是排他性之源。
再次引{足球小將翼}為例,在故事中除了主角們所信奉的踢足球理念之外就沒有其他對等的
理念,而所有擁有共同踢球理念的朋友就算是不同國家但一定會是朋友,這種以主角大空翼
的足球理念為中心的"虛擬組織",其成員不但在球場外必成好友而且在球場內亦踢得非常"君
子",沒有為勝利鬥個你死我亡的情況出現。
但不在這個"虛擬組織"內的人呢?他們先是看不起翼所信奉的理念,再而挑戰,最後不是敗得
慘兮兮的就是給翼"感化"(但實際上仍是必需打敗對手才能感化，那就是說：勝者的理論就
是正確的,有關勝者正確論下文會詳論),加入這個組織,從來沒有一個角色是有著和翼不同
的理念(更別說是相反了)而可以由始至終都和翼保持一個對等的關係,因為翼是主角,接受他
的理念就等於附屬於他,哪可以和翼平起平坐?
{足球小將翼}的例子可以說明日本人那種群體排外論的特質:自已和信奉的理念不一定是自
已認為是正確的理念,很可能是某個大人物所信奉的理念,但人云亦云.訴諸權威地認為正確
,對於別人不認為正確又或者認同其他的理念就視之為敵,一就是"感化"讓對方相信自已的
理念,不然就趕盡殺絕.(如果有看過{20世紀少年}的朋友應該現在就能明白,?什麼[朋友]能夠
如此輕易便滲透入各階層,甚至影響整個日本)
談到這裡各位就可以理解到御宅族為何會在日本飽受迫害的原因了吧?
GAINAX的名作{OTAKU的錄影帶}其中一幕是主角的上司晚上帶著女人花天酒地,但身為主角
的御宅族卻坐在電影院前通霄等看{超時空要塞}劇場版.
主角的上司對主角做的事冷嘲熱諷,因為他認為下班後除了花天酒地之外其他一切都是不對
的,但他沒興趣去感化,也沒本事消滅,所以只好以冷嘲熱諷來攻擊.
最要命的是由於御宅們是小眾,沒有反擊的能力,但加害者卻以為他們佔有優勢不是因為人
多勢眾而是因為擁有真理,而對方不敵是因為他們是錯,而這就是勝者正確論.
勝者正確論--顛黑倒白的歪理
其實有唸過歷史的朋友對於日本人這種勝者正確論應該相當清楚,二次大戰日軍侵略亞洲,
其中一項理論是:日本人是亞洲最優秀的民族,理所當然的成為亞洲的主宰,而亞洲各國打不過
日本是因為他們是三等民族,日本人的勝利不是因為船堅炮利,而是因為日本人團結而優秀.
在珍珠港襲擊之前甚至有不少日本人以為美國不足為懼是因為美國國民沒日本人團結,而日
本人是天皇之子民.怎麼可能會敗給個人主義的番邦美國?
到了戰後,由於日本是完全的敗給美國,所以對於美國有一種崇拜情結(即崇洋媚外)認為美
國一切都是好的,正確的,日本一切都是差的.不對的.
在這種崇美情意結之下日本完全接納美國文化,對於美國政府亦當然不可能說個"不"字.
反觀,對亞洲各國日本一直都不承認敗給他們,以日本那種勝者正確論的邏輯解釋:日本打贏
他們那就是日本是正確的,為何正確的要聽錯誤的人所發出的要求?(是故這些傢伙甚至竄改
課本,完全否認曾犯下南京大屠殺之惡行)
其實這種想法非常荒謬,信念正確與否豈能以力量的形式來決定?
借{神劍闖江湖}中緋村劍心的說法就是:
{假如你(明神彌彥)認為勝利者就是正確,那豈不是和志志雄一樣?我們(劍心對志志雄)勝利
並不是因為我們正確,只不過是因為時代選擇了我們.}
而銀英傳的楊威利就說得更直接:
{沒有比把才能、技術及人格完全混為一談更傻的事了.把勝利的原因完全歸功於道德的優
越,簡直就是可笑到家了}
簡言之,就是勝利和擁有真理與否、道德高下完全無關.
再用一個有趣的例子:在{福星小子}中龍之介和弁天決定誰較有女人味,但方法卻是打一場
架,誰打贏誰就有女人味,聽起來很可笑吧?女人味和打架厲害有什麼關係?但細想，這不就是
勝者正確論的變種嗎?
由一國之表現引申到社會之間的問題,御宅族人少力弱,各自為戰,加上沒有危機意識和社會
意識極為不足,根本不是掌握傳媒公器的衛道人士的對手,衛道人士以為御宅族不敵是因為
真理在他們手中,特別是宮崎事件給了這些人一個最強武器,攻擊.中傷更加肆無忌憚,而一向
沒有自主性思考.愛跟風的大眾受到傳媒影響也自然以為御宅族是一群陰暗的,反社會的.極危
險的族群。
惡評一旦建立,要日本人改變心目中御宅族的不良形像就比登天更難,而西方傳媒(如Newswe
ek)在受到日本傳媒的影響下作出了對御宅極差的理解和評論,日本傳媒反過來利用這些評
論來攻擊御宅族,使御宅族更不見天日了.
雖然岡田斗司夫等人努力去改變一般人心目中的惡劣形像,但就連御宅自已都給傳媒攻勢下
認同(或者說是屈服比較正確)御宅的負面形像,那又怎能去改變石頭似的日本人成見?
就算是海外也有不少人認同日本一般人心目中的御宅形像,如香港的御宅界雖然清楚御宅所
代表的意思,亦不怕對外自稱御宅,但對一般大眾和一般ACG迷來說,御宅被"解釋"成ACG迷的
同義詞,其無知的程度.思考力之不足和判斷力之低下實在令人失笑.
雖然御宅的名字已成為一個極為負面的代號,但這不等於御宅就從此消失,如開始時所說,
御宅們已經靜悄悄的入侵當今青年文化界的核心,而御宅文化便成為新一代ACG界的一個重
要流派,雖然他們仍各自為戰,但御宅文化已經成為日本九十年代的重心文化,這是任何人都輕
易可見的.
{只要不叫御宅就沒問題了吧?}
大概御宅族們認為只要不叫御宅那傳媒就會不管他們,他們仍繼續大幹御宅族的事,看起來
非常自欺欺人,但事實上日本就正因為"OTAKU"這個字眼不再出現而認為社會已大獲主勝.
這算是所謂的"雙贏"局面嗎?
(註)所謂{宮崎事件}是指1988年8月至12月之間,日本崎玉縣連續發生三起女童分屍案,而19
89年6月在東京再發生一宗女童分屍案,於7月逮捕兇手宮崎勤,警方在搜查兇手的住所時發
現許多動漫畫相關資料,以及大量描寫性變態與性虐待的漫畫.同人色情影帶和色情同人誌,及
他誘拐女童拍下的變態錄影帶.
而兇手亦坦坦承殺害四名女童並將其分屍,並吃屍體飲人血,還把殘屍拍進影帶中.....
後經精神鑑定,證實宮崎勤手分裂性多重人格的傾向.
本案在當時可謂震撼全日本,所有媒體都藉這事件大作文章,1997年東京地院宣判宮崎死刑,
但現仍上訴中.
宮崎事件件事對御宅最直接的影響是:
1.由於在宮崎勤家中搜出許多動漫畫相關資料和大量色情同人誌、同人影帶和變態色情漫
畫等,所以媒體便將御宅和宮崎事件拉在一起,將御宅族打成為一群反社會的危險人物.
2.日本政府利用這次機會向ACG界大肆攻擊,演變成日後以『有害圖書運動』為代表的一連
串的日本政府整肅.打壓ACG界的行動.
3.這一連串以"維護社會善良風氣"為名,打壓.統一ACG界為實的行動,使由1990年開始日本A
CG界進入長達五年的冰河期,直到1995年＜EVA＞播放後才漸漸復興.
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 210.64.233.34
... <看更多>