AI 時代的摩爾定律?黃氏定律靠的是自身技術力將 AI 性能年年加倍
作者 雷鋒網 | 發布日期 2020 年 12 月 16 日 8:45
1965 年,時任快捷半導體公司工程師,也是後來英特爾(Intel)的創始人之一的戈登·摩爾(Gordon Moore)提出了摩爾定律(Moore’s law),預測積體電路上可以容納的晶體管數目大約每經過 24 個月便會增加 1 倍。
後來廣為人知的每 18 個月晶片性能將提高 1 倍的說法是由 Intel CEO 大衛·豪斯(David House)提出。過去的半個多世紀,半導體行業按照摩爾定律發展,並驅動了一系列的科技創新。
有意思的是,在摩爾定律放緩的當下,以全球另一大晶片公司 NVIDIA 創始黃仁勳(Jensen Huang)名字命名的定律——「黃氏定律(Huang’s Law)」對 AI 性能的提升作出預測,預測 GPU 將推動 AI 性能實現逐年翻倍。
Intel 提出了摩爾定律,也是過去幾十年最成功的晶片公司之一。NVIDIA 作為當下最炙手可熱的 AI 晶片公司之一,提出黃氏定律是否也意味著其將引領未來幾十年晶片行業的發展?
AI 性能將逐年翻倍
受疫情影響,一年一度展示 NVIDIA 最新技術、產品和中國合作夥伴成果的 GTC China 改為線上舉行,黃仁勳缺席今年的主題演講,由 NVIDIA 首席科學家兼研究院副總裁 Bill Dally 進行分享。Bill Dally 是全球著名的電腦科學家,擁有 120 多項專利,在 2009 年加入 NVIDIA 之前,曾任史丹佛大學電腦科學系主任。加入 NVIDIA 之後,Dally 曾負責 NVIDIA 在 AI、光線追蹤和高速互連領域的相關研究。
在 GTC China 2020 演講中,Dally 稱:「如果我們真想提高電腦性能,黃氏定律就是一項重要指標,且在可預見的未來都將一直適用。」
Dally 用三個項目說明黃氏定律將如何得以實現。首先是為了實現超高能效加速器的 MAGNet 工具。NVIDIA 稱,MAGNet 生成的 AI 推理加速器在模擬測試中,能夠達到每瓦 100 tera ops 的推理能力,比目前的商用晶片高出一個數量級。
之所以能夠實現數量級的性能提升,主要是因為 MAGNet 採用了一系列新技術來協調並控制通過設備的訊息流,最大限度地減少數據傳輸。數據搬運是 AI 晶片最耗能的環節已經是當今業界的共識,這一研究模型以模組化實現能夠實現靈活擴展。
Dally 帶領的 200 人的研究團隊的另一個研究項目目標是以更快速的光鏈路取代現有系統內的電氣鏈路。Dally 說:「我們可以將連接 GPU 的 NVLink 速度提高一倍,也許還會再翻番,但電信號最終會消耗殆盡。」
這個項目是 NVIDIA 與哥倫比亞大學的研究團隊合作,探討如何利用電信供應商在其核心網絡中所採用的技術,通過一條光纖來傳輸數十路信號。據悉,這種名為「密集波分複用」的技術,有望在僅一毫米大小的晶片上實現 Tb/s 級數據的傳輸,是如今連網密度的 10 倍以上。
Dally 在演講中舉例展示了一個未來將搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。這意味著,利用「密集波分複用」技術,不僅可以實現更大的吞吐量,光鏈路也有助於打造更為密集的系統。
想要發揮光鏈路的全部潛能,還需要相應的軟件,這也是 Dally 分享的第三個項目——全新程式語言系統原型 Legate。Legate 將一種新的編程速記融入了加速軟件庫和高級運行時環境 Legion,借助 Legate,開發者可在任何規模的系統上運行針對單一 GPU 編寫的程序——甚至適用於諸如 Selene 等搭載數千個 GPU 的巨型超級電腦。
Dally 稱 Legate 正在美國國家實驗室接受測試。
MAGNet、以光鏈路取代現有系統內的電氣鏈路以及 Legate 是成功實現黃氏定律的關鍵,但 GPU 的成功才是基礎。因此,GPU 當下的成功以及未來的演進都尤其重要。
GPU 是黃氏定律的基礎
今年 5 月,NVIDIA 發布了面積高達 826 平方毫米,整合了 540 億個晶體管的 7 奈米全新安培(Ampere)架構 GPU A100。相比 Volta 架構的 GPU 能夠實現 20 倍的性能提升,並可以同時滿足 AI 訓練和推理的需求。
憑藉更高精度的第三代 Tensor Core 核心,A100 GPU AI 性能相比上一代有明顯提升,此前報導,在 7 月的第三個版本 MLPerf Training v0.7 基準測試(Benchmark)結果中,NVIDIA 的 DGX SuperPOD 系統在性能上開創了 8 個全新里程碑,共打破 16 項紀錄。
另外,在 10 月出爐的 MLPerf Inference v0.7 結果中,A100 Tensor Core GPU 在雲端推理的基準測試性能是最先進 Intel CPU 的 237 倍。
更強大的 A100 GPU 迅速被多個大客戶採用,迄今為止,阿里雲、百度智能雲、滴滴雲、騰訊雲等眾多中國雲服務提供商推出搭載了 NVIDIA A100 的多款雲服務及 GPU 實例,包括圖像辨識、語音辨識,以及計算流體動力學、計算金融學、分子動力學等快速增長的高性能計算場景。
另外,新華三、浪潮、聯想、寧暢等系統製造商等也選擇了最新發布的 A100 PCIe 版本以及 NVIDIA A100 80GB GPU,為超大數據中心提供兼具超強性能與靈活的 AI 加速系統。
Dally 在演講中提到:「經過幾代人的努力,NVIDIA 的產品將通過基於物理渲染的路徑追蹤技術,即時生成令人驚豔的圖像,並能夠借助 AI 構建整個場景。」
與光鏈路取代現有系統內的電氣鏈路需要軟硬體的匹配一樣,NVIDIA GPU 軟硬體的結合才能應對更多 AI 應用場景苛刻的挑戰。
Dally 在此次的 GTC China上首次公開展示了 NVIDIA 對話式 AI 框架 Jarvis 與 GauGAN 的組合。GauGAN 利用生成式對抗網路,只需簡略構圖,就能創建美麗的風景圖。演示中,用戶可通過語音指令,即時生成像照片一樣栩栩如生的畫作。
GPU 是黃氏定律的基礎,而能否實現並延續黃氏定律,僅靠少數的大公司顯然不夠,還需要眾多的合作夥伴激發對 AI 算力的需求和更多創新。
黃氏定律能帶來什麼?
NVIDIA 已經在構建 AI 生態,並在 GTC China 上展示了 NVIDIA 初創加速計劃從 100 多家 AI 初創公司中脫穎而出的 12 家公司,這些公司涵蓋會話人工智慧、智慧醫療 / 零售、消費者網路 / 行業應用、深度學習應用 / 加速數據科學、自主機器 / IoT / 工業製造、自動駕駛汽車。
智慧語音正在改變我們的生活。會話人工智慧的深思維提供的是離線智慧語音解決方案,在佔有很少空間的前提下實現智慧交互,語音合成和語音辨識保證毫秒級響應。深聲科技基於 NVIDIA 的產品研發高質量中英文語音合成、聲音定制、聲音複製等語音 AI 技術。
對於行業應用而言,星雲 Clustar 利用 NVIDIA GPU 和 DGX 工作站,能夠大幅提升模型預測精確度以及解決方案處理性能,讓傳統行業的 AI 升級成本更低、效率更高。
摩爾定律的成功帶來了新的時代,黃氏定律能否成功仍需時間給我們答案。但這一定律的提出對 AI 性能的提升給出了明確的預測,並且 NVIDIA 正在通過硬體、軟體的提升和創新,努力實現黃氏定律,同時藉生態的打造想要更深遠的影響 AI 發展。
黃氏定律值得我們期待。
附圖:▲ NVIDIA GPU 助推 AI 推理性能每年提升 1 倍以上。(Source:影片截圖)
▲NVIDIA 首席科學家兼研究院副總裁 Bill Dally。
▲ 搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。
資料來源:https://technews.tw/2020/12/16/huang-law-predicts-that-ai-performance-will-double-every-year/?fbclid=IwAR1vXHWAGt_b8nDRW6VUqzpAINX_n_DzJ0KwJvdBnl18s8Q1A3Thk7hgBoI
同時也有1部Youtube影片,追蹤數超過24萬的網紅暗網仔 2.0,也在其Youtube影片中提到,Instagram: https://www.instagram.com/dw_kid12/ Facebook: https://www.facebook.com/deepwebkid/?modal=admin_todo_tour 訂閱: https://www.youtube.com/chan...
傳輸速度英文 在 報時光UDNtime Facebook 的精選貼文
#國際衛星傳真 #沒有網路的時代 #1982年
【1982年衛星傳真-傳一個版面要半小時】
過往海外報紙新聞的傳遞
都得透過電話傳真文字的方式
不僅費時且需人力重新做版
自從有了衛星傳真以後
便可統一在台集稿編排
再傳輸至世界各地立即印刷發行
是報業發展的一大躍進
而如今資訊科技日新月異
網路成了通往世界的管道
手機更是不可或缺的產品
移動通訊使生活更加便捷
也許有一天
相隔浩瀚海洋的人們
也能夠跨越物理障礙互相擁抱
#日子久了就看得到變遷
#報時光UDNtime
日期:1982/11/1
圖說:報社使用的衛星傳真設備。
攝影:龍啟文
歷史新聞
【1982-11-01/聯合報/02版】
聯合報系使用衛星傳輸 中文報業邁入新的紀元
美國世界日報台灣及香港兩版 今起整版由台灣直接傳送美國
【台北訊】聯合報系自今天開始,使用國際衛星資訊傳輸系統,將美國世界日報台灣辦事處編排完成的台灣和香港新聞版樣,整版同時直接傳送至美國紐約、洛杉磯和舊金山三地的世界日報社,立即印刷發行。這是聯合報系繼新聞編排採用電腦作業後,進一步將資訊科技引進我國報業的新行動。
美國的世界日報是聯合報系企業之一,於民國六十五年二月十二日在紐約、舊金山創刊發行,巳先後增闢刊行洛杉磯、休士頓、及加拿大多倫多、溫哥華等版,多年來,該報均採用電傳文字方法,自台北將台灣地區新聞傳送至紐約編排後,再將版樣送至舊金山、洛杉磯印刷。從今天開始,世界日報的台灣新聞版和香港新聞版,均在台北集稿編排,利用聯合報系最新的電子傳輸設備,經由國際衛星傳真,紐約、洛杉磯、舊金山等地即可同時整版接收,立即印刷發行。
聯合報系投資裝置的電子傳輸設備,每一整版經由衛星傳真傳送的時間約二十六分鐘。據專家指出,原有電傳打字速度每秒約三百個位元,相當於七至八個英文字,電話傳真每三百字一張的稿紙,傳送最快也需要二十秒。現在的國際資訊傳輸系統則可提高至卅二倍,每秒達九千六百位元以上,尤其是圖案設計等比較繁雜的資訊都可以同時傳遞。在人工、時間、效率各方面,世界日報的編排印刷作業流程,均因此有驚人的改進。
(後略)
傳輸速度英文 在 報時光UDNtime Facebook 的最佳貼文
【1990年潮物—BB Call】#曾經的尖端通訊 #1990年 #BBCall #Call機
資通訊科技日新月異
不過幾十年,如今的世界已能夠即時互動
我們的生活習慣也不斷經歷重大革新
你還記得手機盛行前的BB Call時代嗎?
收到訊息後還得找公用電話回call
年輕的世代可能覺得不可思議
臺灣在1976年開放單音型無線電叫人業務
那時的呼叫器只能在收訊時發出嗶嗶聲
直到1988年才有了數字顯示型,能顯示數字或符號資訊,
呼叫器的使用也更加便捷。
往後更進一步發展出中文顯示與各種加值功能
在行動電話興起前成為盛行的通訊設備
隨著新一代通訊技術革命
各種資料傳輸勢必更加迅速、無延遲,
BB Call式的聯絡方式
竟成了有點可愛純樸的回憶
#櫃子裡那一台還很新
#是5201314
#報時光UDNtime
日期:1990/02/10
圖說:拓展呼叫器業務,經銷廠商在電信局前擺起攤來。
聯合報 李阿明
歷史新聞
【1990-12-27/經濟日報/08版/專輯】
使用量逾百萬具 平均每廿人有一具
我呼叫器使用密度 仍居世界首位
【金秀瑛】雖然市面上各類通信器材如CT3、大哥大等已大行其道,但呼叫器仍因其敏捷、快速、價格便宜、攜帶方便而屹立於通訊市場上。
據統計,目前台灣地區呼叫器的使用量已超過一百萬具以上,平均每二十人就擁有一具,密度之高,已位居全世界第一位。且電信局又於日前公布,將於明(八十)年底開放廿萬門中文顯示型無線電叫人業務,足見台灣地區呼叫器的使用,已有「全民化」的趨勢。
電信總局說:「廿萬門中文顯示型無線電叫人業務(顯示型第三系統),計畫將於明年底開放。呼叫者以電話輸入代碼,經過對方的呼叫器內燒錄有五千多個中文字庫,會自動轉換成中文字體,被呼叫者一看便知連絡內容,甚至不必再用電話與對方連絡。
最新的中文型收信器規格包括:(1)收信器至少要有十個中文字的液晶顯示裝置 (2)收信器接收的信息,應可達四十個中文字,八十個英文字、廿位數字 (3)頻率在一三八~一七四兆赫之間 (4)收信器至少具備儲存四組各位四十個中文字及八十個英文字信息的容量 (5)告警音至少持續八秒鐘 (6)電池使用至少達二百四十小時以上 (7)呼叫器壽命不得低於五年。電信局指出,中文顯示呼叫器可以電話機或電腦輸入,電話機可直接輸入數字、二位數代碼、電報碼、十進位國家標準碼及數字英文混合使用。
市售的呼叫器品牌包括國產的三光惟達華威、遠東、大洋,進口廠牌有標達MOTOROLA、NEC、Panasonic、星光、OI、飛利浦等,另外一些改良型的鋼筆型呼叫器、手錶型呼叫器亦投入市場。在眾多廠商的角逐下,拓展呼叫器市場,競爭格外激烈,不但需隨時掌握電信總局公布之各地門號剩餘量,亦要兼顧消費者的額外需求。因此以編碼代號的拷貝機應運而生,市場需求量擴充速度,依目前電信局申購門號再加上無法估計數量的拷貝機,市場上的呼叫器數量將更為提高。
呼叫器使用量的普遍,使得其週邊行業──電話祕書前景看好。目前已知有國產呼叫器廠商與港資成立捷報服務公司,華威呼叫器廠商北區總代理鋒銳傳呼服務公司成立鋒銳傳呼服務祕書中心、三商行與香港星光集團籌組祕書公司,另有其他廠商與外資合作準備大舉來台發展電話祕書市場。
呼叫器的使用率普及也帶動了相關行業的興起,預料國內無線通訊的傳呼業務,將成近期通信市場上的主流。
傳輸速度英文 在 暗網仔 2.0 Youtube 的精選貼文
Instagram: https://www.instagram.com/dw_kid12/
Facebook: https://www.facebook.com/deepwebkid/?modal=admin_todo_tour
訂閱: https://www.youtube.com/channel/UC8vabPSRIBpwSJEMAPCnzVQ?sub_confirmation=1
鬼故事: https://www.youtube.com/watch?v=H4rmkFI1ik0&list=PLglqLngY6gv5BCwaoP-q6DOwUmw1lIusF
我最高觀看次數的影片 (我為何不再拍暗網? 只說一次): https://www.youtube.com/watch?v=jbihKaqEEQw&t=127s
曼德拉效應: https://www.youtube.com/watch?v=OMutzRIE_uE&list=PLglqLngY6gv5BCwaoP-q6DOwUmw1lIusF&index=17&t=5s
我的100K成長故事: https://www.youtube.com/watch?v=Kdhtp6A6YJE
破解Kate yup事件是假的! 不是綁架! 不要被騙! (Facebook上的證據): https://www.youtube.com/watch?v=2NJVt56ORWo&t=2s
日本最殘酷的直播節目: https://www.youtube.com/watch?v=7E81OKVX7wc
網上最可怕的一個字 (Ft. HenHen TV): https://www.youtube.com/watch?v=tLedkSHc7Os&t=145s
到底5G網絡有陰謀論嗎?
[警告] 5G網絡對你健康的影響
[警告] 大家對5G網絡的誤解
5G網絡/信號塔會否危害你健康?
[警告!!!] 5G網絡會否危害你健康?
5G網絡會危害你健康嗎?
解釋你對5G網絡的誤解
5大你對5G網絡的誤解
五個你對5G網絡的誤解
有一件關於我自己的真相要跟大家講. 有時...夜晚...身邊沒有人的時候我是喜歡放部電腦在自己心口上面用. 但總是害怕接收到的wifi會通過部電腦把輻射傳遞到我身體裡, 導致健康問題. 跟iPhone放在褲袋裡殺精一樣, 這恐guey存在於腦海裡一個隱藏的地方, 跟一si si的罪惡感bong埋一起.
所以當大量不知道是否可信的新聞開始講新的5G網絡有機會危害你健康時我馬上到google 做資料收集. 我找的是... 大家好又是我暗網仔...等等返反房間先
一起去看大家對5G一些誤解和一些真相.
1豬. 煤氣燈
歷史上: 人類對新科技感到懷疑已經不是第一次. 18世紀: 英國, 意大利等歐美國家開始商業生產街上放置煤氣燈. 即使這個決定令到當時犯罪luet大dit, 1831年天主教教宗Pope Gregory 16是禁止煤氣燈的使用. 說上帝是有計劃地設立定日出日落的時間, 在晚上有光是wuy fan上帝的法則. 除此之外亦有可能破wai人sik bit早午晚的生理時鐘.
2豬. 電話線
18世紀末美國Bell電話公司成功證明電話線的效率後開始在多個中上階層社區建立這些高大又被yu為醜陋的建築物. 當時有多位有錢人也反對自己社區起電話線choo. 直到1916年Texas州一位黑lo Jesse washington因被懷疑姦殺自己女主人被jit mo, 閹割, 燒死然後掛在choo上. 最恐怖是之後有錢的白人是jan成電話線choo的建置, 因為可以同樣地choo fut其他黑lo. 因為這段歷史, 這些建築物就存在到現今.
3豬. 我想關於5G陰謀論(show title)最大的標題是有關現在的病毒.今年1月22號比利時報紙 ‘Het Laatste Nieuws’ 醫生Kris Van Kerckhoven指出自2019年武漢建立了多個5G信號塔. 雖然該報導好快被下架, 但已足夠在網上燃點一埸大的反5G爭論. 產生上街抗議事件和網上多個陰謀論. 最後多個信號塔也真實地被燃點了. 有陰謀論是信號塔會發出beng dook. 甚至被指英國銀紙上有出現來影響大jung的5G信號塔圖像. 塔上面亦有yi似一lup beng dook的東西.
雖然我之前講過多個陰謀論,但講到明是 ‘病毒’ 影響人而不是 ‘細菌. 一件物件上的細菌不足夠使你有這個病.
直至我網上看到最後5G輻射會削弱你免疫系統的陰謀論. 這觸發到我之前對自己生活習慣那個恐懼. 我也會問: 點解要5G?
4豬. 電訊科技 (show title) 自1979年日本Nippon telegraph and telephone推出了1G(1 generation) 後已經改變了我們人和電線的關係. 除了唔洗kik親是重點外, 這是手機文化的開始.
網絡能在區域而‘cells’ 的分bo, 每區被一個goo定收發器控制.
所有ging ying 1G,2G,3G,4G,5G的電訊公司都是以Network standards去設計產品. Bandwidth, technology 全部一ji. 在意bps (bits per Second) ‘每秒’ 計算的速度. 1G是2.4kbps, 到1991年芬蘭推出而digital傳輸更可靠的2G是64kbps, 3G終於可以已2mbps luw lam網站, email, 看照片和影片和用智能手機. 4G高達1Gbps是 ‘3高’ high speed high quality 和high capacity,而5G是能夠高dat 4G的10倍10Gbps. 你現在電話速度的10倍.
5豬. 在危險(show title) 層面上這麼kwah jeung的科技會否大量影響我們認知的現實? 是會影響的. 兩大元soh是: EMF和RFR.
EMF (electromagnetic field)是電磁輻射會影響到的面jik. 即是信號tap既整個fan wuy.
而能影響人體的RFR(radiofrequency radiation) 是我們整個5G debate要集中的那一個點.
其實我們很多日常生活的東西也有這種RFR. 太陽, 你電話mon, mei bo low, x-ray多多少少全部都有.
但這種影響是否危險基於那種RFR有沒有一樣叫游離這樣東西. 簡單一點, 沒有游離的RFR, 列如電話sin, FM電台, WiFi 根本不夠強去影響我們的化學鍵. 跟有游離的核武不同.
5G本身也是一種沒有游離的RFR, 所以基本上不會對我們人類有破壞性.
但因為5G所用的24至90 gigahertz頻率比之前電訊科技用多很多倍, 理論上應該影響我們的身體更大. 但這方面實質的科學數據或實際會做到什麼就比較難找到.
跟guey現有data不能夠説5G未來會傷我們. 坦白一些快一點的服務誰不想用啊? 我本人覺得不要因為一點末jing sut的事jo ouy自行得更遠.
當年Pope Gregory 16不想人用煤氣燈不是因為他關心人民, 是因為他怕新科技會令他失去koon lik.
5G信號塔會否危害你健康嗎?
5G網絡會否危害你健康嗎?
[警告!!!] 5G網絡會否危害你健康?