2024年2月17日 星期六

黃仁勳和NVIDIA (中)

 

黃仁勳和NVIDIA ()

 

上篇談了黃仁勳和NVIDIA20年的故事,這篇來說最近的10年發生了什麼.

 

看完上篇你是不是很好奇, CPUGPU的差別在哪裡? 事實上NVIDIA 有做個一個影片解釋過. 它說CPU就像一個無所不懂的博士,但也因為它無所不會,什麼事都要做,所以速度慢、耗率高. GPU就像小學生,只會做一件事, 所以速度快耗率低,但當你把1000個小學生聚在一起,並分配每個學生只做一件事時,它的效率卻會非常驚人.

 

當時NVIDIA 的影片中,是用類似砲彈投射機說明,CPU是啪.....啪一點一點地畫出一幅畫. GPU是利用群發,啪一聲整幅畫就畫好了.

 

是不是真的那麼簡單我是不知道, 但至少我這個唸文組的是以為自己看懂了.

https://www.youtube.com/watch?v=-P28LKWTzrI&ab_channel=NVIDIA

 

重新接回上篇,談到INTELNVIDIA和解.

 

如果你是黃仁勳,回顧自己和公司這20年來的路,你會想到什麼?

很簡單,就是做為配件廠的悲哀嘛!

 

主機賣不好,你要配合砍價. 主機賣太好,人家也會挾量叫你砍價. 更慘的是,如果主機賣的非常非常好,大廠就跳下去自己研發了,反正只要有量和不違反專利,晶圓代工廠都會樂意接單製造. 例如今天APPLE裡的晶片就是如此.

 

要跳脫這種困局,一種方式當然是讓你的技術達到對手都追不上. 但這種事說的容易,在矽谷滿地是資訊天才再加上NVIDIA當時又不是什麼大咖的前提下,做起來卻是天方夜譚. 於是老黃走向了另一條路,那就是建一個平台,透過這個平台建構起各式各樣的運用,讓大家都習慣用NVIDIA的平台去開發相關的運用,這其實就像APPLE STORE的概念,藉此綁住客戶. 於是NIVIDIA的平台─CUDA2006年因應而生.

 

CUDA的概念並不是黃仁勳想的,而是NVIDIA的技術長DAVID KIRK提出的.

在此之前,NVIDIA的晶片主要做為遊戲和電腦系統的影像處理用.簡單地說,NVIDIA交付晶片和驅動程式給客戶後,後端的運用程式開發都是客戶端自己去處理.

DAVID KIRK認為要走出困局,就是要自家的晶片可以被更廣泛的運用到更多和更高階的影像相關處理上,如電影特效、影像模擬、醫療. 但問題是使用這些電影特效和醫療的工程師,他們的專長是在既有應用程式”(Photoshop)上再去發揮,他們不會寫NVIDIA這種底層的開發程式. 所以最好的方法就是建一個CUDA(Compute Unified Device Architecture)的平台,把這些底層的開發程式都寫好了,讓這些應用工程師可以透過這個平台,用他們熟悉的程式語言,直接驅動NVIDIA晶片去做更多的運用..

 於是,NVIDIA 投入了大量的資金和人力在開發CUDA平台.

 

然後? 沒錯,杯具又發生了。2007年爆發了著名的 NVIDIA 晶片瑕疵事件.

 

2007-2008年有多家的N/B品牌, HP, DELL….都出現了在高溫環境下螢幕閃爍、或是開不了機的情況. 經過調查發現,這些電腦的共同特色都是裝了NVIDIA新一代的顯示晶片. 消費者後來發現NVIDIA早就知道可能會有這種情況,所以向NVIDIA發起集體訴訟. 就和早年三星手機爆炸一樣, 當時NVIDIA晶片被稱為核彈VGA

https://www.zdnet.com/article/nvidia-in-defective-chip-class-action-suit/

 

為什麼會如此呢? 因為NVIDIA 在原有晶片加入了CUDA平台, 所以原本的晶片變大了,可是相關的散熱卻沒解決好, 所以問題就出來了. 不意外的,這個NVIDIA大家看好並投入大量金額的產品,不僅沒有為公司帶來更好的效益,反而拖累了公司原有的產品. 而且不只是終端消費者,HP, DELL, APPLE這些大客戶都開始質疑NVIDIA. 高額的研發成本再加上銷售的銳減,再加上2008年的金融風暴, 不意外地NVIDIA出現了巨額的虧損, 股價自然也重挫. 我查一下, 2008-2010, NVIDIA的股價大概都在$2-4/股左右.

 

當時市場罵聲一片,大家都在質疑為什麼Nvidia要花大錢做一個沒有人要用的東西,甚至把原來的產品拖下水? 但殊不知,就是這個才15~16年前被人幹譙到沒力的平台,才成就了今天NVIDIA過兆的市值.

 

2012年一個小事意外地帶動了今天的NVIDIA. 一位加拿大的教授帶著二個學生靠著發明的AlexNet”類神經網路拿下ImageNet的冠軍.

 

什麼是類神經網路? 或是ImageNet有多了不起? 歹勢, 請自行Google, 因為文組的我也不太了解.

但總而言之,這玩意開啟了近代AI的熱潮.

 

這和NVIDIA有什麼關係呢? 你們可能知道AI是需要學習的(或被訓練).

例如,我們要教一台電腦了解什麼是”?

以前的做法就是下一堆定義, 例如大小約20-70公分,二個眼睛,四條腳, 有一根尾巴,面部有鬍鬚, 叫聲是喵

問題是,定義下的愈多答案愈精準沒錯,可是也會錯失很多對的,例如有隻只有三隻腳的貓,或是叫聲不是喵的, 電腦可能就會判定它不是貓.

相反的,定義太廣,就可能電腦會把狗或是老虎都認為是貓.

 

再回頭想想,你自己是怎麼知道那是一隻貓的?

當看到一個動物,你其實並不會去回想定義1, 定義2, 定義3….是什麼? 你知道那是一隻貓,那是因為你從小到大看過了很多貓,所以看到類似的,你自然就會猜那是貓.

 

AI的訓練也是如此,它就是讓電腦自己去網路上看幾百萬張貓的照片,自然電腦就知道什麼是貓了. 所以AI要愈強,就是要讓它不停地學習各種知識.

 

OK, 所以這位教授的團隊發現,如果使用傳統的CPU去訓練AlexNet可能花上數個月,但用Nvidia的晶片才二週,就可以練習電腦看1400萬張圖片. 結果消息一出,不意外地,Nvidia成為了場外的最大贏家. Google, Amazon, 各大實驗室和學校開始瘋狂訂購Nvidia的晶片. 也讓黃仁勳終於吐了一口鳥氣.

 

事後有人訪問黃仁勳是如何高瞻遠矚地看到ai的未來. 黃說,他說早期根本不知道市場有多大,但他賭的是加速運算(Accelerated Computing). 也就是人類未來對於高速運算的需求.

 

不管如何,NVIDIA又從谷底爬起來了. 這時黃仁勳再白痴也知道AI的未來需求了. 所以他開始佈局從平台再向下延伸到硬體.

 

2016年,黃仁勳把NVIDIA開發的第一台裝有8顆GPU超級電腦” DGX-1送到了當時還未如今天有名的OpenAI. 象徵NVIDIA正式跨足電腦伺服器以及AI市場. 而當年簽收這台電腦的,就是目前火紅的Elon Musk.

 

但如果你以為NVIDIA從此一飛沖天,那真的是too young too simple. 畢竟那是7年前,而Ai熱浪是這1年多的事. 當時這種東西都只是賣給學校和一些研究室. 甚至今天熱門的OpenAi 當年也只是個非營利機構.

 

接下來NVIDIA的路還有得講. 至少還有挖礦機、手機晶片和自動駕駛. 我本以為上下二篇就可以講完, 看來要到第三篇了.

 

 

2024年2月15日 星期四

黃仁勳和Nvidia (上)

 

黃仁勳和Nvidia ()

 

一直有人勸我寫國際版的公司的品格. 不過我真的沒時間. 剛來是過年,談一點正面的,就來聊聊熱門的黃仁勳和Nvidia發展史.

 

Nvidia成立於1993. 在此之前,美國PC大廠Compaq首次把PC組裝外包給台灣,然後在美國以超低價” $999/台銷售,讓PC逐歩成為多數家庭均可以負擔的產品,自此帶動了PC的風潮,當然也造就了台灣科技王國的開端。

 

早年的PC其實很大一台. 最主要原因是要裝很大的電源供應器和風扇. 早期的主機板也很大,因為CPU運算力不強,所以主板要插很多卡,如處理影像的VGA (顯示卡), 音效的SOUND CARD, 和網路卡….. 各種的供應商也自然是百花齊放. 不過本文既然是講Nvidia, 就專注講顯示卡.

 

慢慢地,市場經過了整併,PC出現了二大頂級玩家, 就是被合稱為WINTELMicrosoft (windows 系統)+ Intel (CPU). 除此之外,還有個市佔率約20%同樣作CPUAMD. 而顯示卡部份,則有加拿大的ATi 和美國的Nvidia.(市佔率ATi 大於Nvidia).

 

2000年左右,nVIDIA迎來了自己的第一個大機會. Microsoft要切入Game Console(遊戲主機)的主場, 挑戰日本的SonyNintendo. 由於在遊戲的世界中,畫面精緻度和速度流暢度是非常重要的. 於是Microsoft找上了nVIDIA開發主機用的GPU. 這台主機就是現在很多人知道的XBOX. 而且Microsoft不愧是當年的土豪, 下了5億美金的訂單外,而且非常霸氣地,東西還沒開發出來,直接先付2億美金的訂金. 5億美金約當前一年nVIDIA全年的營收. 不意外地,消息一出,nVIDIA股價開始狂飆.

 

然後呢? 不意外地,意外就發生了. XBOX上市後,銷量遠遠被PS2屌打. 於是Microsoft採取了降價策略來搶佔市場. 當時有人估過每賣一台XBOX, Microsoft就賠$126美元. 理所當然,所有硬體供應商都被Microsoft要求配合降價. 照道理說,大哥都講話了,你多少配合一下,但天生硬骨頭的黃大哥就是不肯,於是….….Microsoft 就把nVIDIA告上法院了. 與此同時,Microsoft宣佈下一代主機將採用nVIDIA最大對手ATiGPU. 而當時Microsoft約佔nVIDIA 30%的營收.

 

杯具還沒完. 當時在PC市場上已經從插卡發展成chip on board. 也就是不再是一張卡插在主機板,而是把晶片出給主機板商,直接燒在上面. 還記得我說那是個wintel獨霸的年代. 這位黃大哥不知道是哪裡來的勇氣,居然把最新的晶片(nForce)獨家用在AMD的平台上,等於打了Intel一巴掌. 於是Intel也宣佈要和ATi合作.

 

你可以想像,今天如果有一家賣手機晶片大廠敢同時得罪AppleGoogle,這個老闆不是腦殘就是很有種. 更何況當年Wintel的影響要遠大於今天的Apple + Google. 不意外地,這二個消息出來, nVIDIA股價一路跌掉了80%

 

此時硬漢黃大哥終於意識自己犯了大錯. 於是在2002~2004年間,nVIDIA作出了幾項重要的改變:

1.      成功拿下Sony PS3GPU訂單. 主要對手ATi則是有XBOXNintendo

2.      Microsoft庭外和解

3.      Intel進行專利相互授權交換,並在2004年的CES上公佈支援Intel平台的方案.

自此,黃仁勲和nVIDIA算是有驚無險地過了第一關.

 

然後呢? 不意外地,意外又來了. 20067. 黃仁勲的老東家兼好兄弟─AMD宣佈以54億美金購併nVIDIA的最大對手─ATi. 合併後,AMD將成為惟一一家同時生產CPU+GPU的公司. 而且AMD是所謂的IDM, 有從IC設計─晶圓─封裝測試一貫化作業, 如果能順利整合,將提升AMDCPUGPU的地位我是說 如果能順利整合的話.

 

果不其然,合併的效益還沒顯現,財務上的壓力已經先浮現了. AMD最後被迫把晶圓廠賣給阿布達比投資局,也就是今天的Global Foundries. 而也因為晶圓廠的賣掉,AMD成為一家和NVIDIA一樣Fabless IC Design House. 而併入的ATi也因為財務壓力,技術開始落後,一直到蘇姿丰接任CEO後才有起色. 不過這是另一個故事了.

 此時的NVIDIA非常得意,自己成為了市場最大的獨立顯示晶片公司. 對手ATi併入了AMD, 卻因公司財務壓力發展不順,而且市場老大INTEL當然也不想和AMD/ATi合作了.

 

於是呢? 沒錯,意外又又又發生了. 這次槓上NVIDIA的是老大INTEL. 原因無它,NVIDIA居然搶了老大的生意. 而那個客戶叫APPLE.


2007NVIDIA推出一套叫”TESLA”的晶片. (沒錯和車子同名,不過二者都是致敬著名科學家 NICOLAS TESLA而來的), 原本APPLEMACBOOK裡除了INTELCPU外,還有所謂的南橋、北橋晶片(Chipset). 2008APPLE改為NVIDIA架構後,除了CPU仍是INTEL的外,晶片組換成了NVIDIATESLA架構.

小弟搶了老大的生意,自然讓老大非常的賭……. 當年的INTEL製程領先台積電至少一個世代以上,還擁有世界最頂級的半導體人材和技術. 所以老大怒了,宣佈要開發自己的GPULARRABEE. 要把NVIDIA趕出市場!

 

然後…..2009INTEL宣佈停止LARRABEE計劃. ( ….. )

 

當然,老大要修理小弟不是只有自己跳下去做小弟事業這一種路子. 老大最大的優勢自然是擁有很多專利可以擋住小弟的路.

 

於是2009INTEL向法庭提出訴訟,聲稱2004年和NVIDIA簽定的相互專利權不能延用到INTEL下一世代產品. 很自然地,NVIDIA也提出反告,到處宣揚這是巨人與大衛之戰(當時INTEL市值大概是NVIDIA60),主張INTEL目的是為了防礙市場公平以及次世代GPU的發展. 揚言絕不和解.

 

然後這個案子真的拖了二年. 最後居然是INTEL宣佈和解認輸,付了15億美元給NVIDIA.

 

NVIDIA成立迄今已經超過30年了. 黃仁勳也做了超過30年的CEO. 他應該是目前美國高科技業中任職最久的CEO. 本篇寫了約略他前20年的故事(1993-2011).

 

 從這篇我不知道你是怎麼看待這位黃大哥的. 我看到的是一個台灣早年的小企業主那種敢衝敢拼敢作夢的性格,所以一次次的挑戰都打不倒他,甚至面對市值是自己幾十倍大的INTEL也不退讓. 與此同時,他又非常地專注於自家產品的深度, 這也是NVIDIA 不管碰到什麼情況,依然仍有競爭力的原因.

 

下一篇再來談,NVIDIA到底是憑什麼成為市值上兆美元的公司(事實目前是1.8兆了)