黃仁勳和NVIDIA (下)
上篇談了2007年黃仁勳投入大量人力和資源創建CUDA平台. 目的就是為了讓GPU的運算能力可以被更廣泛地運用在除傳統PC 和 GAMING以外的市場. 很自然,他開始鎖定在一些需要大量圖形處理產品的市場. 而當年最紅的產品是什麼? 沒錯, APPLE 2007年發表了第一代的iPhone. 也因此引爆了智慧型手機的時代.
於是不意外地,Nvidia在2008年宣佈了其智慧型手機(或移動設備, 如平板)專用的晶片─Tegra. 當時老黃打的算盤是,MacBook已經取代Intel用NVIDIA的晶片組了,雙方更進一歩推升到手機上也是很合理的. 於是開始大力向Apple推銷Tegra用於iPhone上.
問題是Steve Jobs自己另有打算(後來證明,就是Apple自研晶片),於是Tegra很快就投向另一個科技巨頭─想挑戰iPhone的Microsoft, 第一代Tegra就被用在Microsoft挑戰iPod的 Zune上. 然後慢慢地被用在Others上,如小米、Motorola、Asus、Acer….的手機.
然後呢? 你現在很少聽過用NVIDIA晶片的手機了. 很明顯的事後看來, 這是個失敗的方向,依2013年的市佔率,手機晶片市佔率前三分別是Qualcomm, Samsung和Apple….而Tegra 被歸在Others, 市佔率約1%, 比聯發科還低. 所以不久後,NVIDIA就退出了手機/移動設備的市場了.
為什麼會這樣呢? 因為手機不像電腦這麼大. 所以你拆開手機的主機板, 只會看到一顆晶片, 這叫SOC (System on a chip). 但如果你把SOC的封裝打開來看,裡面同樣有很多晶片,如下圖就是iPhone 1 的SOC.
基本上SOC有二大部份,一個是負責通訊的Baseband processor(BP),另一個就是像手機可以像電腦一樣處理各種事的Application Processor (AP). 而NVIDIA平台只能提供GPU的功能. 再加上Tegra是用電腦晶片改來的,架構比較笨重, 以及一開始沒有押寶Android..等. 簡單地說,就是很難用. 所以很自然被淘汰了.
不過老黃對此事一直耿耿於懷,於是曾在2020年提出用400億美元從Softbank收購晶片架構專利商ARM. 如果成功,這會是當時科技業最大的收購案. NVIDIA想藉此重回移動設備的市場. 不過本案因為有反壟斷的疑慮,最終也沒有成功.
手機市場失利後,老黃又看上了另一個市場─自動駕駛(Autopilot). 對方是他曾經的麻吉─Elon Musk.
還記得上一篇提過2016年時,黃仁勳曾把Nvidia打造的第一台超級電腦DGX-1交給OpenAi, 而當時交付簽收的人就是Elon Musk嗎? 二人有很長時間都是麻吉,至少當時是.
在2012年Tesla發表Model S時,就宣佈要採用Nvidia的Tegra 3作為自動駕駛的計算晶片. 之後2016年Tesla發表平價款Model 3時,也宣佈要採用Nvidia最新的GPU-Drive PX2, 而且此後,所有Tesla的車款核心都用Drive PX2 作為自動駕駛晶片. 並宣稱在Drive PX2運算力下,可以達到Level 4的自動駕駛. 未來只要有二片的Drive PX2, 就可以達到最高的完全無人的L5駕駛.
而也因為Tesla是全球電動車/自動駕駛的龍頭,一時之間,所有的電動車廠都想用Nvidia的晶片. nvidia又活起來了.
然後呢? 沒錯. 又又又又出4了. 2018年在Tesla的開發者大會上,Elon Musk宣佈將降低對NVIDIA的依賴,2019年起部份車款將搭配Tesla自己研發由三星代工的FSD晶片. Musk還很驕傲地說自家研發的晶片比Nvidia的快7倍. 消息一出,除了引發黃仁勳的反擊外,更現實的是華爾街對NVIDIA的喝倒采,半年內NVIDIA股價跌掉一半.
然後呢? 又有一個熱門的玩意出來了,又又又救了NVIDIA, 那就是─加密貨幣和它引發的挖礦機。
2016年加密貨幣開始爆發, 由於加密貨幣的取得除了透過買賣,就是透過大量的運算力去”挖礦”,於是GPU就成為了利器.
加密貨幣初期被人罵聲連連,多數人都認為這玩意只是純炒作,不但沒有任何價值,而且耗費大量資源. 然而隨著比特幣、乙太幣….和一堆各式各樣幣紛紛狂漲,連黃仁勳都跳出來稱讚
加密貨幣擁有無限可能. NVIDIA和台積電成為了最大贏家(當時有家中國製造挖礦機的公司, 甚至一度成為台積電僅次APPLE的第二大客戶).
當時為了因應挖礦的需求,NVIDIA推出了數個專為挖礦專用的顯卡,這些顯卡為了加快速度,直接砍掉了遊戲用圖型處理功能. 甚至把原有遊戲專用的顯卡的產能都移到挖礦用顯卡, 這麼一來,立即引爆網路上那些忠誠支持NVIDIA顯卡的遊戲玩家怒火. 紛紛留言,NVIDIA只是個破壞環境的混蛋,他們根本不在乎那些死忠的遊戲玩家. 但不管如何,在挖礦的需求下,2021年NVIDIA還是創下當時史上最高的銷售紀錄,股價也超過300美元/股.
然後呢? 沒錯, 又又又又又出4了. 首先是2021年底開始加密貨幣的價格開始大跌, 其次第二大加密貨幣─以乙坊又宣佈改變取得方法,不再以運算力取得貨幣,這讓大量NVIDIA挖礦卡頓時失去價值.除此之外,2022年還碰到駭客入侵,盗得NVIDIA 1TB如驅動程式、設計圖等相關資料. 最後是SEC(美國證交會)認為NVIDIA過去數季都把挖礦卡的銷售放入原本遊戲顯卡分類,誤導投資人而向NVIDIA起訴. 不意外地,這一年,NVIDIA股價跌了近65%.
然後呢? 奇蹟又又又又發生了. 2022年的11月,OpenAi 發表了ChatGPT.
引用黃仁勳的話說, 這是” iPhone moment of AI”.
還記得上一篇講的2012年的AlexNet 的類神經網路,以及2016年NVIDIA交付給OpenAI的DGX-1嗎? 經過了這麼多年, AI終於爆發了. 而且誠如上篇說的, 用GPU來訓練AI的效率遠比CPU好上數十倍. 於是不意外地,GOOGLE, AMAZON, MICROSOFT….所有的科技大廠都爭相搶購NVIDIA的顯卡好投入AI這個具有龐大潛力的市場.
更更重要的是,因為市場上可用的AI人才都習慣於NVIDIA的CUDA平台, 所以即便有其他家的晶片/顯卡效能不輸NVIDIA. 多數工程師仍選擇NVIDIA. 簡單地說,CUDA的生態系成為了NVIDIA的護城河.
而也因為NVIDIA在AI用的顯卡有近乎獨佔的地位(90%), 它知名的H100價格自然水漲船高. 喊到一張2.5~3萬美元,而市場估算其成本大概是3300美元. 而且交期已經排到二年後了.甚至NVIDIA還學起來Hermes, 要想H100還要搭配低階的A100. 甚至還有挖礦公司直接拿持有的H100當作抵押向投資機構再借23億美元出來.
https://technews.tw/2023/08/08/core-weaver-nvidia-h100-collacteral-debt-2-3b/
這麼瘋狂的需求和超高的毛利,當然就是造就了你今天看到的飆股. 我記得去年6月黃仁勳來台灣參加COMPUTEX時,他是”兆元男” 如今不到一年,他已經變成”二兆元男”了
接下來呢? 當然是各家晶片大廠紛紛宣佈要進軍AI晶片. 如INTEL的Gaudi 3, AMD的MI300-X, AMAZON的Trainium2. Microsoft和Meta 則是和AMD合作(因為矽谷不喜歡看到壟斷).
總結以上,目前NVIDIA的最大優勢就是科技業對於AI的大量投入和急於發展,而不管是AI的人才或是所需的相關配套中,NVIDIA的顯卡和CUDA平台是多數人最熟悉也是最成熟的. 這也讓其他晶片廠即便運算效能不輸H100, 但配套上還是比不上.
但NVIDIA也不是沒有隱憂. 它的挑戰並非全然來自AMD 或INTEL這些大廠的新產品. 而是AI還是個相對初期的市場. 目前CUDA的優勢來自於和目前主流的生成式AI (訓練大概只佔AI 晶片15%市場, 剩下85%用於資料中心和近端的計算)的高度相容. 但如果未來出現不同模式的AI, 或是突破目前不同的框架時, CUDA的現有優勢可能銳減.
不管如何,看完了這三篇黃仁勳和NVIDIA的故事. 你應該知道這種大起大落, 不停轉戰和不停戰鬥基本上就是過去30年這位CEO帶領下的風格. 這也是NVIDIA有辦法從一家最初的顯示卡供應商變成今天高端運算霸主的主因吧!