2024年3月21日 星期四

憶亡友

 

憶亡友

 

從昨天晚上我的情緒就陷入低潮, 因為意外得知我大學時期最好的朋友,居然在去年10月已經離世了.

 

會得知消息,其實源自一個意外,一群大學同學聚在一起,聊起了大學時的奇葩同學,於是開始Google, 發現他任職於某國立大學,於是有人打了電話去他服務的單位,才得知了這個惡耗。

 

這位同學是我們班公認的天才.

 

首先, 他是在高三莫名其妙地覺得自己比較適合社會組,於是在高三下從自然組轉社會組,然後只唸了半學期就應屆考上了政大財稅系. 你要知道,1990年當時大學社會組的錄取率應該是只有27%左右.

 

然後呢? 這位大哥大學4年在課堂的出現率,應該僅有10%左右,如果扣掉期中考、期末考這種一定要出席的課堂,出現在教室的時間應該不到5%. 但他大學4年全部all pass.

 

你要知道,政大財稅系當年是政大四大當鋪之首,除了有1~2科老師是變態到當30~50%學生的外,我們的經濟學和會計學是和經濟系及會計系一樣的多(差別只在我們是3學分,但一樣要上4堂課). 此外,還有本系要學的財政和稅務. 再加上經濟和會計是完全不同的邏輯,因此4年下來能all pass的人其實並不多.

 

因此每次學期成績下來,很多人都會透過我去打聽這位大哥的成績,本都希望能聽到一些惡有惡報的消息好安慰自己,結果得知他居然是all pass, 接下來自然都是幹聲連連,抱怨這世界沒天理.   

 

我其實忘了我為什麼和他成為好朋友. 有可能是我們都喜歡胡說一些別人聽不懂的話, 還是因為我常去他租的地方確認一下他是否還活著? 我只記得他的房間真的像個垃圾堆,但是他永遠可以在垃圾堆中精確地找出報告請我轉交.

在大家好奇他的性向時,我也是惟一一個知道他喜歡班上哪個女生的人. 可惜的是,因為他的講話太跳Tone, 那個女生一直不知道,他經常打電話給她到底是在講什麼.

 

相較於經濟、會計這些本質學能,全班同學都知道,資訊才是他的專長. 在那個大家都驚呼386電腦怎麼會這麼快,或是用著PE2打報告的年代, 他就開始寫一些報稅程式,甚至他曾花一整年把所有會計從初會到審計全部認真唸一遍,就是因為他認為會計這種routine, 借方/貸方,切傳票的事根本不需要學,透過程式就可以做到了. 當時大家都覺得是天方夜譚, 然而以30年後來看,的確也真的如此.

 

畢業之後,在那個沒有msn, 更沒有手機的年代,我們也失去連絡了. 大概在20年前,我曾在夜市碰到他,很意外的是,他仍住在政大旁當年的那個木隔間,房間也依然的亂. 他在做個人工作室接一些資訊外包案. 當時我的公司正碰到外包商出問題,因此把資訊系統轉包給他. 大概忙了一個多月後,他把錢退給我從此就消失了. 不知為何,這麼多年來我偶而會想起他,卻從未認真想去找他.

 

寫到這裡,愈來愈多的記憶湧上心頭. 在大學時我隨口提到好不容易買到凌晨回高雄的車票,必須要在6點起床,又怕自己不小心把鬧鐘關掉. 他沒說什麼,卻默默在凌晨走上山(政大男宿在山頂),帶著早餐叫我起床.

 

這麼多年來,我仍一直使用著過時的大易輸入法,當年也是他教我背字根和拆字的….而這個人, 就這樣離開了. …..真的感慨萬千.

 

僅以此文,追憶當年政大財稅系的奇才和我的好朋友─劉時杰先生.

願你在另一個世界,依然過著自由自在、靈活機敏的生活!

 

2024年2月27日 星期二

黃仁勳和NVIDIA (下)

 黃仁勳和NVIDIA (下)

 

上篇談了2007年黃仁勳投入大量人力和資源創建CUDA平台. 目的就是為了讓GPU的運算能力可以被更廣泛地運用在除傳統PC GAMING以外的市場. 很自然,他開始鎖定在一些需要大量圖形處理產品的市場. 而當年最紅的產品是什麼? 沒錯, APPLE 2007年發表了第一代的iPhone. 也因此引爆了智慧型手機的時代.

 

於是不意外地,Nvidia2008年宣佈了其智慧型手機(或移動設備, 如平板)專用的晶片─Tegra. 當時老黃打的算盤是,MacBook已經取代IntelNVIDIA的晶片組了,雙方更進一歩推升到手機上也是很合理的. 於是開始大力向Apple推銷Tegra用於iPhone.

 

問題是Steve Jobs自己另有打算(後來證明,就是Apple自研晶片),於是Tegra很快就投向另一個科技巨頭─想挑戰iPhoneMicrosoft, 第一代Tegra就被用在Microsoft挑戰iPod Zune. 然後慢慢地被用在Others上,如小米、MotorolaAsusAcer….的手機.

 

然後呢? 你現在很少聽過用NVIDIA晶片的手機了. 很明顯的事後看來, 這是個失敗的方向,依2013年的市佔率,手機晶片市佔率前三分別是Qualcomm, SamsungApple….Tegra 被歸在Others, 市佔率約1%, 比聯發科還低. 所以不久後,NVIDIA就退出了手機/移動設備的市場了.

 

為什麼會這樣呢? 因為手機不像電腦這麼大. 所以你拆開手機的主機板, 只會看到一顆晶片, 這叫SOC (System on a chip). 但如果你把SOC的封裝打開來看,裡面同樣有很多晶片,如下圖就是iPhone 1 SOC.

 


基本上SOC有二大部份,一個是負責通訊的Baseband processor(BP),另一個就是像手機可以像電腦一樣處理各種事的Application Processor (AP). NVIDIA平台只能提供GPU的功能. 再加上Tegra是用電腦晶片改來的,架構比較笨重, 以及一開始沒有押寶Android... 簡單地說,就是很難用. 所以很自然被淘汰了.

 

不過老黃對此事一直耿耿於懷,於是曾在2020年提出用400億美元從Softbank收購晶片架構專利商ARM. 如果成功,這會是當時科技業最大的收購案. NVIDIA想藉此重回移動設備的市場. 不過本案因為有反壟斷的疑慮,最終也沒有成功.

 

手機市場失利後,老黃又看上了另一個市場─自動駕駛(Autopilot). 對方是他曾經的麻吉─Elon Musk.

 

還記得上一篇提過2016年時,黃仁勳曾把Nvidia打造的第一台超級電腦DGX-1交給OpenAi, 而當時交付簽收的人就是Elon Musk? 二人有很長時間都是麻吉,至少當時是.

 

2012Tesla發表Model S時,就宣佈要採用NvidiaTegra 3作為自動駕駛的計算晶片. 之後2016Tesla發表平價款Model 3時,也宣佈要採用Nvidia最新的GPU-Drive PX2, 而且此後,所有Tesla的車款核心都用Drive PX2 作為自動駕駛晶片. 並宣稱在Drive PX2運算力下,可以達到Level 4的自動駕駛. 未來只要有二片的Drive PX2, 就可以達到最高的完全無人的L5駕駛.

 

而也因為Tesla是全球電動車/自動駕駛的龍頭,一時之間,所有的電動車廠都想用Nvidia的晶片. nvidia又活起來了.

 

然後呢? 沒錯. 又又又又出4. 2018年在Tesla的開發者大會上,Elon Musk宣佈將降低對NVIDIA的依賴,2019年起部份車款將搭配Tesla自己研發由三星代工的FSD晶片. Musk還很驕傲地說自家研發的晶片比Nvidia的快7. 消息一出,除了引發黃仁勳的反擊外,更現實的是華爾街對NVIDIA的喝倒采,半年內NVIDIA股價跌掉一半.

 

然後呢? 又有一個熱門的玩意出來了,又又又救了NVIDIA, 那就是─加密貨幣和它引發的挖礦機。

 

2016年加密貨幣開始爆發, 由於加密貨幣的取得除了透過買賣,就是透過大量的運算力去挖礦,於是GPU就成為了利器.

 

加密貨幣初期被人罵聲連連,多數人都認為這玩意只是純炒作,不但沒有任何價值,而且耗費大量資源. 然而隨著比特幣、乙太幣….和一堆各式各樣幣紛紛狂漲,連黃仁勳都跳出來稱讚 加密貨幣擁有無限可能. NVIDIA和台積電成為了最大贏家(當時有家中國製造挖礦機的公司, 甚至一度成為台積電僅次APPLE的第二大客戶).

 

當時為了因應挖礦的需求,NVIDIA推出了數個專為挖礦專用的顯卡,這些顯卡為了加快速度,直接砍掉了遊戲用圖型處理功能. 甚至把原有遊戲專用的顯卡的產能都移到挖礦用顯卡, 這麼一來,立即引爆網路上那些忠誠支持NVIDIA顯卡的遊戲玩家怒火. 紛紛留言,NVIDIA只是個破壞環境的混蛋,他們根本不在乎那些死忠的遊戲玩家. 但不管如何,在挖礦的需求下,2021NVIDIA還是創下當時史上最高的銷售紀錄,股價也超過300美元/.

 

然後呢? 沒錯, 又又又又又出4. 首先是2021年底開始加密貨幣的價格開始大跌, 其次第二大加密貨幣─以乙坊又宣佈改變取得方法,不再以運算力取得貨幣,這讓大量NVIDIA挖礦卡頓時失去價值.除此之外,2022年還碰到駭客入侵,盗得NVIDIA 1TB如驅動程式、設計圖等相關資料. 最後是SEC(美國證交會)認為NVIDIA過去數季都把挖礦卡的銷售放入原本遊戲顯卡分類,誤導投資人而向NVIDIA起訴. 不意外地,這一年,NVIDIA股價跌了近65%.

 

然後呢? 奇蹟又又又又發生了. 2022年的11月,OpenAi 發表了ChatGPT.

引用黃仁勳的話說, 這是” iPhone moment of AI”.

 

還記得上一篇講的2012年的AlexNet 的類神經網路,以及2016NVIDIA交付給OpenAIDGX-1? 經過了這麼多年, AI終於爆發了. 而且誠如上篇說的, GPU來訓練AI的效率遠比CPU好上數十倍. 於是不意外地,GOOGLE, AMAZON, MICROSOFT….所有的科技大廠都爭相搶購NVIDIA的顯卡好投入AI這個具有龐大潛力的市場.

 

更更重要的是,因為市場上可用的AI人才都習慣於NVIDIACUDA平台, 所以即便有其他家的晶片/顯卡效能不輸NVIDIA. 多數工程師仍選擇NVIDIA. 簡單地說,CUDA的生態系成為了NVIDIA的護城河.

 

而也因為NVIDIAAI用的顯卡有近乎獨佔的地位(90%), 它知名的H100價格自然水漲船高. 喊到一張2.5~3萬美元,而市場估算其成本大概是3300美元. 而且交期已經排到二年後了.甚至NVIDIA還學起來Hermes, 要想H100還要搭配低階的A100. 甚至還有挖礦公司直接拿持有的H100當作抵押向投資機構再借23億美元出來.

https://technews.tw/2023/08/08/core-weaver-nvidia-h100-collacteral-debt-2-3b/

 

這麼瘋狂的需求和超高的毛利,當然就是造就了你今天看到的飆股. 我記得去年6月黃仁勳來台灣參加COMPUTEX時,他是兆元男如今不到一年,他已經變成二兆元男

 

接下來呢? 當然是各家晶片大廠紛紛宣佈要進軍AI晶片. INTELGaudi 3, AMDMI300-X, AMAZONTrainium2. MicrosoftMeta 則是和AMD合作(因為矽谷不喜歡看到壟斷).

 

總結以上,目前NVIDIA的最大優勢就是科技業對於AI的大量投入和急於發展,而不管是AI的人才或是所需的相關配套中,NVIDIA的顯卡和CUDA平台是多數人最熟悉也是最成熟的. 這也讓其他晶片廠即便運算效能不輸H100, 但配套上還是比不上.

 

NVIDIA也不是沒有隱憂. 它的挑戰並非全然來自AMD INTEL這些大廠的新產品. 而是AI還是個相對初期的市場. 目前CUDA的優勢來自於和目前主流的生成式AI (訓練大概只佔AI 晶片15%市場, 剩下85%用於資料中心和近端的計算)的高度相容. 但如果未來出現不同模式的AI, 或是突破目前不同的框架時, CUDA的現有優勢可能銳減.

 

不管如何,看完了這三篇黃仁勳和NVIDIA的故事. 你應該知道這種大起大落, 不停轉戰和不停戰鬥基本上就是過去30年這位CEO帶領下的風格. 這也是NVIDIA有辦法從一家最初的顯示卡供應商變成今天高端運算霸主的主因吧!