如果您希望可以時常見面，歡迎標星 收藏哦~
來源：內容編譯自日經亞洲
亞洲初創企業正試圖證明他們可以提供比行業巨頭 Nvidia 更好的芯片解決方案——至少對於某些應用而言。
儘管這家美國公司的圖形處理單元繼續在人工智能領域佔據主導地位，但該地區的初創企業認爲，GPU 的高能耗和笨重的設計留下了市場空白，新來者可以填補。
人工智能芯片有兩種基本類型。一種是“推理”芯片，用於操作現有的人工智能模型。另一種是“訓練”芯片，用於開發新的人工智能模型的高性能數據處理組件。
例如，OpenAI 需要數萬個訓練芯片來開發其 ChatGPT 聊天機器人的新模型。但 ChatGPT 要回答問題，就需要使用推理芯片。
日本人工智能獨角獸公司 Preferred Networks (PFN) 首席執行官西川徹 (Toru Nishikawa) 向日經亞洲表示：“沒有人能提出完美的推理芯片架構。我認爲該領域的架構將發生巨大變化……誰能以最低的價格提供合適的架構，誰就能獲勝。”
PFN 在開發訓練芯片的同時，也將新興的推理芯片市場視爲測試其產品能效資質的機會。
Nvidia 的成功主要來自於訓練的蓬勃發展，這要歸功於其 GPU 能夠處理 AI 模型開發所需的大量並行計算。
但 GPU 價格昂貴，體積龐大，不適合用於筆記本電腦和可穿戴設備。例如，Nvidia 的數據中心 AI 芯片單價爲 2.5 萬至 4 萬美元，比傳統產品貴七到八倍。
“如果推理芯片的成本與訓練芯片相同，那麼這種商業模式將永遠無法持續，”西川說。“我們需要開發適用於個人電腦的人工智能芯片。”
分析師對此表示同意。英國研究公司 Omdia 的諮詢總監 Kazuhiro Sugiyama 表示：“預計在不久的將來，對設備上 AI 的需求將會增加，這將鼓勵風險投資公司加入競爭。”
設備上人工智能的潛在市場包括個人電腦、智能手機、監控攝像頭和無人機。
Sugiyama 補充道：“Nvidia 的 GPU 主要適合訓練，但我們看到越來越多的新公司正在開發既能用於訓練又能用於推理的芯片。”
這些新來者包括由軟銀願景基金支持的美國公司 SambaNova Systems、由前英特爾工程師創立的 Tenstorrent，以及最近被軟銀收購的英國公司 Graphcore。
谷歌、Meta 和 Amazon Web Services 等大型科技公司也加入其中，更不用說 Nvidia 的競爭對手 AMD 了。
Sugiyama 表示：“隨着大型科技公司開始提供用於自身服務的專用 AI 芯片，我們將在 2025 年至 2026 年看到更多參與者進入目前由 Nvidia 佔據的市場。”他還補充道，Nvidia 產品的“頭號問題”是價格。“一塊 Nvidia 芯片的價格可能高達 25,000 美元，這對想要投資 AI 的公司來說是一箇負擔。”
甚至 Nvidia 的供應商也已經指出了價格問題。
韓國 SK 集團董事長崔泰源 (Chey Tae-won) 在 7 月份的一次會議上表示：“很多公司都希望使用自己的芯片，而不是價格更昂貴的 Nvidia 芯片。”
該集團旗下的 SK Hynix 爲 Nvidia 的 AI 芯片組提供高帶寬內存 (HBM)，但 Chey 表示，如果微軟和谷歌等新來者能夠製造出更便宜的 AI 芯片，“我認爲 Nvidia 主導的商業模式可能會被打破。”
但成本並不是唯一的問題。
據報道，Nvidia的下一代Blackwell芯片功耗高達1200瓦。美國芯片初創公司Esperanto Technologies最近在東京的新聞發佈會上告訴記者：“幾年前，功耗超過100瓦的芯片被認爲是相當極端的。”
一些專家估計，訓練像 ChatGPT-3 這樣的模型所消耗的電量比 1,000 個家庭一年的用電量還多。
PFN 及其合作伙伴（包括一家國家研究機構）的目標是在 2027 年 3 月之前開發出下一代 AI 加速器芯片。PFN 芯片設計主管、神戶大學教授 Junichiro Makino 表示，該公司的目標是讓其新芯片比使用 Blackwell 芯片的 Nvidia B200 芯片組“功能更強大、能耗更低”。
簡單來說，PFN 希望利用軟件提高 AI 芯片的效率。軟件將決定如何高效地處理給定的任務，並將數據和計算分配給各個核心，即芯片內部的小“大腦”。這使得每個核心都可以專注於與其任務相關的數據，而不像傳統的 GPU，其中的核心更加交織在一起。
這反過來意味着需要更少的核心來實現相同水平的計算能力，同時消耗更少的能源。
儘管這是一款訓練芯片，但 PFN 相信這項技術最終可以用於創建更具成本效益的推理解決方案。“如果我們想利用這個不斷增長的市場，我們希望在未來兩到三年內市場上出現一款新的推理芯片，”Makino 說道。
GPU 的設計初衷從來就不是爲 AI 而生的。其最初目的是確定視頻遊戲中數百萬個像素的顏色。每個計算都相當簡單，但要處理高分辨率的快速移動圖形，則需要數千個核心同時運行。
研究人員在 21 世紀初注意到了它們的潛力，並開始破解 Nvidia 的 GPU 來運行復雜的模擬。這家美國公司從 21 世紀末開始適應這一新興需求。
國家研究機構理化學研究所處理器研究團隊負責人佐野健太郎表示，這種高速同時處理能力——加上 Nvidia 的一些改進和附加軟件——使 GPU 成爲人工智能科學家的最佳選擇。
佐野表示：“我不想說現有 GPU 的架構就是最終形式，但與其他產品相比，GPU 在多用途處理方面是一箇更好的解決方案。”
對於追求更優雅的 AI 芯片設計的初創公司來說，Nvidia 通過增加更多內核和內存來提高芯片性能的做法就像是“用更強大、更昂貴的芯片，用蠻力解決問題”，一位不願透露姓名的美國芯片初創公司人士表示。“這就像美國汽車想要加速，就把引擎做得越來越大。是的，這很了不起，但效率很低。”
Nvidia 也在生產定製的 AI 芯片，甚至有些用於推理，但 Omdia 的 Sugiyama 表示，其架構策略並沒有太大變化。其策略是調整其軟件平臺以適應特定應用，例如 AI 或自動駕駛汽車。
“Nvidia 不太可能將其架構改變爲與 GPU 完全不同的東西。...他們總是製造同一類型的芯片，這就是他們如此經濟高效的原因，”他說。
當被問及未來的研發戰略時，Nvidia 向《日經亞洲》表示“不會對未發佈的產品發表評論”。
業內人士稱，英偉達還採用了更加多用途的設計方法，優先考慮能夠運行多種尖端人工智能的芯片。消息人士補充說，初創公司可以通過將設計重點放在特定應用上來找到競爭空間。
這是日本 AI 芯片初創公司 Edgecortix 的戰略的一部分，該公司由前微軟和 IBM 工程師 Sakyasingha Dasgupta 領導，旨在解決“記憶牆”問題。
GPU 擅長計算大量矩陣，但記憶力不強。每次進行計算時，它們都會訪問內存芯片來記錄結果或調用下一個任務。“訪問內存和返回內存的次數越多，功耗和延遲就越高，”Dasgupta 告訴《日經亞洲》。
芯片還需要額外的電力來補償訪問內存造成的延遲，從而導致設計更笨重且能效更低。
Edgecortix 設計其芯片以更簡化的方式處理數據，以減少芯片需要訪問內存的次數。
“如果我沒有使用內存，我就會花時間進行處理和計算。因此，我使用芯片的效率比典型的 GPU 高得多，”達斯古普塔說。這種方法使該公司避免使用功能強大且價格昂貴的 HBM 芯片，例如 SK Hynix 生產的芯片。
Edgecortix 表示，其芯片專爲“受限環境”（例如設備或工業機器）中的 AI 應用而設計，並且運行功耗僅爲 GPU 所需功耗的十分之一，可實現同等性能水平。
Sugiyama 估計，Nvidia 將繼續佔據整個 AI 芯片市場 30% 至 40% 的份額，這主要得益於其在訓練領域的主導地位，而初創公司則將爭奪更爲小衆的市場領域。
如果業界對人工智能計算的態度發生根本性變化，“GPU 的統治地位可能會終結”，理化學研究所的佐野說。不過，他補充說，“Nvidia 的利潤很高，人才儲備豐富。我認爲它在投資新技術領域方面也將佔得先機。”
這就是一些初創公司將亞洲視爲比西方更具戰略意義的運營地點的原因之一。
例如，Edgecortix 希望滿足對人工智能機器人或工廠自動化的需求。達斯古普塔表示，日本的機器人、航空航天和汽車行業“絕對”對其芯片有需求。該公司得到了汽車半導體公司瑞薩電子的支持。
該首席執行官補充說，日本的“芯片復興”也改變了公司的格局。例如，臺灣半導體制造公司決定在熊本縣建造兩家工廠，這將有助於培育當地的芯片設計生態系統。
“即使從地緣政治角度來看，亞太地區目前也處於非常關鍵的位置。這是我們的優勢之一，”他補充道。“我們的目標是成爲 Nvidia 或 Apple 那樣的公司——而走出日本，我認爲這是一箇巨大的機會。”
PFN 的 Nishikawa 指出，日本在芯片封裝解決方案方面具有競爭力。他表示，這些供應商可以想出更好的方法將內存芯片與處理器連接起來。
儘管初創公司正在以各種方式解決 GPU 問題，但他們在一箇問題上是一致的：科技行業的變化可能很快發生。
“過去曾出現過許多新型處理器，改變了社會，但大公司很少能成功開發出新架構，”西川說。“公司規模變大後，就會變得更加僵化。”
達斯古普塔也表達了同樣的看法：“IBM 曾一度在整個硬件領域佔據主導地位。而蘋果作爲一家初創公司，卻徹底顛覆了市場。類似的趨勢通常也會發生在科技行業。”
參考鏈接
asia.nikkei/Business/Business-Spotlight/Nvidia-vs.-the-startups-AI-chip-challengers-chase-efficiency
點這裏 加關注，鎖定更多原創內容
最新评论