元富
事件
聊天機器人Grok 3,聰明到嚇人
評論
1. 由Elon Musk創立的xAI正式推出了備受矚目的新一代AI模型Grok 3!Musk與團隊成員在X平台上舉行了線上發表會,目標直指「理解宇宙的意義」。Musk表示,xAI將專注於尋找外星人、生命意義等引人深思的問題的答案。在發表會上,xAI團隊展示了Grok 3在多項測試中的優異表現,包括數學(AIME'24)、科學(GPQA)和程式設計(LCB Oct-Feb)。Grok 3不僅在這些領域取得了領先分數,其推理Beta版本和mini版本也超越了DeepSeek R1、OpenAI 01、Gemini-2 Flash Thinking等競爭對手。團隊還展示了Grok 3的即時搜尋能力和預測能力。
2. Grok 3的開發歷程,一開始xAI只擁有8,000個 GPU,但為了追求更卓越的運算能力,最終決定採用10萬個NVIDIA H100 GPU。傳xAI花費了122天安裝最初的10萬個GPU,隨後又以92天的時間,將GPU數量擴增至20萬組。Grok 3的訓練,主要是在Colossus資料中心完成,該資料中心除了原有的10萬個H100 GPU外,還擴充了10 萬個 H100 和 H200晶片,並持續加入更強大的B200晶片。Grok 3將提供給X Premium+的使用者,讓他們能夠搶先體驗其功能、推理能力、DeepSearch,以及更高的使用上限。此外,Grok 3還將推出「thinking harder mode」和「supergrok」版本,價格為每月30美元。Musk透露,Grok 3 將推出語音版本,並將安裝到Tesla車款中。雖然語音模式仍在調整中,但預計在一周內就會發表。隨著Grok 3的推出,xAI的估值也水漲船高。目前xAI正在尋求新一輪100 億美元的融資,估值高達750億美元。Musk仍持有xAI過半股份,若成功完成融資,其在xAI的價值將接近400億美元。相較於目前OpenAI的估值已達到1500 美元(軟銀曾洽談以3000億美元的估值投資400億美元)。
3. Grok 3不單採用了高達10萬組輝達AI晶片,運算是前一代Grok 2(2024年8月)的10倍,最大特點在於其導入了「思維鏈」(Chain Of Thought)推理能力,讓Grok 3可以像人一樣,逐步處理複雜的任務。Grok 3幕後操刀的是美系SI龍頭SuperMicro、及品牌廠DELL。SuperMicro 4Q24對外宣布,攜手AI新創公司xAI,為全球最大的AI超級電腦Colossus提供動力,將旗下最強液冷解決方案導入,以液冷NVIDIA HGX Hopper 8-GPU伺服器來驅動XAI最新打造的下一代人工智慧聊天機器人Grok。除了SuperMicro外,為Grok 3代工的Dell陣營亦有不少台廠受惠,包括台積電、鴻海、緯創、英業達等都在此列。
4. 綜上,Grok 3推出,更驗證了算力為王AI神主牌,總體資本支出Scaling Law的趨勢仍在,短期間DS事件影響,市場對AI算力過剩的看法將不攻自破,對ODM/OEM/EMS廠營運及獲利數字仍依舊強勁。
(僅供內部參考,請勿外傳)