推理打算成为窒碍口,性价比上风是关节。
英伟达在AI芯片商场的摆布地位,正濒临前所未有的挑战。
AMD、亚马逊等科技巨头,以及SambaNova Systems、Groq等初创公司纷纷对准大模子推理侧发力,推出各样定制芯片,在可靠性和老本端不断进步。
这些新玩家不仅带来了更具性价比的弃取,更获取了贫窭客户的认同。
举例,Meta已运转使用AMD的MI300芯片因循其新AI模子Llama 3.1 405B的推理打算;亚马逊的Trainium 2芯片,得到了包括苹果在内的潜在用户的好评。
商场商量机构Omdia瞻望,2024年数据中心在非英伟达芯片上的支拨将增长49%,达到1260亿好意思元。
似乎,商场方法的变化如故运转,AI芯片领域的竞争正在进入一个愈增多元化的竞争新阶段。
科技巨头纷纷入局,推理打算成为窒碍口
AMD的MI300芯片在发布首年,就瞻望创造超50亿好意思元的销售额。与此同期,亚马逊在奥斯汀北部研发了新一代AI芯片Trainium。
除了传统科技巨头,SambaNova Systems、Groq和Cerebras Systems等初创公司也在积极布局。这些公司宣称在推理方面大致提供比英伟达更快的速率、更低的工行和更低廉的价钱。
而“推理”阶段,正成为竞争敌手窒碍英伟达摆布的关节。
“真实的贸易价值来自于推理,而推理正在运转边界化,”高通 CEO Cristiano Amon示意。Amon称,高通打算使用亚马逊的新芯片奉行 AI 任务,“咱们运转看到变革的运转”。
在老本方面,英伟达现存芯片售价高达1.5万好意思元,其新款Blackwell芯片瞻望将达到数万好意思元。
比拟之下,竞争敌手提供了更具性价比的弃取。德克萨斯高等打算中心奉行主任Dan Stanzione示意,由于功耗和价钱上风,该中心打算在使用英伟达Blackwell超等打算机的同期,选拔SambaNova的芯片进行推理任务,因为它们的功耗和价钱较低。
亚马逊展现宏愿
亚马逊在AI芯片领域推崇出热烈的杰出心,本年已参加750亿好意思元用于AI芯片等打算硬件。其新款Trainium 2芯片的性能是前代产物的4倍,并已晓示更弘大的Trainium 3芯片打算。
旧金山AI初创公司Poolside的CTO Eiso Kant揣测,比拟英伟达的硬件,Trainium 2在每好意思元打算性能上提高了40%。更贫窭的是,亚马逊打算在宇宙数据中心提供基于Trainium的工作,这对推理任务尤为贫窭。
值得紧密的是,亚马逊还与AI初创公司Anthropic实现和解,将缔造一个包含数十万枚新Trainium芯片的巨型AI工场,其打算材干将是Anthropic此前使用过的任何系统的5倍。
尽管如斯,竞争加重并不料味着 Nvidia 短期就会失去首先地位。英伟达CEO黄仁勋仍然强调,公司在AI软件和推理材干方面具有要紧上风,新款Blackwell芯片的需求依然刚烈。
在斯坦福大学的一次演讲中,黄仁勋示意:
“咱们产物的总领有老本十分合算,即使竞争敌手的芯片是免费的,它们也不够低廉。”
本文来自微信公众号“硬AI”,温雅更多AI前沿资讯请移步这里
]article_adlist-->商场有风险,投资需严慎。本文不组成个东谈主投资提议,也未推敲到个别用户特等的投资目的、财务景况或需要。用户应试虑本文中的任何见识、不雅点或论断是否允洽其特定景况。据此投资,包袱抖擞。
包袱剪辑:刘亮堂