成本高企,正在成为AI企业们的“头号焦虑”。
近日,花旗银行的分析师Yitchuin Wong等参加了在奥兰多举行的Gartner数据分析峰会。在会后总结报告中,花旗指出,AI目前仍面临诸多挑战,尤其是在成本高昂的情况下,很多企业客户开始重新关注ROI(投资回报率)。
为什么会成本高昂?这就不得不谈到“AI芯片之王”——英伟达 (NVDA.US)。
伴随AI技术蓬勃发展,英伟达生产的图形处理器(GPU)能够满足AI训练的庞大算力需求,在市场上长期“供不应求”,芯片售价随之激增,一再将公司股价推至历史新高。
疯狂押注“AI信仰”的交易行为也让英伟达的上游硬件供应商受益其中。据媒体报道,英伟达的主要硬件供应商之一、高带宽内存芯片制造商美光科技到2025年的产品均已售罄。
在接受媒体采访的过程中,美光直言:
“我在历史上从未见过内存提前18个月分配的情况。这完全是由英伟达和这场AI游戏中的许多其他公司共同推动的。”
成本高企导致下游应用落地不佳
一块H100 GPU的价格在2022年就已经超过了3万美元。到去年,Ebay网站上每块H100的售价已经飙涨至4万美元上方,其平均售价是AMD竞争产品MI300X的四倍之多。
而对GPU的部署还远未结束。扎克伯格曾在今年表示,Meta今年将大规模投资GPU,其中包括高达35万块英伟达“Hopper”H100以及其他设备,到年底达到“相当于近60万个H100的计算能力”。
一边是技术发展带来的持续“缺芯”,另一边是居高不下的GPU售价。企业们不得不开始思考AI商业化变现的能力,接下来对GPU的市场需求还能继续强劲吗?
花旗称,对于生成式AI的热情正在冷却,大规模项目落地还“为时尚早”。
报告表示,尽管生成式AI依然是大多数参会管理层关注的焦点,但实际的项目规模和使用案例还比较小(比如文本/图像生成)而不是大规模的转型变革。
据媒体报道,亚马逊网络服务和其他生成人工智能提供商们已经降低了销售预期,OpenAI的主要竞争对手之一Cohere的去年营收实际上也微乎其微,该公司表示,在寻求融资的过程中,客户对成本持谨慎态度,并正在衡量该技术的功能性。
花旗提及,据信息技术研究和咨询公司Gartner预计,将有约三分之一的项目会因为过早推出POC(Proof Of Concept,概念验证)而失败。
美光科技的高管Narasimhan以及IBM半导体研究部门总经理Mukesh Khare均表示,AI的成本远远超过传统计算的成本,只有成本先降下来,才能对吸引更多企业客户。
美光科技表示:
“目前,涉及大语言模型的成本相当高,对于大型企业来说或许可接受,但对于大众而言则不然。”
“坦率地说,今天我认为投资正在变得……我不想用炒作这个词……有太多人对此感到兴奋,如果你有预算,你那么你可能会优先考虑投资在生成式AI服务器上,而不是其他任何领域。”
对于“成本何时能下降”的问题,美光认为这“是一个价值十亿美元的问题”,但“它会下降,这是不可避免的竞争”。
另外,花旗还指出,企业客户对于数据治理的担忧也在增加。为了提升数据和AI素养,数据治理和质量将成为企业持续投资的更优先事项。
编辑/Somer
未经允许不得转载:新聚网 » 觀點 | 英偉達最大的風險是英偉達自身?

新聚网
本週美股牛股 | 幣圈利好頻傳!Coinbase周累漲超22%,加密監管指引將被撤銷;生物製藥公司SMMT今年累漲超105%,最新肺癌藥物試驗取得積極成果
特朗普「變臉」黃金巨震!後續金價何去何從,需要留意什麼?
據港交所文件:滬上阿姨(上海)實業股份有限公司通過港交所上市聆訊。
特朗普放棄撤換鮑威爾的原因:財長和商務部長緊急介入!
美股早市 | 特朗普關稅立場軟化!納指漲超3%,亞馬遜漲超7%,特斯拉、英偉達漲超4%;中概股全線飆升,小鵬漲超10%,拼多多漲超5%
和多數人唱反調!渣打堅持預計本週25點子減息,列舉50點子預期七大質疑





