英伟达H100涨到4.5万美元?已经有企业开始用它抵押融资
自去年年底ChatGPT问世以来,近半年多来,全球掀起了大模型热潮。对人工智能的巨大需求也暴露了全球用于开发和部署人工智能模型的芯片供应链的局限性。
作为可帮助运行人工智能训练和部署人工智能算法的关键硬件,GPU正在面临巨大的缺口。目前全球95%以上的大模型都使用英伟达的GPU芯片。
OpenAI首席执行官奥尔特曼(Sam Altman)近日公开表示:“我们的GPU非常短缺,使用ChatGPT的人越少越好,这样才能确保用户有足够的算力。”
第一财经记者从业内了解到,目前GPU价格仍在上涨,作为人工智能基础设施的“硬通货”,海外已经有创业企业开始利用GPU进行抵押融资。这种新兴的融资途径凸显了此类硬件在资本密集型人工智能“军备竞赛”中的价值。
GPT5需要5万张H100?
第一财经记者从多名从事大模型开发的业内人士方面了解到,目前人工智能芯片依然持续短缺。一些业内人士向记者表示,不仅是小企业,就连人工智能行业的头部领先平台也面临芯片紧缺的处境。他们预计,人工智能芯片短缺的现状至少在一年之内不会出现显著的改善。
此外,记者查询eBay网站发现,H100的售价已经高达4.5万美元,这较今年4月份4万美元的价格涨幅超过10%,而且货源较上半年也显著减少。
英伟达内部人士告诉第一财经记者,电商渠道的价格不受英伟达管控,“属私人在网上转售”。
“人工智能芯片全世界都缺,这与大模型在短时间内突然爆发有关。这种短缺预计短期内不会缓解。”一位从事医疗大模型开发的专业人士对记者表示。
另一位大模型开发者告诉记者:“目前个人感受是,GPU的紧张程度比2、3月份似乎要好一点,但是整体紧缺的态势没有发生根本变化。”
微软最近公布的财报凸显了人工智能芯片可能长期短缺的迹象。在微软的财报中,首次将GPU的可及性确定为投资风险因素。“我们将继续寻求扩大数据中心服务器算力的机会,这取决于土地、能源、网络供应以及GPU和其他组件的可及性。”微软财报写道。
达观数据董事长CEO陈运文对第一财经记者表示:“人工智能芯片可以用很缺来形容,虽然现在一些企业号称推出了英伟达人工智能芯片的替代品,但是产品的成熟度还有差距,而且生态也不够完善。”
近日有消息称,下一代GPT大模型GPT5需要5万张英伟达最高配置的H100芯片,全球市场对H100芯片的需求量达到43万张,英伟达的产能可能难以满足如此大的算力需求。
“这一数据有夸张之嫌,因为都是来源于猜测预估,而没有经过实际市场上的求证。”陈运文对记者说。
另一位人工智能领域资深专家也对记者表示:“这一数据略有夸张,有点博眼球的意思。”
研究机构Gartner芯片分析师盛陵海对记者表示:“目前GPU的缺口多大不好预估,需求是被炒起来的,越是缺,市场就越是要。”
企业发出“巨大的吸吮声”
受人工智能大模型需求推动,英伟达今年以来股价累计涨幅已超200%,目前市值冲破1.1万亿美元。根据投资者服务公司穆迪今年5月份发布的一份研究报告,英伟达在未来几个季度将实现“无与伦比”的收入增长,其数据中心业务的收入将超过竞争对手英特尔和AMD的总和。
“这些GPU的生产已达到产能极限,但需求的激增远远超出渠道的供货来源。”穆迪芯片行业高级副总裁拉杰·乔希(Raj Joshi)表示,“企业发出’巨大的吸吮声’,我认为行业还没有准备好应对这种需求的激增。”
一位英伟达方面人士对第一财经记者表示:“GPU缺货已经不是一两天了,我们一直在努力想方设法来满足市场的需求。”
在今年5月的财报电话会议上,英伟达表示,下半年GPU的供应量将会“大幅增加”,以满足人工智能芯片不断增长的需求。
英伟达最新一季财报将于8月23日公布。英伟达创始人CEO黄仁勋将出席8月8日在洛杉矶举行的行业大会Siggraph,并发表主题演讲。
由于GPU芯片的短缺,一些拥有英伟达GPU芯片独特渠道的人工智能初创公司已经开拓了新的融资途径。云服务提供商CoreWeave上周宣布,在一轮由Magnetar Capital和黑石集团(Blackstone)牵的债务融资中,以英伟达H100芯片为抵押筹集了23亿美元资金,这些资金将用于扩张人工智能的能力以及数据中心的建设。
这种不同寻常的债务融资方式凸显了此类硬件在资本密集型人工智能“军备竞赛”中的价值。CoreWeave目前的估值已经超过20亿美元。
英伟达真的“不可替代”吗?
为应对行业对于人工智能大模型的巨大需求,AMD公司已经宣布,预计将在年底前推出英伟达GPU的替代解决方案——MI300 AI芯片。AMD首席执行官苏姿丰(Lisa Su)在公司财报电话会议上表示:“客户对我们的人工智能解决方案表现出了浓厚的兴趣,我们已经取得了重大进展。”
但由于业内对于AMD的芯片是否能够真正替代英伟达的产品仍持怀疑态度,AMD财报公布后股价暴跌约6%。
“AMD的人工智能芯片值得期待,但是到底有多少客户会用现在还是未知数,而从行业角度来看,多一种选择总是好的。”一位芯片领域资深人士对记者说。
在全球范围内,其他新兴的人工智能芯片初创公司近期也宣布了不少融资消息。由芯片行业资深人士凯勒(Jim Keller)领导的加拿大初创公司Tenstorrent正在开发对标英伟达的人工智能芯片,该公司上周表示,从现代汽车集团和三星投资基金等公司方面筹集了1亿美元资金,估值达10亿美元。
凯勒曾为苹果、特斯拉和英特尔公司开发芯片,今年早些时候接任Tenstorrent公司首席执行官。Tenstorrent还寻求将其生产研发的人工智能芯片的知识产权和其他技术出售给客户。
人工智能初创公司d-Matrix创始人兼CEO谢思(Sid Sheth)认为,芯片的短缺可能还会迫使企业寻求其他创造性的方法来解决问题,比如开发能够提高芯片生产效率的新技术。
印度番茄价格狂飙近6倍,真人版“偷菜”在各地上演
番茄和洋葱在印度不仅是蔬菜,还有政治属性。“如今番茄已经卖到了一公斤200印度卢比(约合人民币17.4元),真是个天文数字。”住在印度经济中心孟买的居民桑贾伊告诉第一财经记者。锤子财富2023-07-27 22:56:510000杭州:在本市范围内购买二手住房 不再审核购房人资格
《通知》明确优化二手住房限购政策,在本市范围内购买二手住房,不再审核购房人资格。同时明确优化增值税征免年限,本市范围内个人出售住房的增值税征免年限统一调整为2年。锤子财富2024-03-14 08:44:2600002023年重庆GDP比上年增长6.1%
重庆市统计局表示,总体来看,去年全市经济运行主要指标加快回升,多领域积极因素累积增多,高质量发展扎实推进。据重庆日报,1月19日,重庆市政府新闻办举行发布会,市统计局、国家统计局重庆调查总队在会上发布2023年重庆市经济社会发展运行数据。去年全市实现地区生产总值30145.79亿元,比上年增长6.1%。其中,第一产业实现增加值2074.68亿元,增长4.6%;0000国家能源局科技司组织召开新型储能工作(华中区域)座谈会
加强《“十四五”新型储能发展实施方案》等政策文件实施情况监督评估,同时搭建各级能源主管部门、有关企业等交流互鉴平台,推动加强先进经验总结推广。0000地产从业者的新常态:不用加班熬月光也不见曙光
曾经高歌猛进的房地产行业,如今已是打工人新的“围城”。傍晚六点,天还未暗,张瑞就提包下班了,走的时候公司只剩一个人。作为从业近十年的地产人,现在是他工作强度最低、但最焦灼的时候。今年,张瑞有三个月工资被拖欠,手下员工也被缩减到最少,即便想转行都困难重重。0000