Meta首次公布AI芯片细节 功耗低于英伟达
为了更好地支持人工智能项目,科技巨头竞相在企业内部研发AI芯片。Facebook母公司Meta在5月18日首次宣布了其AI自研芯片项目,并分享了数据中心项目的新细节。
Meta并不像谷歌、微软等科技巨头从事销售云计算服务的业务,过去公司从未公开谈论其内部数据中心芯片项目。但Meta高管称,全球科技界都对此表现出兴趣,所以有必要与外界沟通。
Meta当天股价上涨近2%。今年以来,该公司累计涨幅已经翻番。
在一篇博客文章中,Meta公司表示,它早在2020年就设计了第一代芯片,作为Meta训练和推理加速器(MTIA)计划的一部分,主要用于提升广告投放和其他内容推荐模型的效率。
据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。
“GPU在真实模型应用方面的效率仍然很低,而且部署起来成本高昂。”Coburn表示,“这就是我们需要MTIA的原因。”
研究机构Gartner分析师盛陵海对第一财经记者表示:“英伟达的GPU也可以用于推理,但是效能不一定合适,因为推理需要的算力区别很大,很多时候会浪费算力,就好像重型卡车不适合做保姆车。还是要根据具体应用场景,匹配相应的算力。”
市场认为,AI芯片最终将支持更高级的元宇宙相关任务,例如虚拟现实和增强现实,以及新兴的生成式人工智能领域。
今年2月,Meta发布了新的大型语言模型LLaMA之后,扎克伯格宣布公司正在创建一个专注于生成式AI研发的顶级团队。
目前Meta使用由16000个英伟达A100 GPU组成的超级计算机来训练LLaMA语言模型。公司称,最大的LLaMA语言模型LLaMA 65B包含650亿个参数。相比之下,谷歌最新发布的大型语言模型PaLM 2包含了3400亿个参数。
Meta去年开启大规模裁员,并转而加大对AI技术基础设施的投资建设。不过,它没有就MTIA新型芯片的部署时间表发表评论。
Meta承认,MTIA芯片在处理高复杂度AI模型时仍然面临挑战,但在处理中低复杂度模型时,比竞争对手的芯片更有效。
“MTIA芯片的功耗仅为25瓦,远低于英伟达等厂商的芯片功耗,并使用RISC-V的开源芯片架构。”Meta在博客中表示,“性能的改进将证明投资是合理的。”
另据博客文章介绍,该芯片处理器采用台积电7纳米工艺制造。不过公司没有进一步透露相关的细节。
Meta还介绍了一种称作“可规模化视频处理器”(MSVP)的芯片,可用于处理视频并传输,同时降低能源需求。公司称,每天需要处理40亿个视频的任务。
事关房企融资,三部门重磅发声;余承东称华为不止问界智界丨明日主题前瞻
①三部门明确一视同仁满足不同所有制房地产企业合理融资需求;②余承东称华为不止问界智界,还有两个“界”;③国家药监局共批准上市创新医疗器械237个。①三部门明确一视同仁满足不同所有制房地产企业合理融资需求0000Moderna股价或“跑赢大盘” ,未来2年内5款产品有望上市
Moderna可能会在2026年之前推出5种产品,并将Moderna股票评级上调至“跑赢大盘”。直到目前为止,该公司唯一的产品仍是新冠疫苗。新年首个交易日,美国疫苗厂商Moderna迎来股价大涨。在券商奥本海默(Oppenheimer)上调公司评级后,Moderna周二股价涨幅超过13%。0000年内合计被罚超9亿元,严监管下上市银行合规压力陡增
监管趋严下,上市银行结合数字化手段进行内控管理升级。今年以来,上市银行频收大额罚单。近日,国家金融监管总局上海监管局又开出大额罚单。处罚对象包括上海银行、工商银行上海分行、法国巴黎银行(中国)有限公司等机构,其中,上海银行收到两张罚单,合计被罚1380万元,其余两家银行分别被罚740万元、210万元,三家银行合计被罚2330万元。0000远超预期!美国5月非农就业人口增近34万,6月加息预期陡升丨环球读数
目前为止的经济指标未有释放任何衰退即将到来的信号。美联储期待的劳动力市场降温依旧没有出现。当地时间2日,美国劳工统计局公布的最新数据显示,5月新增非农就业人口33.9万,远超华尔街预期的19万,前值由25.3万上修至29.4万。此前12个月,美国平均每月新增就业人口34.1万。值得一提的是,自2022年1月至今发布的17份非农报告中,有14份超出市场预期。锤子财富2023-06-02 22:26:040000潘功胜:中国金融周期相对稳健,外汇市场有望保持较为平稳的运行状态
国家外汇管理局局长潘功胜就“全球金融周期:趋势和影响”这一主题发表了演讲。第十四届陆家嘴论坛于6月8日至9日召开。国家外汇管理局局长潘功胜就“全球金融周期:趋势和影响”这一主题发表了演讲。0000