自研只为自用,微软新出两款芯片要降低AI服务成本
当地时间11月15日,微软在西雅图举行的Ignite开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。
微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。亚马逊和谷歌等科技巨头也已经使用了自研芯片,并部分向客户提供。
微软最新推出的两款芯片分别为用于加速AI计算任务的Maia芯片,以及采用Arm CPU架构的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示,希望通过优化这款AI芯片来提供更快、成本更低、质量更高的解决方案。
微软没有透露这些芯片相对于传统芯片具体有多少能力提升的技术细节。但微软Azure硬件系统和基础设施副总裁Rani Borkar表示,两款芯片均采用台积电5纳米制造技术制造。
此外,Maia芯片的构建方式与英伟达使用的网络连接技术也有所不同,Maia芯片与标准以太网电缆连接在一起。
不过微软推出自研AI芯片并不是希望取代英伟达等厂商。微软表示,明年将为Azure客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。
研究公司Creative Strategies首席执行官本·巴贾林(Ben Bajarin)分析认为,通过推出AI芯片Maia,微软希望在云端销售人工智能服务,而更长远的目标是能够在PC电脑和手机上来处理这些人工智能服务。
微软推出的另一款芯片Cobalt则是用来回应亚马逊云AWS的竞争。微软表示,已经在测试使用Cobalt为Teams等消息应用提供支持。
AWS也将于本月下旬召开Reinvent开发者大会。AWS正在开发未来几代基于AWS设计的芯片。AWS方面除了使用基于英伟达H100 GPU芯片之外,还推出了基于AWS自研的机器学习推理芯片Amazon Inferentia 2以及AWS自研机器学习训练芯片Amazon Trainium。AWS方面还表示,OPPO、Airbnb等客户都在使用AWS的专用加速器来处理机器学习工作负载。
当地时间11月15日,微软在西雅图举行的Ignite开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。
微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。亚马逊和谷歌等科技巨头也已经使用了自研芯片,并部分向客户提供。
微软最新推出的两款芯片分别为用于加速AI计算任务的Maia芯片,以及采用Arm CPU架构的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示,希望通过优化这款AI芯片来提供更快、成本更低、质量更高的解决方案。
微软没有透露这些芯片相对于传统芯片具体有多少能力提升的技术细节。但微软Azure硬件系统和基础设施副总裁Rani Borkar表示,两款芯片均采用台积电5纳米制造技术制造。
此外,Maia芯片的构建方式与英伟达使用的网络连接技术也有所不同,Maia芯片与标准以太网电缆连接在一起。
不过微软推出自研AI芯片并不是希望取代英伟达等厂商。微软表示,明年将为Azure客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。
研究公司Creative Strategies首席执行官本·巴贾林(Ben Bajarin)分析认为,通过推出AI芯片Maia,微软希望在云端销售人工智能服务,而更长远的目标是能够在PC电脑和手机上来处理这些人工智能服务。
微软推出的另一款芯片Cobalt则是用来回应亚马逊云AWS的竞争。微软表示,已经在测试使用Cobalt为Teams等消息应用提供支持。
云服务厂商正在通过向客户提供更具成本优势的解决方案,占据更多市场。受人工智能需求的提振,微软云服务销售大增。
微软上个季度公布最新财报显示,在关键的云业务领域,微软云业务的销售额同比增长19%至243亿美元,成为该公司业务增长的最大驱动力,贡献了超过40%的收入。
目前在全球云服务市场,占据最大份额的是亚马逊云AWS,微软云Azure位居第二,谷歌排名第三。
AWS也将于本月下旬召开Reinvent开发者大会。AWS正在开发未来几代基于AWS设计的芯片。AWS方面除了使用基于英伟达H100 GPU芯片之外,还推出了基于AWS自研的机器学习推理芯片Amazon Inferentia 2以及AWS自研机器学习训练芯片Amazon Trainium。AWS方面还表示,OPPO、Airbnb等客户都在使用AWS的专用加速器来处理机器学习工作负载。
华为GaussDB面世,瞄向了数据库的“塔尖”
华为呼吁,产业界应该尊重基础研究与根技术创新投入,认可基础软件应有的商业价值,反对低价无序竞争。在对整体业务体系完成MetaERP全面替换后,华为的另一项重要软件根技术逐步浮出水面。6月7日,在2023年华为全球金融峰会上,华为发布了国内首款软硬协同、全栈自主的分布式数据库GaussDB。在官方介绍中,该数据库集聚了内部大量研发人员,瞄向“高精尖”数据库市场。锤子财富2023-06-07 22:56:310000国内大模型与GPT-4较高下:语言知识能力接近,复杂推理仍是短板
推理、数学、代码、智能体是国内大模型的短板,这关系到落地应用时大模型的可靠性。1月30日,上海人工智能实验室发布了大模型开源开放评测体系司南(OpenCompass2.0),同时在对部分主流大模型评测诊断的基础上,揭晓了年度大模型评测榜单,提到了国内大模型的优势与短板。锤子财富2024-01-31 00:03:490000