英特尔INTC.US推出新一代AI芯片Gaudi3采用台积电5nm工艺
推出新一代AI芯片Gaudi 3 采用台积电5nm工艺)
智通财经APP获悉,周二,英特尔在其Intel Vision 2024产业创新大会上,面向客户和合作伙伴作出了一系列重磅宣布。这些宣布包括推出全新的Gaudi 3人工智能加速器、全新的至强6品牌,以及包括开放、可扩展系统和下一代产品在内的全栈解决方案,还有多项战略合作。
据数据预测,到2030年,全球半导体市场规模将达到1万亿美元,人工智能将是主要的推动力。然而,截至2023年,仅有10%的企业成功将其AI生成内容项目商业化。英特尔的最新解决方案旨在帮助企业克服推广AI项目时遇到的挑战,加快AIGC的商业应用。
英特尔现有的Gaudi 2在2022年5月推出,并于2023年7月正式进入中国市场。它以高性能、高效率和高性价比而著称。该产品采用台积电7nm工艺,具备24个可编程的Tenor张量核心、48MB的SRAM缓存、21个10万兆内部互连以太网接口、96GB的HBM2E高带宽内存等,能够满足大规模语言模型和生成式AI模型的计算需求。
新一代Gaudi 3专为AI训练和推理设计,采用了台积电5nm工艺,带来了两倍的FP8 AI算力和四倍的BF16 AI算力,以及更高的网络和内存带宽。与NVIDIA H100相比,Gaudi 3在流行的大型语言模型(LLM)上具有更高的推理性能和更快的训练速度。
预计Gaudi 3将显著缩短不同规模的Llama2模型和GPT-3模型的训练时间,并在Llama和Falcon等大型语言模型上提供出色的推理吞吐量和能效。Gaudi 3支持多种形式因素,包括与OAM兼容的夹层卡、通用基板和PCIe扩展卡,满足各种应用需求。
Gaudi 3还提供开放的、基于社区的软件支持,并通过标准以太网网络实现从单节点到超级集群的灵活扩展,以支持大规模的推理、微调和训练需求。
Gaudi 3的优势在于其高性能、经济实用、节能和快速部署能力,能够有效满足AI应用在复杂性、成本效益、数据可靠性和合规性等方面的需求。该加速器预计将在2024年第二季度开始向OEM厂商出货,包括戴尔、慧与、联想和超威等品牌。
目前,英特尔Gaudi加速器已与NAVER、博世、IBM等众多行业客户和合作伙伴建立了合作关系。
此外,英特尔还宣布与Anyscale、DataStax等多家合作伙伴共同创建开放平台,推动AI创新。该平台旨在开发开放的、多供应商支持的AIGC系统,提供先进的部署便利性、性能和价值。
英特尔计划利用至强处理器和Gaudi加速器,推出AIGC流水线的参考实现,发布技术概念框架,并进一步加强Intel Tiber开发者云平台基础设施的功能,以助力企业在AI创新领域取得突破。
截至周二收盘,英特尔收涨0.92%,报38.33美元。
声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。