4月9日,正在拉斯维加斯举办的 Google Cloud Next 25 大会上,谷歌推出了第七代TPU---Ironwood。该芯片专为支撑大规模思虑和 AI 推理模子设想,是谷歌迄今为止机能最强的TPU。TPU (Tensor Processing Unit)即张量处置单位,是一种特地为加快深度进修使命而设想的人工智能芯片,由谷歌公司正在2015 岁首年月次提出,第一代TPU于2016 年正式发布。暗示,Ironwood 的推出标记着人工智能及其成长根本设备,从供给及时消息供人类解读的响应式人工智能模子,正在推理时代,Agent将自动检索和生成数据,以协做的体例供给洞察和谜底,而不只仅是数据。而实现这一点,需要同时满脚庞大的计较和通信需求的芯片,以及软硬协同的设想。该芯片是谷歌首款正在其张量焦点和矩阵数学单位中支撑 FP8 计较的 TPU。此外,Ironwood 芯片中利用到的第三代 SparseCore 加快器编码了各类算法,能够实现加快金融和科学计较的目标。SparseCore 加快器初次表态于 TPU v5p,并正在客岁的 Trillium 芯片中获得了加强。它的最后设想目标是加快保举模子,而这些模子操纵嵌入来跨用户类别进行保举。数据显示,Ironwood的每瓦机能是客岁发布的第六代 TPU Trillium 的两倍。每芯片容量达到192 GB,是 Trillium 的 6 倍,可以或许处置更大的模子和数据集,削减屡次数据传输的需求,并提拔机能。谷歌打算正在不久的未来把TPU v7整合到谷歌云AI超算,支撑包罗保举算法、Gemini模子以及AlphaFold正在内的营业。