在花🎗️科技圈:
🐶 Google 开源 TorchTPU,挑战 NVIDIA AI 生态主导地位 Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。 vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。 Google Cloud 🌸 科技圈·…
谷歌推出新版 TPU 芯片,加速挑战英伟达
谷歌宣布推出两款新的张量处理单元(TPU),分别为 TPU 8tx 和 TPU 8i Max。TPU 8tx 主要面向政府机构及受严格监管行业,处理安全机密数据,将与 AMD 芯片协同工作;TPU 8i Max 则针对超长上下文窗口 AI 应用场景,将两颗 TPU 芯片集成在同一封装内,以提供更强算力和更大内存容量。
谷歌正打破过去每两年推出一款新处理器的节奏,今年连续扩充 TPU 产品线,针对不同应用场景提供专用芯片。随着苹果、Meta、甲骨文和 Anthropic 等企业成为客户,谷歌正试图将 TPU 打造为英伟达 GPU 之外的重要选择。
Bloomberg
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel