
图片来源与许可 · 参考图使用许可未确认
AI 辅助插画 · 参考照片:本人、机构或原活动页面发布;摄影者未注明 · 参考图使用许可未确认 · 依据已核对姓名的来源页面图像,由 AI 绘制 B 细线彩铅头像;调整背景与肩部构图。展示图缩放至最长边 640 像素并转为 WebP。 · 参考图:About Cerebras | AI Inference and Wafer-Scale Computing — Sean Lie
公开发言
3原话逐字核对过;转述不加引号What used to be considered fast at like 1,000 100 or or 200 tokens per second is quickly becoming the new batch mode.
What used to be batch and offline applications start to become real time.
基于模块化机架平台与下一代晶圆级芯片,中等规模开源模型推理速度将突破每秒 10,000 token,前沿顶尖大模型也将达到每秒 5,000 token,彻底重构多步复杂推理与智能体循环交互。