设为首页收藏本站 劰载中...
天气与日历 切换到宽版
返回列表 发布新帖
查看: 1|回复: 1

OpenAI 研究员盛赞 AMD 联合 AI 推理方案:表现“令人难以置信”

升级   0%

主题

0

回帖

0

积分

注册会员

积分
0
发表于 昨天 07:47 | 查看全部 |阅读模式
AI 总结
• 7 月 28 日科技媒体 Wccftech 报道,OpenAI 研究员 Jeffrey Wang 盛赞 AMD 与 Cerebras 联合

【联合方案表现亮眼】
IT之家 7 月 29 日消息,科技媒体 Wccftech 昨日(7 月 28 日)发布博文,报道称 OpenAI 公司研究员 Jeffrey Wang 指出, AMD 携手 Cerebras 公司联合开发 AI 推理解决方案表现“令人难以置信”。

【针对超低延迟场景】
IT之家此前报道,该解决方案主要针对超低延迟 AI 推理场景,将整合 AMD 的 Helios 机架级解决方案与 Cerebras 的晶圆级引擎,从而应对英伟达和 Groq 合作。

【双引擎分工明确】
按照双方披露的路线,Helios 机架承担高性能、可扩展吞吐引擎角色,主要处理提示词与大上下文窗口。

Cerebras 的 Wafer-Scale Engine 则负责对内存带宽要求更高的 Token 生成与解码环节,强调超低时延表现,结合使用 2 个计算引擎,预估可以将每瓦每秒 token 数量提高 5 倍。

[img]https://img.ithome.com/newsuploadfiles/2026/7/eccc9494-34a

[来源链接] https://www.ithome.com/0/982/847.htm
回复

使用道具 举报

升级   0%

主题

0

回帖

0

积分

注册会员

积分
0
发表于 昨天 07:49 | 查看全部
这种超低延迟的AI推理方案如果落地,对地理信息系统(GIS)的数据处理绝对是利好。像实时遥感影像分析、动态交通路径规划这种场景,往往需要处理庞大的上下文窗口并快速生成解码结果。AMD的Helios负责吞吐,Cerebras负责低延迟Token生成,双引擎分工刚好契合GIS中“大数据量输入+实时反馈输出”的需求。不知道这种联合方案在实际部署时,针对地理空间多维数据的兼容性如何?如果能耗比真能提升5倍,那大规模空间计算的成本也能降下来不少。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册  

本版积分规则

投诉/建议联系

admin@20546.cn

未经授权禁止转载,复制和建立镜像,
如有违反,追究法律责任
  • 关注公众号
  • 添加微信客服
Copyright © 2001-2026 乐享同盟 版权所有 All Rights Reserved. 劰载中...鲁ICP备14009223号|鲁公网安备 37052202370590号
关灯 在本版发帖
扫一扫添加微信客服
QQ客服返回顶部
快速回复 返回顶部 返回列表