AMD 和 Cerebras 宣布行业领先的超低延迟和高吞吐量 AI 推理解决方案
跳至内容 新闻档案 经济 能源 石油和天然气 可再生能源 电动车 矿业 商品 农业 房地产 抵押贷款 抵押贷款利率 金融 银行 保险 金融科技 加密货币 工作 财富 智能财富 财富管理 投资者 个人理财 家庭财务 退休 税收 高净值 FP 评论 高管女性 Puzzmo 新闻通讯 财务时报 商业精要 更多 创新 信息技术 FP500 播客 小企业 讲述的生命 故事购物 财务邮报商店 讣告 发布通知 广告 与我们广告 广告解决方案 Postmedia 广告管理 Sponsorship Requests 分类广告 发布分类广告 工作 个人资料设置 我的订阅 已保存文章 我的报价 新闻通讯 客户服务 常见问题 新闻 经济 能源 矿业 房地产 金融 工作 财富 投资者 FP 评论 高管女性 Puzzmo 新闻通讯 财务时报 商业精要 首页 GlobeNewswire AMD 和 Cerebras 宣布行业领先的超低延迟和高吞吐量 AI 推理解决方案 文章作者:您可以通过在这里注册免费的方式保存此文章。或者,如果您有帐户,请登录。 新闻亮点:立即订阅以阅读您所在城市和加拿大的最新新闻。Barbara Shecter、Joe O'Connor、Gabriel Friedman 和其他人的独家文章。来自《财务时报》的每日内容,这是全球领先的商业出版物。使用一个帐户无缝访问来自《金融邮报》、《国家邮报》和加拿大15个新闻网站的文章。国家邮报电子报,打印版的电子复制,可在任何设备上查看、分享和评论。每日难题,包括《纽约时报》填字游戏。立即订阅以阅读您所在城市和加拿大的最新新闻。Barbara Shecter、Joe O'Connor、Gabriel Friedman 等人的独家文章。来自《财务时报》的每日内容,这是全球领先的商业出版物。使用一个帐户无缝访问来自《金融邮报》、《国家邮报》和加拿大15个新闻网站的文章。国家邮报电子报,打印版的电子复制,可在任何设备上查看、分享和评论。每日难题,包括《纽约时报》填字游戏。创建一个帐户或登录以继续享受您的阅读体验。使用一个帐户访问来自加拿大的文章。分享您的想法并参与评论中的讨论。每月享有额外的文章。获取您最喜欢的作者的电子邮件更新。创建一个帐户或登录以继续享受您的阅读体验。使用一个帐户访问来自加拿大的文章 分享您的想法并参与评论中的讨论 享有每月额外的文章 获取您最喜欢的作者的电子邮件更新 登录或创建账户,或者 AMD 和 Cerebras 正在合作推进一种针对超低延迟 AI 推理基础设施的工作负载优化方法。AMD Helios™ 和 Cerebras 晶圆级引擎将在单一推理工作流程中协同运行,以实现最佳性能和效率。AMD Helios 将提供高性能、可扩展的吞吐引擎。Cerebras 晶圆级引擎技术将提供超快、超低延迟的解码和令牌生成。预计这两种计算引擎可以实现每瓦特每秒最高 5 倍的令牌生成(T/s/W)。AI 推理工作负载对于延迟、吞吐量、令牌容量、成本和规模的要求日益多样化。大规模工作负载优先考虑最大化令牌生成,而编码、实时助手、现场代理和智能工作流程则要求更快的响应时间。这些差异推动了对异构基础设施的需求。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡