OpenAI:自发布首款定制推理芯片Jalapeño以来,我们一直在对该芯片及其配套系统开展测试。
测试结果取得重大进展:单位功耗可输出更高智能能力,响应速度更快。
该单一架构在不牺牲能效的前提下,同时实现更高吞吐量与更低延迟。
Jalapeño将带来更快的ChatGPT响应速度、反应更灵敏的Codex会话与智能体,并且在需求持续增长的情况下保障服务稳定可用。
OpenAI:自发布首款定制推理芯片Jalapeño以来,我们一直在对该芯片及其配套系统开展测试。
测试结果取得重大进展:单位功耗可输出更高智能能力,响应速度更快。
该单一架构在不牺牲能效的前提下,同时实现更高吞吐量与更低延迟。
Jalapeño将带来更快的ChatGPT响应速度、反应更灵敏的Codex会话与智能体,并且在需求持续增长的情况下保障服务稳定可用。