AI推理感知最优潮流预印本发布
热点事件历史事件
AI推理感知最优潮流预印本发布
1 篇报道1 个报道来源4 天前更新
先了解这件事
AI 综述
Qianyi Ma、Dawei Qiu、Xiao Liu 发布预印本论文,提出一种 AI 推理感知最优潮流模型,把推理请求路由与电力系统运行放在同一框架中协调。作者称,基于 GPU 实测对推理时延和数据中心功耗建模,可量化在用户首 token 时延(TTFT)与 token 间时延(ITL)要求下可用的时空灵活性,并将用户请求、数据中心 token 生成与输电网送电关联起来。 作者称,在 PJM 系统上的仿真显示,与基于计算的调度和基于电价的调度相比,将推理路由与网络运行协调,能以更低成本满足不断增长的数据中心用电需求。该结论来自预印本仿真,尚未经同行评审。
AI 根据报道生成 · 33 分钟前更新
最新进展11月14日 11:24
AI 推理感知最优潮流:将 token 需求转化为电网灵活性报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- arXiv 电力系统研究AI 推理感知最优潮流:将 token 需求转化为电网灵活性
论文提出一种 AI 推理感知最优潮流模型,把推理请求路由与电力系统运行放在同一框架中协调。作者基于 GPU 实测对推理时延和数据中心功耗建模,量化在用户首 token 时延(TTFT)与 token 间时延(ITL)要求下可用的时空灵活性,并将用户请求、数据中心 token 生成与输电网送电关联起来。