AI 推理感知最优潮流:将 token 需求转化为电网灵活性
论文提出一种 AI 推理感知最优潮流模型,把推理请求路由与电力系统运行放在同一框架中协调。作者基于 GPU 实测对推理时延和数据中心功耗建模,量化在用户首 token 时延(TTFT)与 token 间时延(ITL)要求下可用的时空灵活性,并将用户请求、数据中心 token 生成与输电网送电关联起来。
论文提出一种 AI 推理感知最优潮流模型,把推理请求路由与电力系统运行放在同一框架中协调。作者基于 GPU 实测对推理时延和数据中心功耗建模,量化在用户首 token 时延(TTFT)与 token 间时延(ITL)要求下可用的时空灵活性,并将用户请求、数据中心 token 生成与输电网送电关联起来。