CPU-ARC: Agentic Reasoning Caching for on-CPU Reasoning Reuse 封面
HuggingFace
论文

CPU-ARC: Agentic Reasoning Caching for on-CPU Reasoning Reuse

Large language models reinvent the wheel all the time. They conflate task-solving with the execution of the solutions, which forces them to solve every problem from scratch. We show that once a task has been reasoned th…

来源:HuggingFace Papers收录于 2026年11月10日

站内导读

中文

定位:一篇提出「智能体推理缓存」的论文 CPU-ARC,主张把已经推理过的求解过程缓存下来在 CPU 侧复用,而不是让大模型每个问题都从零开始。

核心内容:大语言模型常把「解题」与「执行解法」混为一谈,导致每次都要重新推理一遍。CPU-ARC 将两者解耦:一个任务一旦被推理出解法,其推理结果即可被缓存,后续遇到相同任务时直接复用已有推理,省去重复的从零求解开销。

适用人群:研究 LLM 推理优化、智能体系统以及低成本推理部署的研究者与工程师。

相关项目 · HuggingFace

查看全部「HuggingFace」项目 →