Broken on Arrival: Non-Functional Quantized LLM Artifacts in Public Model Registries and How to Catch Them 封面
HuggingFace
论文2026-10-2…

Broken on Arrival: Non-Functional Quantized LLM Artifacts in Public Model Registries and How to Catch Them

Developers download quantized large language models (LLMs) from public registries to run them locally. None of the registries we examined documented functional testing of their files. We tested all 305 eligible code-cap…

来源:HuggingFace Papers收录于 2026年11月2日

站内导读

中文

用途:这项研究揭示了公共模型仓库中量化 LLM 文件未经功能测试的问题,并给出检测损坏产物的方法,帮助开发者在本地部署前识别不可用模型。\n能做什么\n- 测试了 305 个符合条件的代码生成量化模型,发现部分文件在下载后无法正常运行。\n- 指出公共注册表均未记录对文件进行功能测试,下载即用的假设不成立。\n- 提供一套检测流程,用于在本地运行前发现量化产物的功能缺陷。\n适用场景:适合从公共仓库下载量化 LLM 并在本地部署的开发者,以及负责模型分发质量把关的团队参考。

相关项目 · HuggingFace

查看全部「HuggingFace」项目 →