Fable 5 被封禁后，我在本地跑了一个蒸馏版
远舟笔记·第19篇
前段时间，Claude 家族里表现很亮眼的 Fable 5，被美国以国家安全为由封禁了。
国内用户无法再通过官方渠道使用它。
但没过多久，社区里冒出了一个名字长得离谱的模型：
Qwable-9B-Claude-Fable-5-i1。
它本质上是一个基于 Fable 5 输出蒸馏出来的 9B 小模型。
换句话说：
有人把 Fable 5 的能力提取出来，装进了一个普通笔记本就能运行的小模型里。
这让我产生了一个好奇：
如果原版已经无法使用，那么这个蒸馏版到底还能保留几成功力？
于是我打开 LM Studio，在本地跑了一遍，并设计了 16 道题做测试。
结果，比我预想的更好。
测试环境
模型是量化版（Q4_K_S），配置很普通：
| 项目 | 数值 |
|---|---|
| 参数量 | 9B |
| 上下文 | 4096 |
| 速度 | 9.5 tokens/秒 |
| 首字延迟 | 约22秒 |
每次提问都要等 20 多秒才开始出字。这是本地 CPU 推理的通病，不是模型本身的问题，但确实影响体验。
我设计了16道题
覆盖 7 个维度，逐一说结果。
1. 逻辑推理（3题）
水池进水出水、三人过河、三段论推理。三道题全部正确，推理过程完整。
三人过河那题，模型不仅给出了最优方案（8分钟），还主动排除了其他方案的可行性。这比单纯给答案更让我意外。
2. 知识问答（2题）
大模型幻觉的原因、光速在不同介质中的变化。回答准确全面，该列的点都列了，没有明显错误。
3. 中文理解（3题）
「差一点没考上」vs「差一点考上了」的意思辨析、多义词造句、成语解释。全部准确理解，尤其「差一点」那个，它正确区分了「差点没考上=考上了」和「差点考上了=没考上」的语义对立。
4. 代码生成（2题）
斐波那契数列（递归+迭代两种方式）和 HTML 卡片组件。代码可以直接运行，没报错。
5. 创意写作（2题·翻车现场）
公众号标题给了三个正常选项，中规中矩。
但微小说那题就搞笑了。
我要求以「深夜的便利店」开头写 100 字以内的故事，结果模型没有直接写。它先开始疯狂数数字：
「深夜的便利店（6字）……」
「再写20字……」
「还剩多少字……」
日志里光数数字就占了快 3000 个 token，最后硬凑出一个故事。
整个过程像极了考场上拼命凑字数的学生。
6. 指令遵循（2题）
50字自我介绍——模型回答了47字，严格控制在限制内。3句话解释模型蒸馏——也按要求完成，没有偷懒。
7. 语气切换（2题）
正式请假邮件——称呼、事由、日期、交接、恳请，格式完整。幽默解释程序员讨厌打断——用了「厨师炒菜被抢锅」的比喻，挺形象。
整体评分
| 维度 | 评分 | 说明 |
|---|---|---|
| 逻辑推理 | 9/10 | 三道题全部正确，推理完整 |
| 知识问答 | 8/10 | 回答准确，该列的要点都列了 |
| 中文理解 | 9/10 | 语义辨析到位，无明显错误 |
| 代码生成 | 8/10 | 可直接运行 |
| 创意写作 | 6/10 | 微小说翻车，标题正常 |
| 指令遵循 | 9/10 | 严格按要求执行 |
| 推理速度 | 4/10 | 首字22秒，慢得难受 |
综合评分：8/10
一点思考
Fable 5 被封禁了，官方渠道走不通。但蒸馏模型的存在说明一件事：能力可以被封锁，知识很难被彻底隔绝。
16道题跑下来，至少在基础任务上，我没有感觉到明显的能力断层。逻辑推理、中文理解、指令遵循这些日常场景，9B 蒸馏模型的表现超出预期。
当然，速度是硬伤——首字 22 秒的延迟很难坚持日常使用。
但换个角度看，过去几年大模型的发展路线一直是「更大、更强」。而蒸馏模型提供了另一条路线：不是让每个人都连接最强的 AI，而是让足够好的 AI 进入每个人的电脑。
也许未来真正普及的，不一定是最大的模型，而是那些能在普通设备上稳定运行、又足够聪明的小模型。
📚 你可能还想读
- [远舟笔记第14篇：我用 MiMo Code 搭了一个博客，全程没写一行代码]（把复杂的事情变简单，本身就是一种能力）
- [远舟笔记第17篇：AI时代，键盘开始变成我的想法限速器]（当工具本身成为瓶颈，就该重新审视人机关系了）