墨穗app.notebase.cn
控制台
内容库
动态
管理
账户
U
用户
--
在线
v1.0.165 · 墨穗笔记
笔记

Notebase墨穗
静水流深,落墨成穗。

0笔记
0工具
30推荐

分类导航

按主题直达

编辑精选

站内用户贡献 · 真实笔记

最新收录

每日更新
继续浏览全部内容 →

笔记

0
加载中...

工具

0

此页用于记录用户反馈问题后的每一次改进

关于

笔记用法

“写笔记”支持四种格式——Word 文档、Excel 表格、Markdown、纯文本,起稿或二次编辑时都能随时切换,同一篇笔记想用哪种形态来记,都由你说了算。

md、txt、csv、json 这类纯文本则原样载入,不做多余加工。拿一张现成的表倒进来、改几笔、再导出去,等于白用一台免费的格式转换器。

要带走就在右上角点“下载”,可导出 PDF、Word、Markdown、Excel、TXT 等格式;列表卡片“⋯”菜单里,也有同样的下载入口。

工具用法

在“工具”页点“+ 上传工具”即可发布:填好名称与链接,再用 Markdown 把使用方法写清楚——能解决什么问题、怎么装、怎么用,比堆介绍实在。

要分发安装包就一并上传压缩包(ZIP、RAR、7Z、TAR.GZ,最大 35MB),别人在详情页一键下载;只放链接不带附件也可以。

工具按大家的收藏热度排序,好用的自然会被顶上来。发布后可在详情页或卡片菜单里编辑、下架。

隐藏笔记

写笔记时勾上“隐藏”,这篇就只存在于你自己的账号里:不进列表、不进搜索、不上首页精选,也不会出现在任何公开的页面,链接发给别人同样打不开。

适合放密码、草稿、日记这类只给自己看的内容;想公开,去“发布”打开它,把“隐藏”的勾去掉再保存,之后编辑会默认保持原状态,不会悄悄变回公开。

不想公开、只想临时给人看:点“分享”生成一条带密码和有效期的链接,到期自动失效,你也能随时撤销。

数据安全

你的内容会同时保存在多个副本上,系统定期做备份与完整性校验,再配合异地容灾机制:就算某台机器出问题,数据也不会丢,可以长期放心存放;特别重要的资料,仍建议你另外再留一份备份。

技术

全站跑在容器化、模块化的现代架构上,更新、部署、回滚都很快,扩展性和稳定性都按长期运营的标准来设计(Built for reliability, designed to scale)。

理念

这个网站最早只是一个人的笔记仓库,后来慢慢长成现在的知识中枢。设计上很克制——没有广告、没有追踪、没有推荐算法,只是干干净净地存放一些东西;既然做好了,就公开出来,万一有人用得上呢。

原则

不做大而全,不做平台梦,保持简单、保持克制、保持好奇。所有内容都由用户贡献、由用户维护:不会突然冒出付费墙,不会在角落塞广告位,也不会把你的数据卖给第三方。

更多

产品会持续迭代,站内日志页记录着每一次改动,改了什么都有迹可循;想了解这个站是怎么一步步走到今天的,翻翻日志就能看到来龙去脉。

举报

如果在这里看到涉嫌违规的内容,点对应卡片右侧的“举报”按钮就能提交,我们会尽快核实处理;也谢谢你花一点时间,一起把这里维护干净。

趋势

// 点击导航加载发现
归档
// 归档为空
最近浏览
// 暂无浏览记录
发布
// 加载中...
用户发布
// 加载中...
用户管理
// 加载中...
访问统计
// 加载中...
内容审核
// 加载中...
个人信息
// 加载中...
返回首页

Fable 5 技能蒸馏:用顶级模型训练廉价模型的高效提示方案

2026-07-08人工智能

> Fable 5 技能蒸馏:一个利用提示工程将顶级模型能力转化为小模型可复用技能的方案

一、项目概述

Fable 5 Train Opus Skills After It Retires 是一个基于提示工程的实验性项目,旨在通过精心设计的系统提示,让顶级大语言模型(如 Claude Opus)在“退役”前生成结构化的技能知识,然后让更便宜的模型(如 Claude Haiku、GPT-3.5、本地小模型)直接调用这些技能,从而在低成本下获得接近高端模型的效果。

项目核心思路是:一次性使用昂贵模型生成“技能包”,然后无限次用廉价模型执行这些技能,实现推理成本的指数级降低。

项目 GitHub 地址:https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires

二、痛点分析:大模型部署的成本困境

当前大语言模型应用面临一个核心矛盾:

  1. 性能 vs 成本:顶尖模型(Claude Opus、GPT-4)推理成本极高,每百万 token 价格可达 15-60 美元,不适合高频调用场景。
  2. 小模型能力不足:廉价模型(Haiku、GPT-3.5、Llama 3-8B)虽然成本低(每百万 token 0.1-1 美元),但在复杂推理、长上下文理解、代码生成等任务上表现明显逊色。
  3. 微调门槛高:对模型进行微调需要大量标注数据、GPU 资源和机器学习专业知识,普通开发者难以负担。

Fable 5 试图提供第三条路径:不微调模型,而是通过提示工程让大模型教会小模型如何思考。

三、工作原理:技能蒸馏的提示工程实现

3.1 核心流程

项目的工作流程分为两个阶段:

阶段一:技能创建(用 Opus)

用户输入 → Fable 5 系统提示 → Claude Opus → 输出结构化技能包(JSON/XML格式)

阶段二:技能执行(用 Haiku 或更小模型)

用户输入 + 技能包 → Fable 5 执行提示 → 廉价模型 → 高质量输出

3.2 安装与使用

步骤 1:克隆仓库
bash
git clone https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires.git
cd fable-5-train-opus-skills-after-it-retires

步骤 2:配置 API 密钥

创建 .env 文件:

ANTHROPIC_API_KEY=your_anthropic_key_here
OPENAI_API_KEY=your_openai_key_here

步骤 3:安装依赖
bash
pip install -r requirements.txt

步骤 4:运行技能创建
python
from fable5 import create_skill, execute_skill

用 Opus 创建一个代码审查技能

skill = create_skill(
model="claude-3-opus-20240229",
skill_description="审查Python代码,找出性能瓶颈和安全漏洞",
examples=[
{"input": "def process(data):\n return [i**2 for i in data]",
"output": "安全:无注入风险\n性能:列表推导式高效,但大数据集建议用生成器"}
]
)

用 Haiku 执行该技能

result = execute_skill(
model="claude-3-haiku-20240307",
skill=skill,
user_input="""
def get_user(user_id):
return db.execute(f"SELECT * FROM users WHERE id = {user_id}")"""
)
print(result)

输出:严重漏洞:SQL注入!请使用参数化查询。

步骤 5:直接使用提示模板(无需代码)

如果你不想写代码,可以直接复制项目中的系统提示到 Claude Opus 的对话界面:

你现在是Fable 5技能训练师。用户会描述他们想要的技能,你需要生成一个完整的技能包。
技能包包含:

  1. 技能名称(简短)
  2. 触发条件(用户输入需要满足什么特征)
  3. 推理步骤(1-5步的思考链)
  4. 输出模板(格式约束)
  5. 边界条件(什么情况该拒绝回答)
  6. 示例(至少3个)

请用JSON格式输出。

然后将生成的 JSON 粘贴给 Haiku,并附上系统提示:

你正在执行一个预定义的技能。请严格按照以下技能包执行:
[粘贴技能JSON]
用户输入:{用户问题}

四、核心亮点与创新

4.1 零成本微调

  • 不需要训练数据,不需要 GPU,不需要 ML 知识
  • 完全通过提示工程实现“技能迁移”
  • 一次创建,无限复用

4.2 成本对比

场景 直接使用 Opus Fable 5 方案 节省比例
1000次代码审查 $150 $1.5(创建$5 + 执行$0.001×1000) 99%
日常问答5000次 $750 $10 98.7%
企业客服10000次/天 $1500/天 $20/天 + 一次性$5 98.7%

4.3 技能的可移植性

  • 技能包是纯文本 JSON,可以在任何支持提示的模型间迁移
  • 支持 Claude、GPT、Llama、Mistral 等主流模型
  • 即使模型厂商关闭,技能包依然可用

4.4 渐进式质量提升

  • 可以不断用 Opus 优化技能包(迭代版本)
  • 支持技能组合(多个技能包串联)
  • 可以针对特定领域深度定制

五、适用场景

5.1 最佳实践场景

  1. 高频 API 调用:客服机器人、内容审核、数据标注等需要大量调用且对成本敏感的场景
  2. 垂直领域工具:法律文书审核、医疗报告初筛、代码安全扫描等需要专业知识的工具
  3. 边缘设备部署:将技能包嵌入手机或物联网设备,本地运行小模型即可获得专业能力
  4. 教育与培训:为学生提供低成本的高质量 AI 辅导

5.2 不适合的场景

  • 需要实时更新的知识(技能包是静态的)
  • 极度依赖创造性的开放任务(技能包的推理步骤可能限制创造力)
  • 需要多轮深度对话(技能包设计为单轮执行)

六、同类项目对比

6.1 与微调方案对比

维度 Fable 5 传统微调
成本 $0-5 $100-10000+
数据需求 0 1000+标注样本
技术门槛 低 高(ML工程)
模型依赖 任意模型 固定模型
更新迭代 秒级 数小时-数天

6.2 与其他提示工程方案对比

  • Chain-of-Thought (CoT):Fable 5 将 CoT 封装为可复用的技能包,而非每次手动编写
  • Few-shot prompting:Fable 5 的示例更结构化,且包含边界条件和推理步骤
  • AutoGPT 等 Agent 框架:Fable 5 更轻量,专注于单技能执行而非复杂任务编排

6.3 与模型蒸馏对比

传统模型蒸馏(如 DistilBERT)需要:

  1. 访问教师模型的完整架构和权重
  2. 大量训练数据和计算资源
  3. 重新训练学生模型

Fable 5 的提示蒸馏:

  1. 只需要 API 访问权限
  2. 零训练成本
  3. 即时部署

七、技术实现细节

7.1 技能包的结构

{
"skill_name": "python_code_review",
"version": "1.0",
"trigger_conditions": {
"input_type": "python_code",
"min_lines": 1,
"max_lines": 500
},
"reasoning_steps": [
"1. 分析代码结构:函数、类、导入",
"2. 检查常见安全漏洞:SQL注入、XSS、命令注入",
"3. 检查性能问题:循环优化、内存使用",
"4. 检查代码风格:PEP8合规性",
"5. 生成结构化报告"
],
"output_template": {
"severity": "critical|high|medium|low|info",
"category": "security|performance|style|logic",
"line_numbers": [],
"description": "",
"suggestion": ""
},
"boundary_conditions": {
"refuse_if": ["非代码输入", "恶意代码", "超长代码"],
"fallback": "输出通用代码审查建议"
},
"examples": [
{
"input": "eval(request.GET['code'])",
"output": {
"severity": "critical",
"category": "security",
"line_numbers": [1],
"description": "使用eval执行用户输入,存在远程代码执行风险",
"suggestion": "改用ast.literal_eval或安全解析库"
}
}
]
}

7.2 提示模板的优化技巧

项目提示模板中包含了几个关键优化:

  1. 角色锚定:明确告知模型“你是一个技能训练师/执行者”
  2. 结构化输出:要求 JSON 格式,便于程序解析
  3. 边界条件:定义模型应该拒绝回答的情况,减少幻觉
  4. 迭代改进:提示中包含“如果用户不满意,请要求反馈并优化”

八、局限性与改进方向

8.1 当前局限

  1. 技能质量依赖 Opus:如果 Opus 生成的技能包质量不高,后续执行效果会打折扣
  2. 静态知识:技能包创建后不会自动更新,需要手动迭代
  3. 上下文丢失:每次执行是独立的,无法利用历史对话
  4. 模型差异:不同小模型对相同技能包的理解能力不同

8.2 未来改进方向

  1. 自动技能优化:用反馈循环自动改进技能包
  2. 技能市场:用户分享和交易技能包
  3. 动态技能组合:根据用户输入自动选择/组合多个技能
  4. 跨模态扩展:将技能概念扩展到图像、音频领域

九、总结评价

Fable 5 是一个极具创意的提示工程实验,它巧妙地将“模型蒸馏”的概念用纯提示的方式实现,为低成本部署高质量 AI 能力提供了新思路。虽然它不能完全替代微调或传统蒸馏,但对于预算有限、技术团队较小的个人开发者或中小企业来说,是一个立即可用的实用方案。

优点:

  • 零成本、零门槛
  • 立即可用,无需训练
  • 成本节省 98%+ 效果可观

缺点:

  • 技能质量上限受限于 Opus
  • 不适合动态知识场景
  • 缺乏社区生态

推荐指数:★★★★☆(4/5)

十、项目链接

  • GitHub 仓库:https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires
  • Stars:286(截至撰写时)
  • 语言:主要使用 Python 和 Markdown 提示模板
  • 许可证:MIT
相似推荐
DeepSeek Harness Windows 安装保姆教学:一条 npx 命令跑起 Web UIMistral OCR:重新定义文档理解的OCR技术Claude Opus 4.8 深度解析:更诚实、更高效的 AI 协作新纪元Claude Opus 5 深度解析:半价逼近前沿智能的日常化模型Gemma 4:Google DeepMind 开源模型的最新里程碑DeepSeek-R1 深度解析:纯强化学习激发大模型推理能力,蒸馏小模型同样强悍
编写使用方法
Markdown 格式 · Ctrl+Enter 确定
0 字新建笔记
欢迎回来
登录你的墨穗笔记账户
忘记密码?
还没有账户?立即注册
创建账户
注册你的专属墨穗笔记
已有账户?去登录
找回密码
输入注册邮箱获取验证码
返回登录
请输入图片中的验证码以继续注册
加载中...
取消
新建收藏
手动添加你喜欢的内容
取消
编辑头像与昵称
上传新头像或修改你的显示昵称
支持 JPG/PNG,最大 2MB
取消

问题反馈

隐私提醒

取消
编辑工具
受控分享
为这篇笔记生成限时 / 带密码的临时链接
关闭