笔记
0工具
0此页用于记录用户反馈问题后的每一次改进
关于
“写笔记”支持四种格式——Word 文档、Excel 表格、Markdown、纯文本,起稿或二次编辑时都能随时切换,同一篇笔记想用哪种形态来记,都由你说了算。
md、txt、csv、json 这类纯文本则原样载入,不做多余加工。拿一张现成的表倒进来、改几笔、再导出去,等于白用一台免费的格式转换器。
要带走就在右上角点“下载”,可导出 PDF、Word、Markdown、Excel、TXT 等格式;列表卡片“⋯”菜单里,也有同样的下载入口。
在“工具”页点“+ 上传工具”即可发布:填好名称与链接,再用 Markdown 把使用方法写清楚——能解决什么问题、怎么装、怎么用,比堆介绍实在。
要分发安装包就一并上传压缩包(ZIP、RAR、7Z、TAR.GZ,最大 35MB),别人在详情页一键下载;只放链接不带附件也可以。
工具按大家的收藏热度排序,好用的自然会被顶上来。发布后可在详情页或卡片菜单里编辑、下架。
写笔记时勾上“隐藏”,这篇就只存在于你自己的账号里:不进列表、不进搜索、不上首页精选,也不会出现在任何公开的页面,链接发给别人同样打不开。
适合放密码、草稿、日记这类只给自己看的内容;想公开,去“发布”打开它,把“隐藏”的勾去掉再保存,之后编辑会默认保持原状态,不会悄悄变回公开。
不想公开、只想临时给人看:点“分享”生成一条带密码和有效期的链接,到期自动失效,你也能随时撤销。
你的内容会同时保存在多个副本上,系统定期做备份与完整性校验,再配合异地容灾机制:就算某台机器出问题,数据也不会丢,可以长期放心存放;特别重要的资料,仍建议你另外再留一份备份。
全站跑在容器化、模块化的现代架构上,更新、部署、回滚都很快,扩展性和稳定性都按长期运营的标准来设计(Built for reliability, designed to scale)。
这个网站最早只是一个人的笔记仓库,后来慢慢长成现在的知识中枢。设计上很克制——没有广告、没有追踪、没有推荐算法,只是干干净净地存放一些东西;既然做好了,就公开出来,万一有人用得上呢。
不做大而全,不做平台梦,保持简单、保持克制、保持好奇。所有内容都由用户贡献、由用户维护:不会突然冒出付费墙,不会在角落塞广告位,也不会把你的数据卖给第三方。
产品会持续迭代,站内日志页记录着每一次改动,改了什么都有迹可循;想了解这个站是怎么一步步走到今天的,翻翻日志就能看到来龙去脉。
如果在这里看到涉嫌违规的内容,点对应卡片右侧的“举报”按钮就能提交,我们会尽快核实处理;也谢谢你花一点时间,一起把这里维护干净。
趋势
Fable 5 技能蒸馏:用顶级模型训练廉价模型的高效提示方案
> Fable 5 技能蒸馏:一个利用提示工程将顶级模型能力转化为小模型可复用技能的方案
一、项目概述
Fable 5 Train Opus Skills After It Retires 是一个基于提示工程的实验性项目,旨在通过精心设计的系统提示,让顶级大语言模型(如 Claude Opus)在“退役”前生成结构化的技能知识,然后让更便宜的模型(如 Claude Haiku、GPT-3.5、本地小模型)直接调用这些技能,从而在低成本下获得接近高端模型的效果。
项目核心思路是:一次性使用昂贵模型生成“技能包”,然后无限次用廉价模型执行这些技能,实现推理成本的指数级降低。
项目 GitHub 地址:https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires
二、痛点分析:大模型部署的成本困境
当前大语言模型应用面临一个核心矛盾:
- 性能 vs 成本:顶尖模型(Claude Opus、GPT-4)推理成本极高,每百万 token 价格可达 15-60 美元,不适合高频调用场景。
- 小模型能力不足:廉价模型(Haiku、GPT-3.5、Llama 3-8B)虽然成本低(每百万 token 0.1-1 美元),但在复杂推理、长上下文理解、代码生成等任务上表现明显逊色。
- 微调门槛高:对模型进行微调需要大量标注数据、GPU 资源和机器学习专业知识,普通开发者难以负担。
Fable 5 试图提供第三条路径:不微调模型,而是通过提示工程让大模型教会小模型如何思考。
三、工作原理:技能蒸馏的提示工程实现
3.1 核心流程
项目的工作流程分为两个阶段:
阶段一:技能创建(用 Opus)
用户输入 → Fable 5 系统提示 → Claude Opus → 输出结构化技能包(JSON/XML格式)
阶段二:技能执行(用 Haiku 或更小模型)
用户输入 + 技能包 → Fable 5 执行提示 → 廉价模型 → 高质量输出
3.2 安装与使用
步骤 1:克隆仓库
bash
git clone https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires.git
cd fable-5-train-opus-skills-after-it-retires
步骤 2:配置 API 密钥
创建 .env 文件:
ANTHROPIC_API_KEY=your_anthropic_key_here
OPENAI_API_KEY=your_openai_key_here
步骤 3:安装依赖
bash
pip install -r requirements.txt
步骤 4:运行技能创建
python
from fable5 import create_skill, execute_skill
用 Opus 创建一个代码审查技能
skill = create_skill(
model="claude-3-opus-20240229",
skill_description="审查Python代码,找出性能瓶颈和安全漏洞",
examples=[
{"input": "def process(data):\n return [i**2 for i in data]",
"output": "安全:无注入风险\n性能:列表推导式高效,但大数据集建议用生成器"}
]
)
用 Haiku 执行该技能
result = execute_skill(
model="claude-3-haiku-20240307",
skill=skill,
user_input="""
def get_user(user_id):
return db.execute(f"SELECT * FROM users WHERE id = {user_id}")"""
)
print(result)
输出:严重漏洞:SQL注入!请使用参数化查询。
步骤 5:直接使用提示模板(无需代码)
如果你不想写代码,可以直接复制项目中的系统提示到 Claude Opus 的对话界面:
你现在是Fable 5技能训练师。用户会描述他们想要的技能,你需要生成一个完整的技能包。
技能包包含:
- 技能名称(简短)
- 触发条件(用户输入需要满足什么特征)
- 推理步骤(1-5步的思考链)
- 输出模板(格式约束)
- 边界条件(什么情况该拒绝回答)
- 示例(至少3个)
请用JSON格式输出。
然后将生成的 JSON 粘贴给 Haiku,并附上系统提示:
你正在执行一个预定义的技能。请严格按照以下技能包执行:
[粘贴技能JSON]
用户输入:{用户问题}
四、核心亮点与创新
4.1 零成本微调
- 不需要训练数据,不需要 GPU,不需要 ML 知识
- 完全通过提示工程实现“技能迁移”
- 一次创建,无限复用
4.2 成本对比
| 场景 | 直接使用 Opus | Fable 5 方案 | 节省比例 |
|---|---|---|---|
| 1000次代码审查 | $150 | $1.5(创建$5 + 执行$0.001×1000) | 99% |
| 日常问答5000次 | $750 | $10 | 98.7% |
| 企业客服10000次/天 | $1500/天 | $20/天 + 一次性$5 | 98.7% |
4.3 技能的可移植性
- 技能包是纯文本 JSON,可以在任何支持提示的模型间迁移
- 支持 Claude、GPT、Llama、Mistral 等主流模型
- 即使模型厂商关闭,技能包依然可用
4.4 渐进式质量提升
- 可以不断用 Opus 优化技能包(迭代版本)
- 支持技能组合(多个技能包串联)
- 可以针对特定领域深度定制
五、适用场景
5.1 最佳实践场景
- 高频 API 调用:客服机器人、内容审核、数据标注等需要大量调用且对成本敏感的场景
- 垂直领域工具:法律文书审核、医疗报告初筛、代码安全扫描等需要专业知识的工具
- 边缘设备部署:将技能包嵌入手机或物联网设备,本地运行小模型即可获得专业能力
- 教育与培训:为学生提供低成本的高质量 AI 辅导
5.2 不适合的场景
- 需要实时更新的知识(技能包是静态的)
- 极度依赖创造性的开放任务(技能包的推理步骤可能限制创造力)
- 需要多轮深度对话(技能包设计为单轮执行)
六、同类项目对比
6.1 与微调方案对比
| 维度 | Fable 5 | 传统微调 |
|---|---|---|
| 成本 | $0-5 | $100-10000+ |
| 数据需求 | 0 | 1000+标注样本 |
| 技术门槛 | 低 | 高(ML工程) |
| 模型依赖 | 任意模型 | 固定模型 |
| 更新迭代 | 秒级 | 数小时-数天 |
6.2 与其他提示工程方案对比
- Chain-of-Thought (CoT):Fable 5 将 CoT 封装为可复用的技能包,而非每次手动编写
- Few-shot prompting:Fable 5 的示例更结构化,且包含边界条件和推理步骤
- AutoGPT 等 Agent 框架:Fable 5 更轻量,专注于单技能执行而非复杂任务编排
6.3 与模型蒸馏对比
传统模型蒸馏(如 DistilBERT)需要:
- 访问教师模型的完整架构和权重
- 大量训练数据和计算资源
- 重新训练学生模型
Fable 5 的提示蒸馏:
- 只需要 API 访问权限
- 零训练成本
- 即时部署
七、技术实现细节
7.1 技能包的结构
{
"skill_name": "python_code_review",
"version": "1.0",
"trigger_conditions": {
"input_type": "python_code",
"min_lines": 1,
"max_lines": 500
},
"reasoning_steps": [
"1. 分析代码结构:函数、类、导入",
"2. 检查常见安全漏洞:SQL注入、XSS、命令注入",
"3. 检查性能问题:循环优化、内存使用",
"4. 检查代码风格:PEP8合规性",
"5. 生成结构化报告"
],
"output_template": {
"severity": "critical|high|medium|low|info",
"category": "security|performance|style|logic",
"line_numbers": [],
"description": "",
"suggestion": ""
},
"boundary_conditions": {
"refuse_if": ["非代码输入", "恶意代码", "超长代码"],
"fallback": "输出通用代码审查建议"
},
"examples": [
{
"input": "eval(request.GET['code'])",
"output": {
"severity": "critical",
"category": "security",
"line_numbers": [1],
"description": "使用eval执行用户输入,存在远程代码执行风险",
"suggestion": "改用ast.literal_eval或安全解析库"
}
}
]
}
7.2 提示模板的优化技巧
项目提示模板中包含了几个关键优化:
- 角色锚定:明确告知模型“你是一个技能训练师/执行者”
- 结构化输出:要求 JSON 格式,便于程序解析
- 边界条件:定义模型应该拒绝回答的情况,减少幻觉
- 迭代改进:提示中包含“如果用户不满意,请要求反馈并优化”
八、局限性与改进方向
8.1 当前局限
- 技能质量依赖 Opus:如果 Opus 生成的技能包质量不高,后续执行效果会打折扣
- 静态知识:技能包创建后不会自动更新,需要手动迭代
- 上下文丢失:每次执行是独立的,无法利用历史对话
- 模型差异:不同小模型对相同技能包的理解能力不同
8.2 未来改进方向
- 自动技能优化:用反馈循环自动改进技能包
- 技能市场:用户分享和交易技能包
- 动态技能组合:根据用户输入自动选择/组合多个技能
- 跨模态扩展:将技能概念扩展到图像、音频领域
九、总结评价
Fable 5 是一个极具创意的提示工程实验,它巧妙地将“模型蒸馏”的概念用纯提示的方式实现,为低成本部署高质量 AI 能力提供了新思路。虽然它不能完全替代微调或传统蒸馏,但对于预算有限、技术团队较小的个人开发者或中小企业来说,是一个立即可用的实用方案。
优点:
- 零成本、零门槛
- 立即可用,无需训练
- 成本节省 98%+ 效果可观
缺点:
- 技能质量上限受限于 Opus
- 不适合动态知识场景
- 缺乏社区生态
推荐指数:★★★★☆(4/5)
十、项目链接
- GitHub 仓库:https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires
- Stars:286(截至撰写时)
- 语言:主要使用 Python 和 Markdown 提示模板
- 许可证:MIT