笔记
0工具
0此页用于记录用户反馈问题后的每一次改进
关于
“写笔记”支持四种格式——Word 文档、Excel 表格、Markdown、纯文本，起稿或二次编辑时都能随时切换，同一篇笔记想用哪种形态来记，都由你说了算。
md、txt、csv、json 这类纯文本则原样载入，不做多余加工。拿一张现成的表倒进来、改几笔、再导出去，等于白用一台免费的格式转换器。
要带走就在右上角点“下载”，可导出 PDF、Word、Markdown、Excel、TXT 等格式；列表卡片“⋯”菜单里，也有同样的下载入口。
在“工具”页点“＋ 上传工具”即可发布：填好名称与链接，再用 Markdown 把使用方法写清楚——能解决什么问题、怎么装、怎么用，比堆介绍实在。
要分发安装包就一并上传压缩包（ZIP、RAR、7Z、TAR.GZ，最大 35MB），别人在详情页一键下载；只放链接不带附件也可以。
工具按大家的收藏热度排序，好用的自然会被顶上来。发布后可在详情页或卡片菜单里编辑、下架。
写笔记时勾上“隐藏”，这篇就只存在于你自己的账号里：不进列表、不进搜索、不上首页精选，也不会出现在任何公开的页面，链接发给别人同样打不开。
适合放密码、草稿、日记这类只给自己看的内容；想公开，去“发布”打开它，把“隐藏”的勾去掉再保存，之后编辑会默认保持原状态，不会悄悄变回公开。
不想公开、只想临时给人看：点“分享”生成一条带密码和有效期的链接，到期自动失效，你也能随时撤销。
你的内容会同时保存在多个副本上，系统定期做备份与完整性校验，再配合异地容灾机制：就算某台机器出问题，数据也不会丢，可以长期放心存放；特别重要的资料，仍建议你另外再留一份备份。
全站跑在容器化、模块化的现代架构上，更新、部署、回滚都很快，扩展性和稳定性都按长期运营的标准来设计（Built for reliability, designed to scale）。
这个网站最早只是一个人的笔记仓库，后来慢慢长成现在的知识中枢。设计上很克制——没有广告、没有追踪、没有推荐算法，只是干干净净地存放一些东西；既然做好了，就公开出来，万一有人用得上呢。
不做大而全，不做平台梦，保持简单、保持克制、保持好奇。所有内容都由用户贡献、由用户维护：不会突然冒出付费墙，不会在角落塞广告位，也不会把你的数据卖给第三方。
产品会持续迭代，站内日志页记录着每一次改动，改了什么都有迹可循；想了解这个站是怎么一步步走到今天的，翻翻日志就能看到来龙去脉。
如果在这里看到涉嫌违规的内容，点对应卡片右侧的“举报”按钮就能提交，我们会尽快核实处理；也谢谢你花一点时间，一起把这里维护干净。
趋势
30篇论文：Ilya Sutskever给John Carmack的机器学习必读清单，以初学者友好方式呈现
本文介绍了一个名为30papers.com的网站，它将Ilya Sutskever推荐给John Carmack的30篇机器学习核心论文整理成初学者友好的格式，帮助读者系统入门深度学习与AI基础。
背景：两个传奇人物的对话
Ilya Sutskever是OpenAI的联合创始人兼首席科学家，也是深度学习领域最重要的研究者之一，曾参与AlexNet、Seq2Seq、AlphaGo等里程碑式工作，并是GPT系列的核心推动者。John Carmack则是游戏引擎与VR技术领域的传奇人物，曾开发《毁灭战士》《雷神之锤》等划时代游戏，并长期关注通用人工智能（AGI）的发展。
2016年左右，Carmack曾向Sutskever请教如何系统学习机器学习，Sutskever为他整理了一份包含30篇关键论文的阅读清单。这份清单涵盖了从早期深度学习突破到现代生成模型、强化学习与注意力机制的核心文献，被视为通往现代AI前沿的“最短路径”。
30papers.com：将经典论文转化为可交互笔记
30papers.com是一个由独立开发者创建的网站，它并非简单罗列论文标题和摘要，而是为每一篇论文提供了：
- 简洁的中文/英文摘要：用通俗语言解释论文的核心贡献与创新点
- 关键概念拆解：将论文中复杂的概念（如注意力机制、残差连接、变分下界等）用图示和类比说明
- 代码片段与伪代码：部分论文附有简化的实现示例，帮助读者理解算法流程
- 论文之间的关联图谱：显示哪些论文建立在哪些工作之上，形成知识脉络
- 学习建议：针对不同背景（研究者、工程师、初学者）给出阅读顺序和重点
清单中的30篇论文（部分代表性论文）
以下是清单中一些关键论文的简介，展示其为何被视为“必读”：
AlexNet (Krizhevsky et al., 2012)：首次在ImageNet上使用深度卷积神经网络，大幅超越传统方法，标志着深度学习革命的起点。论文展示了GPU加速、ReLU激活函数、数据增强和Dropout等技术的实际威力。
Seq2Seq (Sutskever et al., 2014)：提出使用LSTM编码器-解码器架构进行序列到序列的学习，奠定了机器翻译、语音识别等任务的基础。论文引入了“学习表征”的核心思想。
Attention Is All You Need (Vaswani et al., 2017)：Transformer架构的原始论文，完全基于注意力机制，抛弃了循环和卷积，成为后续BERT、GPT、ViT等模型的基石。论文详细介绍了缩放点积注意力、多头注意力、位置编码等关键组件。
Generative Adversarial Nets (Goodfellow et al., 2014)：提出生成对抗网络（GAN），通过生成器与判别器的博弈实现高质量数据生成。论文包含了理论分析（纳什均衡）和实践技巧。
Variational Autoencoders (Kingma & Welling, 2013)：将变分推断与自编码器结合，为生成模型提供了可扩展的框架。论文引入了重参数化技巧和变分下界（ELBO），是理解现代生成模型（如扩散模型）的基础。
Deep Reinforcement Learning (Mnih et al., 2013)：首次将深度Q网络（DQN）应用于Atari游戏，直接从像素输入学习控制策略，证明深度强化学习的可行性。论文包含经验回放和目标网络等关键技巧。
ResNet (He et al., 2015)：通过残差连接解决了深层网络的退化问题，使得训练超过100层的网络成为可能。论文对梯度传播的分析和恒等映射的设计至今影响深远。
Word2Vec (Mikolov et al., 2013)：提出高效的词向量训练方法（CBOW和Skip-gram），将分布式语义表示推广到工业界。论文中的负采样和层次Softmax成为后续表示学习的基础。
Distributed Representations of Words and Phrases (Mikolov et al., 2013)：Word2Vec的扩展版本，详细讨论了短语学习、高频词子采样等实用技术。
Dropout (Srivastava et al., 2014)：提出一种简单而有效的正则化方法，通过随机丢弃神经元防止过拟合。论文从贝叶斯角度给出了理论解释。
（完整30篇论文列表可在30papers.com上查看）
为什么这份清单如此重要？
Sutskever的清单并非随机选择，而是基于他对深度学习发展历史与核心思想的深刻理解。这些论文覆盖了：
- 基础架构：CNN、RNN/LSTM、Transformer、ResNet
- 训练方法：反向传播、Dropout、Batch Normalization、优化器（如Adam）
- 生成模型：GAN、VAE、自回归模型
- 强化学习：DQN、策略梯度、Actor-Critic
- 表示学习：Word2Vec、自监督学习、对比学习
Carmack本人后来在多个场合提到，这份清单帮助他建立了对现代AI的完整认知。而30papers.com的贡献在于，它让这份原本面向顶尖专家的阅读清单变得对普通学习者可及。
如何使用30papers.com？
网站提供了多种导航方式：
- 按时间线浏览：从1986年的反向传播论文到2020年的CLIP/DALL·E，展示技术演进
- 按主题分类：监督学习、无监督学习、强化学习、生成模型等
- 按难度分级：初级（需基础微积分和线性代数）、中级（需机器学习基础）、高级（需研究生水平）
每篇论文页面还包含“前导知识”与“后续影响”部分，帮助读者建立知识网络。例如，在学习Transformer时，网站会提示你先理解Seq2Seq和注意力机制，再延伸阅读BERT和GPT。
对中文学习者的特别价值
虽然原文为英文，但30papers.com提供了高质量的中文注释和翻译，尤其适合：
- 刚入门深度学习但想系统了解核心文献的学生
- 希望补齐理论短板的工程师（如从应用转向研究）
- 对AI历史感兴趣的技术爱好者
网站还提供了PDF版本和Notion模板，方便离线阅读和笔记整理。
尾声：从阅读到实践
正如Carmack所言：“理解这30篇论文，你就拥有了现代AI的完整工具箱。”但阅读只是第一步。30papers.com鼓励读者在阅读后动手实现关键算法（如用PyTorch复现简单的Transformer），并将论文思想应用到自己的项目中。
这份清单不是终点，而是通往更广阔AI世界的起点。