1960 · 人机协作
人机共生
Man-Computer Symbiosis
人提出目标与判断，计算机协助检索和推演，再把结果送回共同讨论。
人目标 · 假设 · 评价
计算机检索 · 计算 · 模拟
共同看见结果，再修正下一步
概念示意 · 回到人手中继续判断进入图解
人工智能
论文图解
用可视化的方式，拆解重要的 AI 论文。
2012 · 视觉理解
AlexNet
ImageNet Classification with Deep Convolutional Neural Networks
一张图片，怎样在神经网络里逐层变成可识别的特征？
卷积 × 5提取局部特征
全连接 × 3组合并分类
1000个类别
结构示意 · 可在解读页逐层探索左右滑动查看完整流程进入图解
2014 · 生成模型
GAN
Generative Adversarial Nets
从问题出发，一步步看懂这篇论文的核心机制。
让生成器与判别器在对抗中学习数据分布。
阅读图解，了解论文的关键思路进入图解
2017 · 语言模型
Transformer
Attention Is All You Need
从问题出发，一步步看懂这篇论文的核心机制。
以注意力机制重构序列建模的方式。
阅读图解，了解论文的关键思路进入图解
2020 · 语言模型
Scaling Laws
Scaling Laws for Neural Language Models
把模型、数据与算力的旋钮拧大，测试损失会怎样变化？
模型参数 N ↑训练数据 D ↑训练算力 C ↑
测试损失沿幂律曲线下降 ↘
三张插图解释 · 可亲手调节规模曲线进入图解
2020 · 推理与检索
RAG
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
模型回答前查阅外部片段，再综合候选证据生成答案。
输入问题 x
DPR 检索
z₁z₂z₃
BART 生成答案 y
问题 → 检索 → 生成 · 比较两种 RAG 概率模型进入图解
2020 · 语言模型
GPT-3
Language Models are Few-Shot Learners
不再为每个任务重新微调：给出说明和少量示例，模型能跟上吗？
输入上下文任务说明少量示例
GPT-3参数不变
继续预测答案
切换零样本、单样本与少样本提示进入图解
2020 · 生成模型
DDPM 扩散模型
Denoising Diffusion Probabilistic Models
先给图片加噪，再学习从新噪声一步步生成图片。
固定加噪
真实图片中间状态近似噪声
学习去噪
随机噪声中间状态新图片
真实图片 → 加噪；随机噪声 → 逐步生成进入图解
2020 · 视觉理解
ViT
An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
把图像切成 patch，变成 Transformer 可以处理的 token 序列。
图像块
Token 序列
[CLS]P₁P₂…
加入位置向量Transformer[CLS] → 类别
patch → token → 分类 · 实验结果与适用边界进入图解
2021 · 多模态
CLIP
Learning Transferable Visual Models From Natural Language Supervision
哪段文字属于哪张图片？先学配对，再用文字指定新类别。
对比学习示意 · 非论文样本
✓ 真配对· 其他组合
图文配对矩阵 · 从对比学习到零样本分类进入图解
2021 · 生成模型
潜扩散模型
High-Resolution Image Synthesis with Latent Diffusion Models
先压缩图像，再在较小的潜空间学习逐步去噪。
先学压缩→编码器 E→
再学生成→潜空间去噪→解码器 D→
压缩 → 潜空间去噪 → 还原 · 两阶段生成进入图解
2022 · 推理与检索
思维链提示（CoT）
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
示例只给答案，和示例写出中间步骤，会让模型怎样答题？
同一题 · 两种示例格式结构示意
普通提示
思维链提示
题目 → 步骤 → 答案 · 比较两种少样本提示进入图解
2022 · 语言模型
InstructGPT
Training language models to follow instructions with human feedback
从问题出发，一步步看懂这篇论文的核心机制。
用监督微调与人类反馈训练更善于遵循指令的模型。
阅读图解，了解论文的关键思路进入图解
1 / 13
1960
人机共生
人机协作Man-Computer Symbiosis
提出让人和计算机紧密往返协作，帮助人形成问题并实时思考。
2012
AlexNet
视觉理解ImageNet Classification with Deep Convolutional Neural Networks
深层卷积网络在大规模图像分类中取得突破。
2014
GAN
生成模型Generative Adversarial Nets
让生成器与判别器在对抗中学习数据分布。
2017
Transformer
语言模型Attention Is All You Need
以注意力机制重构序列建模的方式。
2020
Scaling Laws
语言模型Scaling Laws for Neural Language Models
刻画语言模型损失与规模、数据和算力的关系。
2020
RAG
推理与检索Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
先从维基百科检索相关片段，再让生成模型综合片段作答；比较整句与逐词使用证据的两种方式。
2020
GPT-3
语言模型Language Models are Few-Shot Learners
把任务说明和少量示例放进输入，在不针对任务微调的情况下完成多种语言任务。
2020
DDPM 扩散模型
生成模型Denoising Diffusion Probabilistic Models
从图片逐步加噪，训练网络预测噪声；生成时从新抽取的噪声逐步得到图片。
2020
ViT
视觉理解An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
把图像切成 patch token 交给 Transformer；大规模预训练后迁移到多种图像分类任务。
2021
CLIP
多模态Learning Transferable Visual Models From Natural Language Supervision
从 4 亿组图文配对中学习对应关系，再用文字描述类别，直接为新图片做零样本分类。
2021
潜扩散模型
生成模型High-Resolution Image Synthesis with Latent Diffusion Models
先学压缩与重建，再在较小的潜空间逐步去噪，降低高分辨率图片生成的计算成本。
2022
思维链提示（CoT）
推理与检索Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
在少样本例题里写出中间步骤，引导大模型先分解问题再给答案；收益取决于模型规模和任务。
2022
InstructGPT
语言模型Training language models to follow instructions with human feedback
用监督微调与人类反馈训练更善于遵循指令的模型。
按论文首次公开年份排列；每篇的原论文链接均可直接访问。图解会陆续补充。