Tag

deep-learning

30 essays under this label.

Aug 23, 2026 4 min read

18. Variational Lossy Autoencoder:用解码器的盲区决定潜变量记住什么

强自回归 decoder 往往能绕过 VAE latent,造成 posterior collapse。VLAE 不只把这看成优化故障,而利用“信息偏好”:让局部 PixelCNN 负责可由邻域预测的纹理,迫使有限感受野之外的全局形状通过 z 传递;改变 decoder 可见的信息,就能控制 lossy representation 保存什么。

Aug 23, 2026 5 min read

20. Coffee Automaton:复杂度为何先升后降,以及一个必须保留的反例教训

热力学熵从低到高,但“有趣结构”在完全分层和完全混合时都低,似乎在中间最高。论文用粗粒化图像的压缩长度近似 apparent complexity,并以奶油扩散自动机实验这一“先升后降”。然而作者很快确认:原 interacting rule 也不会产生所声称的大中间复杂度,数值 bump 主要来自边界量化伪影。正确价值在问题、度量框架、负面定理和公开纠错,而不在那条已撤回的正面曲线。

Aug 23, 2026 4 min read

22. Deep Speech 2:端到端不仅是一个损失函数,而是一整套规模化系统

Deep Speech 2 用 convolution + 深层双向/单向 RNN 直接把 spectrogram 映射为字符分布,以 CTC 边缘化未知帧—文本对齐,再用语言模型 beam search 解码。真正贡献还包括海量数据构建、RNN BatchNorm、SortaGrad、GPU CTC、分布式训练和低延迟部署,证明端到端 ASR 是系统工程而非删掉所有组件。

Aug 23, 2026 4 min read

23. Scaling Laws:把“做多大、喂多少数据、练多久”变成可拟合的工程问题

论文在约 10³–10⁹ 非 embedding 参数、22M–23B tokens 和跨多个数量级 compute 的训练中发现:语言模型 cross-entropy 对模型规模 N、数据 D、最优 compute C 近似幂律,并由此推导固定预算的 compute-efficient frontier。它把 scaling 从信念变成可实验估计,但具体指数不是自然常数,后来已被 Chinchilla 修正。

Aug 23, 2026 4 min read

25. Machine Super Intelligence:从 Solomonoff induction 到 AIXI 与通用智能度量

论文把 intelligence 暂定为“agent 在广泛环境中实现目标的能力”,用按 Kolmogorov complexity 加权的所有可计算环境把它形式化;Solomonoff mixture 解决被动预测,AIXI 再加 sequential decision theory 选择动作。得到的是极强但不可计算的规范性上界,不是可直接运行的 AGI 配方。

Aug 23, 2026 4 min read

26. Kolmogorov Complexity and Algorithmic Randomness:把规律定义为可压缩的程序结构

一个有限对象的 Kolmogorov complexity 是输出它的最短程序长度;算法统计学再问,这些 bit 中多少是可复用的“模型结构”,多少只是模型内的随机索引。第 434 页附近的 two-part descriptions 正好把这一问题写成 model complexity + log model size,是 MDL、泛化和“规律与噪声”最严格的概念底座之一。

Aug 23, 2026 3 min read

27. CS231n(2016):从梯度检查到训练 ImageNet 网络的实践底座

CS231n 不是单篇论文,而是一条“亲手写出并调通网络”的训练路径:数据划分、线性分类器、loss、解析/数值梯度、反向传播、初始化、正则、优化、卷积尺寸、经典架构、可视化、检测/分割、RNN 和工程瓶颈。它把书单中的许多局部突破装回一个能工作的完整流程。

Aug 23, 2026 7 min read

29. Prototypical Networks:让少样本分类退化成“离哪个中心最近”

Prototypical Networks 用 episodic training 学一个 embedding,在每个新任务中把某类 support embeddings 的均值当作 prototype,再按 query 到各 prototype 的距离分类。它没有内循环梯度,也没有复杂外部记忆,却以非常强的“每类形成单簇”归纳偏置得到稳定的 few-shot baseline。