HN 精选

从零开始学深度学习

一条从直觉到代码的路:先用动画把神经网络看懂,再跟着 Karpathy 把反向传播和 GPT 亲手写出来,最后回到 Transformer 与大模型深潜。

  1. 1But what is a neural network? | Deep learning chapter 1
    3Blue1Brown
    3Blue1Brown 深度学习系列开篇之作。借助手写数字识别案例与标志性动效,深入浅出地拆解神经元、网络层及基础神经网络背后的数学原理。
  2. 2The spelled-out intro to neural networks and backpropagation: building micrograd
    Andrej Karpathy
    Andrej Karpathy 经典神课《神经网络:从零到英雄》第一讲。仅凭基础 Python 和高中微积分,纯手写构建出微型自动求导引擎 micrograd,手把手推导反向传播与神经网络训练全流程。
  3. 3Let's build GPT: from scratch, in code, spelled out.
    Andrej Karpathy
    前 OpenAI 研究员兼特斯拉 AI 总监 Andrej Karpathy 用两小时手把手教学,基于 PyTorch 从零手写实现 GPT。对照经典论文《Attention Is All You Need》与 GPT-2/3 架构,层层拆解自注意力机制与大模型核心机理。
  4. 4Transformers, the tech behind LLMs | Deep Learning Chapter 5
    3Blue1Brown
    3Blue1Brown 出品的高口碑 Transformer 与 GPT 原理可视化拆解。视频循着数据流,从 Token 拆解、向量嵌入(Embeddings)到注意力机制(Attention),抽丝剥茧还原大语言模型运转的内部机制。
  5. 5Deep Dive into LLMs like ChatGPT
    Andrej Karpathy
    Andrej Karpathy 长达 3 个多小时的通俗硬核大课,全面拆解类 ChatGPT 大模型的构建全貌:从预训练到后训练全链路,并帮大家建立理解幻觉等特性的心智模型,掌握用好 LLM 的诀窍。
  6. 6Lecture 1 | Machine Learning (Stanford)
    Stanford
    吴恩达(Andrew Ng)在斯坦福大学主讲的经典机器学习名课 CS229 第一讲。全面勾勒了整门课程的框架体系,涵盖监督学习、无监督学习、学习理论(Learning Theory)以及强化学习的核心版图。