Let's build GPT: from scratch, in code, spelled out.
推荐理由
the best video I have seen on the topic
说明
这是2023年由Andrej Karpathy发布的一部教程,主题归在LLMs & generative AI。它讲的是transformers and language models这一支里的具体问题,而不是把整个领域扫一遍。适合已经能看懂基本术语、想继续往下走的人。内容上可以概括成:Andrej Karpathy builds a GPT from scratch in code, following Attention Is All You Need and GPT-2/3, in about two hours using PyTorch. He connects it to ChatGPT and assumes familiarity with his earlier makemore videos.这些读者给出的理由,核心是:It is the go-to recommendation for learning how transformers and LLMs actually work, praised for its clarity and Karpathy's teaching.讲法不绑某一条新闻,过几年仍然可以当材料看。从2023年到2025年,有14位不同的读者在8个不同月份把它推荐出来,其中明确叫别人去看的有4次。适合打开电脑跟着做的人。如果只听不练,这集的价值会少一半。如果已经会了基本定义,就把注意力放在它怎么把transformers and language models变成能跟着复述的例子。
视频信息
- 频道
- Andrej Karpathy
- 时长
- 1 小时 56 分
- 发布年份
- 2023