Transformers, the tech behind LLMs | Deep Learning Chapter 5
推荐理由
what bade me finally understand the transformer architecture [0] and attention [1], are 3Blue1Brown's videos.
强烈推荐tomashm · 原文
说明
这是2024年由3Blue1Brown发布的一部讲解,主题归在LLMs & generative AI。它讲的是transformer language models这一支里的具体问题,而不是把整个领域扫一遍。适合第一次接触、还没有先修课的人。内容上可以概括成:3Blue1Brown's visual explanation of how transformers and GPT-style language models work, tracing data through tokens, embeddings and attention.这些读者给出的理由,核心是:HN treats it as the go-to visual introduction to transformers, and many say it finally made attention and embeddings click.讲法不绑某一条新闻,过几年仍然可以当材料看。从2024年到2026年,有13位不同的读者在10个不同月份把它推荐出来,其中明确叫别人去看的有6次。适合用一集把一个概念补上的人。抓住它用的那个图像或类比,比背公式重要。如果已经会了基本定义,就把注意力放在它怎么把transformer language models变成能跟着复述的例子。
视频信息
- 频道
- 3Blue1Brown
- 时长
- 27 分 14 秒
- 发布年份
- 2024