PickVidsCS480/680 Lecture 19: Attention and Transformer Networks
推荐理由
I would also recommend Pascal Poupart's talk [1] on Attention and Transformers.
说明
这是2019年由Pascal Poupart发布的一部课堂讲座，主题归在LLMs & generative AI。它讲的是transformers and attention这一支里的具体问题，而不是把整个领域扫一遍。适合已经能看懂基本术语、想继续往下走的人。内容上可以概括成：A university lecture from CS480/680 by Pascal Poupart on attention mechanisms and transformer networks, worked through on a chalkboard.这些读者给出的理由，核心是：HN recommends it to newcomers as a clear explanation of attention, including the query/key/value intuition.讲法不绑某一条新闻，过几年仍然可以当材料看。从2023年到2023年，有3位不同的读者在3个不同月份把它推荐出来，其中明确叫别人去看的有0次。节奏接近上课，可以暂停做笔记。它假设你愿意跟着一条推导走完。如果已经会了基本定义，就把注意力放在它怎么把transformers and attention变成能跟着复述的例子。
视频信息
- 频道
- Pascal Poupart
- 时长
- 1 小时 22 分
- 发布年份
- 2019