首页
宝藏大会员
OJ刷题
积分商城
AI助教
海贼题库
潘多拉魔盒
Leetcode（在线刷面试算法）
牛客网（面试真题测评）
C/CPP 参考手册（在线文档+运行环境）
Git 操作在线学习
ProjectEuler（英文原站）
ProjectEuler（中英对照）
首页
宝藏大会员
OJ刷题
积分商城
AI助教
海贼题库
潘多拉魔盒
Leetcode（在线刷面试算法）
牛客网（面试真题测评）
C/CPP 参考手册（在线文档+运行环境）
Git 操作在线学习
ProjectEuler（英文原站）
ProjectEuler（中英对照）
登录
注册
登录
注册
【船说】从0 到1快速入门AI大模型
第46任务： 6.2注意力机制和多头注意力
查看课程
任务列表
第1任务： 1.1 -深度学习导学
第2任务： 1.2 - 线性回归
第3任务： 1.3 - 梯度下降
第4任务： 1.4 - 数据处理基础（NumPy）
第5任务： 1.5 - 数据处理基础（Pytorch）
第6任务： 1.6 - 代码实现：线性回归
第7任务： 1.7 - Softmax 回归
第8任务： 1.8 - 手推 Softmax 回归
第9任务： 1.9 - 代码实现：Softmax 回归
第10任务： 2.1 - 激活函数
第11任务： 2.2 - 多层感知机（MLP）(1)
第12任务： 2.3 - 手推正向、反向传播(1)
第13任务： 2.4 - 计算图(1)
第14任务： 2.5 - 代码实现：MLP(1)
第15任务： 2.6 - 批量操作
第16任务： 2.7 - 训练、验证、测试集
第17任务： 2.8 - 欠拟合与过拟合
第18任务： 2.9 - 权重衰退（L2正则化）
第19任务： 3.1 - 认识图片数据
第20任务： 3.2 - 用 MLP 处理图片
第21任务： 3.3 - 图像的卷积运算
第22任务： 3.4 - 卷积层
第23任务： 3.5 - 池化层
第24任务： 3.6 - 卷积神经网络
第25任务： 3.7 - 精确率、召回率、F1分数
第26任务： 3.8 - 代码实现：CNN
第27任务： 3.9 - 经典模型：AlexNet
第28任务： 3.10 - 经典模型：VGG
第29任务： 3.11 - 批量归一化
第30任务： 3.12 - 梯度消失与梯度爆炸
第31任务： 3.13 - 经典模型：ResNet
第32任务： 4.1初见tokenization
第33任务： 4.2BPE及其改进
第34任务： 4.3word-embedding
第35任务： 4.4word2vec
第36任务： 5.1RNN架构初见
第37任务： 5.2RNN微观运算流程
第38任务： 5.3 RNN实践
第39任务： 5.4LSTM架构
第40任务： 5.5LSTM实践
第41任务： 5.6GRU架构
第42任务： 5.7GRU代码从0实现
第43任务： 5.8GRU代码简洁调用
第44任务： 5.9Kaggle竞赛：情感分类
第45任务： 6.1输入嵌入和位置编码
第46任务： 6.2注意力机制和多头注意力
第47任务： 6.3Add&Norm和FFN
第48任务： 6.4掩码注意力和交叉注意力
第49任务： 6.5Transformer训练和推理通路
第50任务： 6.6Transformer从0到1实践
第51任务： 7.1 BERT预训练和微调
第52任务： 7.2 BERT代码从0到1
第53任务： 7.3 BERT-Kaggle实战
第54任务： 7.4 GPT微观流程
第55任务： 7.5 GPT预训练
第56任务： 7.6 GPT推理
第57任务： 7.7 LLaMA3解析
第58任务： 7.8 从0实现LLaMA3
第59任务： 8.1回看cnn
第60任务： 8.2cnn的缺陷
第61任务： 8.3回看transformer
第62任务： 8.4ViT克服CNN缺陷
第63任务： 8.5ViT位置编码
第64任务： 8.6ViT代码实现1-ViT类的init
第65任务： 8.7ViT代码实现2-两种PositionalEncoding类
第66任务： 8.8ViT代码实现3-ViT类的forward函数
第67任务： 8.9ViT代码实现4-逐行断点分析
第68任务： 8.10DETR代码实现&注意力可视化
第69任务： 8.11分割任务定义&SAM初见
第70任务： 8.12SAM的核心思想
第71任务： 8.13SAM-Data Engine
第72任务： 8.14SAM-Image Encoder and Prompt Encoder
第73任务： 8.15SAM-Decoder
第74任务： 8.16SAM代码-概览与演示
第75任务： 8.17SAM代码-Image Encoder
