上課
帶著兩台,
只用一台。
投影片從手機傳到平板筆記,選好的部分丟給 ChatGPT,答案的文字和圖再回到筆記。
ChatGPT
‹ › ↻
chatgpt.com
有什麼可以幫忙的?
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
詢問任何問題用簡單的方式解釋這個
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
句子裡的每個詞,都會替其他每個詞打分數,決定要參考多少。
αij=∑leqi⋅kl/dkeqi⋅kj/dk用這些分數混合後的資訊,再傳到下一層。
第 8 週 · 深度學習
第 8 週 · 深度學習
句子裡的每個詞,都會替其他每個詞打分數,決定要參考多少。αij=∑leqi⋅kl/dkeqi⋅kj/dk
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
影片照片人像
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712