강의
태블릿으로만 공부할 거면,
노트북은 왜 들고 다녀요?
슬라이드는 폰에서 태블릿 노트로, 고른 부분은 ChatGPT로, 받은 답의 글과 그림은 다시 노트로 가요.
ChatGPT
‹ › ↻
chatgpt.com
무엇을 도와드릴까요?
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
무엇이든 물어보세요이 구조 쉽게 설명해 줘
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
문장 속 단어마다 다른 단어를 얼마나 참고할지 점수를 매겨요.
αij=∑leqi⋅kl/dkeqi⋅kj/dk그 점수로 섞은 정보가 다음 층으로 넘어가요.
8주차 · 딥러닝
8주차 · 딥러닝
문장 속 단어마다 다른 단어를 얼마나 참고할지 점수를 매겨요.αij=∑leqi⋅kl/dkeqi⋅kj/dk
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712
동영상사진인물
TransformerSelf-attention
Attention(Q,K,V)=softmax(dkQK⊤)V
Vaswani et al., 201712