Attention

G検定 実践演習の問題です。解説付きで個別に学習できます。

ディープラーニングの要素技術 標準 ID: G-305

問題

以下のAttentionにおける役割の組み合わせとして、最も適切な選択肢を1つ選べ。(あ)参照する側の問い合わせ(い)照合される側の鍵(う)集約される値

  1. A. (あ)Query (い)Key (う)Value
  2. B. (あ)Key (い)Value (う)Query
  3. C. (あ)Value (い)Query (う)Key
  4. D. (あ)Actor (い)Critic (う)Reward

解説(正解: A)

正解はA。Attentionでは、Queryが何を参照したいかを表し、Keyとの類似度から重みを計算し、その重みに基づいてValueを集約する。TransformerのAttentionを理解するうえで、Query、Key、Valueの役割は重要である。Dは強化学習の用語である。

演習モードで解く 前の問題 次の問題