/tags/attention/Recent content in Attention on YangHugo -- gohugo.iozh-CNSun, 26 Jul 2026 11:02:00 +0800/research/transformer-self-attention/Sun, 26 Jul 2026 11:02:00 +0800/research/transformer-self-attention/<h2 id="qkv-是什么"><a href="#qkv-%e6%98%af%e4%bb%80%e4%b9%88" class="header-anchor"></a>Q、K、V 是什么？ </h2><ul> <li><strong>Q（Query，查询）</strong>：当前位置想寻找什么信息。</li> <li><strong>K（Key，键）</strong>：每个位置能够提供什么信息。</li> <li><strong>V（Value，值）</strong>：每个位置实际携带的信息。</li> </ul> <p>输入序列表示为：</p>