相对位置编码（Relative Positi […]
掩码注意力（Masked Attention […]
因果注意力（Causal Attention […]
值（Value）在人工智能和计算科学中，指的 […]
键（Key）在计算机科学中，指用于唯一标识数 […]
查询（Query）在人工智能和计算机系统中， […]
注意力分数（Attention Score） […]
稀疏激活（Sparse Activation […]
路由机制是一种在计算机系统或网络中，负责将传 […]
MoE（Mixture of Experts […]
