这是一篇专门用来测试和展示 LaTeX 公式效果的博客。

如果你的博客已经启用了数学渲染，那么下面这些公式应该会被漂亮地渲染出来。

1. 向量点积

$$ q^T k = |q|,|k|\cos\theta $$

这表示两个向量的相似程度。

2. Self-Attention 打分公式

$$ \mathrm{score}(q_i, k_j) = \frac{q_i^T k_j}{\sqrt{d_k}} $$

这里：

• $q_i$ 是 Query
• $k_j$ 是 Key
• $d_k$ 是向量维度

3. Attention 主公式

$$ \mathrm{Attention}(Q,K,V) = \mathrm{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V $$

这是 Transformer 里最经典的公式之一。

4. Softmax

$$ \alpha_{ij} = \frac{\exp(s_{ij})}{\sum_{j’} \exp(s_{ij’})} $$

Softmax 会把分数转成概率分布。

5. 一个简单损失函数

$$ \mathcal{L} = -\sum_i y_i \log(\hat{y}_i) $$

这是交叉熵损失的常见形式。

6. 矩阵形式

$$ S = QK^T $$

$$ A = \mathrm{softmax}(S) $$

$$ O = AV $$

7. 总结

如果这些公式都能正常显示，那就说明你的博客已经可以支持：

• 行内公式
• 块级公式
• 常见 AI 数学表达式
• 复杂的 LaTeX 结构

这篇文章以后也可以作为你博客的公式渲染测试页。

• AI
• 数学
• LaTeX
• 公式演示
• 大模型