一、Prompt Tuning、P-Tuning、Prefix Tuning的区别

1. Prompt Tuning（提示调优）

• 核心思想：固定预训练模型参数，仅学习额外的连续提示向量（通常是嵌入层的一部分）。
• 实现方式：在输入文本前添加可训练的连续向量（软提示），模型只更新这些提示参数。
• 优势：参数量少（仅提示部分可训练），计算效率高。
• 局限性：在小模型上效果有限，需要足够的训练数据。

2. P-Tuning（Pattern-Exploiting Training）

• 核心思想