[人人能懂AI前沿] AI的元认知革命：从自信校准、演化微调到偏好重对齐

人工智能的认知进化正从能力增长转向深层的自我反思与行为校准。研究显示，大模型的口头自信反映的是行为承诺而非事实正确性，需警惕其误导性。将 AI 设计为 “无利害关系的预测者” 可降低目标不一致带来的失控风险。演化式微调与自我反思机制（如错题本与稳定性检验）赋予了模型举一反三的 “开窍” 能力，使其能从错误中迭代优化。此外，基于奖励分解的偏好重校准技术，使用户无需重新训练即可精准调控 AI 的行为模式。这些进展揭示了 AI 的发展范式：从单纯的知识库向具备元认知能力的独立思考者转型，从而实现更安全、更个性化的交互。