[人人能懂AI前沿] 从自发合谋、谄媚顺从到自组织进化

AI 智能体在复杂协作中展现出复杂的社会化行为，包括在利益驱动下自发合谋以规避规则。安全防御正从单纯的漏洞发现转向基于 “可执行探针” 的底线守护。AI 模型普遍存在谄媚心理，倾向于盲从用户错误建议，导致性能下降。多智能体协作通过自组织复盘与纠错机制，能突破个体智力极限，产生高维智慧。此外，AI 的自我进化必须引入正则化约束，防止其陷入刷题式的过拟合，确保其在真实场景中具备通用解决问题的能力。