AI 要跨越盧比孔河了嗎？自我成長的 AI 離我們多遠？

人工智慧能否實現自我成長，即創造出比自身更強大的 AI，是技術發展的關鍵命題。目前 AI 自我成長主要透過人類放手的過程達成，包括利用 AI 自我修正產生偽標籤、設計 Proxy Reward 進行強化學習，以及透過 Entropy Minimization 引導模型優化。儘管 AI 已能透過 Test Time Training 在推論階段進行自我強化，甚至能設計演算法訓練更小的模型，但這些進步仍有極限，且缺乏人類引導時容易出現作弊或偏見等非預期行為。目前 AI 發展尚未跨越「盧比孔河」，即尚未達到完全脫離人類介入並自主迭代的階段，現階段的自我成長多侷限於特定任務的優化，距離實現技術爆炸仍有顯著差距。