【生成式AI時代下的機器學習(2025)】第十講：人工智慧的微創手術 — 淺談 Model Editing

本集探討模型編輯（Model Editing），旨在探討如何為模型植入知識，以更新舊有資訊或教授模型虛假知識。講者首先區分模型編輯與一般事後訓練（Post Training）的不同，強調模型編輯更側重於知識的植入而非技能的學習，並指出直接使用事後訓練微調模型在模型編輯中面臨訓練資料不足的挑戰。隨後，講者介紹了評估模型編輯成功與否的三個面向：可靠性（Reliability）、泛化性（Generalization）和局部性（Locality），詳細解釋了它們的含義及重要性。針對模型編輯的方法，講者介紹了兩大類：不動參數的方法和改變參數的方法，前者通過在輸入中加入新知識和範例來影響模型輸出，後者則涉及修改模型參數，其中重點介紹了 ROM（Rank 1 Model Editing）方法，通過找出神經網路中與目標知識相關的部分並進行修改來實現知識編輯。更進一步，講者探討了利用人工智慧來編輯人工智慧模型的方法，介紹了超網路（hypernetwork）的概念，並分析了訓練超網路以實現模型編輯的挑戰與解決方案，包括簡化模型結構和利用 gradient descent 的特性來降低訓練複雜度。最後，講者以 MEM 方法為例，說明如何利用 gradient 的特性來更有效地訓練編輯模型，實現對目標模型的精準編輯。