138. AIエンジニアリングの最前線（前編） w/ ry0_kaga

AI エンジニアリングは、基盤モデルをベースとしたアプリケーション構築プロセスとして定義され、モデル開発そのものよりも、プロンプトエンジニアリングや RAG、評価（evals）といった適応技術に重点が置かれる。従来のソフトウェア開発と異なり、確率的に振る舞うモデルを扱うため、評価の仕組み作りが開発上の最大の難所となる。コンテキストエンジニアリングは、モデルへの入力情報の設計やメモリ管理を包括する概念であり、ハーネスエンジニアリングは、エージェントの振る舞いを制御・制約する仕組みとして、計算的アプローチと推論的アプローチの組み合わせが不可欠である。ゲストの kagaya 氏は、これらの技術を駆使し、ドメイン特有の評価基準を確立しながら高速にプロトタイピングを行うことが、現代のエンジニアに求められる重要なスキルであると説く。