研究解説 · 小互解读

LangChain:モデルは変えず harness だけ調整し、Nemotron 3 Ultra のスコアを Opus 4.8 に近づけ、コスト約 1/10。閉源 API に高額を払わなくてもよい、という実証

システムプロンプト・ツール説明・ミドルウェアの三箇所。Deep Agents スイートで典型約 0.80→0.84、最良 0.86 対 Opus 4.8 最良 0.87。
五つの要点
  • LangChain は Nemotron Coalition の一員として、Deep Agents 内で Nemotron 3 Ultra の重みを固定し、harness(システムプロンプト、ツール説明、モデル/ツール呼び出し周りのミドルウェア)だけを変更した。
  • 手法は評価駆動のループ:評価 → 失敗トレースを読む → 行動パターンをクラスタ → harness を一箇所直す → 再評価。候補はまず安く代表的なスクリーニング、通過後にフルスイート。
  • プロンプト側は短く単一目的の指示ブロック。ミドルウェア側は強制(ループ上限・再試行)と「信号を読まれる場所に置く」文脈設計。
  • 核心発見:同じ「フルページ読んだら続きを読む」ルールはツール説明では無効、ツール戻り値に入れると有効。Nemotron はシステム常駐ルールより、会話中の注入メッセージに忠実。
  • 典型 ~0.80→0.84、最良 0.86 が Opus 4.8 最良 0.87 に接近。フルスイート約 $4.48 対 Opus 約 $43.48。中央遅延はともに約 10 秒/題。
⚑ 立場:本稿は LangChain 公式ブログの方法論ケース。数値は Deep Agents 内部評価と自社トレース分析であり、第三者再現ではない。
1WHAT

何をしたのか

LangChain は Nemotron 3 Ultra の harness 調整プレイブックを公開した。モデルは触らず、外側の足場だけを変え、オープンモデルがエージェント仕事でどこまで届くかを見た。

一言で言うと:すでにツールと多段作業ができるオープンモデルを、それに合わせた harness に載せ、Claude Opus 4.8 の最良ランに近い品質で、フルスイートコストを約一桁下げる。

なぜ見る価値があるか:同じ重みでも足場が違えば点数は変わる。彼らは以前 gpt-5.2-codex を Terminal-Bench 2.0 で 52.8 から 66.5(当時おおよそ Top 30 から Top 5)へ、モデル非改変で伸ばした。今回同じ発想をオープンの Nemotron 3 Ultra に適用し、Opus 近いコスト/品質対照を示した。

ここでいう harness は、システムプロンプト、ツール説明、モデル呼び出しとツール呼び出し周りのミドルウェア。生成設定はベンダー推奨のまま(temperature / top-p / thinking budget は不変)なので、文中の改善はサンプリング設定由来ではない。

モデルと harness の関係図
公式図:内側がモデル、外側が harness。噛み合えば能力はタスクに使われ、噛み合わなければ足場との格闘に消える。出典:LangChain Blog
サイト内の関連解説
AI 自己進化の鍵は、モデルの外にある harness という殻にある
Lilian Weng が harness 工学と再帰的自己改善をつないだ長文。本稿はオープンモデル上の LangChain 実操作戦であり、そちらの仕組みはここでは展開しない。