OpenAI 元CTO Mira Murati：AIは人を拡張すべきで、代替すべきではない
暗黙知、インタラクション帯域からモデルアラインメントまで、AIの発展になぜ人間の関与が欠かせないかを論証する。
- Thinking Machines Labがミッションブログを発表し、「人間の意志と判断力を拡張する」ことを核心とするAI発展路線を提示、業界の「自律型知能」路線への対比とした。
- 同社は3つの技術投資を挙げる：フロンティアモデルの訓練、ユーザーが自らモデルの重みをファインチューニングできるツールTinkerの開発、リアルタイムのマルチモーダル対話を支える「インタラクティブモデル」の研究。
- 記事はチェスと数学的証明を例に、AIが自律的に人間を超えられる領域はいずれも2つの条件を満たすと指摘する：目標が静的で明確に表現でき、隠れた暗黙知が存在しないこと。大半の実務はこの2条件を満たさない。
- 記事はMETRなどに代表される「自律タスク持続時間」による現行の評価体系を批判する。それらはAIが単独で何をできるかしか測っておらず、人とAIの協働の効果を測っていない。
- 記事は「非中央集権的アラインメント」を主張し、各研究所が前世代のフラッグシップモデルで次世代の訓練データと報酬シグナルを生成するのが一般的なやり方であり、それがモデルの世代間で性格が均質化する原因になると指摘する。
この会社はどんなAIを作ろうとしているのか
Thinking Machines Lab（OpenAI元CTOのMira Muratiが創業したAI研究所）はミッションブログを発表し、「AIは人間の意志と判断力を拡張すべきだ」という企業ミッションを提示、このミッションを実現する3つの技術的道筋を示した。
このブログはひとつの方向性を定めた——AIで人の意志と判断を拡張する、そしてこの方向性を3つの具体的な技術投資に分解して着地させる。
モデルをマルチモーダル対話やカスタマイズ性といった能力でフロンティアに迫り続けさせる。人間の判断は強力なモデルがあってこそ実現できる。
ユーザーが自らモデルの重みをファインチューニングできる一連のツール。自分のニーズに合わせてAIを専用の姿へと作り変えられる。
モデルがリアルタイムかつマルチモーダルな人間とのインタラクションをネイティブにサポートできるようにする。この能力をモデル自体に直接訓練し込む。
同社はまた、関連する研究と実践マニュアルを科学界に公開し、より多くの人がこのファインチューニング能力を使えるようにすると述べている。
チェスや数学の証明ではAIは一人で勝てるが、大半の仕事ではそうはいかない
AIが仕えるのは、人が物事を進めるうえで頼りにしている知識だ——どうすればうまくやれるか、何をやる価値があるか。この種の知識は、実際に手を動かす人が仕事の中で絶えず生み出し続けるものだ。料理人が新しい一皿を練り上げる、店主が棚の商品の並べ方と値付けを調整する——どちらも外部の人間には見通せない複雑な目標を追い、自分なりのコツを使っている。こうしたコツは現実からのフィードバックにあわせて絶えず更新され、データベースに書き込めるような静的なリストにはまとめられない。しかも局所的だ——店やレストランが変われば、追う結果もやり方もまったく違ってくる。料理人と店主が持つ知識のすべては、それぞれの料理人と店主自身の手に分散している。