Mira Murati初のオープンモデル:1 tokenあたり410億パラメータだけを稼働
OpenAIの元CTO、Mira Muratiが設立したThinking Machines Labは、初の自社開発大規模モデルInklingを公開しました。テキストを読み、画像を見て、音声を聞き、コードを書き、ツールを使えます。完全な重みをダウンロードでき、Tinkerで追加学習することもできます。
1分でわかる要点
- OpenAIの元CTO、Mira Muratiが設立したThinking Machines Labは、ゼロから学習した初の汎用大規模モデルInklingを公開しました。
- 完全なモデルの重みが公開され、開発者はダウンロード、導入、追加学習ができます。こうしたモデルは一般に「オープンソースモデル」と呼ばれますが、より正確には「オープンウェイトモデル」です。
- テキスト、画像、音声を処理し、コード作成、ツール利用、Web操作に対応します。数十ラウンド続く複雑なタスクも実行できます。出力はテキストのみで、画像や音声を直接生成しません。
- 総パラメータ数は9750億ですが、1 tokenの処理で使うのは約410億だけです。多くの専門家を抱える会社が、仕事ごとに最適な数チームだけを選ぶ仕組みと考えるとわかりやすいでしょう。
- 開発者は思考時間を調整できます。単純なタスクでは短く、複雑なタスクでは長く考えさせ、出力の長さと速度、コスト、精度を調整します。
- Thinking Machines Labは、Tinkerによるファインチューニング、Playground、Cookbook、外部の導入サービスも提供し、試用から追加学習、導入までをカバーします。
- 個別能力ですべてのトップモデルを上回るわけではなく、自前で動かすには最低でも約600GBのGPUメモリが必要です。一般ユーザーにはオンラインサービスの利用が現実的です。
OpenAI元CTOが退社・起業から1年余りで初の自社モデルを公開
Mira MuratiはOpenAIのCTOを務めた後、2024年9月に退社し、2025年にThinking Machines Labを設立しました。同社はOpenAI出身の研究者を複数迎え、企業や開発者がモデルを理解、変更、学習しやすくすることに力を入れています。
Thinking Machines Labが最初に公開した製品は、モデルのファインチューニング基盤Tinkerでした。開発者が独自のデータと評価方法を用意し、Tinkerがオープンウェイトモデルを調整します。当時、同社には独自の基盤モデルがまだありませんでした。
2026年7月15日、同社はInklingを公開しました。ゼロから学習し、一般公開した初の汎用大規模モデルです。完全な重みはHugging FaceでApache 2.0ライセンスのもと公開され、Tinkerにも直接統合されています。これで同社は「独自モデル+独自学習基盤」をそろえました。
では、Inklingとは何でしょうか?
ひと言で言えば、Inklingはダウンロード、導入、追加学習ができるマルチモーダル基盤モデルです。テキスト、画像、音声を受け取り、コードを書き、ツールを使い、Webを操作できます。一般ユーザー向けの単体チャットAppではなく、汎用エンジンに近い存在です。開発者はコーディング支援、カスタマーサポート、資料分析ツール、Webエージェント、社内システムなどに組み込めます。
大規模モデルの学習が終わると、回答の仕方を決める大量の数値が残ります。これがモデルの重みです。Inklingは完全な重みをHugging FaceでApache 2.0ライセンスのもと公開し、開発者はダウンロード、導入、変更できます。ただし、学習データ、学習コード、学習プロセスのすべてが公開されたわけではありません。そのため、日常的には「オープンソースモデル」と呼べても、技術的には「オープンウェイトモデル」がより正確です。
一般的なオープンモデルとの違いは?
多くのオープンウェイトモデルは、重みファイルの公開が中心です。Inklingは公開初日からTinkerに統合されています。開発者はPlaygroundでモデルを試し、独自のデータ、評価ルール、学習タスクをTinkerに渡して業務に適した新しい版を作り、ダウンロードするか外部サービスで導入できます。
モデルの重みだけをダウンロード
学習コード、データ形式、評価、GPUクラスタ、導入ツールを自分で用意する必要があり、技術的なハードルは依然として高いままです。
Inkling+Tinker
試用、データ準備、追加学習、評価、導入までを同じ流れで進められ、構築する基盤を大幅に減らせます。
Inklingはどこまでできるのか?
まず全体像を見てみましょう。公式は10項目のテストで、Inklingを代表的な4モデルと比較しています。太い青線がInklingです。すべての相手を圧倒する項目はない一方、コード、ツール、画像、音声、事実性、指示追従に明らかな弱点がありません。これはまさに「追加学習できる汎用基盤」という位置づけを表しています。
1. 規模:9750億パラメータと、より高速な小型版
Inklingオリジナル版は総パラメータ数9750億の混合専門家モデルです。1 tokenの処理で使うのは約410億パラメータだけです。最大100万tokenのコンテキストに対応します。ここでいう単位は文字数ではなくtokenです。Tinkerで現在実際に使える設定は64Kと256Kです。
Inkling-Smallプレビュー版は総パラメータ数2760億で、1 tokenあたり約120億を稼働させます。事前学習データと学習手法の改良により、多くのテストでオリジナル版に迫るか上回り、より高速で低コストです。ただし、すべてのテストで同じように強いわけではなく、Smallの完全な重みもまだ公開されていません。
Inkling
1 tokenあたり410億パラメータが稼働
最大コンテキスト100万token
Inkling-Small
1 tokenあたり120億パラメータが稼働
レイテンシとコストの削減を重視
2. 調整できる思考:深さは開発者が決める
多くの推論モデルは、思考時間を自分で決めます。単純なタスクでも内部推論が長くなり、待ち時間と費用が増える場合があります。Inklingでは開発者が選べます。発表ページでは思考強度を0.2から0.99まで設定しています。低い値なら高速でtoken消費が少なく、高い値なら数学、コード、多段階タスクに時間をかけます。
3. ネイティブなマルチモーダル:学習時から画像と音声に対応
Inklingの画像・音声コンポーネントはゼロから学習されています。音声はモデルが読めるスペクトログラムに変換され、画像は40×40ピクセルの小片に分割されます。軽量な変換の後、テキストと一緒に同じモデルで処理されるため、すべてを先に文字起こしする必要はありません。
またはツール利用
音声:音声の文字起こし、音声指示への対応、録音に関する質問への回答、長い音声の分析ができます。
画像:グラフ、数式、数学図を読み取れます。細部を見る必要があれば、Pythonを使って画像を拡大・切り抜きできます。
4. 実務能力:自信がないときは推測を減らし、仕事を続ける
自信がないときは推測を減らす:学習チームは回答を見送れる報酬を設計しました。短いQ&Aでは正解した場合だけ得点します。自信がなければ「わからない」と答えるか、判断を留保するほうが有利です。別の評価器がWebを検索し、回答内の事実を確認します。自信満々の作り話は減らせますが、間違いを完全になくせるわけではありません。
実行力:コード作成、プログラム実行、ファイルの読み書き、Web操作を学習しています。公式は、仕事を最後まで続けられるかを完全なタスクで示しています。
求人応募ページを一度で作り、フォームまで入力
Inklingは一文の依頼から、職務説明、連絡先、応募理由を含む求人応募ページを生成します。続いて、ページ内の自動実行プログラムが保存済みのユーザー情報を読み、フォームを完成させます。このデモではコード作成、画面生成、ブラウザ操作を同時に使っています。
40ラウンドのレビューを受けて対戦ゲームを改良
もう一つのタスクは、マルチプレイヤーのSnakeゲーム制作です。要件には、サーバー側で一元管理するゲーム状態、人間とボットの同時参加、衝突ルール、ランキング、テスト、起動手順が含まれます。Inklingはまず初版を作り、GPT Codexのレビューに基づいて40ラウンド連続で修正しました。これは長期タスクの能力を示す例です。モデルはコンテキストを保持し、批判を受け入れ、テストを繰り返して修正を続けられます。
9ページの旅行雑誌を制作
モデルが6都市の朝食情報と画像を検索し、表紙、都市特集、比較ページ、参考資料を含む統一デザインのPDFにまとめます。
Tinkerでファインチューニングを完了
モデルが学習コードを書き、データを準備し、評価ルールを設定してTinkerで学習します。その後、外側のプログラムに新しいモデルの重みへ切り替えさせます。
ファインチューニングの目標は具体的です。今後の英語回答で文字eを一切使わないようにします。モデルはまず、出力にeがあれば0点、なければ10点とする評価関数を書きます。続いて学習データと設定を生成し、Tinkerで32バッチ×3エポック、合計96ステップの学習を行います。
裏側の技術と興味深い発見
学ぶほど簡潔に:内部思考が「電報調」に
Inklingの事前学習データにはテキスト、画像、音声、動画が含まれ、合計45兆tokenです。事後学習では、強化学習タスクを3000万回以上試行しました。1回の試行とは、モデルがタスクを完了し、評価を受け、その結果から改善する一連の流れです。
学習チームは、強化学習が進むにつれてモデルの内部思考が自動的に短くなることを発見しました。初期は完全な文で接続語も多く使いますが、後期には冠詞、前置詞、一部の文法を省き、電報のような短文になります。それでも最終回答は同じです。この変化は報酬目標に組み込まれたものではなく、tokenコストの圧力からモデル自身が学びました。
強化学習の初期
「この演算子を理解する必要がある。この5次元の線素は……」
文は完全ですが、内部推論は長くなります。
強化学習の後期
「固有値問題を特定する必要……内部計量は……」
接続語を省き、推論の骨格を残します。
主流のRoPEをやめ、相対位置エンコーディングを採用
多くの大規模モデルは、長文内の位置を覚えるためにRoPE、つまり回転位置エンコーディングを使います。Inklingは相対位置エンコーディングを採用し、2つの内容がどれだけ離れているかを重視します。注意層は5∶1で交互に配置され、連続する5層が近くの情報を見た後、次の1層がコンテキスト全体を見ます。
一般的な方法:内容の位置を記録
モデルが各部分に位置情報を加えます。テキストが学習範囲を大きく超えると、位置の変化が安定性に影響する場合があります。
Inkling:内容間の距離を記録
2つの内容がどれだけ離れているかを重視します。発表チームのテストでは、学習時の長さを超える長いシーケンスをより安定して処理しました。
どうすれば使える?
すぐ試す:TinkerのInkling Playgroundで、現在は期間限定で無料試用できます。
ファインチューニングや開発に使う:完全な重みはHugging Faceに公開され、NVIDIA Blackwell GPU向けのNVFP4量子化版もあります。独自データで追加学習する場合は、Tinkerと公式Cookbookを利用できます。
ダウンロードできても、一般的なPCで動くとは限らない
Hugging Face上の完全な重みは約1.9TBです。BF16版には少なくとも約2TBの合計GPUメモリが必要で、NVFP4量子化版でも最低約600GBが必要です。一般の開発者にはPlayground、外部API、Tinkerの利用が向いています。自前運用はデータセンター級の作業です。
開く:主なベンチマーク結果とテスト条件
Inklingはコード、ツール利用、画像、音声、知識Q&A、安全性の各テストで結果を出し、幅広い能力を備えています。ただし、トップクラスのオープンモデルやクローズドモデルを全面的に上回るわけではありません。
各テストは異なる能力を測るため、スコアから難易度を横並びで比較することはできません。結果は最高思考強度0.99で報告され、ツール環境もコードテストに影響します。予測、音声、一部の画像結果はチーム内テストによるもので、第三者の再検証が必要です。
モデルカードは安全上の弱点も挙げています。ロールプレイや間接的な表現で包んだ有害な要求が、まれに拒否を回避できます。一般公開する場合は、コンテンツフィルタ、レート制限、監視を追加する必要があります。
Inkling:重みの公開だけでなく、モデル・学習・導入を一本化
Thinking Machines Lab初の自社開発オープンウェイトモデル。テキスト・画像・音声を扱え、追加学習の手段まで開発者に提供します。
↓ 1ページで読了 · 動く図解つき
Inklingは、ダウンロード、導入、追加学習ができるマルチモーダル基盤モデルです。単体のチャットAppではなく、コーディング支援、顧客対応、資料ツール、Webエージェントに組み込む汎用エンジンです。
✘ 重みだけでは、学習コード、データ形式、評価、GPUクラスタ、導入ツールを自前で用意する必要がある
従来の壁はここでした。モデルが公開されても、追加学習と本番導入には別の大がかりな基盤が必要でした。
Inklingは公開初日からTinkerに統合されています。まず試し、独自データと評価ルールで追加学習し、新版をダウンロードするか外部サービスで導入できます。
学習と評価を自前で用意
GPUクラスタを自前で構築
導入ツールも自前で追加
Tinkerで追加学習
Cookbookで手順を確認
重みを取得、または外部で導入
完全な重みはApache 2.0ライセンスで公開されています。ただし、学習データ、学習コード、全学習工程は公開されていないため、正確にはオープンウェイトモデルです。
Inklingは総計975B、つまり9750億パラメータを持ちます。しかし1 tokenの処理ですべてを動かすのではなく、約41B、つまり410億だけを使います。
Inklingは巨大なだけでなく、「どれだけ考えるか」と「何を入力するか」を一つのモデルにまとめています。
0.99:数学、複雑なコード、多段階タスクは深く考える
出力の長さで速度・コスト・精度を調整
画像を40×40ピクセルに分割
音声をスペクトログラム化し、3種類を一緒に推論
Inklingをダウンロードできても、個人PCでの自前運用に向くわけではありません。完全な重みは約1.9TBで、最低GPUメモリもデータセンター級です。
✘ 自前運用はデータセンター級。性能もトップモデルを全面的には上回らない
一般公開にはコンテンツフィルタ、レート制限、監視も必要です。モデルカードは、遠回しに包んだ有害な要求が拒否を回避する場合があると認めています。
- × 追加学習が重い
- × 本番導入も重い