最も流出しやすい資産は、ファイルではない

記事ではリスクを「どのようなデータがアップロードされるか」から「AIを利用する際にどのような新たな知識が生成されるか」へと進めています。

契約書、コード、顧客リストは機密データだと判断しやすい。一方、プロンプトの書き方、モデルが失敗した箇所、人がどう修正したか、何を合格とみなすかは、単なるシステムログに見えやすい。ナデラ氏はこうした痕跡を「インテリジェンスの排気」と呼ぶ。

すべてのエラー修正は、「良い結果とは何だと思いますか?」というビジネス固有の質問に答えます。競合他社は同じモデルを購入することはできますが、この長期にわたって蓄積された判断基準を購入することはできません。これは、記事が「特定のインテリジェンス」と呼んでいるもので、特定の時間、場所、ビジネス環境において組織だけが持つ知識です。

データの境界を「学習の境界」へ広げる

元のファイルを保護するだけでは十分ではありません。企業はまた、「システムがその仕事からどのようにして企業の理解を深めていくか」をコントロールする必要もあります。

従来のデータ境界は、ファイルがどこに存在するか、誰がそれらを読み取ることができるか、ファイルが漏洩するかどうかに関係します。ナデラ氏は、さらに一歩前進するよう求めました。プロンプトの言葉、フィードバック、評価、記憶、適応された重み、およびエージェントの軌道も、企業の制御可能な境界内に留まらなければなりません。

5つの行動で、会社の「ベテラン能力」を守る

ナデラ氏は、このアプローチを C で始まる 5 つの単語に要約します。これらは 5 つの並列機能ではなく、「資産の所有」から「複利の生成」までの一連の機能です。

この主張にはどんな限界があるのか

「学習サイクルは企業に属する」というのは明白な主張です。この記事から「サプライヤーはすべての顧客データを学習している」ということを直接推測することはできません。

データ処理は、製品、アカウントの種類、契約ごとに異なります。 Microsoft 独自の Azure Direct モデルを例に挙げると、公式説明では次のように述べられています。顧客のプロンプト ワード、出力、トレーニング データは、許可なく基本モデルのトレーニングに使用されず、モデル ベンダーにも提供されません。

この4つの権利は同じではない。サプライヤーが「顧客データを学習に使わない」と約束しても、企業がすべての記憶をエクスポートできるとは限らない。企業が出力を所有していても、その出力を競合モデルの蒸留に使うことを契約が認めているとは限らない。ナデラ氏が実際に求めているのは、後半3つの権利だ。

この一連の提案は、Microsoft のビジネス上の立場とも一致しています。 Microsoft は、Azure と Foundry でテナント境界、モデル カタログ、測定レイヤーとオーケストレーション レイヤーを提供できます。したがって、この記事は一連のエンタープライズ AI 理論であると同時に、Microsoft が占めたいと考えているインフラストラクチャの地位の肖像でもあります。

明日モデルを変えたら、会社には何が残るか

企業は自社の AI プラットフォームを検討する際、「どのモデルが 1 位にランクされるか」を脇に置いて、これらの長期的な問題を最初に検討できます。