ドメイン特化SLMへ ルーティング

Quality

許容できる誤りと人への引き継ぎ

正答率だけでなく、重大な誤判定、判断保留、担当者への引き継ぎを業務ごとに定めます。

Economics

成果一件あたりの費用と応答時間

推論費用に再試行と人による確認を加え、受入基準を満たした成果一件あたりの総原価を測ります。

Control

権利条件とデータ配置

商用利用、再配布、外部送信、保存場所、鍵管理、運用主体をモデル構成と配備形態ごとに確認します。

1. 01 Define

   対象業務と受入基準を定義

   一つの業務判断を選び、参加者、観測できる情報、選択肢、目的、損失、必須制約を記述します。

   Evaluation Specification

2. 02 Route

   SLM候補を同じ条件で比較して振り分け

   固定したモデル版と評価データを使い、品質、速度、費用、権利条件、データ配置を満たす経路を決めます。

   Routing Policy

3. 03 Learn

   LLMフォールバックを評価データへ変換

   顧客が許諾したリクエスト、応答、選択結果、専門家修正だけを記録し、来歴を付けて蒸留候補にします。

   Consent & Provenance Record

4. 04 Operate

   専用SLMを構築して配備後も再評価

   蒸留または追加学習したSLMを顧客指定環境へ配備し、評価データ、ルーティングポリシー、モデル版、更新判断を対応づけます。

   Model Passport

知性の民主化とは、すべての現場に同じ巨大モデルを配ることではありません。各現場が、目的と制約に合う知性を選び、育て、統制できる状態をつくることです。

1. 01

   Game Definition

   業務判断を意思決定問題として定義

   参加者、観測できる情報、選択肢、結果を記述し、モデルが答える条件、判断を保留する条件、人へ引き継ぐ条件を固定します。

2. 02

   Evaluation Design

   最適化指標と必須制約を分離

   品質、速度、費用は比較する指標として扱い、安全、法令、権利条件、データ配置は満たすべき制約として分けます。

3. 03

   Lifecycle

   選定から更新まで同じ受入基準で管理

   候補比較、ルーティング、蒸留、配備、回帰評価で同じ評価仕様を使い、判断が変わった理由をモデル版と履歴へ残します。

1. 01 Frame

   対象業務と期待するBenefitを合意

   原価、新事業、防御判断のいずれを優先するかを決め、現在の処理方法と守るべき制約を整理します。

2. 02 Prototype

   SLM CatalogとRouting APIで試す

   候補SLMを同じ業務フローで動かし、受入条件を満たせない処理だけをLLMへフォールバックします。

3. 03 Validate

   顧客データで成立条件を確認

   期待する品質、費用、応答時間、運用条件を満たすかを共同で確認し、本番化に残る課題を明らかにします。

4. 04 Production

   必要な専用化を行って本番へ移行

   PoCで確認した条件をもとに、必要な場合だけ蒸留または追加学習を行い、配備と継続評価へ進みます。