コミュニティによるオリジナルデモ · 動画配信元：X
ソフトウェアの自動化
モデル・ツールの振り分け
リクエストに応じたAIモデルの振り分け
受け取ったリクエストを分類し、タスクに合うモデルへ振り分けるデモです。
- 公開日
- 元の投稿
- X / @ephraimduncan
投稿者の元の投稿を新しいタブで開きます。
以下はコミュニティのデモをもとに整理した実装案です。作者の実際の環境や実装は元の投稿をご確認ください。
活用シーン
複数のモデルやツールを使うアプリで、コストのかかる処理を始める前に振り分け先を選べます。
実装の考え方
経路と制約を定義し、リクエストを分類して、許可済みの対応表から振り分けます。不確実なタスクには代替経路を用意します。
判断の例
以下は想定するワークフローの説明であり、デモの実測結果やAPIのリクエスト・レスポンス形式ではありません。
- 入力例
- タスク：短いメモの要約。候補：要約、コード支援、画像分析。
- 判断結果の例
- 要約用の経路を選びます。
範囲と制約
経路の定義が曖昧だと適切に振り分けられません。誤った選択はコストや品質に影響するため、実際のリクエストで評価します。
自分の判断処理を試す
Playgroundでコンテキストと選択肢を定義し、APIガイドを使ってアプリにつなげましょう。
