Host: AIサービスを使っていて、「この裏では一体どのモデルが動いているんだろう」と気になったことはありませんか？

Listener: ありますね。有名なモデルなのか、それともどこか無名の安いモデルでコスト削減されているのか、少し不安になることもあります。

Host: まさにそこなんです。myOrbitで実際に言語モデル、つまり読み、考え、書く推論を担っているのは、Anthropic、OpenAI、Google、そしてxAIの4つのラボだけです。

Listener: 大手のトップラボばかりですね。自前でホストした格安のオープンモデルを裏で混ぜているわけではないんですか？

Host: 一切ありません。会話機能のAuraやEcho OSはAnthropic、OpenAI、Googleが動かしていて、一部のアバターにはxAIも加わっています。これはプライバシーポリシーにも明記されている公式な契約上のリストです。ウェブ検索にはPerplexityやExa、メディア生成にはReplicate、音声にはElevenLabsと、それぞれの専門ツールに任せています。

Listener: なるほど。でも、最近はAnthropicもOpenAIもxAIも、自分たちで優秀なエージェントを出していますよね。どれかひとつのラボに全部任せてしまえばシンプルなんじゃないですか？

Host: 各ラボのエージェントは本当に素晴らしい足場を持っています。でも、どんな仕事でも常に一番優れている単一のモデルなんて存在しないんですよ。しかもトップの座は、新モデルが出るたびに目まぐるしく入れ替わります。仕事ごと、さらには人ごとに最適なモデルは違うのに、お金を払っているユーザーがひとつのラボに縛られる理由はありません。

Listener: 確かに、得意分野はそれぞれ違いますね。でもモデルを自動で振り分けるルーターって、普通は「一番安いモデルで済ませてコストを浮かす」ために使うものじゃないんですか？

Host: 世の中の多くのルーターはそうです。中立的なゲートウェイなら節約優先で正しいでしょう。けれど、myOrbitのルーティングシステム「Layer Cake」は真逆で、「人」から始めます。問いは「どれが一番安いか」ではなく、「この人はこの仕事から何を求めていて、それを一番満たせるモデルはどれか」なんです。

Listener: コスト削減じゃなくて、クオリティと人の好みに合わせるためなんですね。

Host: その通りです。深い推論が必要だと判断された質問を、コストを理由に安いモデルへ勝手に引き下げることは絶対にしません。失敗が安いからという理由で道具を使い続ける人はいませんからね。

Listener: 言われてみれば確かにそうですね。具体的には普段の会話でどう動いているんですか？

Host: たとえばAuraでは、ターンごとに必要な知性の深さを判断します。多くの人は一度最高峰のモデルを選ぶと、契約書の相談のあとに「木曜の歯医者は何時だっけ？」と聞くときも、そのまま遅くて重い思考を使わせてしまいがちですよね。

Listener: あ、やってしまいます。わざわざ設定を軽いモデルに切り替えるのって面倒なんですよね。

Host: そうなんです。だから軽い用事には素早い経路、日常の応答には通常の経路、そして本当に必要な問いにだけ最も深い推論を自動で割り当てます。節約は目的にするのではなく、仕事への適合の結果として自然についてくるものなんです。

Listener: リサーチ機能のResearcherでも同じような振り分けがされているんですか？

Host: はい。問いの各パーツを各ラボの最も得意なモデルへ渡し、あるラボが書いた主張を別のラボが検証するというクロスチェックまで行っています。さらに、障害対策も複数ラボにまたがっていて、どこか一つの調子が悪くても別のラボへ自動で引き継がれます。

Listener: なるほど。どのモデルを使うべきかユーザーが悩まなくても、裏で最適な組み合わせを組んでくれているわけですね。

Host: ええ。ラボ同士の競争はこれからも続きますが、ユーザーが乗り換えや設定に煩わされる必要はありません。具体的なアーキテクチャの背景や思想については公開ノートにも詳しく書かれているので、気になる方はぜひ読んでみてください。