📢 X投稿文
Switchyardはエージェント向けLLMプロキシ。OpenAI/Anthropic APIの変換により、Claude CodeをOllamaなどオープンソースモデルで実行可能に。複数バックエンドのルーティングに対応
https://github.com/NVIDIA-NeMo/Switchyard
🤖 AI考察
■ 概要
OpenAI と Anthropic API の仕様を相互変換し、LLM リクエストを複数バックエンドにルーティングする Rust プロキシ
■ 特徴・用途
Claude Code/Codex などのエージェントが vLLM/NVIDIA NIM/Ollama 等の既存推論エンドポイントを透過的に利用可能。LLMクラシファイアやシグナル駆動ルーティングによる段階的フェイルオーバー、A/B テスト対応。Prometheus メトリクスで通信オーバーヘッドを可視化。
■ 結論
マルチ推論基盤でのプロトコル方言の吸収に実用的な設計を示すが、pre-alpha(変更頻繁)のため本番導入は要検証。