■ 概要（1行） 自前のGPU上で GLM・DeepSeek・MiniMax 系の大型モデル（GGUF 量子化版）を動かし、OpenAI／Anthropic 互換 API で提供する推論基盤。 ■ 特徴・用途（2〜3行） 単一の NVIDIA GPU から最大16基、AMD・Windows にも対応し、チャットと画像生成、複数リクエストの並列処理を扱う。Hugging Face で配布される低ビット量子化（IQ2_S など）の GGUF を使い、大型モデルを手元のVRAM制約内で動かす想定。社内向けのプライベートな LLM 基盤や、既存の OpenAI／Anthropic クライアントをそのまま使う開発環境に向く。 ■ 結論（1行） 大型モデルのローカル運用を狙った実用性の高い推論ランタイムだが、README 抜粋の範囲ではモデルサイズ・速度・16GPU 対応の数値は未検証なので、実機ベンチマークとライセンス確認が必要。