LLM推論をC/C++で実行できるllama.cpp。Hugging Faceモデルのキャッシュ場所を標準化し、HFツールとの連携が容易に。マルチモーダルサポートも追加されています。 #llamacpp #AI #OSS #GitHub https://github.com/ggml-org/llama.cpp