llama.cpp

LLM inference in C/C++

MIT License

Stars
55.2K
Committers
874