local-openai-api-service

LLM API Server , OpenAI 同时支持 ChatGLM3 ,Llama, Llama-3, Firefunction, Openfunctions ,BAAI/bge-m3 ,bge-large-zh-v1.5

Stars
7
Committers
1

local-openai-api-service

#在llama-cpp-python的基础上增加了对ChatGLM3、GLM-4的支持,增加了对函数调用模型firefunction-v1,Gorilla OpenFunctions v2 的支持, bge-large-zh-v1.5, bge-m3 ,functionary-v2.5

Related Projects