155k
自然语言处理

Ollama

使用 Llama 3、Mistral、Gemma 和其他大型语言模型启动和运行。「Get up and running ...
  61.5k
大语言模型

vLLM

一种高吞吐量且内存高效的推理与服务引擎,专为大型语言模型(LLMs)设计。「A high-throughput and ...