55.3k 大语言模型 vLLM 一种高吞吐量且内存高效的推理与服务引擎,专为大型语言模型(LLMs)设计。「A high-throughput and ... Apache-2.0 Python FastView Compare 44
37k 大语言模型 Jan - Local AI Assistant Jan 是一款开源的 ChatGPT 替代品,可在您的计算机上完全离线运行。「Jan is an open source... Apache-2.0 TypeScript FastView Compare 55