企业级应用。「 Enterprise applications 」
60.9k
大语言模型
一种高吞吐量且内存高效的推理与服务引擎,专为大型语言模型(LLMs)设计。「A high-throughput and ...
38.3k
大语言模型
Jan 是一款开源的 ChatGPT 替代品,可在您的计算机上完全离线运行。「Jan is an open source...
5k
大语言模型
基于 GPTQ 算法的易用型 LLM 量化工具包,配备用户友好型 API。「An easy-to-use LLMs qu...