xtuner

Unsloth Studio是一个用于本地训练和运行Gemma 4、Qwen3.6、DeepSeek、gpt-oss等开源模型的Web界面。

使用PEFT或全参数对600多个LLM（Qwen3.6、DeepSeek-V4、GLM-5.1、InternLM3、Llama4等）和300多个MLLM（Qwe

面向大语言模型的高吞吐量、内存高效的推理与服务平台

SGLang是一个用于大型语言模型和多模态模型的高性能服务框架。