Skip to content

支持的模型

常见模型

以下模型是 LazyLLM 中常见支持的模型。您可以用这里提供的名字直接作为 TrainableModule 的参数传入,LazyLLM 会自动下载该模型。如果网络不可访问,您也可以直接指定本地模型的绝对路径。

大语言模型

  • Baichuan-13B-Chat
  • Baichuan-7B
  • Baichuan2-13B-Chat
  • Baichuan2-13B-Chat-4bits
  • Baichuan2-7B-Chat
  • Baichuan2-7B-Chat-4bits
  • Baichuan2-7B-Intermediate-Checkpoints
  • chatglm3-6b
  • chatglm3-6b-128k
  • chatglm3-6b-32k
  • CodeLlama-13b-hf
  • CodeLlama-34b-hf
  • CodeLlama-70b-hf
  • CodeLlama-7b-hf
  • glm-4-9b-chat
  • internlm-20b
  • internlm-7b
  • internlm-chat-20b
  • internlm-chat-20b-4bit
  • internlm-chat-7b
  • internlm2-1_8b
  • internlm2-20b
  • internlm2-7b
  • internlm2-chat-1_8b
  • internlm2-chat-1_8b-sft
  • internlm2-chat-20b
  • internlm2-chat-20b-4bits
  • internlm2-chat-20b-sft
  • internlm2-chat-7b
  • internlm2-chat-7b-4bits
  • internlm2-chat-7b-sft
  • internlm2_5-7b-chat
  • internlm2-math-20b
  • internlm2-math-7b
  • Llama-2-13b
  • Llama-2-70b
  • Llama-2-7b
  • Meta-Llama-3-70B
  • Meta-Llama-3-8B
  • Qwen-14B
  • Qwen-1_8B
  • Qwen-72B
  • Qwen-7B
  • Qwen1.5-0.5B-Chat
  • Qwen1.5-1.8B
  • Qwen1.5-14B
  • Qwen1.5-14B-Chat
  • Qwen1.5-4B
  • Qwen1.5-72B
  • Qwen1.5-7B
  • Qwen2-72B-Instruct
  • Qwen2-72B-Instruct-AWQ
  • Qwen2-7B-Instruct

多模态模型

  • InternVL-Chat-V1-5
  • llava-1.5-13b-hf
  • llava-1.5-7b-hf
  • Mini-InternVL-Chat-2B-V1-5
  • bge-large-zh-v1.5
  • bge-reranker-large
  • bark
  • ChatTTS
  • musicgen-medium
  • musicgen-stereo-small
  • stable-diffusion-3-medium
  • SenseVoiceSmall

其它模型

对于没在上面列表中的 LLM 模型,您也可以尝试使用由 huggingface 或者 modelscope 所提供的模型二级全名,如:Shanghai_AI_Laboratory/internlm2-chat-1_8b,将其作为 TrainableModule 的参数传入,LazyLLM 也会自动下载该模型。