LLM 工具地图

概述

LLM (大语言模型) 生态工具全景图，涵盖模型、部署、应用开发等层面。

模型层

闭源模型

模型	提供商	特点
GPT-4o	OpenAI	全能型
Claude 3.5	Anthropic	长上下文、安全
Gemini 1.5	Google	超长上下文
Minimax	MiniMax	国内可用

开源模型

模型	特点
Llama 3	Meta，开源旗舰
Mistral	欧洲最强开源
Qwen	阿里，中文强
DeepSeek	高性价比

部署层

本地部署

• [[llama.cpp]] - CPU 运行 LLM
• [[Ollama]] - 简易本地部署
• vLLM - 高性能推理

云端部署

• [[vLLM]] - vLLM Server
• [[llama.cpp]] Server
• OpenAI Compatible API

应用开发层

框架

• LangChain / LangGraph
• LlamaIndex
• DSPy

Agent 开发

• AutoGen
• CrewAI
• [[Agent]] 框架

RAG

• [[RAG]] - 检索增强生成
• [[Embedding]] - 向量化
• [[Chunking]] - 文档分块

提示词工程

• [[Prompt Engineering]] - 提示词技巧
• [[Chain of Thought]] - 思维链
• Few-shot Learning - 少样本学习

学习资源

• → LLM API 提供商对比
• → 本地 LLM 部署指南

状态

growing

来源

待补充