想免费搭建最新AI智能体，核心思路是把“模型、编排、工具、部署”四层拆开，每一层都选免费或开源方案。模型层可以用本地开源模型，例如通过Ollama、LM Studio或vLLM运行Qwen、Llama、DeepSeek、Gemma、Mistral等。Ollama最简单，安装后执行类似“ollama pull qwen2.5”的命令，就能在本机得到可调用的模型接口。如果电脑显存不够，可以用量化版模型，7B参数大约需要8GB显存，14B大约需要16GB，CPU也能跑但速度慢。也可以使用免费API额度，例如Google AI Studio的Gemini、Groq、OpenRouter部分免费模型、Hugging Face Inference API、硅基流动等，但它们通常有速率、次数或功能限制，适合测试和轻量使用。
编排层决定智能体怎么思考、调用工具、记忆和协作。无代码或低代码平台最适合快速免费搭建，例如Dify开源版、Flowise、LangFlow、n8n、FastGPT、Botpress，以及Coze/扣子这类托管平台。Dify开源版可以自托管，支持知识库、工具调用、工作流和智能体，配合Ollama就能完全本地免费运行。Flowise和LangFlow更偏向拖拽式编排，适合把大模型、提示词、向量库和工具连成流程。代码路线可以用AutoGen、CrewAI、LangGraph、Semantic Kernel，它们适合多智能体协作和复杂任务，但需要一定Python基础。
一个很实用的免费方案是“Ollama + Dify + Docker”。先安装Docker和Ollama，用Ollama拉取一个支持工具调用的开源模型，例如Qwen2.5或Llama 3.1。然后用Docker Compose部署Dify，进入Dify设置模型供应商，选择Ollama，填入本机Ollama地址。接着创建智能体应用，写系统提示词，添加知识库，上传PDF、Word或网页资料，再配置工具，例如网页搜索、代码执行、HTTP请求。最后通过Dify的网页链接或API调用。若需要外网访问，可以用Cloudflare Tunnel、frp或内网穿透，但要注意安全。
另一个零代码方案是Coze/扣子或Dify云版。注册后创建智能体，填写角色设定、目标、技能和限制，添加插件、知识库、工作流，再发布到网页、飞书、微信或API。它的优点是上手快，缺点是免费额度、模型选择和隐私控制受平台限制。若要做研究型智能体，可以用CrewAI定义研究员、写作员、审核员，再让它们调用免费API和DuckDuckGo搜索。若要做企业知识库问答，可以用FastGPT或Dify加Chroma、Qdrant等向量库。
免费搭建时要注意几件事。第一，免费API的额度和政策会变，不要把关键业务完全押在一个平台上。第二，API Key要放在环境变量里，不要写进前端代码。第三，本地模型对硬件有要求，显存不足时优先选量化模型或小参数模型。第四，工具调用需要模型支持function calling，否则智能体只能聊天，不能真正执行任务。第五，涉及隐私数据时优先本地部署，涉及合规时要注意数据来源和日志留存。第六，代码执行、网页浏览、文件读写等工具要加沙箱和权限控制。第七，先用最小 |
|
