完全离线运行AI渗透测试：pentest-ai-agents 本地模型部署教程（Ollama+vLLM）

完全离线运行AI渗透测试：pentest-ai-agents 本地模型部署教程（Ollama+vLLM）

【免费下载链接】pentest-ai-agentsTurn Claude Code into your offensive security research assistant. Specialized AI subagents for authorized penetration testing plan engagements, analyze recon, research exploits, build detections, audit STIGs, and write reports.项目地址: https://gitcode.com/gh_mirrors/pe/pentest-ai-agents

pentest-ai-agents 是一个包含 50 个专业 AI 子智能体的开源项目，可把 Claude Code 变成你的AI渗透测试研究助手——规划渗透项目、分析侦察数据、研究漏洞利用、编写检测规则与报告。本文教你如何通过Ollama 和 vLLM 本地模型部署，让整个工作流完全离线运行：无云端 API、无数据外传、无订阅费用。

📌 核心提示：pentest-ai-agents 的每个智能体本质上是纯 Markdown 系统提示词（agents/ 目录下的.md文件），唯一的 Claude 专属部分是文件头部的 YAML frontmatter。这意味着它可以运行在任何支持系统提示词的本地大模型上。

一、为什么要本地模型部署 AI 渗透测试？

渗透测试工作天然涉及敏感数据：客户内网 IP、扫描结果、凭据、业务细节。把这类数据发给云端 API，可能违反保密协议（NDA）、规则协议（ROE）或客户"禁用第三方 AI"的政策（详见 docs/DATA-PRIVACY.md）。

本地模型部署有四大优势（摘自 docs/LOCAL-SETUP.md）：

即使完全不用大模型，每个智能体文件也可以当离线方法论文档直接阅读（cat agents/exploit-guide.md），方法论部分依然可用。

二、部署前准备：获取 pentest-ai-agents

先安装智能体文件（只需拷贝.md文件，无需 Python 依赖）：

# 克隆仓库 git clone https://gitcode.com/gh_mirrors/pe/pentest-ai-agents cd pentest-ai-agents && ./install.sh --global

或一行安装：

./install.sh --global --lite # --lite 模式让建议型智能体走轻量模型，更省资源

装好后，用 db/doctor.sh 体检一下本机缺失哪些底层安全工具（nmap、nuclei 等），再用 install.sh 的--tools参数一键补齐。

三、Ollama 部署：个人开发者首选（推荐）

Ollama 是本地大模型部署最简单的方式，官方文档 docs/LOCAL-SETUP.md 将其列为推荐方案。

第 1 步：安装 Ollama 并拉取模型

curl -fsSL https://ollama.ai/install.sh | sh # 按显卡显存选择模型 ollama pull llama3.1:70b # 质量最佳，需 40GB+ 显存 ollama pull deepseek-r1:32b # 推理能力强，20GB+ 显存 ollama pull llama3.1:8b # 轻量入门，8GB 显存即可

第 2 步：模型选型速查表

⚠️官方建议：专业渗透测试工作请使用 70B+ 参数模型。小模型会遗漏复杂攻击链的细节，命令语法可靠性也较低。

第 3 步：多 GPU 配置（可选）

OLLAMA_NUM_GPU=2 ollama serve # 指定 GPU 层数 CUDA_VISIBLE_DEVICES=0,1 ollama serve # 指定具体显卡

四、vLLM 部署：团队与生产环境的最快方案

对于团队使用或高吞吐场景，vLLM 是官方推荐的推理服务器，它提供经过优化的 OpenAI 兼容 API（端口 8000）：

pip install vllm python -m vllm.entrypoints.openai.api_server \ --model meta-llama/Meta-Llama-3.1-70B-Instruct \ --tensor-parallel-size 2 \ --port 8000

部署完成后，所有支持 OpenAI 兼容接口的客户端只需指向http://localhost:8000/v1即可（Ollama 则指向http://localhost:11434/v1）。

💡 除了 Ollama 和 vLLM，LM Studio（带 GUI 的本地模型管理器，默认端口 1234）也是可选项，适合不想碰命令行的用户。

五、如何调用本地模型驱动智能体？

本地部署后有两种使用方式：

方式 1：通过 OpenCode 等终端工具（体验最完整）

OpenCode（后更名 Crush）是开源终端 AI 编码工具，具备与 Claude Code 相同的核心工具（bash、文件读写、grep 等），且原生支持 Ollama 本地模型：

go install github.com/opencode-ai/opencode@latest export OPENAI_BASE_URL=http://localhost:11434/v1

Claude Code 也可通过设置ANTHROPIC_BASE_URL指向本地兼容端点。

方式 2：直接提取系统提示词（最灵活、纯离线）

每个智能体文件的 frontmatter 之后就是完整系统提示词，可粘贴到任何 LLM 界面：

awk 'BEGIN{found=0} /^---$/{found++; next} found>=2{print}' agents/recon-advisor.md

例如 agents/recon-advisor.md 就是一位"侦察分析专家"——粘贴 Nmap 输出给它，它会帮你按优先级排序攻击面并推荐下一步命令（参考 examples/example-nmap-analysis.md 的示例输出）。

📖 注意：脱离 Claude Code 使用会失去自动路由（描述任务自动分派到对应智能体），需要手动指定智能体，但方法论指导效果不变。

六、硬件配置参考

Apple 用户：M1 Pro/Max 可流畅跑 8B；M2 Ultra（192GB 统一内存）可跑 70B；M3 Max 跑 32B 速度不错。

七、云 vs 本地：如何选择？

结论：高安全等级项目、保密协议严格 → 选本地；追求极致效果、做 CTF 或个人学习 → 云端更省心。

八、常见问题 FAQ

Q1：本地模型输出质量明显下降怎么办？智能体输出质量高度依赖模型能力。复杂任务（威胁建模、检测工程、报告生成）建议优先 70B+ 模型；或参考 docs/TOKEN-OPTIMIZATION.md 精简提示词，把算力留给关键推理。

Q2：智能体是"离线"的吗？是。所有智能体是纯 Markdown 文件，不含代码、不发起网络请求、不收集遥测（见 docs/DATA-PRIVACY.md）。数据流向与未安装本项目时完全一致。

Q3：Tier 2 执行型智能体本地能用吗？可以。它们依赖的是 bash 和工具权限，本地方案同样支持。所有执行型智能体都内置强制范围校验（scope-guard），每个命令执行前都会要求你确认——安全模型见 docs/TIER2-EXECUTION.md。

总结

通过本文的三步走——安装智能体 → 部署 Ollama/vLLM → 接入本地端点，你就拥有了一个完全离线的 AI 渗透测试研究助手。本地模型部署不仅解决了敏感数据出域的核心痛点，还消除了订阅费用与供应商锁定。记住两点即可获得最佳体验：70B+ 模型起步、始终在授权范围内测试（务必签署书面 ROE，详见 DISCLAIMER.md）。

更多文档：docs/AGENT-GUIDE.md（智能体使用指南）、docs/CUSTOMIZATION.md（自定义智能体）、INSTALL.md（完整安装与排错）。

【免费下载链接】pentest-ai-agentsTurn Claude Code into your offensive security research assistant. Specialized AI subagents for authorized penetration testing plan engagements, analyze recon, research exploits, build detections, audit STIGs, and write reports.项目地址: https://gitcode.com/gh_mirrors/pe/pentest-ai-agents