OBLITERATUS AIWG代理式本地搭建:setup.dev.manifest.yaml一键开发环境教程
【免费下载链接】OBLITERATUSOBLITERATE THE CHAINS THAT BIND YOU项目地址: https://gitcode.com/GitHub_Trending/ob/OBLITERATUS
OBLITERATUS 是一个用于识别并移除大语言模型"拒绝行为"的开源研究工具(abliteration 消融术工具包),内置完整的探针、外科手术式修改与评测流水线。本文将带你使用项目自带的 AIWG 声明式清单 installer/setup.dev.manifest.yaml,在 Linux 上以代理编排(provider-orchestrated)方式一键搭建完整的开发者运行环境。
🧭 什么是 AIWG 代理式搭建?
传统开发环境搭建需要手动装 Python 依赖、配置 GPU 运行时、处理密钥凭证。OBLITERATUS 把这些步骤写进了一份YAML 清单,由 AI 代理(如 Codex)读取并逐步执行、验证、排障:
| 清单字段 | 作用 |
|---|---|
spec.params | 声明可配置参数(CUDA、OpenBao 开关等),默认值都是auto自动探测 |
spec.prerequisites | 安装前自动检查 Python、uv、Git、磁盘、内存是否达标 |
spec.steps | 三步安装流程:脚本装依赖 → 代理配置密钥 → 脚本验证 |
spec.recovery | 失败时的自动恢复路径:重跑安装脚本 |
配套的 AIWG 框架配置位于 .aiwg/aiwg.config 与 AIWG.md,它约束了代理的并行能力上限和上下文加载顺序,保证"代理替你装环境"这件事本身也是可审计、可复现的。
📋 一键安装前的 5 项前置检查
清单在动手之前会先探测你的机器,不达标会直接给出安装提示,而不是中途报错:
| 前置条件 | 最低要求 | 推荐值 |
|---|---|---|
| Python | 3.10+ | 3.10–3.12 |
| uv 包管理器 | 已安装 | 最新版 |
| Git | 2.30+ | 最新版 |
| 磁盘空间 | 12 GB 空闲 | 更大(模型文件另算) |
| 内存(RAM) | 8 GB | 16 GB 及以上 |
💡 清单声明支持linux x86_64 与 arm64双架构、bash shell,Jetson 等 ARM 主机同样适用,可参考 docs/platforms/jetson.md。
🚀 一键安装步骤
第 1 步:获取代码
git clone https://gitcode.com/GitHub_Trending/ob/OBLITERATUS cd OBLITERATUS第 2 步:设置三个可选参数(都有auto默认值,零配置也能跑):
ENABLE_CUDA:auto/true/false。检测到 NVIDIA 显卡时,installer/scripts/setup.sh 会自动重装匹配的 CUDA 版 PyTorch,并做卷积 + 注意力算子的冒烟测试;ENABLE_OPENBAO:auto/true/false。启用时由代理步骤(configure-openbao)按最小权限原则配置 OBLITERATUS AppRole,只允许读取 HF 与 OpenRouter 两把只读密钥,并可密封到主机 TPM;OPENBAO_ITOPS_ROOT:存放 OpenBao 策略与令牌辅助脚本的 itops 仓库路径,默认${HOME}/dev/itops。
第 3 步:让 AIWG 代理执行清单
代理按依赖顺序执行三个阶段:
install-runtime→ 跑uv sync --locked锁定依赖安装(含 spaces、dev 扩展),随后校验gradio、torch、transformers可导入;configure-openbao→ 代理按 installer/scripts/ 所在清单的指令完成密钥代理(broker)配置,全程禁止打印任何密钥明文,只映射HF_TOKEN与OPENROUTER_API_KEY;verify-runtime→ 跑 installer/scripts/verify.sh,除 CUDA 探测外还会运行tests/test_device_boundaries.py、tests/test_secrets.py等关键契约测试。
第 4 步:启动本地界面
清单briefing给出的下一步就是运行启动脚本并打开浏览器:
bash installer/scripts/launch-local.sh # 浏览器访问 http://127.0.0.1:7860installer/scripts/launch-local.sh 会设置好密钥代理环境变量、避开主机 cuDNN 与 PyTorch 自带 cuDNN 的动态混用,然后启动 Gradio 界面 app.py。装完即可在网页里对模型执行 abliteration,无需再写一行代码。
🛠 出错时的自动恢复方案
清单内置了recovery段:当install-runtime失败时,代理会执行reinstall-runtime恢复路径,直接重跑 installer/scripts/setup.sh 重建.venv虚拟环境。由于依赖安装走--locked锁定模式,重装结果是确定性的,不需要你手工排查版本冲突。
📚 关键文件速查
| 文件 | 说明 |
|---|---|
| installer/setup.dev.manifest.yaml | 本文主角:AIWG 一键开发环境清单 |
| installer/scripts/setup.sh | 依赖安装 + CUDA 运行时自检脚本 |
| installer/scripts/verify.sh | 运行环境验证与契约测试脚本 |
| installer/scripts/launch-local.sh | 本地 Gradio 界面启动脚本 |
| AIWG.md / WORKSPACE.md | 代理上下文与并行能力约束 |
✅ 小结
- 只需满足Python 3.10+、uv、Git、12 GB 磁盘、8 GB 内存五项前置条件;
- 三份参数全部默认
auto,有 NVIDIA 显卡就自动装 CUDA 版 PyTorch,没有就纯 CPU 运行; - 代理执行"装依赖 → 配密钥 → 验证"三步,失败自动走恢复路径重跑安装;
- 安装完成后一条命令启动
http://127.0.0.1:7860,即可开始你的 OBLITERATUS 消融实验。
⚠️ OBLITERATUS 是面向研究者的对齐研究工具,移除安全护栏后的模型使用责任由你自行承担,请仅将其用于科学研究与本地实验。
【免费下载链接】OBLITERATUSOBLITERATE THE CHAINS THAT BIND YOU项目地址: https://gitcode.com/GitHub_Trending/ob/OBLITERATUS
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考