KD_Lib安装避坑指南：PyPI与源码两种安装方式及3大常见问题排查-开发者社区

KD_Lib安装避坑指南：PyPI与源码两种安装方式及3大常见问题排查

【免费下载链接】KD_LibA Pytorch Knowledge Distillation library for benchmarking and extending works in the domains of Knowledge Distillation, Pruning, and Quantization.项目地址: https://gitcode.com/gh_mirrors/kd/KD_Lib

KD_Lib（也叫 KD-Lib）是一个基于 PyTorch 的知识蒸馏（Knowledge Distillation）库，集成了知识蒸馏、模型剪枝（Pruning）和量化（Quantization）三类模型压缩方法，非常适合做模型压缩实验与论文复现。不过很多新手在KD_Lib安装的第一步就卡住了：不是依赖冲突，就是版本不兼容。本文用最简单的方式，带你走完 PyPI 与源码两种安装流程，并给出3 大常见问题排查方案，帮你 10 分钟跑通第一个蒸馏实验。😉

一、为什么推荐用 KD_Lib 做知识蒸馏实验？

在动手安装前，先花 30 秒认识它：KD_Lib 把经典的蒸馏方法封装成了统一接口，比如VanillaKD、DML、TAKD、RKD等，你只需要传入教师模型、学生模型和数据加载器，就能一键训练与评估。

统一 API：所有方法都继承自 KD_Lib/KD/common/base_class.py 中的BaseClass
内置模型：ResNet18/50、LeNet、LSTM等开箱即用
覆盖全面：视觉、文本、剪枝、量化一应俱全

上图就是 KD_Lib 中概率偏移（ProbShift）方法的实验可视化效果，安装完成后你也可以轻松复现类似结果。

二、安装前的准备工作（重要！）

安装 KD_Lib 前，请先确认你的环境满足以下条件，否则容易踩坑：

检查项	推荐配置
Python 版本	3.6 ~ 3.8（老版本库兼容性最好）
PyTorch	1.8 左右即可，新版 PyTorch 需谨慎
包管理	强烈建议使用 venv 或 conda 虚拟环境

2.1 创建虚拟环境（强烈建议）

KD_Lib 的历史依赖版本较旧，直接在全局环境安装很可能污染你现有的项目。先隔离环境：

python -m venv kd_env source kd_env/bin/activate

三、安装方式一：PyPI 一键安装（最快速）

如果你只想快速体验，用 pip 从 PyPI 安装是最省事的KD_Lib安装方法：

pip install KD-Lib

注意：PyPI 上的包名是KD-Lib（带连字符），而导入时用的是下划线KD_Lib，两者不同，别搞混了。

安装后的快速验证

from KD_Lib.KD import VanillaKD print("KD_Lib 安装成功!")

如果没报错，说明导入正常。更完整的验证方式是跑一个 MNIST 蒸馏小实验（参考 README.md 的示例，模型封装在 KD_Lib/models/ 目录下）。

四、安装方式二：源码安装（推荐，功能最新）

PyPI 上的版本可能滞后于仓库代码，想要体验最新功能，推荐源码方式安装KD_Lib：

git clone https://gitcode.com/gh_mirrors/kd/KD_Lib cd KD_Lib python setup.py install

源码安装的小技巧：跳过自动依赖

setup.py会自动安装requirements.txt里一大堆锁死版本的依赖（如numpy==1.21.0、pip==21.1），这些老版本很容易和你现有环境冲突。如果你只需要核心功能，可以这样：

python setup.py install --no-deps

然后手动安装requirements.txt中真正需要的核心库（如 torch、matplotlib、tqdm）。

五、3 大常见问题排查（含解决方案）

问题 1：依赖版本冲突，安装时报 numpy/pip 错误 ❌

现象：pip install KD-Lib时提示numpy 1.21.0与现有版本冲突，或强制降级了你的 pip。

原因：项目的requirements.txt使用了大量精确版本锁定（详见 requirements.txt），年代较久。

解决方案：

优先使用虚拟环境隔离，避免影响全局；
使用--no-deps跳过自动依赖，再手动按需安装；
若必须共存，可用pip install KD-Lib --no-deps后单独安装兼容版本。

问题 2：Python 版本过高，torchtext 装不上 🐍

现象：ERROR: No matching distribution found for torchtext==0.9.1。

原因：KD_Lib 要求torchtext==0.9.1、transformers==4.6.1等，这些库不支持 Python 3.10+。

解决方案：

用 conda 创建 Python 3.7 环境：conda create -n kd python=3.7
或改用--no-deps方式安装 KD_Lib 本体，文本蒸馏部分（KD_Lib/KD/text/BERT2LSTM/）可以单独装新版本 transformers。

问题 3：torch / torchvision / torchtext 三者版本不匹配 🔥

现象：运行时提示torchtext找不到对应的torch版本，或 CUDA 相关报错。

原因：KD_Lib 锁定了torch==1.8.1与torchvision==0.9.1、torchtext==0.9.1，这套组合需要互相匹配，且torch 1.8.1对新 CUDA 支持有限。

解决方案：

# 先卸载，再统一安装匹配版本 pip uninstall torch torchvision torchtext -y pip install torch==1.8.1 torchvision==0.9.1 torchtext==0.9.1

如果是 CUDA 环境，请到 PyTorch 官网选择与显卡驱动匹配的 CUDA 版本进行安装。

六、安装成功后的第一次蒸馏实验

环境搞定后，验证一下核心功能。以最简单的 VanillaKD 为例，它实现了经典论文《Distilling the Knowledge in a Neural Network》：

import torch.optim as optim from KD_Lib.KD import VanillaKD from KD_Lib.models import ResNet18, ResNet50 # 准备 teacher / student 模型与优化器 distiller = VanillaKD( teacher_model, student_model, train_loader, val_loader, optim.SGD(teacher_model.parameters(), 0.01), optim.SGD(student_model.parameters(), 0.01), ) distiller.train_teacher(epochs=5) distiller.train_student(epochs=5) distiller.evaluate()

完整示例可参考 README.md 与官方文档 docs/usage/install.rst。