Ubuntu 16.04 下 CUDA/cuDNN 卸载升级与 TensorFlow 重装：TaoToken 统一 Key 配置骨架-开发者社区

1. Ubuntu 16.04 老环境里 CUDA/cuDNN 冲突到底卡在哪

如果你手上还有一台 Ubuntu 16.04 的机器，上面跑着 TensorFlow，某天import tensorflow突然报ImportError: libcublas.so.9.0: cannot open shared object file，或者报libcudnn.so.7找不到，那你大概率不是代码写错了，而是 CUDA、cuDNN、显卡驱动、TensorFlow 四者版本对不上。Ubuntu 16.04 本身已经停止常规维护，很多新版本驱动和 CUDA 已经不再官方支持它，所以升级路径比新系统窄，但并不是不能做。

这篇内容聚焦的就是这个场景：老系统里 CUDA/cuDNN 版本冲突导致 TensorFlow 无法加载，怎么把旧的卸载干净、装上新版本、验证 TensorFlow 能正常调用 GPU，最后再给一套 TaoToken 统一 Key 的配置骨架，让后续模型调用和本地训练环境解耦。适合正在维护老服务器、实验室机器、或者公司遗留 GPU 节点的同学。整个过程我会给出可直接复制的命令，以及每一步的预期输出，方便你对照排查。

需要先明确一个概念：CUDA 是 NVIDIA 的并行计算平台，cuDNN 是建立在 CUDA 之上的深度神经网络加速库，TensorFlow-GPU 在运行时动态链接这两个库。三者版本必须严格匹配，比如 TensorFlow 1.8 对应 CUDA 9.0 + cuDNN 7，TensorFlow 1.12 对应 CUDA 9.0 + cuDNN 7，TensorFlow 1.15 对应 CUDA 10.0 + cuDNN 7.4。装错一个，就是libcublas.so.X找不到或者libcudnn.so.X找不到。

2. 卸载旧 CUDA/cuDNN 与 TaoToken 前置准备

2.1 先确认当前环境状态

动手卸载之前，先把现状摸清楚，避免误删还在用的驱动。执行下面几条命令：

nvcc --version cat /usr/local/cuda/version.txt ls -l /usr/local/ | grep cuda dpkg -l | grep cuda dpkg -l | grep cudnn python -c "import tensorflow as tf; print(tf.__version__)"

nvcc --version看的是编译器版本，/usr/local/cuda/version.txt看的是软链接指向的实际版本，dpkg -l看的是通过 deb 包安装的组件。如果nvcc命令不存在，说明 CUDA 没装或者环境变量没配。

2.2 卸载旧 CUDA

如果是用 runfile 安装的，卸载方式是：

sudo /usr/local/cuda-X.Y/bin/uninstall_cuda_X.Y.pl

如果是用 deb 包安装的，用 apt 卸载：

sudo apt-get --purge remove cuda sudo apt-get --purge remove cuda-* sudo apt-get autoremove sudo apt-get autoclean

卸载完检查残留目录，手动清掉：

sudo rm -rf /usr/local/cuda-9.0 sudo rm -rf /usr/local/cuda

注意：不要卸载 NVIDIA 显卡驱动，除非你确定要重装驱动。驱动和 CUDA Toolkit 是两回事，驱动版本只要满足 CUDA 的最低要求即可。

2.3 卸载旧 cuDNN

cuDNN 通常是把头文件和库文件复制到 CUDA 目录里，所以卸载就是删掉这些文件：

sudo rm -f /usr/local/cuda/include/cudnn.h sudo rm -f /usr/local/cuda/lib64/libcudnn*

如果是 deb 包安装的：

sudo dpkg -r libcudnn7 libcudnn7-dev

2.4 TaoToken 前置：统一 Key 的意义

本地 GPU 环境折腾完，TensorFlow 能跑了，但训练之外你还会遇到模型调用、API 接入的问题。TaoToken 的作用是把模型访问统一到一个 Key 上，本地环境只负责训练和推理，模型服务走统一入口。这样换机器、换框架都不用重新配一堆 Key。

先去官网注册并拿到 Key：https://taotoken.net/?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

拿到 Key 后，在控制台可以查看和管理：https://taotoken.net/console?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

API Key 管理页面：https://taotoken.net/api-keys?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

API 基础地址是https://taotoken.net/api，这个地址在配置里会用到。

3. 安装新 CUDA/cuDNN 与 TensorFlow 的可复制配置

3.1 安装 CUDA 9.0（以 TensorFlow 1.8 为例）

去 NVIDIA 官网下载对应版本的 runfile。Ubuntu 16.04 对应的 CUDA 9.0 下载命令：

wget https://developer.nvidia.com/compute/cuda/9.0/Prod/local_installers/cuda_9.0.176_384.81_linux-run chmod +x cuda_9.0.176_384.81_linux-run sudo sh cuda_9.0.176_384.81_linux-run

安装过程中的交互选项，按下面这样选：

Do you accept the previously read EULA? accept Install NVIDIA Accelerated Graphics Driver for Linux-x86_64 384.81? n Install the CUDA 9.0 Toolkit? y Enter Toolkit Location [ default is /usr/local/cuda-9.0 ]: 直接回车 /usr/local/cuda-9.0 is not writable. Do you wish to run the installation with 'sudo'? y Do you want to install a symbolic link at /usr/local/cuda? y Install the CUDA 9.0 Samples? n

驱动那一步选n，前提是你已经装了满足要求的驱动。如果没装驱动，选y，但需要先关闭图形界面（sudo service lightdm stop）。

3.2 配置环境变量

编辑~/.bashrc，加入：

export PATH=/usr/local/cuda-9.0/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64:$LD_LIBRARY_PATH export CUDA_HOME=/usr/local/cuda-9.0

然后source ~/.bashrc。这里有个坑：环境变量改完之后，source有时候不生效，尤其是图形界面下已经打开的终端。最稳妥的方式是注销重新登录，或者重启。我试过在同一个终端里反复 source 都没用，注销一次就好了。

3.3 安装 cuDNN 7

下载 cuDNN 7 对应 CUDA 9.0 的版本，解压后复制文件：

tar -xzvf cudnn-9.0-linux-x64-v7.tgz sudo cp cuda/include/cudnn.h /usr/local/cuda-9.0/include/ sudo cp cuda/lib64/libcudnn* /usr/local/cuda-9.0/lib64/ sudo chmod a+r /usr/local/cuda-9.0/include/cudnn.h sudo chmod a+r /usr/local/cuda-9.0/lib64/libcudnn*

3.4 安装 TensorFlow-GPU

指定版本安装，避免 pip 拉到不兼容的新版本：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow-gpu==1.8.0

如果要装其他版本，把1.8.0换成对应版本号。装完之后如果报ImportError: libcublas.so.9.0: cannot open shared object file，执行：

sudo ldconfig /usr/local/cuda-9.0/lib64

这条命令的作用是刷新动态链接库缓存，让系统能找到新装的 CUDA 库。很多时候不是版本装错了，而是链接器没更新缓存。

3.5 TaoToken 配置骨架

在项目里建一个settings.json，把统一 Key 和 API 地址写进去：

{ "taotoken": { "api_key": "你的_TAOTOKEN_KEY", "base_url": "https://taotoken.net/api", "model": "claude-3-5-sonnet", "timeout": 60 }, "tensorflow": { "gpu_memory_fraction": 0.8, "allow_growth": true } }

如果用config.toml：

[taotoken] api_key = "你的_TAOTOKEN_KEY" base_url = "https://taotoken.net/api" model = "claude-3-5-sonnet" timeout = 60 [tensorflow] gpu_memory_fraction = 0.8 allow_growth = true

Python 里读取配置：

import json with open("settings.json", "r") as f: config = json.load(f) api_key = config["taotoken"]["api_key"] base_url = config["taotoken"]["base_url"]

4. 验证请求与成功结果

4.1 验证 CUDA 和 cuDNN

nvcc --version cat /usr/local/cuda/version.txt

预期输出类似：

Cuda compilation tools, release 9.0, V9.0.176 CUDA Version 9.0.176

验证 cuDNN：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

预期看到#define CUDNN_MAJOR 7。

4.2 验证 TensorFlow GPU

import tensorflow as tf print(tf.__version__) print(tf.test.is_gpu_available())

如果输出True，说明 TensorFlow 已经能调用 GPU。如果输出False，检查LD_LIBRARY_PATH是否包含 CUDA 的 lib64 目录。

4.3 验证 TaoToken 连通性

用 curl 测试 API 是否可达：

curl -X POST https://taotoken.net/api/v1/chat/completions \ -H "Authorization: Bearer 你的_TAOTOKEN_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "claude-3-5-sonnet", "messages": [{"role": "user", "content": "ping"}] }'

如果返回正常的 JSON 响应，说明 Key 和网络都没问题。模型对话入口：https://taotoken.net/model-chat?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

Python 里调用：

import requests headers = { "Authorization": f"Bearer {api_key}", "Content-Type": "application/json" } data = { "model": "claude-3-5-sonnet", "messages": [{"role": "user", "content": "你好"}] } resp = requests.post(f"{base_url}/v1/chat/completions", headers=headers, json=data) print(resp.json())

5. 本篇常见错排查

5.1 libcublas.so.9.0 找不到

这是最高频的报错。原因通常是 CUDA 库路径没进LD_LIBRARY_PATH，或者ldconfig缓存没刷新。解决：

echo $LD_LIBRARY_PATH sudo ldconfig /usr/local/cuda-9.0/lib64

如果还不行，检查/usr/local/cuda-9.0/lib64下是否真的有libcublas.so.9.0。

5.2 libcudnn.so.7 找不到

cuDNN 文件没复制到位，或者权限不对。检查：

ls -l /usr/local/cuda-9.0/lib64/libcudnn*

如果没有，重新复制并chmod a+r。

5.3 环境变量 source 不生效

前面提过，图形界面下已经打开的终端，source ~/.bashrc有时不生效。注销重新登录，或者新开一个终端。如果用的是zsh，改的是~/.zshrc。

5.4 TensorFlow 版本和 CUDA 不匹配

TensorFlow 1.8 需要 CUDA 9.0，TensorFlow 1.12 需要 CUDA 9.0，TensorFlow 1.15 需要 CUDA 10.0。装之前先查官方版本对照表，别凭感觉装。

5.5 驱动版本过低

CUDA 9.0 要求驱动版本不低于 384.81。用nvidia-smi查看当前驱动版本。如果低于要求，需要先升级驱动。

5.6 TaoToken 请求 401

检查 Key 是否复制完整，有没有多余空格。在 API Keys 页面重新生成一个：https://taotoken.net/api-keys?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

6. 长期编码与 Agent 场景的接入建议

本地 TensorFlow 环境搞定之后，如果你还要做长期编码、Agent 开发，建议把模型调用统一走 TaoToken 的 Coding Plan，这样不用每次换项目都重新配 Key。接入文档：https://taotoken.net/doc?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

Coding Plan 入口：https://taotoken.net/coding-plan?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

Claude Code 接入参考：https://taotoken.net/claude-code-anthropic?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

最后提醒一句：Ubuntu 16.04 的 CUDA 安装包在 NVIDIA 官网已经不太好找，建议提前把 runfile 和 cuDNN 压缩包下载到本地存档，避免以后链接失效。环境变量改完记得注销，别跟source死磕。