安阳县事业单位招聘_一般通过头发就能察觉到_公司网站建设公司好_抖音关键词优化排名靠前

安装 TensorRT

查看版本对应：https://docs.nvidia.com/deeplearning/tensorrt/release-notes/index.html#rel-8-6-1

我的是：

下载：https://developer.nvidia.com/nvidia-tensorrt-8x-download

如果选 TensorRT 8.6 GA for Ubuntu 18.04 and CUDA 12.0 and 12.1 DEB local repo Package 的话，下载的文件是：nv-tensorrt-local-repo-ubuntu1804-8.6.1-cuda-12.0_1.0-1_amd64.deb

解压然后配置环境变量：

tar -zxvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0.tar.gzvim ~/.bashrcexport LD_LIBRARY_PATH=$PATH:/home/wangguisen/projects/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=$PATH:/home/wangguisen/projects/TensorRT-8.6.1.6/lib::$LIBRARY_PATH
source ~/.bashrc

安装相关依赖：

cd TensorRT-8.6.1.6/python
pip install tensorrt-8.6.1-cp310-none-linux_x86_64.whlcd TensorRT-8.6.1.6/graphsurgeon
pip install graphsurgeon-0.4.6-py2.py3-none-any.whl

验证：

import onnxruntime as ort
import tensorrt
print(ort.get_device())
print(ort.get_available_providers())
print(tensorrt.__version__)