模型部署

导读 费尽心血训练好的深度学习模型如何给别人展示？只在服务器上运行demo怎么吸引别人的目光？怎么才能让自己的成果落地？这篇文章带你进入模型部署的大门。 0 前言 模型部署的步骤：…

一、背景介绍 模型部署基本步骤分为模型选择、模型部署、运行，如果需要在特定的场景下定制化模型，则还需要进行数据集的选择、数据集格式转换、微调。 根据上述的步骤本教程选取如下的开源模…

简介 小伙伴们好，我是《小窗幽记机器学习》的小编：卖热干面的小女孩。紧接前文：万字长文细说ChatGPT的前世今生，后续会尝试以理论+实践的方式逐步对主流的各大LLM进行实测和汉化…

NVIDIA官方链接：https://developer.nvidia.com/cuda-gpus 搬运官网图表如下： Jetson Products GPU Compute Ca…

安装目录 一、cuda安装 1.1、cuda版本选择 1.2、下载安装 二、cudnn安装 三、pytorch安装 四、tensorRT8.X安装 写在前面 博主这里装的是cuda…

文章目录 1.TensorRT的安装 1.1 cuda/cudnn以及虚拟环境的创建 1.2 根据cuda版本安装相对应版本的tensorRT 2. TensorRT的使用 2.1…