最新
默认分类
安装与配置
TensorRT-LLM
Agent
端侧大模型
准备工作一个Linux系统。一个好点的显卡，目前仅支持算力8.0的显卡，推荐A100,30/40系暂不支持。已安装git/git-lfs，已安装docker。安装nvidia-container-runtime（强烈建议），安装步骤如下：添加NVIDIA包存储库密钥：# 对于ubuntu 18...
- 官方插件:
Nsight Visual Studio Code Edition（与cuda调试有关） - 配置文件格式识别，在设置中搜索
files.associations, 设置“*.cu”: ".cpp",将cu文件映射为cpp文件（利用cpp插件来编译，可不做）。 解决导入cuda_runtime.h出现波浪线问题。