指定使用GPU进行量化,不使用该参数,则默认使用CPU进行量化。
无。
参数值:可用的GPU ID,用户可以通过nvidia-smi命令查询可用的GPU。
参数值约束:使用该参数时,请确保根据安装前准备已经安装CUDA软件包。
参数默认值:无
--gpu_id=1