服务配置项
- StreamServer使用HTTPS服务，服务器证书私钥不能使用明文密钥，需要通过华为KMC组件对密钥进行管理。使用华为KMC组件时，需要通过安装haveged服务解决随机数阻塞问题，请参考haveged官网的安装说明进行安装，例如Ubuntu系统可以使用：apt-get install -y haveged 进行安装，请用户确保所安装的软件来源的合法性，并在安装前进行完整性校验。
客户端维持连接的时间取决于服务器所设置的keepAlive相关参数，请根据实际业务合理设置TCP保活时间、探测次数和探测间隔。
- 建议用户使用操作系统低权限的用户使用该推理服务。不建议root用户使用该服务。
- 侦听IP固定为127.0.0.1
配置项 |
描述 |
是否必选 |
是否可修改 |
|---|---|---|---|
server_name |
推理服务名称，run包安装后原始配置文件中默认为“StreamServer”。请勿包含敏感信息。 如果该配置项的值为空，则采用默认值。 |
否 |
是 |
infer_config_repo |
推理配置文件仓库的存储目录，run包安装后原始配置文件中默认为当前目录下的“inferConfigRepository”文件夹，推理服务会递归扫描此目录下面的所有推理配置文件（JSON文件），针对每一个配置文件，推理服务会尝试拉起该服务，如果硬件资源耗尽，会出现服务拉起失败的情况。 推理服务对“inferConfigRepository”文件夹的层次深度做了限制，包含自身文件夹在内，最大层次为10层，最大文件及文件夹个数为100个，如果不满足上述条件，将无法启动推理服务器。 如果该配置项的值为空，则采用默认值。 |
否 |
是 |
request_cache_size |
每个推理服务请求缓冲区的大小，run包安装后原始配置文件中默认为“120”，设置范围 [1,1000]。 设置超出上（下）限时，将读取上（下）限的值。 如果该配置项的值为空，则采用默认值。 |
否 |
是 |
max_request_rate |
客户端请求速率限制，run包安装后原始配置文件中默认为每秒钟20次请求，设置范围 [1,30]。 设置超出上（下）限时，将读取上（下）限的值。 如果该配置项的值为空，则采用默认值。 |
否 |
是 |
max_content_length |
客户端请求报文大小限制，run包安装后原始配置文件中默认报文大小和请求头大小之和小于20480KB=20MB，设置时以KB为单位，设置范围 [1,51200]。 设置超出上（下）限时，将读取上（下）限的值。建议在HTTPS服务器前部署Nginx用于增强流量控制的功能。 如果该配置项的值为空，则采用默认值。 |
否 |
是 |
port |
推理服务侦听的端口号，范围为[1025, 65535]，run包安装后原始配置文件中默认为“8080”。设置超出上（下）限时，将读取上（下）限的值。 如果该配置项的值为空，则采用默认值。 |
否 |
是 |
server_crt |
服务器证书“server.crt”文件路径，由CA签发，目标路径文件属主为Vision SDK安装用户且权限为“400”。该配置项由导入证书脚本管理。 |
否 |
是 |
server_key |
服务器证书私钥文件“server.key”文件路径，请使用加密后的私钥文件。目标路径文件属主为Vision SDK安装用户且权限为“400”。该配置项由导入证书脚本管理。 |
否 |
是 |
ca_crt |
CA证书“ca.crt”文件路径。目标路径文件属主为Vision SDK安装用户且权限为“400”。该配置项由导入证书脚本管理。 |
否 |
是 |
crl |
吊销列表“ca.crl”文件路径，目标路径文件属主为Vision SDK安装用户且权限为“400”。仅用于需要本地吊销列表时填写。该配置项由导入证书脚本管理。 |
否 |
是 |
server_key_mm |
服务器私钥密文，不能使用明文密钥，由华为KMC组件管理，建议不要手动修改该配置项。最长位数为“400”。 |
否 |
是 |
cipher_list |
协议算法套件，run包安装后原始配置文件中有默认值可以不修改，多个套件用冒号“:”分割。该配置项不能为空。 StreamServer仅支持ECDHE-ECDSA-AES128-CCM、ECDHE-ECDSA-AES256-CCM:ECDHE-ECDSA-AES128-GCM-SHA256、ECDHE-ECDSA-AES256-GCM-SHA384、ECDHE-RSA-AES128-GCM-SHA256、ECDHE-RSA-AES256-GCM-SHA384算法套件。 |
否 |
是 |
sdp_algorithm_id |
KMC加密算法函数，以ID填写，run包安装后原始配置文件中默认为9、代表“AES256_GCM”加密算法。该配置项不能为空。仅支持设置为8（代表AES128_GCM加密算法）或9（“AES256_GCM”加密算法）。 |
否 |
是 |
log_dir |
StreamServer推理服务的日志路径，该路径为相对路径，默认为logs。其绝对路径为用户主目录下的“/log/mindxsdk”与“log_dir”的拼接路径。该配置项不能为空。 |
否 |
是 |
max_log_size |
日志文件size最大值，单位为MB，run包安装后原始配置文件中默认值为“10”，设置范围[1,20]。设置超出上（下）限时，将读取上（下）限的值。该配置项不能为空。 |
否 |
是 |
rotate_file_number |
日志文件回滚个数，run包安装后原始配置文件中默认值为“50”，设置范围[1, 500]。设置超出上（下）限时，将读取上（下）限的值。该配置项不能为空。 |
否 |
是 |