下载
中文
注册

修改特性

编号

模块

详细

1

MindIE Service

MindIE Server业务IP支持配置成0.0.0.0。

2

MindIE LLM

  • MindIE LLM npu_mem_size支持默认值修改为-1,默认启用自动kv cache大小配置;
  • MindIE LLM 新增maxInputTokenLen,支持输入长度校验或自动截断,输出长度校验下限>0,校验上限取消,实际输出长度自动适配为模型最大长度-实际输入长度的差值。

3

MindIE Torch

MindIE Torch支持配置模型输出内存大小。