device_id
函数功能
设置当前进程device ID，对应底层ge.exec.deviceId配置项。
函数原型
device_id(device_id)
参数说明
参数名称 |
数据类型 |
取值说明 |
|---|---|---|
device_id |
Union[int, List[int], Tuple[int]] |
设置当前进程的device ID。 |
调用示例
1 2 3 4 5 | from llm_datadist import LLMConfig llm_config = LLMConfig() llm_config.device_id = 0 # 单进程多卡设置方法 # llm_config.device_id = [0, 1] |
返回值
无
约束说明
无
父主题： LLMConfig