下载
中文
注册

LLMDataDist构造函数

函数功能

构造LLMDataDist。

函数原型

LLMDataDist(role: LLMRole, cluster_id: int)

参数说明

参数名称

数据类型

取值说明

role

LLMRole

集群角色。取值如下。

  • LLMRole.DECODER:增量集群
  • LLMRole.PROMPT:全量集群

cluster_id

int

集群ID。

调用示例

from llm_datadist import LLMDataDist, LLMRole
llm_datadist = LLMDataDist(LLMRole.DECODER, 0)

返回值

正常情况下无返回值。

参数错误可能抛出TypeError或ValueError。

约束说明