下载
中文
注册

build_inputs接口

接口功能

基于输入的conversations: List[List[Dict[str, str]]],基于模型的tokenizer,提供多轮对话token_id生成和拼接。(继承自GeneratorBackend,属于内部调度接口,暂不支持对外功能。)

接口实现

def build_inputs(self, conversations: List[List[Dict[str, str]]], **kwargs):
    return [self.model_wrapper.make_context(conversation, **kwargs) for conversation in conversations]