build_inputs接口
接口功能
基于输入的conversations: List[List[Dict[str, str]]],基于模型的tokenizer,提供多轮对话token_id生成和拼接。(继承自GeneratorBackend,属于内部调度接口,暂不支持对外功能。)
接口实现
def build_inputs(self, conversations: List[List[Dict[str, str]]], **kwargs): return [self.model_wrapper.make_context(conversation, **kwargs) for conversation in conversations]