copy_blocks

函数功能

PagedAttention场景下，拷贝block。

函数原型

copy_blocks(cache: KvCache, copy_block_info: Dict[int, List[int]])

参数说明

调用示例

kv_cache_manager.copy_blocks(cache, {1: [2,3]})

返回值

正常情况下无返回值。

传入数据类型错误情况下会抛出TypeError异常。

执行时间超过sync_kv_timeout配置会抛出LLMException异常。

约束说明

无。