下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

allocate_blocks_cache

函数功能

PagedAttention场景下,分配多个blocks的Cache,Cache分配成功后,可通过deallocate_cache释放内存。

函数原型

allocate_blocks_cache(cache_desc: CacheDesc, blocks_cache_key: Optional[BlocksCacheKey] = None)

参数说明

参数名称

数据类型

取值说明

cache_desc

CacheDesc

Cache的描述。

blocks_cache_key

Optional[BlocksCacheKey]

仅当LLMRole为PROMPT时可设置,用于在DECODER拉取KV。

调用示例

from llm_datadist import BlocksCacheKey
blocks_cache_key = BlocksCacheKey(0, 0)
cache = kv_cache_manager.allocate_blocks_cache(kv_cache_desc, blocks_cache_key)

返回值

正常情况下返回KvCache。

传入数据类型错误情况下会抛出TypeError异常。

执行时间超过sync_kv_timeout配置会抛出LLMException异常。

约束说明

无。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词