昇腾社区首页
中文
注册

cache_id

函数功能

获取KvCache的id。

函数原型

@property
cache_id() -> int

参数说明

调用示例

1
2
3
...
kv_cache = kv_cache_manager.allocate_cache(cache_desc, cache_keys)
print(kv_cache.cache_id)

返回值

正常情况返回类型为KvCache的id。

约束说明