昇腾社区首页
中文
注册

cache_desc

函数功能

获取Cache描述。

函数原型

@property
cache_desc() -> CacheDesc

参数说明

调用示例

1
2
3
...
kv_cache = cache_manager.allocate_cache(cache_desc, cache_keys)
print(kv_cache.cache_desc.num_tensors)

返回值

正常情况返回类型为Cache的cache描述。

约束说明