deallocate_cache
函数原型
deallocate_cache(cache: KvCache)
参数说明
参数名称 |
数据类型 |
取值说明 |
---|---|---|
cache |
KvCache |
要释放的KvCache。 |
调用示例
kv_cache_manager.deallocate_cache(cache)
约束说明
如果KvCache不存在或已释放,该操作为空操作。
父主题: KvCacheManager