deallocate_cache
函数原型
deallocate_cache(cache: KvCache)
参数说明
参数名称 |
数据类型 |
取值说明 |
---|---|---|
cache |
KvCache |
要释放的KvCache。 |
调用示例
kv_cache_manager.deallocate_cache(cache)
返回值
正常情况下返回KvCache。
传入数据类型错误情况下会抛出TypeError异常。
约束说明
无
父主题: KvCacheManager