remove_cache_key
函数功能
移除CacheKey, 仅当LLMRole为PROMPT时可调用。
移除CacheKey后, 该Cache将无法再被pull_cache拉取。
函数原型
remove_cache_key(cache_key: CacheKey)
参数说明
参数名称 |
数据类型 |
取值说明 |
|---|---|---|
cache_key |
CacheKey |
需要被移除的CacheKey。 |
调用示例
kv_cache_manager.remove_cache_key(kv_cache_key)
返回值
正常情况下下无返回值。
传入数据类型错误情况下会抛出TypeError异常。
约束说明
无
父主题： KvCacheManager
