DeallocateCache
函数功能
释放Cache。
函数原型
Status DeallocateCache(int64_t cache_id)
参数说明
参数名称 |
输入/输出 |
取值说明 |
|---|---|---|
cache_id |
输入 |
Cache的id。 |
调用示例
Status ret = llm_datadist.DeallocateCache(cache.cache_id)
返回值
- LLM_SUCCESS: 成功
- 其他：失败
约束说明
需要在Initialize接口初始化完成后调用。
父主题： LlmDataDist