简介
产品背景
随着人工智能技术的演进,电商、长短视频、社交等行业对搜索系统、推荐系统以及广告系统的效果诉求越发强烈。在如今互联网发达的时代,大量的用户数据、商品数据、视频资料,使信息剧烈爆炸,也使得搜索推荐广告系统的价值进一步凸显。搜索推荐广告系统的需求增长必然带来对算力的需求,如何部署更大算力并充分发挥算力成为系统管理人员重点关注的问题。
产品定义
Rec SDK作为面向互联网市场搜索推荐广告的应用使能SDK产品,对于搜索推荐广告模型训练的应用场景需求,提供基于昇腾平台的搜索推荐广告框架,支撑大规模搜索推荐广告场景,助力完成搜索推荐广告模型的高效训练。Rec SDK的功能涉及:
- 模型训练基础功能。支持单机单卡训练、单机多卡和多机多卡分布式训练,支持基于TensorFlow开发模型。
- 推荐场景特有功能。基于Rec SDK的稀疏表方案,Rec SDK提供必备功能,如特征保存和加载、特征准入、特征淘汰、非亲和算子切分等。
- 大规模稀疏表特有功能。支持加速卡内存、主机内存、主机磁盘多级存储、支持存储、支持动态扩容。规模可超10TB。
- 模型训练定制功能。使用Estimator框架,支持定制Warm Start选项,从多个源域模型进行参数加载,实现连续迁移学习的功能。
- Debug检测工具功能。其中,性能检测工具支持Host侧profiling数据采集,Host侧和Device侧profiling数据融合、耗时排序、可视化,支撑性能问题定位能力;精度看护工具支持端到端算子级精度对比,支撑精度看护、问题定位能力。
产品价值
产品特性 |
产品价值 |
---|---|
易用 |
极简易用API,快速开发算法模型。 |
精度 |
在标准模型验证精度误差小于万分之一。 |
性能 |
高效多级流水加速,高速集合通信加速,极致性能优化。 |