皇上,还记得我吗?我就是1999年那个Linux伊甸园啊-----24小时滚动更新开源资讯,全年无休!

腾讯 Angel 正式加入 LF 深度学习基金会,代码库已迁移

今年3月我们曾报道过,腾讯计划将开源的 Angel 项目贡献给 LF 深度学习基金会。8月27日,Angel 正式宣布加入 LF 基金会,并表示即将发布可达万亿级维度特性计算的 2.0 版本。

Angel 是一个基于参数服务器(ParameterServer)理念的高性能分布式机器学习平台,在腾讯内部广泛应用于腾讯视频推荐、微信内容推荐、广点通点击率预估等业务场景,于2017年6月正式开源。Angel 发布之初的口号是可以轻松处理 TB 级别的数据和十亿维度的主题模型,从目前透露的 2.0 相关信息来看,Angel 将扩展到千亿级维度特性。

Angel 2.0 特性:

1. 万亿级维度特性计算

a)基于参数服务器,Angel 可以轻松扩展到万亿级维度的模型

b)针对稀疏大模型的场景, Angel 对底层数数学库进行了做了优化

c)Angel 上的算法通过 pulling/pushing 子模型, 轻松训练万亿级维度的模型

2.高性能数学库

a)无泛型设计, 采用 Java 基础数据类型来加速计算

b)使用快速哈希方法,加速稀疏向量/矩阵运算

c)Long-Key 索引和 Compoent 量向量/矩阵的引入, 使 Angel 支持超大模型

d)Execotor-Expression 架构使其基础运算高效且易于扩展

3.计算图支持

a)基于层的轻量计算图

b)自动计算梯度

c)易于添加层以扩展系统

d)开箱即用的特征交叉层,有利于推荐系统算法开发

e)Angel 和 Spark on Angel 共享统一的计算图

4.深度学习支持

a)推荐系统中常见的深度学习算法,如 Deep And Wide, DeepFM,PNN,PNN,NFM 都已支持

b)用户可以通过 Json 定义的网络

此外,随着 Angel 正式加入 LF ,项目代码已从原仓库 Tencent/angel 迁移至独立仓库 Angel-ML/angel 。据悉,项目后续将更加注重贡献者的成长和社区的建设,未来将由项目指导委员会 (TSC) 规划技术方向,并通过投票做出特性发布、工作流程、贡献者晋升等重要决策。

LF 深度学习基金会是由 Linux 基金会推出,创始成员包括 Amdocs、AT&T、B.Yond、百度、华为、诺基亚、Tech Mahindra、腾讯、Univa 、中兴等等,旨在进一步推动开源 AI 和 ML 。

转自 https://www.oschina.net/news/99412/tecent-angel-joined-lf

分享到:更多 ()