分布式 LambdaMART 算法:提升大规模学习排序效率
在大规模数据的学习排序任务中,LambdaMART 算法是一种常用的方法。为了进一步提升其在处理大规模数据时的效率,我们将介绍两种分布式学习的方法:特征分布式 LambdaMART 和数据分布式 LambdaMART。
1. LambdaMART 算法基础
LambdaMART 算法的输入包括训练数据 ${x_m, y_m}$($m = 1, \ldots, M$)、树的数量 $N$、叶子节点数量 $L$ 以及学习率 $\eta$,输出为模型 $f(x, N)$。以下是 LambdaMART 算法的伪代码:
Algorithm 18: LambdaMART
1: Input: Training Data: {xm, ym}, m = 1, ..., M;
Number of Trees: N;
Number of Leaves: L;
Learning Rate: η;
2: Output: Model: f (x, N);
3: f (x, 0) = BaseModel(x) // BaseModel may be empty
4: For n = 1 to N do
5:
For m = 1 to M do
6:
λm = G(q, x, y, m) // Calculate λ-gradient for sample m as a function of the
// query q and the documents and labels x, y a
订阅专栏 解锁全文
673




被折叠的 条评论
为什么被折叠?



