OWLQN算法介绍,及go语言实现logistic regression优化
用logistic regression做ctr预估或则分类的同学,大家应该都知道梯度下降能够求得目标问题的最优解。但是梯度下降迭代太慢,而且不一定能求得最优解。 owlqn不仅收敛速度比梯度下降算法快很多的,而且能对L1正则化的优化问题求解,L1正则化使目标函数在变量为0时不可微。OWLQN是LBFGS在L1问题上的解决方案(因为LBFGS只能用来优化目标函数为凸的情况)。L1相对L2正则化,具有特征选择的优势。下面github的链接是我用go实现的单机owlqn算法。 https://github.com/qm1004/OWLQN 理论方面的介绍网上已经有非常好的简介了,算法的介绍主要转自下面这篇文章。 转自 http://www.cnblogs.com/downtjs/p/322264...阅读全文