一. GBDT的經(jīng)典paper:《Greedy Function Approximation:A Gradient Boosting Machine》
Abstract
Function approximation是從function space方面進(jìn)行numerical optimization,其將stagewise additive expamsions和steepest-descent minimization結(jié)合起來。而由此而來的Gradient Boosting Decision Tree(GBDT)可以適用于regression和classification,都具有完整的,魯棒性高,解釋性好的優(yōu)點(diǎn)。
1. Function estimation
在機(jī)器學(xué)習(xí)的任務(wù)中,我們一般面對(duì)的問題是構(gòu)造loss function,并求解其最小值??梢詫懗扇缦滦问剑?/p>
通常的loss function有:
1. regression:均方誤差(y-F)2,絕對(duì)誤差|y-F|
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識(shí)別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26