勾配ブースティング回帰木（勾配ブースティングマシン）

1つ前の決定木の誤りを次の決定木で訂正するようにして、決定木を順番に作っていく

利点

ランダムフォレストに比べると性能がいい

特徴量のスケール変換が不要

欠点

パラメータのチューニングに最新の注意が必要

訓練にかかる時間が長い

パラメータ

事前枝刈りの数

決定木の数

学習率・・・個々の決定木がそれまでの決定木の誤りをどれくらい強く補正するか