GPBoost：与高斯工艺和混合效果模拟相结合树升压

GPBoost是一种用于将树升压与高斯过程和混合效果模型相结合的软件库。它还允许独立地执行树升压以及对高斯过程和混合效果模型的推断和预测。 GPBoost库主要由C ++编写，并且存在Python包和R包。

GPBoost R和Python演示说明了GPBoost如何在R和Python中使用

Python包和R包，具有Python和R包的安装说明

Companion文章SIGRIST（2020）和SIGRIST（2021）或本博客文章如何将树增强与混合效果模型相结合

树升压和高斯过程都是实现最先进的预测精度的技术。除此之外，树增强有以下优势：

依赖性的建模在其他事情中，可以允许更有效地学习固定效果/回归函数

对于GPBoost算法，假设响应变量（AKA标签）Y是潜在的非线性平均函数f（x）和随机效果zb的总和：

其中xi是一个独立的错误项，x是预测变量（aka covariates或功能）。

该模型使用GPBoost算法训练，其中训练意味着使用树集合学习随机效应的协方差参数（AKA Hyper参数）和预测函数F（x）。简而言之，GPBoost算法是一种升级算法，它迭代地学习协方差参数，并使用梯度和/或牛顿升压步骤将树添加到树的集合中。在GPBoost库中，可以使用（Nesterov加速）梯度下降或Fisher评分（AKA自然梯度下降）来学习协方差参数。此外，使用LightGBM库学习树木。有关详细信息，请参阅SIGRIST（2020）和SIGRIST（2021）。

实现更多方法，使得计算刻度（内存和时间）对于高斯进程模型和混合效果模型，具有多于一个非高斯数据的分组变量

guolin ke，qi meng，托马斯·芬利，泰峰王，魏陈，威东马，齐伟叶，铁燕刘。 ＆＃34; LightGBM：一种高效的渐变升压决策树＆＃34;神经信息处理系统30的进步（NIPS 2017），PP。3149-3157。

该项目根据Apache许可证2.0的条款许可。请参阅额外详细信息的许可证。