超参数优化简介 目前人工智能和深度学习越趋普及，大家可以使用开源的Scikit-Learn、TensorFlow来实现机器学习模型。对于各种模型而言，或多或少都具有要调节的超参数。相同的模型应用在不同的数据集上，如何选择…
对于深度学习或机器学习模型而言，我们不仅要求它对训练数据集有很好的拟合（训练误差），同时也希望它可以对未知数据集（测试集）有很好的拟合结果（泛化能力），所产生的测试误差被称为泛化误差。度量泛化能力的…
在日常工作中用到的比较多的还是树回归模型，由于LightGBM不需要的类别数据进行预处理所以用得特别多，中间涉及到超参数优化时通常使用随机参数优化方法。在算法模型自动超参数优化方法中有提到了Optuna，平时工作…
什么是超参数？ 学习器模型中一般有两类参数，一类是可以从数据中学习估计得到，我们称为参数（Parameter）。还有一类参数时无法从数据中估计，只能靠人的经验进行设计指定，我们称为超参数（Hyper parameter）。…
