首页 > 试题广场 >

以下算法（随机搜索，梯度下降，贝叶斯优化）有几种可以用来搜索

[单选题]
以下算法（随机搜索，梯度下降，贝叶斯优化）有几种可以用来搜索GBDT模型中，树的个数（超参数）？ 
  • 0
  • 1
  • 2
  • 3
查看答案及解析
添加回答
helmar头像 helmar

  1. 随机搜索（Random Search）：

    • 随机搜索是一种简单而有效的超参数优化方法，它通过在超参数空间中随机采样来搜索最佳超参数组合。
    • 对于树的个数这一超参数，可以指定一个范围，然后随机地从这个范围内采样一些值作为候选树的个数，然后在这些候选值中选择表现最好的。

  2. 梯度下降（Gradient Descent）：

    • 梯度下降优化算法可以用于优化连续型超参数，但对于离散型超参数如树的个数，通常不太适用。
    • 对于树的个数这种离散型超参数，可以考虑使用整数规划或者其他启发式搜索方法来进行优化。

  3. 贝叶斯优化（Bayesian Optimization）：

    • 贝叶斯优化是一种基于贝叶斯推断的序列模型优化方法，它通过构建目标函数的后验概率分布来搜索最佳超参数。
    • 贝叶斯优化在高维和离散型超参数搜索中表现良好，可以高效地探索超参数空间并寻找最优解。
    • 对于树的个数这种离散型超参数，贝叶斯优化可以利用高斯过程等模型来建模目标函数，并根据不断观测的结果更新后验分布，从而指导搜索过程。
编辑于 2024-03-26 10:42:42 回复(0)
提交观点

问题信息

算法工程师 第四范式 2020
上传者：小小
难度：
1条回答 1780浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号