优化是AI / ML算法的关键组成部分。 无论提出什么目标函数,最后一步都是对其进行优化。 凸优化问题,无论是无约束的还是受约束的,都得到了很好的探讨(请参阅这里)。即使如此,优化效率或性能在很大程度上仍取决于目标函数的表面形状。 对于凸问题(convex optimization problem),解决方案可能会困在鞍点; 或对于局部凸目标函数,解决方案可能会达到局部最优而非全局最优。 当然,尝试使用不同的参数初始值是绕过此问题的一种方法。 在这里,我们介绍了另一种通过蒙特卡洛模拟找到最优值的方法,理论而言,它有机会在任何初始点达到全局最优值。

PDF 文档请点击这里.

相关的报告slides请点击这里.