我正在尝试通过梯度上升过程最大化目标函数的对数。我正在观察一个目标值序列，在该序列中，值先增加，然后又开始减少。我想知道这是否可能吗？我的意思是说，是否存在这样的函数，其上升过程经过最大值，然后产生递减值路径。以下是目标值序列的链接。
Value Sequence
最佳答案
要回答一般性问题：当然。如果您的函数不可微，则不能保证遵循梯度将增加函数值。例如，考虑一个类似-abs（x）的函数。
就是说，除非您认为您的函数可能不可区分，否则我认为Memming是正确的，因为您在下降/上升实现中存在一些错误，尤其是考虑到迭代在多个迭代之间分散的方式。
关于machine-learning - 梯度上升收敛，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/19059439/