我是ML的新手，我刚刚学习了线性回归和逻辑回归。
我想知道如何确定这些成本函数，以及如何得出这些成本函数？我们如何知道这些成本函数适合特定问题？
换句话说，我不确定这些成本函数如何被证明是准确的并且适合于特定的问题。在ML中，我们有时有时会提出自己的成本函数吗？
最佳答案
在正确的机器学习方法中，您首先要解决的问题。一旦遇到问题，您应该问自己：“我真正关心的是什么？”，“我在这里真正要做的是什么？”答案将提供“完美”的损失功能。问题是，通常无法直接真正学习这种“完美”功能。让我们以分类为例，您想要一个区分猫和狗的模型。 “完美”损失的一种可能的形式化形式是“最小数量的错误答案”。问题是，这样的功能无法区分。来模拟模型的参数（或者可微但提供0梯度）。因此，人们经常寻找行为相似但更适合我们所拥有的学习方法的替代品。如果不是说“最小数量的错误答案”，而是说“至少一个错误答案的最小概率”，那么对数损失（用于逻辑回归的损失）实际上就是那个。
简而言之，典型的路径是：
问题说明
完美误差测量的定义
根据上述和其他约束条件选择替代损失
对于许多问题，没有唯一的替代方案可供选择，因此最佳损失的选择（或从头算起）本身就是一个巨大的研究领域。
关于machine-learning - 如何在机器学习中确定成本函数？，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/44740472/