金沙4166官网登录承受等待的损失而能占到位置

当前位置:4166am金沙app > 金沙4166官网登录 > 金沙4166官网登录承受等待的损失而能占到位置
作者: 4166am金沙app|来源: http://www.wyxmob.com|栏目:金沙4166官网登录

文章关键词:4166am金沙app,损失函数

  声明:百科词条人人可编辑,词条创建和修改均免费,绝不存在官方及代理商付费代编,请勿上当受骗。详情

  损失函数(loss function)或代价函数(cost function)是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。在应用中,损失函数通常作为学习准则与优化问题相联系,即通过最小化损失函数求解和评估模型。例如在统计学和机器学习中被用于模型的参数估计(parameteric estimation)

  机器学习中,给定独立同分布(independent and identically distributed,iid)的学习样本

  表示模型参数,上式右侧具体的量化方法视问题和模型而定,但要求满足损失函数的一般定义,即样本空间的非负可测函数。

  为模型的输出。各类回归模型,例如线性回归广义线性模型(Generalized Linear Model, GLM)和人工神经网络(Artificial Neural Network, ANN)通过最小化L

  损失通过平方计算放大了估计值和真实值的距离,因此对偏离观测值的输出给予很大的惩罚。此外,L

  损失对估计值和真实值之差取绝对值,对偏离真实值的输出不敏感,因此在观测中存在异常值时有利于保持模型稳定。

  分类问题所对应的损失函数为0-1损失,其是分类准确度的度量,对分类正确的估计值取0,反之取1:

  0-1损失函数是一个不连续的分段函数,不利于求解其最小化问题,因此在应用可构造其代理损失(surrogate loss)。代理损失是与原损失函数具有相合性(consistency)的损失函数,最小化代理损失所得的模型参数也是最小化原损失函数的解。当一个函数是连续凸函数,并在任意取值下是0-1损失函数的上界时,该函数可作为0-1损失函数的代理函数

  这里给出二元分类(binary classification)中0-1损失函数的代理损失:

  交叉熵损失函数(cross-entropy loss function)

  铰链损失函数是一个分段连续函数,其在分类器分类完全正确时取0。使用铰链损失对应的分类器是支持向量机(Support Vector Machine, SVM),铰链损失的性质决定了SVM具有稀疏性,即分类正确但概率不足1和分类错误的样本被识别为支持向量(support vector)被用于划分决策边界,其余分类完全正确的样本没有参与模型求解

  交叉熵损失函数是一个平滑函数,其本质是信息理论(information theory)中的交叉熵(cross entropy)在分类问题中的应用。由交叉熵的定义可知,最小化交叉熵等价于最小化观测值和估计值的相对熵(relative entropy),即两者概率分布的Kullback-Leibler散度:

  ,因此其是一个提供无偏估计的代理损失。交叉熵损失函数是表中使用最广泛的代理损失,对应的分类器例子包括logistic回归人工神经网络和概率输出的支持向量机。

  指数损失函数是表中对错误分类施加最大惩罚的损失函数,因此其优势是误差梯度大,对应的极小值问题在使用梯度算法时求解速度快。使用指数损失的分类器通常为自适应提升算法(Adaptive Boosting, AdaBoost),AdaBoot利用指数损失易于计算的特点,构建多个可快速求解的“弱”分类器成员并按成员表现进行赋权和迭代,组合得到一个“强”分类器并输出结果。

  某个工厂人员的产出,以每小时多少元来计算,而损失函数所显示的,是产出以室内通风条件而改变的情形。厂内工作的每个人,都有自己的损失函数。为了简化说明,假设每个人的损失函数均为一条抛物线,其底部一点代表产出值最大时的通风条件,把所有人员的损失函数进行叠加,公司整体的损失函数也必然是一条抛物线。如果通风条件偏离这个最佳水准,就会有额外损失发生。该抛物线与横轴相切时,切点的左右各有一小段与横轴几近重合。也就是说,有最适点偏离一小短距离,损失小到可以忽略不计。因此,当室内通风条件稍稍偏离均衡点,发生的损失可以忽略不计。但是远离均衡点时,总是有人必须支付这损失。如果我们能够导出有具体数字的损失函数,我们就可以计算出最优均衡点,在均衡点中最适合的通风条件如何,以及达到要求的费用支出是多少。

  以赶火车作为符合规格的例子。假设我们的时间价值为每分钟n元,下图左边的斜线是损失线的斜率;早一分钟到达月台,将让我们损失n元,早两分钟到达损失2n元。另一方面,如果没有赶上火车,我们的损失是M元。迟到半分钟或迟到5分钟损失一样,损失函数直接由零跳到M。

  当然问题也可复杂化,例如火车每天离站的时间也有变化,所以也可以画出一个分配图。火车到站时间三个标准差的界限可能是8秒。把问题这样复杂化,对于我们了解和应用损失函数并没有特别大的帮助,因此我们就说到这里。 另一个例子,是参加星期日早上11点15分的礼拜时所碰到的停车问题。教堂的停车场最大负荷是停放50辆车子,但这些车位在10点50分左右仍然客满,因为作完上一场礼拜的车主仍在喝咖啡。金沙4166官网登录等他们一离开,这些空位马上就会被排成长龙等待的车队填满。如果你想占到一个车位,不得不早早去排队。那些晚到的人在这里找不到车位,只能到街上去找,但实际上往往无功而返。所以,上策还是提早一点去等,承受等待的损失而能占到位置。

  这项理论也可以应用到任何计划的截止时间上。某人要求必须在截止日期前完成工作,万一未能赶上这个时间,势将使计划延误或出错。为了能准时完成,可以拟定工作内容与步骤的纲要。把个步骤的截止日期 设 定一段期间要比设定为固定的从容,金沙4166官网登录而且有时间作最后的修订,可能把计划做得更好。

  Mayer, T., 2003. The macroeconomic loss function: A critical note. Applied Economics Letters, 10(6), pp.347-349.

  Todorov, E., 2006. Optimal control theory. Bayesian brain: probabilistic approaches to neural coding, pp.269-298.

  .Encyclopedia of Mathematics - The European Mathematical society & Springer

  Zhang, T., 2004. Statistical behavior and consistency of classification methods based on convex risk minimization. Annals of Statistics, pp.56-85.

下一篇:没有了

网友评论

我的2016年度评论盘点
还没有评论,快来抢沙发吧!