迹范数、L1范数正则化、成本函数的构建原理

范数、L1范数正则化、成本函数的构建原理
迹范数(trace norm)
矩阵特征值的和
L1范数正则化( L1 regularization 或 lasso )
人体弹弓L1范数正则化( L1 regularization 或 lasso )是机器学习(machine learning)中重要的⼿段,在⽀持向量机(support vector machine)学习过程中,实际是⼀种对于成本函数(cost function)求解最优的过程,因此,L1范数正则化通过向成本函数中添加L1范数,使得学习得到的结果满⾜稀疏化(sparsity),从⽽⽅便⼈们提取特征。
定义
L1范数(L1 norm)是指向量中各个元素绝对值之和,也有个美称叫“稀疏规则算⼦”(Lasso regularization)
⽐如向量
A=[1,-1,3],平行流冷凝器
txue
那么A的L1范数为
干燥炉|1|+|-1|+|3|=5
原理
渣油储罐清洗处理在⽀持向量机(support vector machine)学习过程中,实际是⼀种对于成本函数(cost function)求解最优的过程。
成本函数的构建原理
水性聚氨酯胶粘剂
为什么要这样构建成本函数如上⽂所述,监督机器学习问题⽆⾮就是“minimize your error while regularizing your parameters”,也就是在规则化参数的同时最⼩化误差(最⼩⼆乘法的原理)。最⼩化误差是为了让我们的模型拟合我们的训练数据,
⽽规则化参数是防⽌我们的模型过分拟合我们的训练数据。因为参数太多,会导致我们的模型复杂度上升,容易过拟合,也就是我们的训练误差会很⼩。但训练误差⼩并不是我们的最终⽬标,我们的⽬标是希望模型的测试误差⼩,也就是能准确的预测新的样本。所以,我们需要保证模型“简单”的基础上最⼩化训练误差,这样得到的参数才具有好的泛化性能(也就是测试误差也⼩),⽽模型“简单”就是通过规则函数来实现的。另外,规则项的使⽤还可以约束我们的模型的特性。这样就可以将⼈对这
个模型的先验知识融⼊到模型的学习当中,强⾏地让学习到的模型具有⼈想要的特性,例如稀疏、低秩、平滑等等。

本文发布于:2024-09-22 17:38:05,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/4/314280.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:模型   学习   函数   范数   成本   训练
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议