FM模型在工业推荐系统中如何避免过拟合?L2正则化

x
用微信扫描二维码
分享至好友和朋友圈

   看到这么烧脑的文字,大家一定非常气愤,本身生活已经很累了,已经很不易了,还要看这么费神的文字,我想大家只想说一句"真TM蛋疼"。但是,话又说回来,为了您的进步,请忍住蛋疼,继续阅读阅读下面的文字,为了大家心里得到一点安慰,首先来一张文艺范儿的美图,给大家缓解缓解。

  

  一、FM回归目标函数

   这里接着上一篇‘FM模型在工业推荐系统中的价值‘’,看过这篇文章的文人墨客,肯定已经烂熟于心了,这里不再阐述烧脑的FM模型原始的公式呢,这里直接回到FM模型目标函数上来,目标函数如下:

  

   上面公式表明,最后即为普通拟合方程求解问题,模型优化一般需要加上正 规化项,避免参数过拟合,FM添加L2正规化(权值向量的平方和处理过程, 可理解为惩罚因子),回归问题和二元分类问题都变成loss函数最小化问题 的求解过程。

   二、L2正则化,避免过拟合问题,需要出来装范儿!

   针对普通机器学习模型或者复杂的模型,都存在参数过拟合的问题,过拟合的弊端显而易见,就是对训练样本拟合的非常的好,精度也很高,但是在实际应用预测场景当中,表现的一塌糊涂,就像有些同学,平时表现非常好,一到考试就蔫了。FM模型也不例外,这时L2范数,需要出来PB,解决目前过拟合的问题。加上L2范数后,FM模型目标函数如下:

  

  

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。

跟贴 跟贴 3 参与 7
© 1997-2019 网易公司版权所有 About NetEase | 公司简介 | 联系方法 | 招聘信息 | 客户服务 | 隐私政策 | 广告服务 | 网站地图 | 意见反馈 | 不良信息举报

FromZeroToHero

个人创作

头像

FromZeroToHero

个人创作

10

篇文章

12

人关注

列表加载中...
请登录后再关注
x

用户登录

网易通行证/邮箱用户可以直接登录:
忘记密码