逻辑回归算法
2023-03-14 09:44:23 时间
一、逻辑回归
逻辑回归也被称为对数几率回归,算法名虽然叫做逻辑回归,但是该算法是分类算法,这是因为逻辑回归用了和回归类似的方法来解决了分类问题。
机器学习基本原则:先逻辑回归再用复杂的,能简单还是用简单的。
逻辑回归的决策边界:可以是非线性的。
二、Sigmoid函数
Sigmoid函数公式:
函数图像为:
自变量取值为任意实数,值域[0,1]
解释:将任意的输入映射到了[0,1]区间我们在线性回归中可以得到一个预测值,再将该值映射到Sigmoid 函数中这样就完成了由值到概率的转换,也就是分类任务。
预测函数:
假设做一个二分类任务:
整合后得到目标函数:
解释:对于二分类任务(0,1),整合后y取0只保留(1-hθ(x))1-y,y取1只保留(hθ(x))y
似然函数:
对数似然:
此时应用梯度上升求最大值,引入J(θ)=(-1/m)*(l(θ)转换为梯度下降任务
三、推导过程
求导过程:
Xij: i表示第多少个样本,j表示样本第几个特性。
参数更新(α表示步长也就是学习率):
总结:逻辑回归真的很好用!
相关文章
- 在 Go 里用 CGO?这 7 个问题你要关注!
- 9款优秀的去中心化通讯软件 Matrix 的客户端
- 求职数据分析,项目经验该怎么写
- 在OKR中,我看到了数据驱动业务的未来
- 火山引擎云原生大数据在金融行业的实践
- OpenHarmony富设备移植指南(二)—从postmarketOS获取移植资源
- 《数据成熟度指数》报告:64%的企业领袖认为大多数员工“不懂数据”
- OpenHarmony 小型系统兼容性测试指南
- 肯睿中国(Cloudera):2023年企业数字战略三大趋势预测
- 适用于 Linux 的十大命令行游戏
- GNOME 截图工具的新旧截图方式
- System76 即将推出的 COSMIC 桌面正在酝酿大变化
- 2GB 内存 8GB 存储即可流畅运行,Windows 11 极致精简版系统 Tiny11 发布
- 迎接 ecode:一个即将推出的具有全新图形用户界面框架的现代、轻量级代码编辑器
- loongarch架构介绍(三)—地址翻译
- Go 语言怎么解决编译器错误“err is shadowed during return”?
- 敏捷:可能被开发人员遗忘的部分
- Denodo预测2023年数据管理和分析的未来
- 利用数据推动可持续发展
- 在 Vue3 中实现 React 原生 Hooks(useState、useEffect),深入理解 React Hooks 的