机器学习数学系列(4):参数估计
2023-09-14 08:59:36 时间
主要内容:
点估计:
矩估计
极大似然估计
点估计的评判准则
区间估计:
置信区间
符号说明:
1 参数估计问题
2 点估计
2.1 矩估计
矩估计法的基本思想是根据大数定律,利用样本矩对总体分布矩进行估计。
然后利用总体矩与参数的关系来对参数进行估计。
记号:
矩估计的基本原理:大数定律
例1:两点分布的参数估计
例2:正态分布的参数估计
2.2 极大似然估计
给定随机变量的分布与未知参数,利用观测到的样本计算似然函数。
选择最大化似然函数的参数作为参数估计量。
极大似然函数的基本原理:最大化似然函数。
例:正态分布的参数估计
2.3 点估计的评判准则
2.4 点估计:相和性
相和性是最基本的要求,矩估计的相合性是由大数定律来保证的,极大似然估计的相合性也是隐含地由大数定律来保证的。
2.5 点估计:无偏性
任何一个满足相合性的参数估计,当样本趋于无穷的时候都会收敛于参数的真实值。但是对于有限样本的情况,这个估计值的期望不见得总等于参数的真实值。
2.6 点估计:有效性
例:
2.7 点估计:渐近正态性
渐进正态这里涉及到一些矩阵的知识,尤其是极大似然估计的渐进正态性质。
2.8 区间估计:置信区间
相关文章
- 机器学习 - pycharm, pyspark, spark集成篇
- 简单易学的机器学习算法—SVD奇异值分解
- 机器学习数学系列(1):机器学习与数学基础知识
- 推荐!国外程序员整理的机器学习资源大全(转)
- 大话机器学习之数据预处理与数据筛选
- 【玩转数据系列七】有娃的注意了,机器学习教您如何提高孩子学习成绩
- 机器学习与模式识别学习总结
- 《百面机器学习》拾贝----第一章:特征工程
- 机器学习笔记:常用数据集之scikit-learn内置玩具数据集
- 机器学习笔记 - 将循环神经网络用于视频分类
- 机器学习笔记 - 自动编码器autoencoder
- 机器学习笔记 - 在QT/PyTorch/C++ 中加载 TORCHSCRIPT 模型
- 机器学习笔记 - Transformer/Attention论文解读
- 机器学习笔记 - python学习记录一
- 机器学习之——初识神经网络
- ML之LiR:机器学习经典算法之线性回归算法LiR的简介、使用方法、经典案例之详细攻略
- AI:2020年6月22日北京智源大会演讲分享之机器感知专题论坛—14:50-15:30吴玺宏教授《一种具身自监督学习框架:面向任何语种语音的音系构建任务》
- ML:MLOps系列讲解之《CRISP-ML (Q)ML生命周期过程—了解机器学习开发的标准过程模型—业务和数据理解→数据工程(数据准备)→ML模型工程→评估ML模型→模型部署→模型监控和维护》解读
- 机器学习实践:基于支持向量机算法对鸢尾花进行分类
- 【阶段三】Python机器学习06篇:模型评估函数介绍(分类模型)
- 机器学习——集成学习(Bagging、Boosting、Stacking)
- 网络扫描——非常不错的文章,主要分为端口扫描(确定开放服务)和主机扫描(确定机器存活)
- scikit-learn系列之如何存储和导入机器学习模型
- 【机器学习】Python详细实现基于欧式Euclidean、切比雪夫Chebyshew、曼哈顿Manhattan距离的Kmeans聚类
- 【机器学习】决策树为什么对缺失值不敏感,如何处理缺失值?
- 结合Java和机器学习技术,如何驾驭大数据提升业务效率和竞争力?