参数估计
在概率统计或者数据挖掘的各种模型中，我们经常会遇到各种参数估计的问题。本文主要通过两个例子来介绍参数估计的常用方法。 例子1：设总体 $X$ 的均值 $\mu$ 和方差 $\sigma^2$均未知, 已知$X_1, X_2, \ldots, X_n$ 是一个样本, 估计均值 $\mu$ 和方差 $\sigma^...
信息论基础
本文主要介绍信息论中常见的一些概念,熵,条件熵,互信息,KL散度.这部分内容非常重要,在很多机器学习模型中都涉及到.
数学基础之概率
本文主要介绍概率与数理统计中的一些常见的基本概念.文章最后简单介绍一下参数估计,有关参数估计的详细介绍可以参考参数估计.
数学基础之微积分
本文主要介绍学习机器学习过程中涉及到的一些微积分的基本概念,也包括部分数值分析,优化求解的概念.
用Map-Reduce框架实现矩阵乘法
本文主要介绍如何用Map-Reduce的框架处理大矩阵乘法.