hmm隐马尔可夫真的那么难吗？
首先上代码
这里是github上的关于hmm的:链接
概率计算问题：前向-后向算法
学习问题：Baum-Welch算法(状态未知)
预测问题：Viterbi算法
https://github.com/TimVerion/HMM_code
需要的理论基础(可以跳过)
信息熵
首先了解一下过去化学学习的熵，热力学中表征物质状态的参量之一，用符号S表示，其物理意义是体系混乱程度的度量。克劳修斯于 1865 年的论文中定义了“熵” ，其中有两句名言：“宇宙的能量是恒定的。”，“宇宙的熵趋于最大值。”
信息量：指的是一个样本/事件所蕴含的信息，如果一个事件的概率越大，那么就可以认为该事件所蕴含的信息越少。极端情况下，比如：“太阳从东方升起”，因为是确定事件，所以不携带任何信息量。
信息熵：1948年，香农引入信息熵；一个系统越是有序，信息熵就越低，一个系统越是混乱，信息熵就越高，所以信息熵被认为是一个系统有序程度的度量。信息熵就是用来描述系统信息量的不确定度。
信息熵(Entropy)公式:
High Entropy(高信息熵)：表示随机变量X是均匀分布的，各种取值情况是等概率出现的。Low Entropy(低信息熵)：表示随机变量X各种取值不是等概率出现。可能出现有的事件概率很大，有的事件概率很小。
例子：
最大熵模型
机器学习中经常提到的最大熵的思想，就是当你要猜一个概率分布时，如果你对这个分布一无所知，那就猜熵最大的均匀分布，如果你对这个分布知道一些情况，那么，就猜满足这些情况的熵最大的分布，就像我们使用最大似然去预测一样。
例子：软银的孙正义他强调商战要达到“不战而屈人之兵”，避免“不打败仗”，就得从事优势职业。
孙正义投资雅虎，阿里，网约车火了便投资中国的滴滴和美国的Uber，也就是不把所有鸡蛋放进一个篮子里，这正是最大熵原理。
与最大熵思想区分开来后，我们要知道最大熵模型就是让信息熵最大，而所谓的条件最大熵模型，就是在一定约束下条件熵最大的模型。再直白一点就是我们要保留全部的不确定性，将风险降到最小。
也就是当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大，这样我们便构造了一个最大熵模型，没错这正是最大似然估计的定义。
最大熵模型，可以说是集简与繁于一体，形式简单，实现复杂。值得一提的是，在Google的很多产品中，比如机器翻译，都直接或间接地用到了最大熵模型。
贝叶斯算法
三门问题：出自美国的电视游戏节目。参赛者会看见三扇关闭了的门，其中一扇的后面有一辆汽车，选中后面有车的那扇门可赢得该汽车，另外两扇门后面则各藏有一只山羊。当参赛者选定了一扇门，但未去开启它的时候，节目主持人开启剩下两扇门的其中一扇，露出其中一只山羊。主持人其后会问参赛者要不要换另一扇仍然关上的门。问题是：换另一扇门会否增加参赛者赢得汽车的机率？如果严格按照上述的条件，即主持人清楚地知道，自己打开的那扇门后是羊，那么答案是会。不换门的话，赢得汽车的几率是1/3。换门的话，赢得汽车的几率是2/3。
先验概率P(A)：在不考虑任何情况下，A事件发生的概率
条件概率P(B|A)：A事件发生的情况下，B事件发生的概率
后验概率P(A|B)：在B事件发生之后，对A事件发生的概率的重新评估
全概率：如果A和A'构成样本空间的一个划分，那么事件B的概率为：A和A'的概率分别乘以B对这两个事件的概率之和。
有上面的知识推出贝叶斯公式(后验概率)：
贝叶斯网络
把某个研究系统中涉及到的随机变量，根据是否条件独立绘制在一个有向图中，就形成了贝叶斯网络。贝叶斯网络(Bayesian Network)，又称有向无环图模型(directed acyclicgraphical model, DAG)，是一种概率图模型，根据概率图的拓扑结构，考察一组随机变量{X1,X2,...,Xn}及其N组条件概率分布(Conditional ProbabililtyDistributions, CPD)的性质
当多个特征属性之间存在着某种相关关系的时候，使用朴素贝叶斯算法就没法解决这类问题，那么贝叶斯网络就是解决这类应用场景的一个非常好的算法。一般而言，贝叶斯网络的有向无环图中的节点表示随机变量，可以是可观察到的变量，或隐变量，未知参数等等。连接两个节点之间的箭头代表两个随机变量之间的因果关系(也就是这两个随机变量之间非条件独立)，如果两个节点间以一个单箭头连接在一起，表示其中一个节点是“因”，另外一个是“果”，从而两节点之间就会产生一个条件概率值。注意：每个节点在给定其直接前驱的时候，条件独立于其后继。
贝叶斯网络的关键方法是图模型，构建一个图模型我们需要把具有因果联系的各个变量用箭头连在一起。贝叶斯网络的有向无环图中的节点表示随机变量。连接两个节点的箭头代表此两个随机变量是具有因果关系的。贝叶斯网络是模拟人的认知思维推理模式的，用一组条件概率以及有向无环图对不确定性因果推理关系建模
P(a,b, c) = P(c | a,b)P(b | a)P(a)
EM算法
上面的知识点讲到了MLE（最大似然估计），这里先说一下MAP(最大后验概率)，MAP和MLE一样，都是通过样本估计参数θ的值；在MLE中，是使似然函数P(x|θ)最大的时候参数θ的值，MLE中假设先验概率是一个等值的；而在MAP中，则是求θ使P(x|θ)P(θ)的值最大，这也就是要求θ值不仅仅是让似然函数最大，同时要求θ本身出现的先验概率也得比较大。
可以认为MAP是贝叶斯算法的一种应用:
EM算法(Expectation Maximization Algorithm, 最大期望算法)是一种迭代类型
的算法，是一种在概率模型中寻找参数最大似然估计或者最大后验估计的算法，
其中概率模型依赖于无法观测的隐藏变量。
EM算法流程：
初始化分布参数
重复下列两个操作直到收敛：
E步骤：估计隐藏变量的概率分布期望函数；
M步骤：根据期望函数重新估计分布参数
EM实现的过程中还会有一个Jensen不等式知识点,它使得我们可以假设隐含数据并形成极大化模型,然后对联合概率求最大值直到收敛。
"""
实现GMM高斯混合聚类
根据EM算法流程实现这个流程
"""
import numpy as np
from scipy.stats import multivariate_normal
def train(x, max_iter=):
"""
进行GMM模型训练，并返回对应的μ和σ的值(假定x数据中的簇类别数目为2)
:param x: 输入的特征矩阵x
:param max_iter: 最大的迭代次数
:return: 返回一个五元组(pi, μ1， μ2，σ1，σ2)
"""
# . 获取样本的数量m以及特征维度n
m, n = np.shape(x)
# . 初始化相关变量
# 以每一列中的最小值作为mu1，mu1中的元素数目就是列的数目(n)个
mu1 = x.min(axis=)
mu2 = x.max(axis=)
sigma1 = np.identity(n)
sigma2 = np.identity(n)
pi = 0.5
# . 实现EM算法
for i in range(max_iter):
# a. 初始化多元高斯分布（初始化两个多元高斯混合概率密度函数）
norm1 = multivariate_normal(mu1, sigma1)
norm2 = multivariate_normal(mu2, sigma2)
# E step
# 计算所有样本数据在norm1和norm2中的概率
tau1 = pi * norm1.pdf(x)
tau2 = ( - pi) * norm2.pdf(x)
# 概率做一个归一化操作
w = tau1 / (tau1 + tau2)
# M step
mu1 = np.dot(w, x) / np.sum(w)
mu2 = np.dot( - w, x) / np.sum( - w)
sigma1 = np.dot(w * (x - mu1).T, (x - mu1)) / np.sum(w)
sigma2 = np.dot(( - w) * (x - mu2).T, (x - mu2)) / np.sum( - w)
pi = np.sum(w) / m
# 返回最终解
return (pi, mu1, mu2, sigma1, sigma2)
if __name__ == '__main__':
np.random.seed()
# 产生一个服从多元高斯分布的数据（标准正态分布的多元高斯数据）
mean1 = (, , ) # x1\x2\x3的数据分布都是服从正态分布的，同时均值均为0
cov1 = np.diag((, , ))
data1 = np.random.multivariate_normal(mean=mean1, cov=cov1, size=)
# 产生一个数据分布不均衡
mean2 = (, , )
cov2 = np.array([[, , ], [, , ], [, , ]])
data2 = np.random.multivariate_normal(mean=mean2, cov=cov2, size=)
# 合并两个数据
data = np.vstack((data1, data2))
pi, mu1, mu2, sigma1, sigma2 = train(data, )
print("第一个类别的相关参数:")
print(mu1)
print(sigma1)
print("第二个类别的相关参数:")
print(mu2)
print(sigma2)
print("预测样本属于那个类别(概率越大就是那个类别)：")
norm1 = multivariate_normal(mu1, sigma1)
norm2 = multivariate_normal(mu2, sigma2)
x = np.array([, , ])
print(pi * norm1.pdf(x)) # 属于类别1的概率为:0.0275 => 0.989
print(( - pi) * norm2.pdf(x))# 属于类别1的概率为:0.0003 => 0.011
HMM详解
隐马尔可夫模型（Hidden Markov Model，HMM）作为一种统计分析模型，创立于20世纪70年代。80
年代得到了传播和发展，成为信号处理的一个重要方向，现已成功地用于语音识别，行为识别，文字识别以及故障诊断等领域。
HMM介绍
HMM是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别。
马尔可夫性质
数学定理:设{X(t), t ∈ T}是一个随机过程，E为其状态空间，若对于任意的t1<t2<...<tn<t,任意的x1,x2,...,xn,x∈E，随机变量X(t)在已知变量X(t1)=x1,...,X(tn)=xn之下的条件分布函数只与X(tn)=xn有关，而与X(t1)=x1,...,X(tn-1)=xn-1无关，即条件分布函数满足下列等式，此性质称为马尔可夫性；如果随机过程满足马尔可夫性，则该过程称为马尔可夫过程。
大致意思就是我们当前状态只受上一状态的影响,而跟上一状态之前的状态无关,就叫做马尔可夫性。
马尔可夫链
马尔可夫链是指具有马尔可夫性质的随机过程。在过程中，在给定当前信息的情况下，过去的信息状态对于预测将来状态是无关的。在马尔可夫链的每一步，系统根据概率分布，可以从一个状态变成另外一个状态，也可以保持当前状态不变。状态的改变叫做转移，状态改变的相关概率叫做转移概率。马尔可夫链中的三元素是：状态空间S、转移概率矩阵P、初始概率分布π。
举个例子来讲：
设将天气状态分为晴、阴、雨三种状态，假定某天的天气状态只和上一天的天气状态有关，状态使用1(晴)、2(阴)、3(雨)表示，转移概率矩阵P如下：
我们再看一下它们的各自转移方式：
假设某天的天气概率只与前一天的概率有关,也就是如下公式：
下面我们开始迭代，首先假设第一天的初始概率Π=[0.5,0.3,0.2]，由上式和P矩阵迭代：
这里重新假设第一天的初始概率π=[0.1,0.6,0.3]，由上式和P矩阵迭代：
由此得出规律，只要迭代次数够多，我们初始概率π并不会影响最终概率的出现。
隐马尔科夫模型
HMM是一种统计模型，在语音识别、行为识别、NLP、故障诊断等领域具有高效的性能。
HMM是关于时序的概率模型，描述一个含有未知参数的马尔可夫链所生成的不可观测的状态随机序列，再由各个状态生成观测随机序列的过程。
HMM是一个双重随机过程---具有一定状态的隐马尔可夫链和随机的观测序列。HMM随机生成的状态随机序列被称为状态序列；每个状态成一个观测，由此产生的观测随机序列，被称为观测序列。
HMM由隐含状态S、可观测状态O、初始状态概率矩阵π、隐含状态转移概率矩阵A、可观测值转移矩阵B(又称为混淆矩阵，Confusion Matrix)；
这里Π和A决定了状态序列S，B决定了可观测序列O，所以它们三个式整个隐马的关键：
这里S和O是相对于整个集合而言的，我们一般只会度量前T个状态序列I和观测序列Q:
这里每个q发生的概率只受i的影响,而每一个i只受前一个i的影响。
HMM案例
假设有三个盒子，编号为1,2,3；每个盒子都装有黑白两种颜色的小球，球的比例如下：
| 1 | 4 | 6 |
| 2 | 8 | 2 |
| 3 | 5 | 5 |
按照下列规则的方式进行有放回的抽取小球，得到球颜色的观测序列：
按照π的概率选择一个盒子，从盒子中随机抽取出一个小球(B)，记录颜色后，放回盒子中；
按照某种条件概率(A)选择新的盒子，重复该操作；
最终得到观测序列：“白黑白白黑“
状态集合：S={盒子1，盒子2，盒子3}观测集合：O={白，黑}设状态序列和观测序列的长度T=5，并假设如下A，B，π
状态转移概率矩阵A:
观测概率矩阵B:
初始概率分布π:
现在假设条件下，唯一未知得就是状态序列，所以这里就要尝试使用不同的状态序列，并找到在一个在估计模型下的拥有最大概率的状态序列。
有了状态序列我们就可以预测再次抽取时发生事件的概率，在这个例子里就是我们每次到底抽的时那个盒子，但是估计模型是假设的所以在去求状态序列的前面，应该先去求得最优得A，B，π使得在这个模型下观测序列发生得概率最大。
这里便出现了两个问题：
1，如何求得一个估计模型，让观测序列在该模型下发生概率最大。
2，如何求得隐藏得状态序列，让它在最优估计模型下发生得概率最大。
应用到实际便成了三个问题，就是多一个我们如何该观测序列在估计模型上出现得概率。
三个问题
概率计算问题：前向-后向算法
给定模型λ=(A,B,π)和观测序列Q={q1,q2,...,qT}，计算模型λ下观测到序列Q出现的概率P(Q|λ)
学习问题：Baum-Welch算法(状态未知)
已知观测序列Q={q1,q2,...,qT}，估计模型λ=(A,B,π)的参数，使得在该模型下观测序列P(Q|λ)最大。
预测问题：Viterbi算法
给定模型λ=(A,B,π)和观测序列Q={q1,q2,...,qT}，求给定观测序列条件概率P(I|Q，λ)最大的状态序列I
概率计算问题（前后向）
前向概率-后向概率指的其实是在一个观测序列中，时刻t对应的状态为si的概率值转换过来的信息。
所以这两种都可以解决概率计算问题，也就是看懂一个就可以继续下一个问题。
首先写出在状态序列为s_i的情况下，观测序列出现的概率。
前向算法定义：给定λ（A,B,π），定义到时刻t部分观测序列为q1,q2,...,qt且状态为si的概率为前向概率。此时我们加设β为1,所以表达方程记做：
初值
先计算第一个α：
递推
求出第一个后,递推使t = 1,2,...,T-1
结果
这样状态序列为s_i的情况下，观测序列出现的概率就变成了
[前向传播代码] https://github.com/TimVerion/HMM_code/blob/master/hmm/forward_probability.py 前向传播代码
# 伪代码，不可运行
# 更新初值(t=)
for i in n_range:
alpha[][i] = pi[i] * B[i][fetch_index_by_obs_seq_f(Q, )]
# 迭代更新其它时刻
T = len(Q)
tmp = [ for i in n_range]
for t in range(, T):
for i in n_range:
# . 计算上一个时刻t-1累积过来的概率值
for j in n_range:
tmp[j] = alpha[t - ][j] * A[j][i]
# . 更新alpha的值
alpha[t][i] = np.sum(tmp) * B[i][fetch_index_by_obs_seq_f(Q, t)]后向传播定义:给定λ，定义到时刻t状态为si的前提下，从t+1到T部分观测序列为qt+1,qt+2,...,qT的概率为后向概率。记做:
1. 初值
先计算第一个β,在我们进行前向算法的时候我们假设β为1：
递推
求出第一个后,递推使t = T-1,T-2...,1
结果
这样状态序列为s_i的情况下，观测序列出现的概率就变成了:
[后向传播代码] https://github.com/TimVerion/HMM_code/blob/master/hmm/backward_probability.py 后向传播代码
# 更新初值(t=T)
for i in n_range:
beta[T - 1][i] = 1
# 迭代更新其它时刻
tmp = [0 for i in n_range]
for t in range(T - 2, -1, -1):
for i in n_range:
# 1. 计算到下一个时刻t+1的概率值
for j in n_range:
tmp[j] = A[i][j] * beta[t + 1][j] * B[j][fetch_index_by_obs_seq_f(Q, t +1)]
# 2. 更新beta的值
beta[t][i] = np.sum(tmp)
学习问题(鲍姆韦尔奇)
根据概率计算问题我们可以求的两个可以帮助我们解决学习问题的概率:
1,单个状态的概率
将给定模型λ和观测序列Q的情况下，在时刻t处于状态si的概率，记做：
单个状态概率的意义主要是用于判断在每个时刻最可能存在的状态，从而可以得到一个状态序列作为最终的预测结果。
推导过程：
2,两个状态的联合概率
将给定模型λ和观测序列Q的情况下，在时刻t处于状态si并且在t+1时刻处于状态sj的概率，记做：
也就是：
3,解决学习问题
若训练数据包含观测序列和状态序列，则HMM的学习问题非常简单，是监督学习算法。我们甚至在知道观测序列和状态序列的时候我们可以利用大数定理求出最优模型。
但是我们的训练数据只包含观测序列，则HMM的学习问题需要使用EM算法求解，是非监督学习算法,这里使用的EM算法也叫做鲍姆韦尔奇。
那么我们想一下，这里假设所有的观测数据为Q={q1,q2,...,qT}，所有的隐状态为I={i1,i2,...,iT}，则完整的数据为(O,I)，完整数据的对数似然函数为ln(p(Q,I;λ)); 然后直接使用EM算法的方式就可以来进行参数估计了。（EM算法不懂见上）
初始化分布参数
重复下列两个操作直到收敛：
E步骤：估计隐藏变量的概率分布期望函数:
M步骤：根据期望函数重新估计分布参数
π的求解
当我们了解L函数,也就是我们需要极大化的函数,可以直接对π求导,然后让偏导等于零。
这里写到γ是不是很熟悉,没错就是我们是上面求的单个状态的概率。
A的求解
和上一个变量求解一样，我们需要极大化L
在上面的式子里，我们求aij也就是A的时候，我们必须使用单个状态的概率和两个状态的联合概率。
B的求解
同上我们对B求偏导，然后让偏导等于零：
经过极大化L函数我们可以求得π、a、b的值,这样我们便得到了一个最优模型。
# 1. 迭代更新(EM算法思想类型)
for time in range(max_iter):
# a. 在当前的pi，A，B的情况下对观测序列Q分别计算alpha、beta、gamma和ksi
forward.calc_alpha(pi, A, B, Q, alpha, fetch_index_by_obs_seq_f)
backward.calc_beta(pi, A, B, Q, beta, fetch_index_by_obs_seq_f)
single.calc_gamma(alpha, beta, gamma)
continuous.calc_ksi(alpha, beta, A, B, Q, ksi, fetch_index_by_obs_seq
# b. 更新pi、A、B的值
# b.1. 更新pi值
for i in n_range:
pi[i] = gamma[0]
# b.2. 更新状态转移矩阵A的值
tmp1 = np.zeros(T - 1)
tmp2 = np.zeros(T - 1)
for i in n_range:
for j in n_range:
# 获取所有时刻从状态i转移到状态j的值
for t in t_1_range:
tmp1[t] = ksi[t][i][j]
tmp2[t] = gamma[t]
# 更新状态i到状态j的转移概率
A[i][j] = np.sum(tmp1) / np.sum(tm
# b.3. 更新状态和观测值之间的转移矩阵
for i in n_range:
for k in m_range:
tmp1 = np.zeros(T)
tmp2 = np.zeros(T)
# 获取所有时刻从状态i转移到观测值k的概率和
number = 0
for t in t_range:
if k == fetch_index_by_obs_seq_f(Q, t):
如果序列Q中时刻t对应的观测值就是k，那么进行统计这个时刻t为状态i的概率值
tmp1[t] = gamma[t][i]
number +
tmp2[t] = gamma[t]
# 更新状态i到观测值k之间的转移概率
if number == 0:
# 没有转移，所以为0
B[i][k] = 0
else:
# 有具体值，那么进行更新操作
B[i][k] = np.sum(tmp1) / np.sum(tem2)
预测问题（维特比）
Viterbi算法实际是用动态规划的思路求解HMM预测问题，求出概率最大的“路径”，每条“路径”对应一个状态序列。
# 1. 计算t=1的时候delta的值
for i in n_range:
delta[0][i] = pi[i] * B[i][fetch_index_by_obs_seq_f(Q, 0)]
# 2. 更新其它时刻的值
for t in range(1, T):
for i in n_range:
# 当前时刻t的状态为i
# a. 获取最大值
max_delta = -1
for j in n_range:
# j表示的是上一个时刻的状态值
tmp = delta[t - 1][j] * A[j][i]
if tmp > max_delta:
max_delta = tmp
pre_index[t][i] = j
# b. 更新值
delta[t][i] = max_delta * B[i][fetch_index_by_obs_seq_f(Q, t)]
# 3. 解码操作，查找到最大的结果值
decode = [-1 for i in range(T)]
HMM在我们生活中无处不在，举个简单的例子：
所以我们很早就已经会HMM算法的思想了，只是差这几个算法和证明。
马尔可夫模型解决语音识别
时间点 t的隐藏条件和时间点 t-1的隐藏条件有关。
因为人类语音拥有前后的关系，可以从语义与发音两点来看：
单字的发音拥有前后关系：例如"They are"常常发音成"They're"，或是"Did you"会因为"you"的发音受"did"的影响，常常发音成"did ju"，而且语音识别中用句子的发音来进行分析，因此需要考虑到每个音节的前后关系，才能够有较高的准确率。
句子中的单字有前后关系：从英文文法来看，主词后面常常接助动词或是动词，动词后面接的会是受词或介系词。而或是从单一单字的使用方法来看，对应的动词会有固定使用的介系词或对应名词。因此分析语音频息时需要为了提升每个单字的准确率，也需要分析前后的单字。
马尔可夫模型将输入消息视为一单位一单位，接着进行分析，与人类语音模型的特性相似。语音系统识别的单位为一个单位时间内的声音。利用梅尔倒频谱等语音处理方法，转换成一个发音单位，为离散型的信息。而马尔可夫模型使用的隐藏条件也是一个个被数据包的 x(t)，因此使用马尔可夫模型来处理声音频号比较合适。