一、前置
1、我们的目的是:给一串声学特征,得出tokens的概率。

2、LAS要计算P(Y|X),可以直接计算


3、training,就是要找到得到概率结果最大的network的参数

4、CTC、RNN-T要计算P(X|Y)依赖于要知道alignment(下图以CTC为例)

需要把所有有可能的alignment加起来

5、需要解决的问题
a、如何穷举所有有可能的alignment
b、怎么样将所有alignment的概率加起来
c、训练时需要找到得到概率结果最大的network的参数,就需要计算梯度下降,怎么样做梯度下降

d、如何进行测试得到最优的结果

二、穷举所有有可能的alignment操作(举例:tokenN = 3为c、a、t,声学特征T = 6)

1、HMM
(1)重复token达到长度T

(2)代码操作

(3)路线图(描述过程)

2、CTC
(1)重复token或者添加null直到字符数达到T

(2)代码操作

(3)路线图(描述过程)
a、null可以被跳过,任何一个token不能被跳过
b、每一种字符的可操作方案

c、任意起点到任意终点就行
d、特殊情况(两个相同的token连在一起的情况)

3、RNN-T
(1)只能添加固定数T个null

(2)代码操作

插在前面的位置的null都没关系,但输出的alignment最后一个一定要是null

(3)路线图(描述过程)

三、总结流程图













![C语言程序设计-[19] 二维数组](https://i-blog.csdnimg.cn/direct/b899e13899c6457aacaa9f4a77e6b6df.png)






