极值分

设$X_1,X_2\dots ,X_n$为从总体$F$中抽出的独立同分布样本，且

$$M=\max (X_1,\dots ,X_n),m=\min (X_1,\dots ,X_n)$$

若存在$C_n>0$和$D_n$，使得$C_{n}M+D_n$按分布收敛于$G(x)$，则此$G(x)$为极大值分布，同理可定义极小值分布。Fisher和Tippett证明了极值分布只有三种形式，分别是

I型	$G_1(x)=\exp (-e^{-x})$	Gumbel分布
II型	$G_2(x)=\exp (-x^{-\alpha }),x>0,\alpha >0$	Fréchet分布
III型	$G_3(x)=\exp (-(-x{)}^{\alpha }),x<0,\alpha >0$	Weibull分布

上面的三个表达式均未考虑x的偏移，若是存在存在位置$\mu$和尺度$\lambda$的偏移，可将$x$替换为$\frac{x-\mu }{\lambda }$

Gumbel

在Numpy中，Gumbel分布被实现为gumbel([loc, scale])，其中loc和scale分别对应$\mu ,\lambda$，其具体表达式为

$$p(x)=\exp [-z-e^{-z}],z=\frac{x-\mu }{\lambda }$$

当$\mu =0,\lambda =1$时，得到标准极小值分布，其期望值为

$$E(z)=\int z{e}^z{e}^{-e^z}\text{d}z=\int z{e}^{-e^z}\text{d}{e}^z={\int }_0^{\infty }\ln z{e}^{-z}\text{d}z=-\gamma$$

其中$\gamma \approx -0.577$，为欧拉常数，接下来可以尝试计算一下

import numpy as np
from numpy.random import gumbel
xs = gumbel(loc=0, scale=1, size=20000)
print(np.mean(xs))
# 0.5836924011336291

通过调整\lambda可以调整Gumbel分布的形状

import matplotlib.pyplot as plt
for lam in [2,1,0.5]:
    xs = gumbel(scale=lam, size=20000)
    plt.hist(xs, bins=200, label=f"lambda={lam}", alpha=0.5)

plt.legend()
plt.show()

如图所示，

可见\lambda越大，则Gumbel分布越宽。

Logistic分布

如果两个随机变量$X_1$和$X_2$均服从Gumbel分布，那么$X_1-X_2$服从Logistic分布。

如果把$X_1$和$X_2$理解为某一随机样本的最大值分布和最小值分布，那么Logistic分布也可以解释为，从指数分布的总体中，抽取容量为n的随机样本，当n趋于无穷大时，样本极差所处的分布状态，其概率密度函数为

$$p(x)=\frac{(x-\mu )/s}{s(1+\exp [-(x-\mu )/s]{)}^2}$$

其分布图像为

loc, scale = 10, 1
s = np.random.logistic(loc, scale, 10000)
plt.hist(s, bins=50)