伯努利滤波器(一)——背景和数学基础

简介

伯努利滤波器是一个非高斯,非线性动态系统的基于RFS滤波器。它的主要特点是它为随机动态系统设计了一个开关,特别适用于跟踪时,物体时隐时现的问题,当然也适用于传染病,污染和社会问题。

伯努利是没有解析解,可以通过 PF 或者 Gaussian sum filter 实现。依据不同的测量模型有不同实现方式,本文就将对于不用的测量模型,显示不用的实现。

通常来说,预测是基于先验知识和观测进行的,因为先验知识和观测的 state是包含了所有描述系统的信息。 所以,在一个系统中,我们已知的信息有:{开关的随机模型(参数),state 的进化变化(先验),观测(观测值)}。 观测信息和 state 是通过一个非线性模型连接,因为不完美的监测,所以观测是 noisy,imprecise,和 ambiguous。

传统贝叶斯方法的目的是通过现在位置的的所有信息计算后验的 PDF(posterior PDF)。因为 posterior PDF 包括了所有的统计信息,所以这是问题的完备解。

通过这个 PDF 可以得到最佳的 state 估计。Posterior PDF 可以通过两步计算:预测和更新。求解 posterior PDF 是 optical Bayes Stochastic filter 的根本任务。在这个系统中,随机动态过程的开关是一直打开的,measurement 只受噪音影响。前提是 detection 是完美的。 在一般的非线性非高斯的情况下,没有解析解,所以有了 Monte Carlo 的方法,进而有 particle filter 的方法,这是因为PC 性能的提升和应用的广泛。

但是detection method 通常是不完美的,measurement model 通常也是不准确的,所以,标准的 Bayes filter 也进行了一些修补。通过增加的逻辑层,比如: (a)target的出现或消失是建立在tracking 信息的 logic 基础。 (b)不完美的 detection 方法可以通过 data association 的辅助。 (c)不准确的测量(特征)采用非 Bayesian 的网络(Dempster-shafer theory) 虽然有许多工程的精巧设计,但是这都不是最优的。

序列贝叶丝(Sequential Bayesian estimation)结合 random set theory(RS),提供了一个不完美 detection 和不准确 measurement 的数学最优解。因为对于多目标的动态系统,RS 实现起来运算量太大,于是有了一下方法: (a)Bernoulli filter (JoTT or JoTF [joint target detection and tracking filter]). (b)PHD (c)CPHD (d)multi-Bernoulli filter

Bernoulli filter 的实现与应用

BF 是在单动态系统(switch 随机 on/off)下的最优 Bayes filter 在 tracking 下就是 appear or disappear。

key idea:引入一个存在的布尔(binary)随机变量来表示开关。 Bernoulli random finite 和 传统方法 的区别,state 被看成一个 set (可以空的 或者 单元素),元素包含布尔变量。因为这种方法没有解析解,只能通过 Particle filter 或者 Gaussian sum filter 近似实现。

我们将考虑不同的常见的 measurement model。第一个模型是针对稀疏信号的强度测量,例如声波或电磁能,化学污染水平,图像等。主要应用在信号网络,雷达/声纳或视频监控中。这种通过 measurement 来进行物体监测,跟踪叫做‘track-before-detect'。第二个模型是针对measurement是 detector 输出。这种情况下,需要处理必然丢失的监测(false detection)和误报(false alarms)。我们假设这个目标物体是一个点,一个物体只有一个观测值,其他值都是错误监测。并且哪个是 false detection 是不知道的。例如,当目标物体大于传感器的分辨率,这样就会产生一系列的 detection。最后,在某些情况下,measurement function 是不能准确知道的,或者说这种测量过程就是模糊,不准确的。这些类型的测量,被称为非标准测量。这些都可以通过random set theoretical framework和Bayesian estimation framework 计算。

数学基础

标准随机贝叶斯滤波器

随机滤波器可以追溯到1960s年。Kalman 和 Bucy 创立了线性滤波理论,同时Stratonovich 和 Kushner 开创了了用概率手段来解决非线性问题。

对于一个在贝叶斯网络下的,时域离散的随机滤波问题,通常假设 state \(\mathbf{m}\in\mathbf{M}\) 向量提供了动态系统某一\(t_k\)时刻下的完备的状态信息。设离散时间为\(k\)。设离散动态系统的传递方程和观测方程为 \[\mathbf{m}_{k}=\mathbf{f}_m(\mathbf{m}_{k-1})+\mathbf{v}_{k-1}\] \[\mathbf{z}_{k} = \mathbf{f}_{z}(\mathbf{m}_{k})+\mathbf{w}_{k}\]

\(\mathbf{f}_{m}\) 是非线性方程,代表一阶马尔科夫过程。随机过程 \(\mathbf{v}_{k-1}\) 是PDF 的独立同分布 independent identically distributed (IID)。随机过程 \(\mathbf{w}_{k}\) 是不同于 \(\mathbf{v}_{k-1}\) PDF 的独立同分布。设 \(\mathbf{f}_{m}\), \(\mathbf{f}_{z}\) 和他们的 PDF \(p_{\mathbf{v}}\)\(p_{\mathbf{w}}\) 是已知的。传递密度是 \(\pi_{k|k-1}(\mathbf{m}_{k}|\mathbf{m}_{k-1}) = p_{\mathbf{v}}(\mathbf{m}_{k-1}- \mathbf{f}_{m}(\mathbf{m}_{k}))\). 似然方程 \(h_{k}(\mathbf{z}_k|\mathbf{m}_k) = p_{\mathbf{w}}(\mathbf{z}_{k}- \mathbf{f}_{z}(\mathbf{m}_{k}))\)。离散贝叶斯的目的就是估计状态的后验PDF \(\varphi (\mathbf{m}_k|\mathbf{z}_{1:k})\),其中 \(\mathbf{z}_{1:k} \equiv \mathbf{z}_{1},...,\mathbf{z}_{k}\),当 \(\varphi(\mathbf{m}_{0})\), \(\varphi(\mathbf{m}_{k-1}|\mathbf{z}_{1:k-1})\)\(\mathbf{z}_k\) 已知时,通过Chapman—Kolmogorov我们可知,

\[ \varphi(\mathbf{m}_k|\mathbf{z}_{1:k-1})=\int {\pi_{k|k-1}(\mathbf{m}_k|\mathbf{m}_{k-1})\varphi(\mathbf{m}_{k-1}|\mathbf{z}_{1:k-1})}d_{\mathbf{m}_{k-1}} \]

第二部是使用贝叶斯网络来更新预测的 PDF

\[ \varphi(\mathbf{m}_k|\mathbf{z}_{1:k}) = \frac{h_{k}(\mathbf{z}_k|\mathbf{m}_k)\varphi(\mathbf{m}_k|\mathbf{z}_{1:k-1})}{\int h_k( {\mathbf{z}_k|\mathbf{m}_k)\varphi(\mathbf{m}_k|\mathbf{z}_{1:k-1})}d_{\mathbf{m}_{k}} }\]

随机有限子集

随机有限子集(RFS)是一个在无序有限子集中取值的随机变量。RFS的基数 \(\mathbf{M}\) 是随机,通过离散分布来构建 \(p(n) = P\{|\mathbf{M} = n|\}\)\(n \in N_0\).\(\mathbf{M}\) 是通过他的基数分步 \(p(n)\) 完全给定。并有对称联系分步\(\varphi_n(\mathbf{m}_1,...,\mathbf{m}_n)\).

为了简化,我们采用Mahler的方法,referred to finite set statistics (FISST)。RFS变量\(\mathbf{M}\)的FISST为\(f(\mathbf{M}\). PDF 可以通过 \(p(n)\)\(\varphi_n(\mathbf{m}_1,...,\mathbf{m}_n)\) 来唯一确定。

\[ f({\mathbf{m}_1,..,\mathbf{m}_n}) = n!p(n)\varphi_n(\mathbf{m}_1,...,\mathbf{m}_n)\]

当为整数集时,

\[\int{f(\mathbf{M})\delta(\mathbf{M})}= f(\emptyset) + \sum^{\infty}_{n =1}{\frac{1}{n!}\int{f({\mathbf{m}_1,...,\mathbf{m}_n})}}d_{\mathbf{m}_1},...,d_{\mathbf{m}_n}\]

\(f(\mathbf{M})\) 收敛于1.

伯努利 RFS:

RFS 的势(cardinality)分步 \(p(x)\) 是伯努利的。伯努利 RFS是空(概率\(1-p\))或者是一个元素(概率\(p\))。所以伯努利RFS \(\mathbf{M}\) 的FISST PDF可以表示为: \[ f(\mathbf{M})=\begin{cases} \begin{matrix} 1-q & if\quad \mathbf{M} =\emptyset \\ q\varphi (\mathbf{m}) & if\quad \mathbf{M}=\{ \mathbf{m}\} \end{matrix}\end{cases} \] ### 独立同分布(IID)簇RFS 已知势 \(|\mathbf{M}|\) ,独立同分布簇RFS\(\mathbf{M}\)的元素是每个IID随机变量根据PDF \(\varphi(m)\) 来分布。于是我们可知 \(\mathbf{M}\) 的FISST PDF为 \[ f(\mathbf{M}) = |\mathbf{M}|!\varphi(|\mathbf{M}|)\prod_{ \mathbf{m}\in \mathbf{M}}{ \varphi(\mathbf{m}) } \]

因为IID的独立性

\[ \varphi_n(\mathbf{m}_1,...,\mathbf{m}_n) = \prod_{ \mathbf{m}\in \mathbf{M}}{ \varphi(\mathbf{m}) } \]

伯松RFS

伯松RFs是IDD 簇RFS的特殊形式,因为假设势的分布伯松的

\[ \varphi(\mathbf{m}) = \frac{e^{-\lambda}\lambda^n}{n!}, n = 0,1,2,... \]

二项式RFS

二项式RFS也是IID簇RFS的特殊形式,他的势分布是个二项式分布(项的数目为 \(L\), 成功概率为 \(q\)

\[ p(n) = \left(\begin{matrix} L \\ n \end{matrix}\right)q^n(1-q)^{L-n}, n = 0,1,2,...,L \] 它的 FISST PDF变为 \[ f(\mathbf{M})= \frac{L!}{(L-|\mathbf{M}|)!}q^{|\mathbf{M}|}(1-q)^{L-|\mathbf{M}|}\prod_{ \mathbf{m}\in \mathbf{M}}{p(\mathbf{m})} \] 注意:\(L = 1\), 二项式RFS就变成伯努利RFS

假设我们在 k 时,有了有限集来表示多目标,\(\mathbf{M}_k = \{\mathbf{m}_{k,1},...,\mathbf{m}_{k,n_k}\}\),这里\(n_k\)是时变目标的数目。我们假设这个过程是一个 Markov 过程,他的传递密度是\(\phi_{k|k-1}(\mathbf{M}_k|\mathbf{M}_{k-1})\)\(\mathbf{M}_k\)的观测为\(\mathbf{Z}_k\),他可以是向量,一个 RFS 也可以是一个封闭集。\(h_k(\mathbf{Z}_k|\mathbf{X}_k)\)是似然函数。通过 \[ f_{k|k-1}(\mathbf{M}_k|\mathbf{Z}_{1:k-1})=\int {\phi_{k|k-1}(\mathbf{M_k|\mathbf{M}_{k-1}})f_{k-1}(\mathbf{M}_{k-1}|\mathbf{Z}_{1:k-1})\sigma{\mathbf{M}_k}} \] \[ f_{k}(\mathbf{M}_{k}|\mathbf{Z}_{1:k})= \frac{h_k(\mathbf{Z}_k|\mathbf{M}_k)f_{k|k-1}(\mathbf{M}_k|\mathbf{Z}_{1:k-1})}{\int{h_k(\mathbf{Z}_k|\mathbf{M})f_{k|k-1}(\mathbf{M}|\mathbf{Z}_{1:k-1})}\sigma{\mathbf{M}}} \] RFS是贝叶斯的非同寻常的扩展,因为传递密度和似然密度可以很复杂。