非线性系统最优估计 - 版本历史

Qinz18：/* 连续-离散型系统 */

2024-01-14T13:25:53Z

连续-离散型系统

←上一版本		2024年1月14日 (日) 13:25的版本
第187行：		第187行：
	\begin{align}		\begin{align}
	\mathrm{P}_{k\|k} &= E[\tilde{\vec{x}}_{k\|k}\tilde{\vec{x}}_{k\|k}^T]\\		\mathrm{P}_{k\|k} &= E[\tilde{\vec{x}}_{k\|k}\tilde{\vec{x}}_{k\|k}^T]\\
	\mathrm{P}_{k\|k} &= E[\tilde{\vec{x}}_{k\|k-1}\tilde{\vec{x}}_{k\|k-1}^T]\\		\mathrm{P}_{k\|k-1} &= E[\tilde{\vec{x}}_{k\|k-1}\tilde{\vec{x}}_{k\|k-1}^T]\\
	\mathrm{R}_k &= E[\vec{v}_k\vec{v}_k^T]		\mathrm{R}_k &= E[\vec{v}_k\vec{v}_k^T]
	\end{align}		\end{align}
第255行：		第255行：
	\end{align}		\end{align}
	\]		\]


	== Unscented卡尔曼滤波(UKF) ==		== Unscented卡尔曼滤波(UKF) ==

Qinz18：/* 粒子滤波 */

2021-10-18T17:44:03Z

粒子滤波

←上一版本		2021年10月18日 (一) 17:44的版本
第387行：		第387行：
	\end{align}		\end{align}
	\]		\]



			考虑$$ w(\vec{x}_1^k)=\frac{p[\vec{x}_1^k\|\vec{z}_1^n]}{\pi[\vec{x}_1^k\|\vec{z}_1^n]}$$，则有

	\[		\[
	\begin{align}		\begin{align}
	w(\vec{x}_k) ~~\equiv~~ \frac{p[\vec{x}~~_k,~~\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		w(\vec{x}_1^k) &=\frac{p[\vec{x}_1^k\|\vec{z}_1^n]}{\pi[\vec{x}_1^k\|\vec{z}_1^n]}
	= \frac{p[\vec{z}_1^k\|\vec{x}_k]p[\vec{x}_k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		= \frac{p[\vec{x}_1^k\|\vec{z}_1^n]} {\pi[\vec{x}_k\|\vec{x}_1^{k-1},\vec{z}_1^n] \pi[\vec{x}_1^{k-1}\|\vec{z}_1^n]} \\
	= \frac{p[\vec{x}_k\|\vec{z}_1^k]p[\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			& = \frac{p[\vec{x}_1^k\|\vec{z}_1^n] p[\vec{x}_1^{k-1}\|\vec{z}_1^n]} {\pi[\vec{x}_k\|\vec{x}_1^{k-1},\vec{z}_1^n] p[\vec{x}_1^{k-1}\|\vec{z}_1^n] \pi[\vec{x}_1^{k-1}\|\vec{z}_1^n]} \\
			& = w(\vec{x}_1^{k-1}) \frac{p[\vec{x}_1^k\|\vec{z}_1^n] } {\pi[\vec{x}_k\|\vec{x}_1^{k-1},\vec{z}_1^n] p[\vec{x}_1^{k-1}\|\vec{z}_1^n] ]}

	\end{align}		\end{align}
	\]		\]


	==== 重采样（Resampling） ====		==== 重采样（Resampling） ====

Qinz18：/* 粒子滤波 */

2021-10-17T17:47:14Z

粒子滤波

←上一版本		2021年10月17日 (日) 17:47的版本
第378行：		第378行：

	==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====		==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====

			我们让重要性函数满足:

			\[
			\begin{align}
			p[\vec{x}_k,\vec{z}_1^k] =

			\end{align}
			\]

			\[
			\begin{align}
			w(\vec{x}_k) \equiv \frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			= \frac{p[\vec{z}_1^k\|\vec{x}_k]p[\vec{x}_k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			= \frac{p[\vec{x}_k\|\vec{z}_1^k]p[\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			\end{align}
			\]


	==== 重采样（Resampling） ====		==== 重采样（Resampling） ====

Qinz18：/* 贝叶斯重要性采样 */

2021-10-17T11:14:45Z

贝叶斯重要性采样

←上一版本		2021年10月17日 (日) 11:14的版本
第366行：		第366行：
	\end{align}		\end{align}
	\]		\]
	其中		其中$$w(\vec{x}_k)$$称为权重，为
	\[		\[
	\begin{align}		\begin{align}
	w(\vec{x}_k) \equiv \frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		w(\vec{x}_k) \equiv \frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	= \frac{p[\vec{z}_1^k\|\vec{x}_k]p[\vec{x}_k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		= \frac{p[\vec{z}_1^k\|\vec{x}_k]p[\vec{x}_k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			= \frac{p[\vec{x}_k\|\vec{z}_1^k]p[\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	\end{align}		\end{align}
	\]		\]

			分母$$ E_{\pi[\vec{x}_k\|\vec{z}_1^k]}[ w(\vec{x}_k)] $$可以视为对权重的归一化

	==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====		==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====

Qinz18：/* 粒子滤波 */

2021-10-17T03:32:13Z

粒子滤波

←上一版本		2021年10月17日 (日) 03:32的版本
第333行：		第333行：
	\[		\[
	\begin{align}		\begin{align}
	\vec{x} (k+1) &= \vec{f}[\vec{x}~~(k)~~,w(k)] \\		\vec{x}_{k+1} &= \vec{f}(\vec{x}_k,\vec{w}_k) \\
	\vec{z} ~~(k)~~ &= \vec{h}[\vec{x}~~(k)~~,v(k)]		\vec{z}_k &= \vec{h}(\vec{x}_k,\vec{v}_k)
	\end{align}		\end{align}
	\]		\]

	设$$\vec{x}_0^k=[\vec{x}~~(0)~~,\vec{x}~~(1)~~,\cdots,\vec{x}~~(k)~~]$$为$$0\sim k$$时刻所有状态向量的集合，$$\vec{z}_1^k=[\vec{z}~~(1)~~,\vec{z}~~(2)~~,\cdots,\vec{z}~~(k)~~]$$为$$1\sim k$$时刻所有观测向量的集合，在得到$$\vec{z}_1^k$$后对$$\vec{x}_{k+1}$$的最优估计为其条件期望		设$$\vec{x}_1^k=[\vec{x}_1,\vec{x}_2,\cdots,\vec{x}_k]$$为$$1\sim k$$时刻所有状态向量的集合，$$\vec{z}_1^k=[\vec{z}_1,\vec{z}_2,\cdots,\vec{z}_k]$$为$$1\sim k$$时刻所有观测向量的集合，在得到$$\vec{z}_1^k$$后对$$\vec{x}_{k+1}$$的最优估计为其条件期望

	\[		\[
	\begin{align}		\begin{align}
	E[\vec{f}[\vec{x}(k)]] = \int\vec{f}[\vec{x}(k)]p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}~~(k)~~		E[\vec{f}(\vec{x}_k)\|\vec{z}_1^k] = \int\vec{f}(\vec{x}_k)p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k
	\end{align}		\end{align}
	\]		\]
第350行：		第350行：
	\[		\[
	\begin{align}		\begin{align}
	E[\vec{f}[\vec{x}(k)]] &= \int\vec{f}[\vec{x}(k)]p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}~~(k)~~ \\		E[\vec{f}(\vec{x}_k)\|\vec{z}_1^k] &= \int\vec{f}(\vec{x}_k)p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k \\
	&= \int\vec{f}[\vec{x}(k)]\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		&= \int\vec{f}(\vec{x}_k)\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}~~(k)~~ \\		\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k \\
	&= \frac{1}{p[\vec{z}_1^k]}\int\vec{f}[\vec{x}(k)]		&= \frac{1}{p[\vec{z}_1^k]}\int\vec{f}(\vec{x}_k)
	\frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		\frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}~~(k)~~ \\		\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k \\
	&= \frac{1}{p[\vec{z}_1^k]}\int\vec{f}[\vec{x}(k)]		&= \frac{1}{p[\vec{z}_1^k]}\int\vec{f}(\vec{x}_k)
	w(\vec{x}_k)		w(\vec{x}_k)
	\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\		\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k \\
			&= \frac{\int\vec{f}(\vec{x}_k)w(\vec{x}_k) \pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k }
			{\int w(\vec{x}_k) \pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}_k } \\
			&= \frac{E_{\pi[\vec{x}_k\|\vec{z}_1^k]}[\vec{f}(\vec{x}_k) w(\vec{x}_k)]}
			{E_{\pi[\vec{x}_k\|\vec{z}_1^k]}[ w(\vec{x}_k)] } \\

	\end{align}		\end{align}
	\]		\]

Qinz18：/* 粒子滤波 */

2021-10-16T17:20:35Z

粒子滤波

←上一版本		2021年10月16日 (六) 17:20的版本
第325行：		第325行：


	~~=== 采样方法 ===~~
	下面从'''贝叶斯重要性采样'''开始，依次引入'''序贯重要性采样方法'''，'''重采样'''，最后引出'''样本重要性重采样方法'''		下面从'''贝叶斯重要性采样'''开始，依次引入'''序贯重要性采样方法'''，'''重采样'''，最后引出'''样本重要性重采样方法'''

第354行：		第353行：
	&= \int\vec{f}[\vec{x}(k)]\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		&= \int\vec{f}[\vec{x}(k)]\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\		\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\
	&= \int\vec{f}[\vec{x}(k)]		&= \frac{1}{p[\vec{z}_1^k]}\int\vec{f}[\vec{x}(k)]
	\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		\frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\
			&= \frac{1}{p[\vec{z}_1^k]}\int\vec{f}[\vec{x}(k)]
			w(\vec{x}_k)
	\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\		\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\

			\end{align}
			\]
			其中
			\[
			\begin{align}
			w(\vec{x}_k) \equiv \frac{p[\vec{x}_k,\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			= \frac{p[\vec{z}_1^k\|\vec{x}_k]p[\vec{x}_k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	\end{align}		\end{align}
	\]		\]
第363行：		第372行：
	==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====		==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====

	==== ~~重采样（Resampling ）~~ ====		==== 重采样（Resampling） ====

	==== 样本重要性采样方法（Sampling Importance Resampling Filter, SIR） ====		==== 样本重要性采样方法（Sampling Importance Resampling Filter, SIR） ====

	=== 算法流程 ===		=== 算法流程 ===

Qinz18：/* 粒子滤波 */

2021-10-11T16:35:06Z

粒子滤波

←上一版本		2021年10月11日 (一) 16:35的版本
第326行：		第326行：

	=== 采样方法 ===		=== 采样方法 ===
	~~主要有两种采样方法：~~'''~~样本重要性重采样方法~~'''和'''序贯重要性采样方法'''		下面从'''贝叶斯重要性采样'''开始，依次引入'''序贯重要性采样方法'''，'''重采样'''，最后引出'''样本重要性重采样方法'''

	==== ~~样本重要性重采样方法~~ ====		==== 贝叶斯重要性采样 ====
	~~样本重要性采样（Sampling Importance Resampling,SIR）是蒙特卡洛方法中一种常用得采样技术，其原理是：在采样过程中，如果目标得概率分布~~$$p(t)$$不可知或难以采样，则可以从一个与目标概率分布相似且容易采样得概率分布$$\pi(t)$$中进行采样		贝叶斯重要性采样是蒙特卡洛方法中一种常用得采样技术，其原理是：在采样过程中，如果目标得概率分布$$p(t)$$不可知或难以采样，则可以从一个与目标概率分布相似且容易采样得概率分布$$\pi(t)$$中进行采样

	考虑如下一般非线性系统		考虑如下一般非线性系统
第361行：		第361行：
	\]		\]

	==== ~~序贯重要性采样方法~~ ====		==== 序贯重要性采样方法（Sequential Importance Sampling Filter, SIS） ====

			==== 重采样（Resampling ） ====

			==== 样本重要性采样方法（Sampling Importance Resampling Filter, SIR） ====

	=== 算法流程 ===		=== 算法流程 ===

Qinz18：/* 采样方法 */

2021-10-07T02:45:23Z

采样方法

←上一版本		2021年10月7日 (四) 02:45的版本
第339行：		第339行：
	\]		\]

	设$$\vec{x}_0^k=[\vec{x}(0),\vec{x}(1),\cdots,\vec{x}(k)]$$为$$0\sim k$$时刻所有状态向量的集合，$$\vec{z}_0^k=[\vec{z}(1),\vec{z}(2),\cdots,\vec{z}(k)]$$为$$1\sim k$$时刻所有观测向量的集合，在得到$$\vec{z}_1^k$$后对$$\vec{x}_{k+1}$$的最优估计为其条件期望		设$$\vec{x}_0^k=[\vec{x}(0),\vec{x}(1),\cdots,\vec{x}(k)]$$为$$0\sim k$$时刻所有状态向量的集合，$$\vec{z}_1^k=[\vec{z}(1),\vec{z}(2),\cdots,\vec{z}(k)]$$为$$1\sim k$$时刻所有观测向量的集合，在得到$$\vec{z}_1^k$$后对$$\vec{x}_{k+1}$$的最优估计为其条件期望

	\[		\[

2021年9月5日 (日) 10:00 Qinz18

2021-09-05T10:00:07Z

←上一版本		2021年9月5日 (日) 10:00的版本
第352行：		第352行：
	\begin{align}		\begin{align}
	E[\vec{f}[\vec{x}(k)]] &= \int\vec{f}[\vec{x}(k)]p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\		E[\vec{f}[\vec{x}(k)]] &= \int\vec{f}[\vec{x}(k)]p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\
	&= \int\vec{f}[\vec{x}(k)]\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}		&= \int\vec{f}[\vec{x}(k)]\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
	\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k)		\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\
			&= \int\vec{f}[\vec{x}(k)]
			\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\

	\end{align}		\end{align}
	\]		\]

2021年9月5日 (日) 03:03 Qinz18

2021-09-05T03:03:12Z

←上一版本		2021年9月5日 (日) 03:03的版本
第274行：		第274行：
	=== 算法流程 ===		=== 算法流程 ===

	~~算法流程为：~~		算法大致流程为：
	# 首先设定初值$$\hat{\vec{x}}(0),\mathrm{P}(0)$$, 然后对$$k>1$$ ,依次进行下面步骤：		# 首先设定初值$$\hat{\vec{x}}(0),\mathrm{P}(0)$$, 然后对$$k>1$$ ,依次进行下面步骤：
	# 在$$\hat{\vec{x}}(k-1)$$周围构造$$2n+1$$个Sigma点及相应权重：\[		# 在$$\hat{\vec{x}}(k-1)$$周围构造$$2n+1$$个Sigma点及相应权重：\[
第318行：		第318行：
	# 可以处理不可导的非线性函数		# 可以处理不可导的非线性函数
	# 计算量与EKF相当		# 计算量与EKF相当
	# ~~对高斯输入的非线性函数近似时，使均值精确到三阶，方差精确到二阶~~		# 对高斯输入非线性函数的情况，UKF的均值精确到三阶，方差精确到二阶

	== 粒子滤波==		== 粒子滤波==
第329行：		第329行：

	==== 样本重要性重采样方法 ====		==== 样本重要性重采样方法 ====
			样本重要性采样（Sampling Importance Resampling,SIR）是蒙特卡洛方法中一种常用得采样技术，其原理是：在采样过程中，如果目标得概率分布$$p(t)$$不可知或难以采样，则可以从一个与目标概率分布相似且容易采样得概率分布$$\pi(t)$$中进行采样

			考虑如下一般非线性系统
			\[
			\begin{align}
			\vec{x} (k+1) &= \vec{f}[\vec{x}(k),w(k)] \\
			\vec{z} (k) &= \vec{h}[\vec{x}(k),v(k)]
			\end{align}
			\]

			设$$\vec{x}_0^k=[\vec{x}(0),\vec{x}(1),\cdots,\vec{x}(k)]$$为$$0\sim k$$时刻所有状态向量的集合，$$\vec{z}_0^k=[\vec{z}(1),\vec{z}(2),\cdots,\vec{z}(k)]$$为$$1\sim k$$时刻所有观测向量的集合，在得到$$\vec{z}_1^k$$后对$$\vec{x}_{k+1}$$的最优估计为其条件期望

			\[
			\begin{align}
			E[\vec{f}[\vec{x}(k)]] = \int\vec{f}[\vec{x}(k)]p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k)
			\end{align}
			\]

			一般而言，$$p[\vec{x}_k\|\vec{z}_1^k]$$是非高斯多变量函数，很难直接采样，可以用与其近似的分布$$\pi[\vec{x}_k\|\vec{z}_1^k]$$替代它进行采样，则

			\[
			\begin{align}
			E[\vec{f}[\vec{x}(k)]] &= \int\vec{f}[\vec{x}(k)]p[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k) \\
			&= \int\vec{f}[\vec{x}(k)]\frac{p[\vec{x}_k\|\vec{z}_1^k]}{\pi[\vec{x}_k\|\vec{z}_1^k]}
			\pi[\vec{x}_k\|\vec{z}_1^k] \d \vec{x}(k)
			\end{align}
			\]

	==== 序贯重要性采样方法 ====		==== 序贯重要性采样方法 ====

	=== ~~算法步骤~~ ===		=== 算法流程 ===