矩阵求导 - 版本历史

Qinz18：/* 标量对矩阵的导数 */

2021-09-01T05:20:22Z

标量对矩阵的导数

←上一版本		2021年9月1日 (三) 05:20的版本
第46行：		第46行：
	\]</nowiki>		\]</nowiki>

	~~于是，标量对向量和矩阵的导数都可由下式定义~~		由此可见，标量对向量和矩阵的导数都可由下式定义
	\[		\[
	df=tr((\frac{\partial f}{\partial A})^TdA)		df=tr((\frac{\partial f}{\partial A})^TdA)
	\]		\]
	注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置		注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置

Qinz18：/* 标量对矩阵的导数 */

2021-09-01T05:20:09Z

标量对矩阵的导数

←上一版本		2021年9月1日 (三) 05:20的版本
第46行：		第46行：
	\]</nowiki>		\]</nowiki>

	~~由上式启发，标量对向量和矩阵的导数都可由下式定义~~		于是，标量对向量和矩阵的导数都可由下式定义
	\[		\[
	df=tr((\frac{\partial f}{\partial A})^TdA)		df=tr((\frac{\partial f}{\partial A})^TdA)
	\]		\]
	注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置		注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置

Qinz18：/* 标量对矩阵的导数 */

2021-09-01T05:19:38Z

标量对矩阵的导数

←上一版本		2021年9月1日 (三) 05:19的版本
第48行：		第48行：
	由上式启发，标量对向量和矩阵的导数都可由下式定义		由上式启发，标量对向量和矩阵的导数都可由下式定义
	\[		\[
	dB=tr((\frac{\partial B}{\partial A})^TdA)		df=tr((\frac{\partial f}{\partial A})^TdA)
	\]		\]
	注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置		注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置

Qinz18：/* 标量对矩阵的导数 */

2021-09-01T05:18:59Z

标量对矩阵的导数

←上一版本		2021年9月1日 (三) 05:18的版本
第46行：		第46行：
	\]</nowiki>		\]</nowiki>

	~~由上式启发，我们可以尝试对所有情况定义矩阵导数，即使~~		由上式启发，标量对向量和矩阵的导数都可由下式定义
	\[		\[
	dB=tr((\frac{\partial B}{\partial A})^TdA)		dB=tr((\frac{\partial B}{\partial A})^TdA)
	\]		\]
	注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置		注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置

Qinz18：/* 矩阵求导 */

2021-09-01T04:11:31Z

矩阵求导

←上一版本		2021年9月1日 (三) 04:11的版本
第5行：		第5行：
	* 矩阵对标量的导数（有明确定义）		* 矩阵对标量的导数（有明确定义）
	* 标量对矩阵的导数		* 标量对矩阵的导数
	**标量对向量的导数		** 标量对向量的导数

	* 向量对向量的导数		* 向量对向量的导数
第28行：		第28行：

	==标量对列向量的导数==		==标量对列向量的导数==
	由下式定义		由下式定义'''标量对列向量的导数'''

	\[		\[
第40行：		第40行：

	==标量对矩阵的导数==		==标量对矩阵的导数==
	<nowiki>~~由下式定义~~		由下式定义'''标量对矩阵的导数'''
			<nowiki>
	\[		\[
	df=\sum_{ij}\frac{\partial f}{\partial A_{ij}}dA_{ij}=tr((\frac{\partial f}{\partial A})^TdA)		df=\sum_{ij}\frac{\partial f}{\partial A_{ij}}dA_{ij}=tr((\frac{\partial f}{\partial A})^TdA)

2021年9月1日 (三) 04:05 Qinz18

2021-09-01T04:05:34Z

←上一版本		2021年9月1日 (三) 04:05的版本
第5行：		第5行：
	* 矩阵对标量的导数（有明确定义）		* 矩阵对标量的导数（有明确定义）
	* 标量对矩阵的导数		* 标量对矩阵的导数
	** 标量对向量的导数		**标量对向量的导数

	* 向量对向量的导数		* 向量对向量的导数

2021年9月1日 (三) 04:05 Qinz18

2021-09-01T04:05:09Z

←上一版本		2021年9月1日 (三) 04:05的版本
第1行：		第1行：
	# 矩阵求导		= 矩阵求导 =

	我们只需定义这么几点		我们只需定义这么几点
	- 矩阵的微分（有自然的定义）		* 矩阵的微分（有自然的定义）
	- 矩阵对标量的导数（有明确定义）		* 矩阵对标量的导数（有明确定义）
	- 标量对矩阵的导数		* 标量对矩阵的导数
	- 标量对向量的导数		** 标量对向量的导数
	- 向量对向量的导数		* 向量对向量的导数


	对导数的定义更多的是为了形式上的考虑，所以也有各种不同的处理，但我们为了实用，先只直接定义列向量相关导数（当然，如果定义了矩阵相关导数，自然间接得到相应横向量的导数），也不定义矩阵对矩阵的导数，一是因为一般用不上，二是形式上需要较大改变（相对本文介绍的形式）。		对导数的定义更多的是为了形式上的考虑，所以也有各种不同的处理，但我们为了实用，先只直接定义列向量相关导数（当然，如果定义了矩阵相关导数，自然间接得到相应横向量的导数），也不定义矩阵对矩阵的导数，一是因为一般用不上，二是形式上需要较大改变（相对本文介绍的形式）。

	下面为了定义的动机看起来更加舒服，按如下顺序来定义		下面为了定义的动机看起来更加舒服，按如下顺序来定义
	- 定义标量对列向量的导数		* 定义标量对列向量的导数
	- 定义列向量对列向量的		* 定义列向量对列向量的
	- 定义标量对矩阵的导数		* 定义标量对矩阵的导数

	下面我们定义导数的主要动机就是在形式上与微分相配合		下面我们定义导数的主要动机就是在形式上与微分相配合

	## 矩阵的微分		==矩阵的微分==
	与导数不同，矩阵微分有着很自然的定义		与导数不同，矩阵微分有着很自然的定义
	$$dA = (dA_{ij})_{m\times n}$$		\[
			dA = (dA_{ij})_{m\times n}
			\]

	有着很多好用的显然的性质		有着很多好用的显然的性质

	## 标量对列向量的导数		==标量对列向量的导数==
	由下式定义		由下式定义

	$$		\[
	df = \sum_i\frac{\partial f}{\partial X_i}dX_i=(\frac{\partial f}{\partial X_i})_{(1\times n)}(dX_i)_{(n\times 1)}=(\frac{\partial f}{\partial X_i})_{(n\times 1)}dX\equiv(\frac{\partial f}{\partial X})^TdX=tr((\frac{\partial f}{\partial X})^TdX)= tr((\frac{\partial f}{\partial X})dX^T)		df = \sum_i\frac{\partial f}{\partial X_i}dX_i=(\frac{\partial f}{\partial X_i})_{(1\times n)}(dX_i)_{(n\times 1)}=(\frac{\partial f}{\partial X_i})_{(n\times 1)}dX\equiv(\frac{\partial f}{\partial X})^TdX=tr((\frac{\partial f}{\partial X})^TdX)= tr((\frac{\partial f}{\partial X})dX^T)
	$$		\]

	## 列向量对列向量的导数		==列向量对列向量的导数==
	$$		\[
	dY=(\frac{\partial Y}{\partial X})^TdX		dY=(\frac{\partial Y}{\partial X})^TdX
	$$		\]
	## 标量对矩阵的导数
	由下式定义		==标量对矩阵的导数==
	$$		<nowiki>由下式定义
			\[
	df=\sum_{ij}\frac{\partial f}{\partial A_{ij}}dA_{ij}=tr((\frac{\partial f}{\partial A})^TdA)		df=\sum_{ij}\frac{\partial f}{\partial A_{ij}}dA_{ij}=tr((\frac{\partial f}{\partial A})^TdA)
	$$		\]</nowiki>

	由上式启发，我们可以尝试对所有情况定义矩阵导数，即使		由上式启发，我们可以尝试对所有情况定义矩阵导数，即使
	$$		\[
	dB=tr((\frac{\partial B}{\partial A})^TdA)		dB=tr((\frac{\partial B}{\partial A})^TdA)
	$$		\]
	注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置		注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置

Qinz18：创建页面，内容为“# 矩阵求导我们只需定义这么几点 - 矩阵的微分（有自然的定义） - 矩阵对标量的导数（有明确定义） - 标量对矩阵的导数…”

2021-09-01T03:56:49Z

创建页面，内容为“# 矩阵求导我们只需定义这么几点 - 矩阵的微分（有自然的定义） - 矩阵对标量的导数（有明确定义） - 标量对矩阵的导数…”

新页面

# 矩阵求导

我们只需定义这么几点
- 矩阵的微分（有自然的定义）
- 矩阵对标量的导数（有明确定义）
- 标量对矩阵的导数
- 标量对向量的导数
- 向量对向量的导数

对导数的定义更多的是为了形式上的考虑，所以也有各种不同的处理，但我们为了实用，先只直接定义列向量相关导数（当然，如果定义了矩阵相关导数，自然间接得到相应横向量的导数），也不定义矩阵对矩阵的导数，一是因为一般用不上，二是形式上需要较大改变（相对本文介绍的形式）。

下面为了定义的动机看起来更加舒服，按如下顺序来定义
- 定义标量对列向量的导数
- 定义列向量对列向量的
- 定义标量对矩阵的导数

下面我们定义导数的主要动机就是在形式上与微分相配合

## 矩阵的微分
与导数不同，矩阵微分有着很自然的定义
$$dA = (dA_{ij})_{m\times n}$$

有着很多好用的显然的性质

## 标量对列向量的导数
由下式定义

$$
df = \sum_i\frac{\partial f}{\partial X_i}dX_i=(\frac{\partial f}{\partial X_i})_{(1\times n)}(dX_i)_{(n\times 1)}=(\frac{\partial f}{\partial X_i})_{(n\times 1)}dX\equiv(\frac{\partial f}{\partial X})^TdX=tr((\frac{\partial f}{\partial X})^TdX)= tr((\frac{\partial f}{\partial X})dX^T)
$$

## 列向量对列向量的导数
$$
dY=(\frac{\partial Y}{\partial X})^TdX
$$
## 标量对矩阵的导数
由下式定义
$$
df=\sum_{ij}\frac{\partial f}{\partial A_{ij}}dA_{ij}=tr((\frac{\partial f}{\partial A})^TdA)
$$

由上式启发，我们可以尝试对所有情况定义矩阵导数，即使
$$
dB=tr((\frac{\partial B}{\partial A})^TdA)
$$
注：有的书可能去掉上式中的转置来定义，于是所有导数结果均相差一个转置

矩阵求导 - 版本历史

Qinz18：/* 标量对矩阵的导数 */

Qinz18：/* 标量对矩阵的导数 */

Qinz18：/* 标量对矩阵的导数 */

Qinz18：/* 标量对矩阵的导数 */

Qinz18：/* 矩阵求导 */

2021年9月1日 (三) 04:05 Qinz18

2021年9月1日 (三) 04:05 Qinz18

Qinz18：创建页面，内容为“# 矩阵求导 我们只需定义这么几点 - 矩阵的微分（有自然的定义） - 矩阵对标量的导数（有明确定义） - 标量对矩阵的导数…”

Qinz18：创建页面，内容为“# 矩阵求导我们只需定义这么几点 - 矩阵的微分（有自然的定义） - 矩阵对标量的导数（有明确定义） - 标量对矩阵的导数…”