Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Ведение в социально - экономическую статистику. Учебник. Новосибирск, 2004. 739 с

.pdf
Скачиваний:
53
Добавлен:
22.08.2013
Размер:
4 Мб
Скачать
☆

A.1. Матричная алгебра

693

◦ Матрица A (m × m) называется верхней треугольной, если aij

= 0

при i > j. Матрица A (m×m) называется нижней треугольной, если aij = 0 при i < j.

◦Матрица A−1 (m×m) называется обратной матрицей к матрице A (m×m), если AA−1 = A−1A = Im.

◦Матрица A (m × m) называется идемпотентной, если AA = A2 = A.

◦Векторы-столбцы a (m ×1) и b (m ×1) называются ортогональными, если их скалярное произведение равно нулю: a b = 0.

◦Матрица A (m×n), где m n, называется ортогональной, если ее столбцы ортогональны, т.е. A A = In.

◦Матрица A (m × m) называется положительно определенной, если для любого вектор-столбца x = 0 (m × 1) выполняется x Ax > 0. Матрица A

(m × m) называется отрицательно определенной, если для любого векторстолбца x = 0 (m × 1) выполняется x Ax < 0.

◦Матрица A (m × m) называется положительно полуопределенной (неот-

рицательно определенной), если для любого вектора-столбца x (m × 1) выполняется x Ax 0. Матрица A (m × m) называется отрицательно по-

луопределенной (неположительно определенной), если для любого векторастолбца x (m × 1) выполняется x Ax 0.

◦Определителем матрицы A (m × m) называется

m

|A| = det(A) = aij (−1)i+j |Aij |,

j=1

где i — номер любой строки, а матрицы Aij ((m − 1) × (m − 1)) получены из матрицы A путем вычеркивания i-й строки и j-го столбца.

◦Для матрицы A (m × m) уравнение |A − λIm| = 0 называется характеристическим уравнением. Решение этого уравнения λ называется собственным числом (собственным значением) матрицы A. Вектор x = 0 (m × 1) называется собственным вектором матрицы A, соответствующим собственному числу λ, если (A − λIm) x = 0.

694Приложение A. Вспомогательные сведения из высшей математики

◦Прямое произведение (произведение Кронекера) матриц A (m × n) и B (p × q) это матрица C (mp × nq):

a11B a12B · · ·

a1nB

a21B a22B · · ·

a2nB

C = A B = .

. .

.

 

. .

.

.

 

.

.

.

 

. .

am1B am2B · · ·

amnB

A.1.2. Свойства матриц

Сложение матриц

•A + B = B + A (коммутативность).

•(A + B) + C = A + (B + C) (ассоциативность).

Произведение матриц

•В общем случае AB = BA (свойство коммутативности не выполнено).

•(AB) C = A (BC) (ассоциативность).

•A (B + C) = AB + AC (A + B) C = AC + BC (дистрибутивность).

•AIm = ImA = A для матрицы A (m × m).

A B

E F

AE + BG

AF + BH

•

=

 

.

C D

G H

CE + DG

CF + DH

Ранг

•Для матрицы A (m × n) выполнено rank(A) min{m, n}.

•rank(AB) min {rank(A), rank(B)}.

•Если матрица B (m × m) является невырожденной, то для матрицы A (m × n) выполнено rank(A) = rank(BA). Если матрица B (n × n) является невырожденной, то для матрицы A (m × n) выполнено rank(A) =

=rank(AB).

•rank(A A) = rank(AA ) = rank(A).

A.1. Матричная алгебра

695

Cлед

•tr (A + B) = tr (A) + tr (B).

•tr (αA) = α · tr (A).

•tr (A) = tr (A ).

•tr (AB) = tr (BA).

•tr (ABC) = tr (CAB) = tr (BCA).

 

 

m n

a2 .

•

tr (A A) = tr (AA ) =

 

i=1 j=1

ij

•

tr (Im) = m.

 

• tr

A(A A)−1A = n, где матрица A (m × n) имеет полный ранг по столб-

 

цам, т.е. rank(A) = n.

 

•

tr

A B

 

= tr (A) + tr (D), где A и D — квадратные матрицы.

C D

Транспонирование

•(A + B) = A + B .

•(AB) = B A .

Определитель

• Для матрицы A (2 × 2): |A| = a11a22 − a12a21 .

• |A| |B| = |AB|.

•

|I| = 1.

 

 

•

|αA| = αm |A| для матрицы A (m × m).

•

|A | = |A|.

 

•

A−1 =

 

1

.

 

A

 

|

|

 

|A|
(−1)i+j

696Приложение A. Вспомогательные сведения из высшей математики

•Если матрица A (m × m) является треугольной (например, диагональной),

 

m

 

то |A| = i=1 aii.

• |I + AB| = |I + BA|.

•

A + BD−1C |D| = D + CA−1B |A|.

•

|A + xy | = |A| (1 + y Ax) для матрицы A (m × m) и вектор-столбцов x,

 

y (m × 1).

A0

•= |A| |B|, где A и B — квадратные матрицы.

0B

A

B

•

= A − BD−1C |D| = D − CA−1B |A|, где A и D — квад-

C D

ратные невырожденные матрицы.

•Матрица A (m×m) является невырожденной (rank(A) = m) тогда и только тогда, когда |A| = 0.

Обращение

•Если обратная матрица существует, то она единственна (в частности, левая и правая обратные матрицы совпадают).

•Матрица A (m × m) имеет обратную A−1 тогда и только тогда, когда она является невырожденной, т.е. rank(A) = m.

•Матрица A (m ×m) имеет обратную A−1 тогда и только тогда, когда |A| = = 0.

•Обозначим через aij элементы обратной матрицы A−1 . Тогда

aij = |Aji| , где Aji ((m −1) ×(m −1)) получены из матрицы A путем вычеркивания j-й строки и i-го столбца.

Во всех приводимых ниже формулах предполагается, что существуют обратные матрицы там, где это требуется.

A.1. Матричная алгебра

 

 

 

697

• Для матрицы A (2 × 2):

 

 

 

 

A−1 =

1

a22

−a21 =

1

a22

−a21 .

|A|

−a12

a11a22 − a12a21

−a12

 

a11

a11

•Ax = y, x = A−1y.

•(AB)−1 = B−1A−1 .

•A−1 −1 = A.

•(A )−1 = A−1 .

•Если A (m × m) — ортогональная матрица, то A = A−1 .

•Для диагональной матрицы A = diag(a11, . . . , amm) выполнено:

A−1 = diag(1/a11 , . . . , 1/amm).

•(A + B)−1 = A−1 A−1 + B−1 −1 B−1 .

•A + BD−1C −1 = A−1 − A−1B(D + CA−1B)−1CA−1.

•(I + AB)−1 = I − A(I + BA)−1B.

 

−1

 

 

 

A

0

A−1

0

 

•

=

 

, где A и B — квадратные матрицы.

0

B

0

B−1

 

 

−1

(A − BD−1C)−1

−A−1B(D − CA−1B)−1

A B

•

=

−D−1C(A − BD−1C)−1

,

C D

(D − CA−1B)−1

где A и D — квадратные матрицы.

Положительно определенные матрицы

•Если матрица A положительно определенная, то |A| > 0. Если матрица A положительно полуопределенная, то |A| 0.

•Если матрица A положительно (полу-)определенная, то матрица −A отрицательно (полу-)определенная.

698Приложение A. Вспомогательные сведения из высшей математики

•Если матрица A положительно определенная, то обратная матрица A−1 также положительно определенная.

•Если матрицы A и B положительно (полу-)определенные, то матрицы A + B и AB также положительно (полу-)определенные.

•Если матрица A положительно определенная, а B положительно полу-

определенная, то |A + B| |A|. Если B положительно определенная, то |A + B| > |A|.

•Матрицы A A и A BA (n × n) являются симметричными положительно полуопределенными для любой матрицы A (m × n) и симметричной положительно полуопределенной матрицы B (m × m).

• Если матрица A (m × n) имеет полный ранг по столбцам, то матрица A A (n × n) симметричная положительно определенная. Если матрица B (m × m) симметричная положительно определенная, то матрица A BA (n × n) симметричная положительно определенная.

•Если матрица A (m × m) положительно полуопределенная, то существует верхняя треугольная матрица U (m ×m), такая что A = U U. Также существует нижняя треугольная матрица L (m × m), такая что A = L L. Такое представление матрицы называется разложением Холецкого (триангуляризацией).

Идемпотентные матрицы

•Если матрица A идемпотентная, то матрица I − A тоже идемпотентная, причем A(I − A) = 0.

•Если матрица A симметричная и идемпотентная, то rank(A) = tr (A).

• Матрицы A (A A)−1 A и Im − A (A A)−1 A являются симметричными и идемпотентными для любой матрицы A (m × n), имеющей полный ранг по столбцам. При этом tr A (A A)−1 A = n и tr Im − A (A A)−1 A = = m − n.

Собственные числа и векторы

•Для матрицы A (m × m) |A − λIm| является многочленом m-й степени (характеристическим многочленом) и имеет m корней, λ1, . . . , λm, в общем случае комплексных, среди которых могут быть кратные. По определению, λ1, . . . , λm являются собственными числами матрицы A.

A.1. Матричная алгебра

699

•У матрицы A (m × m) существует не больше m различных собственных чисел.

•Если x — собственный вектор матрицы A, соответствующий собственному числу λ, то для любого скаляра α = 0, αx — тоже собственный вектор, соответствующий собственному числу λ.

• Если λ1, . . . , λm — собственные числа матрицы A, то tr(A) =

m

i=1 λi,

m

 

|A| = i=1 λi .

 

• Если матрица A идемпотентная, то все ее собственные числа равны 0 или 1.

•Все собственные числа вещественной симметричной матрицы вещественны.

•Если x и y — собственные векторы вещественной симметричной матрицы,

соответствующие двум различным собственным числам, то они ортогональны: x y = 0.

•Если матрица A (m × m) является вещественной и симметричной, то

существуют матрицы H и Λ, где H (m × m) — ортогональная матрица (H = H−1 ), столбцы которой — собственные векторы матрицы A, а Λ (m × m) — диагональная матрица, состоящая из соответствующих собственных чисел матрицы A, такие что выполнено A = HΛH .

•Если матрица A (m ×m) является вещественной, симметричной, невырожденной, то A−1 = HΛ−1H .

•Вещественная симметричная матрица является положительно полуопределенной (определенной) тогда и только тогда, когда все ее собственные числа неотрицательны (положительны). Вещественная симметричная матрица является отрицательно полуопределенной (определенной) тогда и только тогда, когда все ее собственные числа неположительны (отрицательны).

•Если матрица A (m × m) является вещественной, симметричной и положительно полуопределенной, то A = B B = B2 , где B = HΛ1/2 H (m × m) —

вещественная, симметричная и положительно полуопределенная матрица;

Λ1/2 = diag{λ1g/2 }.

• Пусть λ1 · · ·

λm — собственные числа вещественной симметрич-

ной матрицы A

(m × m). Тогда собственый вектор x1 , соответствующий

700 Приложение A. Вспомогательные сведения из высшей математики

наименьшему собственому числу λ1 , является решением задачи

 

 

 

 

 

 

x Ax

→

x

 

 

 

 

 

 

 

 

 

 

min!

 

 

 

 

 

 

 

 

 

x x = 1.

 

 

 

 

• Пусть λ1

· · · λm — собственные числа вещественной симметричной

матрицы

A

(

m × m

). Тогда

λm

= max x Ax и λ

1 =

min x Ax .

 

 

 

x

 

x x

x

x x

Произведение Кронекера

•A (B + C) = A B + A C и (A + B) C = A C + B C.

•A (B C) = (A B) C.

•α A = α · A = A α.

•(A B) = A B .

•(A B) (C D) = (AC) (BD).

•(A B)−1 = A−1 B−1 .

•|A B| = |A|n |B|m для матриц A (m × m) и B (n × n).

•tr (A B) = tr (A) · tr (B).

•rank(A B) = rank(A) · rank(B).

A.2. Матричное дифференцирование

A.2.1. Определения

◦Производной скалярной функции s(x) по вектор-столбцу x (n × 1) или, другими словами, градиентом является вектор-столбец (n × 1)

 

 

∂s

 

 

 

∂x1

 

∂s

.

 

 

=

.

 

 

.

.

∂x

 

 

 

 

∂s

 

∂xn

A.2. Матричное дифференцирование

701

◦Производной скалярной функции s(x) по вектор-строке x (1 × n) является вектор-строка (1 × n)

∂s

=

∂s

, . . . ,

∂s

.

 

 

 

∂x

∂x1

∂xn

◦Производной векторной функции y(x) (n × 1) по вектору x (1 × m) или, другими словами, матрицей Якоби является матрица (n × m)

∂y

=

∂yi

 

.

 

 

i=1, ..., n

∂x

∂xj

 

j=1, ..., m

 

 

 

 

 

•Производной векторной функции y(x) (1×n) по вектору x (m×1) является матрица (m × n)

∂y

=

∂yj

i=1, ..., m .

 

∂xi

∂x

j=1, ..., n

◦Производной скалярной функции s(A) по матрице A (m × n) является матрица (m × n)

∂s

=

∂s

 

.

 

 

i=1, ..., m

∂A

∂aij

 

j=1, ..., n

 

 

 

 

 

◦Производной матричной функции A(s) по скаляру s является матрица (m ×

× n)

∂A

=

∂aij

i=1, ..., m .

 

∂s

∂s

j=1, ..., n

 

 

 

◦Второй производной скалярной функции s(x) по вектору-столбцу x (n × 1) или, другими словами, матрицей Гессе является матрица (n × n)

∂2s

=

∂2s

i=1, ..., m .

∂x∂x

∂xi∂xj

 

 

 

j=1, ..., n

A.2.2. Свойства

 

∂x

 

∂x

 

 

 

•

 

= I и

 

 

= I.

 

∂x

∂x

 

 

 

 

 

 

 

 

 

•

∂Ax

= A и

∂x A

= A.

∂x

 

∂x

 

 

 

 

 

 

 

 

 

702Приложение A. Вспомогательные сведения из высшей математики

•∂x y = ∂y x = y.

∂x ∂x

•∂x x = 2x.

∂x

•∂x Ay = Ay и ∂x Ay = x A.

∂x ∂y

 

 

∂x Ax

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

•

 

 

 

 

 

= (A + A )x.

 

 

 

 

∂x

 

 

 

 

 

Для симметричной матрицы A:

∂x Ax

= 2Ax = 2A x.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

∂x

 

 

∂x Ay

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

•

 

 

 

 

 

= xy .

 

 

 

 

 

 

 

 

∂A

 

 

 

 

 

 

 

 

 

 

 

∂x A−1y

 

 

 

 

 

 

 

 

 

 

 

 

•

 

 

 

 

 

 

 

= (A )−1 xy (A )−1.

 

 

 

∂A

 

 

 

•

 

∂ tr (A)

= I.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

∂A

 

 

 

 

 

 

 

 

 

 

 

 

 

 

∂ tr (AB)

 

 

 

 

 

∂ tr (AB)

 

 

 

•

 

 

 

 

 

 

 

= B и

 

 

 

 

= A .

 

∂A

 

 

 

 

∂B

 

 

∂ tr (A A)

 

 

 

 

 

 

 

 

 

 

 

 

•

 

 

 

 

 

 

 

= 2A.

 

 

 

 

 

 

 

 

∂A

 

 

 

 

 

 

 

 

 

 

 

 

∂ tr (A BA)

 

 

 

 

 

 

 

•

 

 

 

 

 

 

 

 

 

 

= (B + B ) A.

 

 

 

 

∂A

 

 

 

 

 

 

 

 

 

 

∂ tr (A BA)

 

 

 

 

 

 

 

•

 

 

 

 

 

 

 

 

 

 

= AA .

 

 

 

 

∂B

 

 

 

 

 

 

 

 

•

 

∂ |A|

= A

(A )−1 .

 

 

 

 

∂A

 

 

 

 

 

 

 

 

 

| |

 

 

 

 

 

 

 

 

 

 

 

 

•

 

∂ ln |A|

 

= (A )−1 .

 

 

 

 

 

 

 

 

∂A

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

•

 

∂ ln |A BA|

= BA (A BA)−1 + B A (A B A)−1.

 

∂A

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

∂ (AB)

 

 

 

 

 

 

∂B

 

 

∂A

 

 

 

•

 

 

 

 

 

 

 

= A

 

 

+

 

 

 

B.

 

 

 

 

∂s

 

 

 

 

 

∂s

∂s

 

 

 

 

 

∂A−1

= −A−1

∂A

 

 

 

•

 

 

 

 

A−1 .

 

 

 

 

∂s

∂s

 

 

 

 

Соседние файлы в предмете Политология