Доброго дня!

Нужна помощь в постижения смысла собственных векторов и собственных чисел матриц в приложени к распознаванию изображений лиц.

То, что собственный вектор для матрицы A - это такой вектор v, который, будучи умножен на A не меняет своего направления, т.е.
   A * v = k * v,
      где v - собственный вектор матрицы A
            k - собственное число матрицы A

. . . уже читал много раз.

В распознавании лиц существует подход PCA ( Principal Component Analysis ).
Пусть изображение NxN каждого лица в наборе - это точка в NxN - мерном пространстве. Набор точек локализован в этом NxN мерном пространстве не беспорядочно, а образует некую структуру. Чтобы максимально подробно описать эту структуру, находят некие вектора, которые образуют базис для такой структуры. Т.е. каждую точку в такой структуре можно описать в качестве ленейной комбинации базисных векторов. ( Это можно интуитивно представить, по аналогии с 3x мерным простанством, когда каждую точку можно представить в виде суммы векторов (1,0,0) , (0,1,0), (0,0,1), которые для этого пространства образуют базис, т.е. Декартовая система координат ).

Так вот, вроде всё логично, но почему для нахождения таких базисных векторов используют именно СОБСТВЕННЫЕ вектора, мне не понятно.
Непонятно то, почему они могут образовывать базис, и как вообще пересекаются матрицы преобразования ( для которых собственные вектора определяются так http://en.wikipedia.org/wiki/Eigenvalues ) и картинки в виде матрицы.


Вобщем, приветствуется любая помощь. . .

Ссылка на статью, в которой пытаюсь разобраться http://www.face-rec.org/algorithms/PCA/jcn.pdf


Это сообщение отредактировал(а) ANTON_AL - 15.4.2008, 15:18

Читаем статью, страница 4 (74) слева снизу: В скобках комментарии

Далее подвергаем это множество очень больших векторов (наши M лиц, размерности N^2) анализу методом главных компонент. (Объяснение, что это за метод:) Он ищеет множество из M ортонормированных векторов u_n, таких что они наилучшим образом описывают распределение данных. (Что значит "наилучшим образом"? См. формула) k-ый вектор u_k выбирается так, чтобы максимизировать

\sum_{n=1}^{M}  (u_k, F_n)^2, при условии, что все вектора u_k ортогональны друг другу и по длине равны единице.

(здесь написанна сумма квадратов скалярных произведений искомого вектора u_k последовательно на все лица тренировчного множества. Скалярное произведение - это как бы мера похожести двух лиц, чем в большем количестве пикселей картинки лиц совпадают, тем больше скалярное произведение. u_k ищется как лицо, наиболее похожее на все остальные)

Оказывается, что u_k - это собственные вектора матрицы C = A*A', где A = (F_1 F_2 ... F_n) (A составлена из столбцов F_k)
(Утверждение про то, что u_k - это собственные вектора следует либо из науки, которая называется факторный анализ - я не уверен в названии - либо его можно проверить самому. Мы хотим максимизировать некоторую величину. Надо написать утверждение, что частные производные максимизируемой функции равны нулю. Точнее, функции лагранжа, потому что есть дополнительные условия, при которых ищется максимум)

Дальше объясняется как эти собственные числа искать, ведь размер матрицы C очень большой. N^2 на N^2. Т.о. здесь поиск собственных чисел - это не самоцель. А просто при решении задачи оказывается, что для решения надо найти собственные числа