Устойчивость модели к наличию шума
Шум можно рассматривать как сочетание неполноты информации (т.к. некоторые значащие символы исчезают из описаний объектов), и дезинформации (т.к. в описание включаются ложные символы).
Поэтому замену символов в словах на символы, которые не встречаются по обучающей выборке можно считать неполнотой информации. Этот случай мы рассматривать не будем, т.к. по сути уже рассмотрели его в предыдущем пункте.
Рассмотрим пример, в котором одно слово заменой букв преобразуется в другое слово, например, слово "критик" преобразуется в слово "окорок". Каждой замене будет соответствовать одна анкета распознаваемой выборки (таблица 73):
Таблица 73 – ВАРИАНТЫ КОДИРОВАНИЯ ОБЪЕКТА ОБУЧАЮЩЕЙ ВЫБОРКИ, ОТЛИЧАЮЩИЕСЯ УРОВНЕМ ШУМА
№ |
Класс |
Коды признаков |
|||||||||||||
1 |
КРИТИК |
47 |
53 |
45 |
55 |
45 |
47 |
|
|
|
|
|
|
|
|
2 |
КРОТИК |
47 |
53 |
51 |
55 |
45 |
47 |
|
|
|
|
|
|
|
|
3 |
КРОТОК |
47 |
53 |
51 |
55 |
51 |
47 |
|
|
|
|
|
|
|
|
4 |
ОКОРОК |
47 |
53 |
51 |
51 |
51 |
47 |
|
|
|
|
|
|
|
|
Результаты идентификации представлены на рисунке 135:
|
|
|
|
Рисунок 135. Результаты идентификации в условиях шума в системе "Эйдос" |
Видим, что модель обладает определенной устойчивостью и к шуму.
Пример решения задания 5: "Проверить способность модели правильно идентифицировать классы, один из которых является подмножеством другого"
С этой целью в текстовый файл специально включены такие слова, как: "око", "окорок", "молоко".
Результаты их идентификации приведены на рисунке 136:
|
|
|
Рисунок 136. Карточка результатов распознавания системы "Эйдос" в случае идентификации классов, один из которых является подмножеством других |
Как видим, идентификация классов, один из которых является подмножеством других, осуществляется правильно. Это является важным достоинством семантической информационной модели системы "Эйдос", т.к. представляет собой проблему для многих типов нейронных сетей. Достаточно отметить, что возможность решения подобных задач считается одним из основных достоинств развитой модели нейронной сети, реализованной в неокогнитроне Фукушимы.
Пример решения задания 6: Оценить ценность букв для идентификации слов. Сравнить суммарную ценность для этой цели гласных и согласных букв
Для решения этой задачи запустим 2-й режим в 3-й подсистеме (рисунок 137). В этом режиме все признаки, которыми в данном примере являются буквы, выводятся системой "Эйдос" в порядке убывания среднего количества информации, которое в них содержится о принадлежности к словам. Если просуммировать ценность букв "нарастающим итогом" то получим накопительную кривую, представленную на рисунке 138. Эта кривая называется "Парето-диаграмма" по имени известного итальянского математика и экономиста XIX, Вильфредо Парето, впервые предложившего оценивать силу влияния факторов, исключать из рассмотрения незначимые факторы и впервые построившего подобные диаграммы.
|
Рисунок 137. Запуск режима системы "Эйдос" измерения ценности признаков для решения задач идентификации, прогнозирования и управления |
|
Рисунок 138. Парето-диаграмма ценности букв для идентификации слов |
Характерная "полочка" на Парето-диаграмме соответствует цифрам и буквам латинского алфавита, которые не встретились в словах обучающей выборки. В таблице 74 приведены буквы, проранжированные в порядке убывания среднего количества информации в них, о принадлежности к словам.
Таблица 74 – ЦЕННОСТЬ БУКВ ДЛЯ ИДЕНТИФИКАЦИИ СЛОВ
№ |
Код |
Буква |
Ценность (бит) |
Ценность (бит) "нарастающим итогом" |
Ценность (%) "нарастающим итогом" |
1 |
66 |
Э |
0,76988 |
0,76988 |
4,841 |
2 |
56 |
У |
0,74529 |
1,51517 |
9,526 |
3 |
49 |
М |
0,71090 |
2,22607 |
13,996 |
4 |
46 |
Й |
0,69728 |
2,92335 |
18,380 |
5 |
61 |
Ш |
0,68748 |
3,61083 |
22,703 |
6 |
47 |
К |
0,68569 |
4,29652 |
27,014 |
7 |
67 |
Ю |
0,66376 |
4,96028 |
31,187 |
8 |
52 |
П |
0,66014 |
5,62042 |
35,338 |
9 |
64 |
Ы |
0,65157 |
6,27199 |
39,434 |
10 |
41 |
Д |
0,64023 |
6,91222 |
43,460 |
11 |
68 |
Я |
0,63612 |
7,54834 |
47,459 |
12 |
44 |
З |
0,62131 |
8,16965 |
51,366 |
13 |
65 |
Ь |
0,59697 |
8,76662 |
55,119 |
14 |
38 |
Б |
0,59622 |
9,36284 |
58,868 |
15 |
53 |
Р |
0,58610 |
9,94894 |
62,553 |
16 |
59 |
Ц |
0,57201 |
10,52095 |
66,149 |
17 |
40 |
Г |
0,56958 |
11,09053 |
69,730 |
18 |
39 |
В |
0,55490 |
11,64543 |
73,219 |
19 |
62 |
Щ |
0,52045 |
12,16588 |
76,492 |
20 |
37 |
А |
0,51477 |
12,68065 |
79,728 |
21 |
48 |
Л |
0,50010 |
13,18075 |
82,872 |
22 |
54 |
С |
0,47977 |
13,66052 |
85,889 |
23 |
55 |
Т |
0,47498 |
14,13550 |
88,875 |
24 |
51 |
О |
0,46548 |
14,60098 |
91,802 |
25 |
50 |
Н |
0,45089 |
15,05187 |
94,637 |
26 |
45 |
И |
0,43046 |
15,48233 |
97,343 |
27 |
42 |
Е |
0,42253 |
15,90486 |
100,000 |
Пример решения задания 7: "Выполнить кластерно-конструктивный анализ слов и букв, вывести информационные и семантические портреты слов и букв, построить их профили"
Кластерно-конструктивный анализ слов
Кластерно-конструктивный анализ выполняется в 5-й подсистеме "Типология" (рисунок 139). Сначала на основе матрицы информативностей рассчитывается матрица сходства классов (таблица 75), а затем на основе нее формируется таблица кластеров и конструктов классов (таблица 76).
|
Рисунок 139. Запуск режима кластерно-конструктивного анализа классов (слов) |
Таблица 75 – ФРАГМЕНТ МАТРИЦЫ СХОДСТВА КЛАССОВ (СЛОВ)
Код |
Коды классов |
|||||||||||
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
11 |
12 |
|
1 |
100,0 |
20,0 |
19,0 |
78,1 |
-6,6 |
-5,5 |
1,3 |
9,7 |
12,9 |
22,2 |
5,3 |
13,3 |
2 |
20,0 |
100,0 |
43,1 |
-1,4 |
4,3 |
1,5 |
68,2 |
-4,6 |
32,4 |
54,0 |
23,9 |
31,5 |
3 |
19,0 |
43,1 |
100,0 |
-2,4 |
-5,5 |
-1,6 |
29,5 |
-6,7 |
2,2 |
36,3 |
65,5 |
57,8 |
4 |
78,1 |
-1,4 |
-2,4 |
100,0 |
7,2 |
7,9 |
11,7 |
19,5 |
12,9 |
29,3 |
5,6 |
18,3 |
5 |
-6,6 |
4,3 |
-5,5 |
7,2 |
100,0 |
17,2 |
8,3 |
10,2 |
-7,2 |
-5,5 |
4,9 |
-4,9 |
6 |
-5,5 |
1,5 |
-1,6 |
7,9 |
17,2 |
100,0 |
9,6 |
5,1 |
0,0 |
-1,4 |
1,4 |
1,7 |
7 |
1,3 |
68,2 |
29,5 |
11,7 |
8,3 |
9,6 |
100,0 |
18,0 |
35,1 |
49,5 |
47,9 |
44,5 |
8 |
9,7 |
-4,6 |
-6,7 |
19,5 |
10,2 |
5,1 |
18,0 |
100,0 |
-10,6 |
9,6 |
19,6 |
-6,0 |
9 |
12,9 |
32,4 |
2,2 |
12,9 |
-7,2 |
0,0 |
35,1 |
-10,6 |
100,0 |
23,3 |
-5,8 |
11,7 |
10 |
22,2 |
54,0 |
36,3 |
29,3 |
-5,5 |
-1,4 |
49,5 |
9,6 |
23,3 |
100,0 |
25,3 |
53,4 |
11 |
5,3 |
23,9 |
65,5 |
5,6 |
4,9 |
1,4 |
47,9 |
19,6 |
-5,8 |
25,3 |
100,0 |
51,4 |
12 |
13,3 |
31,5 |
57,8 |
18,3 |
-4,9 |
1,7 |
44,5 |
-6,0 |
11,7 |
53,4 |
51,4 |
100,0 |
13 |
42,0 |
-2,2 |
-5,7 |
36,4 |
-7,0 |
-5,8 |
-2,4 |
46,5 |
16,9 |
2,4 |
0,5 |
-2,3 |
14 |
19,8 |
23,2 |
-4,6 |
24,4 |
-3,5 |
-4,4 |
14,7 |
25,7 |
7,8 |
55,9 |
-5,1 |
-4,1 |
15 |
32,9 |
8,4 |
2,5 |
39,0 |
13,0 |
9,4 |
-7,2 |
18,2 |
-1,5 |
23,9 |
9,2 |
28,2 |
16 |
30,3 |
18,2 |
15,4 |
26,5 |
6,9 |
3,9 |
6,5 |
6,7 |
4,0 |
7,7 |
4,3 |
2,8 |
17 |
24,1 |
15,2 |
18,0 |
9,3 |
-5,6 |
-7,0 |
-8,2 |
-6,9 |
35,3 |
5,0 |
1,2 |
9,0 |
18 |
14,6 |
0,1 |
-6,1 |
18,9 |
-1,6 |
43,7 |
-6,8 |
14,5 |
-2,5 |
26,9 |
-5,1 |
-5,5 |
19 |
-0,6 |
24,6 |
-7,8 |
-3,6 |
-5,0 |
-7,4 |
19,5 |
-4,9 |
57,2 |
10,9 |
-5,7 |
-7,0 |
20 |
-2,3 |
29,7 |
-1,1 |
-2,9 |
-4,9 |
-2,2 |
33,7 |
-5,8 |
36,1 |
10,5 |
-5,7 |
2,3 |
21 |
61,5 |
-6,4 |
5,7 |
59,9 |
-4,1 |
3,0 |
4,1 |
-5,0 |
24,2 |
6,3 |
-3,1 |
11,8 |
22 |
0,1 |
-7,4 |
1,2 |
14,9 |
10,8 |
12,4 |
17,4 |
80,2 |
12,3 |
1,6 |
8,2 |
5,5 |
23 |
13,3 |
30,3 |
21,5 |
-4,9 |
-4,3 |
51,6 |
19,3 |
-4,0 |
20,5 |
-3,2 |
0,5 |
6,2 |
24 |
13,9 |
10,1 |
18,6 |
4,7 |
4,8 |
3,7 |
12,0 |
11,3 |
-4,4 |
-3,2 |
15,7 |
5,2 |
Таблица 76 – КОНСТРУКТ СЛОВ: "КРИТИК – ВСЕГДА"
№ |
Код слова |
Слово |
Уровень сходства |
№ |
Код слова |
Слово |
Уровень сходства |
1 |
15 |
КРИТИК |
100,00 |
23 |
2 |
БЛАГОДАРНОСТИ |
8,37 |
2 |
27 |
ОКОРОК |
71,79 |
24 |
28 |
ОНЕГИНА |
7,32 |
3 |
41 |
СРОК |
65,59 |
25 |
31 |
ОЦЕНИЛ |
5,70 |
4 |
14 |
КАК |
52,61 |
26 |
44 |
ЭТУ |
5,67 |
5 |
26 |
ОКО |
51,07 |
27 |
16 |
ЛЮБВИ |
5,34 |
6 |
42 |
ТВОРЕНИЕ |
40,52 |
28 |
30 |
ОСТАНАВЛИВАТЬ |
3,81 |
7 |
39 |
РУССКОЕ |
40,23 |
29 |
35 |
ПОЭТА |
2,59 |
8 |
36 |
ПРИВОДИТ |
39,13 |
30 |
3 |
БУДЕТ |
2,53 |
9 |
4 |
ВЕЛИКИЙ |
38,98 |
31 |
37 |
ПУСТЬ |
1,54 |
10 |
38 |
РАСТЕТ |
37,88 |
32 |
23 |
ОБГОНЯЕТ |
-1,37 |
11 |
1 |
БЕЛИНСКИЙ |
32,92 |
33 |
9 |
ГЕНИАЛЬНОЕ |
-1,50 |
12 |
33 |
ПОТРЕБНОСТИ |
29,38 |
34 |
24 |
ОБЩЕСТВО |
-1,55 |
13 |
12 |
ИДЕТ |
28,16 |
35 |
13 |
ИСПОЛНЕННЫЙ |
-3,75 |
14 |
10 |
ДАЛЕКО |
23,87 |
36 |
29 |
ОНО |
-4,20 |
15 |
18 |
МОЛОКО |
19,13 |
37 |
21 |
НЕЙ |
-4,87 |
16 |
8 |
ВЫСОКО |
18,23 |
38 |
43 |
УШЛО |
-5,20 |
17 |
25 |
ОГОРОД |
16,45 |
39 |
22 |
НОВЫЕ |
-5,51 |
18 |
5 |
ВЗОР |
12,98 |
40 |
40 |
СОБОЙ |
-5,64 |
19 |
6 |
ВРЕМЯ |
9,39 |
41 |
20 |
НАШЕГО |
-5,81 |
20 |
32 |
ПИСАЛ |
9,36 |
42 |
34 |
ПОЭМУ |
-6,07 |
21 |
11 |
ДОСТОИНСТВУ |
9,19 |
43 |
19 |
НАЦИОНАЛЬНОГО |
-7,01 |
22 |
17 |
ЛЮБИТЬ |
8,54 |
44 |
7 |
ВСЕГДА |
-7,17 |