- •37. Перцептрон и его математическая модель.
- •Математическая модель перцептрона.
- •38. Алгоритм обучения перцептрона
- •39. Сходимость алгоритма обучения перцептрона. Теорема Новикова.
- •Теорема Новикова.
- •40, 41 Итеративные процедуры распознавания на основе градиентных методов: минимизация одной функции, минимизация нескольких функций.
- •Решение задачи оро.
- •Сходимость процедуры.
- •42. Алгоритм обучения перцептрона как реализация специальной стратегии совместной минимизации нескольких функций с помощью градиентных методов.
- •43. Физическая интерпретация метода потенциальных функций
- •Решение двух случаев.
- •44. Кумулятивный потенциал. Алгоритм итеративного вычисления кумулятивного потенциала
- •45. Теоремы о сходимости обучения классификации методом потенциальных функций.
- •46. Достоинства и недостатки распознающих процедур перцептронного типа
- •47. Элементы задачи решения.
- •Байесовская теория решения.
- •48. Условный риск. Общий риск.
- •49. Постановка Байесовской задачи решения. Оптимальное решающее правило. Связь с задачей распознавания.
- •Типовая задача распознаванию образов.
- •50. Классификация с минимальной вероятностью ошибки.
- •Замечание.
- •51. Минимаксное решающее правило
- •Пусть теперь функция потерь неизвестна.
- •52. Процедура Неймана-Пирсона
- •Модель.
- •Процедура – экстремальная задача.
- •53. Схема доказательства оптимальности процедуры Неймана-Пирсмана
- •От противного.
- •Случай 2.
- •54. Обучение байесовской процедуры распознавания: оценка неизвестных параметров.
- •55. Оценка неизвестной плотности вероятности по априорной информации
- •56. Оценка неизвестной плотности вероятности с использованием экспериментальных данных.
- •57. Правило ближайшего соседа как пример непараметрического метода распознавания: оценка вероятности ошибки классификации. Правило ближайшего соседа.
- •58, 59 Мгуа
- •2.3. Понятие и виды опорных функций
- •Критерий регулярности.
- •Критерий несмещенности.
- •2.6. Критерии остановки мгуа
- •60. Достоинства и недостатки
- •61. Постановка задач лингвистического распознавания
- •62. Три способа решения задачи
- •Классификация на основе синтаксического анализатора:
- •63. Задача восстановления грамматики по обуч выборке
- •Теорема о разрешимости задачи для информаторного представления.
- •Теорема о неразрешимости для текстуального представления.
- •68. Два класса алг восст грамм
- •69. Алг Фельдмана
- •Часть 1.
- •Часть 2.
- •Часть 3.
- •70. Требование к вектору признаков
- •71. Среднеквадратичное расстояние в евкл простр
- •72. Преобр детерм вект призн, миним внутрикласс расст
- •73. Способы учета изменен межкласс расст при миним внутрикласс раст
Часть 3.
Здесь грамматика, полученная во второй части, упрощается объединением эквивалентных правил подстановки.
Два правила с левыми
частями
и
эквивалентны, если соблюдены следующие
условия. Предположим, что, начиная с
,
можно породить множество цепочек
.
Аналогичным образом предположим, что,
начиная с
,
можно породить множество
.
Если
,
то два правила подстановки считаются
эквивалентными, и каждый символ
может быть заменен на символ
без ущерба для языка, порождаемого этой
грамматикой.
Формально два правила
подстановки эквивалентны, если
,
где
обозначает, что цепочка
порождается из нетерминала
соответствующим применением правил
подстановки.
В приведенном примере эквивалентны правила с левыми частями и . После слияния и получаем следующий набор правил:
,
где исключены
многократные повторения одного и того
же правила. Дальнейшее слияние правил
невозможно, поэтому алгоритм в процессе
обучения строит следующую автоматную
грамматику:
,
где:
,
,
,
.
Легко проверить, что эта грамматика может порождать обучающую выборку, использованную в процессе ее вывода.
70. Требование к вектору признаков
Общие требования:
Вектор не должен содержать компонент, которые для данного множества объектов не определены;
Вектор не должен содержать компонент, которые для объектов разных классов одинаковы;
Вектор не должен содержать компонент, которые не могут быть измерены или вычислены по измерениям;
Вектор не должен содержать функционально либо статистически зависимых компонент на рассмотренном множестве объектов;
Желательно, чтобы вводимые в описание признаки принимали близкие значения для объектов из одного класса, и сильно различались для разных классов;
Желательно, чтобы число компонент было как можно меньше – это способствует требованиям 1-4. Реализуется двумя путями:
Ранжирование остальных признаков в порядке убывания полезности;
Переход от признакового пространства большей размерности к признаковому пространству меньшей размерности.
71. Среднеквадратичное расстояние в евкл простр
Рассмотрим расстояния между различными объектами:
1 тип расстояний – расстояние между двумя точками:
Пусть
заданы точка
и множество точек
.
Тогда средне квадратичное внутри множественное расстояние будет определяться через другие расстояния.
72. Преобр детерм вект призн, миним внутрикласс расст
Вектор
.
Требуется найти такое преобразование
,
чтобы выполнялась минимизация и
максимизация соответствующих расстояний.
Однако,
следует заметить, что здесь преобразование
может быть любым. Будем же искать для
простоты только линейной преобразований.
Такое преобразование задается квадратной
матрицей
.
Тогда выполнения преобразования над
вектором выглядит так:
.
Следует
отметить, что произвольное линейной
преобразование предполагает поиск
чисел. Чтобы сократить количество
искомых величин ограничимся масштабирующим
линейным преобразованием:
,
где
вес
признака векторов. Тогда преобразование
над вектором таково:
.
