Байесовская сеть представления и вывода вероятностных знаний.
Ранее было показано, что полное совместное распределение вероятностей позволяет отвечать на любые вопросы о рассматриваемой проблемной области, но может приобретать по мере увеличения количества переменных настолько большие размеры, что вычисления становятся невозможными. Более того, сам способ задания вероятностей для атомарных событий является довольно неестественным и может оказаться весьма затруднительным при отсутствии большого объема данных, на основании которых накапливаются статистические оценки.
В настоящем разделе показана структура данных, называемая байесовской сетью ( другие названия: сеть доверия, вероятностная сеть, причинная сеть, и схема знаний), которая позволяет представить связи между переменными и составить краткую спецификацию любого полного совместного распределения вероятностей.
Байесовская сеть — это ориентированный граф, в котором каждая вершина помечена количественной вероятностной информацией.
1. Вершинами сети является множество случайных переменных. Переменные могут быть дискретными или непрерывными.
2. Вершины соединяются попарно ориентированными ребрами, или ребрами со стрелками; ребра образуют множество ребер. Если стрелка направлена от вершины Х к вершине У, то вершина Х называется родительской вершиной вершины У.
3. Каждая вершина У характеризуется распределением условных вероятностей Р (У Раrents (Хi) ), которое количественно оценивает влияние родительских вершин на эту вершину.
4. Граф не имеет циклов, состоящих из ориентированных ребер (и поэтому является ориентированным деревом).
Интуитивный смысл стрелки в правильно составленной сети обычно состоит в том, что вершина Х оказывает непосредственное влияние на вершину У. Для специалиста в проблемной области задача определения того, какие непосредственные влияния существуют в этой проблемной области, обычно является довольно легкой; действительно, она намного легче по сравнению с фактическим определением самих вероятностей. После того как составлена топология байесовской сети, остается только указать распределение условных вероятностей для каждой переменной с учетом ее родительских переменных. В данном разделе на конкретном примере будет показано, что применение этой топологии и распределений условных вероятностей вполне позволяет (неявно) задать полное совместное распределение для всех переменных.
Пример: Житель пригорода установил в своем доме новую систему тревожной сигнализации для обнаружения взлома. Она довольно надежно обнаруживает взлом, но иногда также реагирует на небольшие землетрясения. У этого человека есть два соседа, Джон и Мэри, которые обещали звонить ему на работу, услышав тревожный сигнал. Джон всегда звонит, услышав тревожный сигнал, но иногда путает с ним телефонный звонок в доме соседа и в этих случаях также звонит. Мэри любит слушать довольно громкую музыку и поэтому иногда вообще пропускает тревожный сигнал. Получив факты о том, кто из этих соседей звонил или не звонил, необходимо оценить вероятность взлома. Байесовская сеть для этой проблемной области приведена на рис. 60.
Рис.60. Типичная байесовская сеть, на которой показаны и топология и таблицы условных вероятностей (СРТ)
На время отвлечемся от распределения условных вероятностей, показанных на этом рисунке, и сосредоточимся на топологии сети. В случае сети определения взлома топология показывает, что взлом и землетрясения непосредственно влияют на вероятность появления тревожного сигнала, а звонки Джона и Мэри зависят только от тревожного сигнала. Поэтому сеть подтверждает наши предположения, что соседи самостоятельно не обнаруживают какие-либо попытки взлома, не замечают незначительных землетрясений и не совещаются друг с другом перед звонками
Обратите внимание на то, что в этой сети нет вершин, соответствующих тем ситуациям, в которых Мэри в настоящее время слушала бы громкую музыку или звонил бы телефон и сбивал с толку Джона. Эти факторы подытожены в показателях неопределённости, связанных с рёбрами, направленными от вершины «ТРЕВОЖНЫЙ ЗВОНОК» к вершинам
«ДЖОН ЗВОНИТ» и «МЕРИ ЗВОНИТ». Такая структура сети служит примером проявления в действии не только экономии усилий, но и недостатка знаний, поскольку требовалось бы слишком много работы, чтобы узнать, по какой причине эти факты могут оказаться более или менее вероятными в каждом конкретном случае; к тому же все равно отсутствует приемлемый способ получения достоверной информации.
Вероятности, показанные на рисунке, фактически подытоживают потенциально бесконечное множество обстоятельств, которые либо могут вызвать нарушения при выработке тревожного звонка (высокая влажность, отказ сети электропитания, разрядка аккумулятора, обрыв проводов, дохлая мышь, застрявшая внутри звонка, и т.д.), либо станут причиной того, что Джон или Мэри не смогут о нем (звонке) сообщить (из-за того, что выйдут на обед, отправятся в отпуск, на время оглохнут, не слышат сигнал в шуме пролетающего самолёта и т.д.). Но именно благодаря использованию приближенных оценок смоделировать события, происходящие в проблемной области, по крайней мере, приблизительно. Степень приближения к истине или степень адекватности данной вероятностной модели может быть повышена по мере введения дополнительной достоверной информации.
Теперь обратимся к распределениям условных вероятностей, показанным на рис.60. На этом рисунке каждое распределение представлено в виде таблицы условных вероятностей, или сокращенно СРТ (Соnditional Probability Table). В таблицах СРТ буквами В, З, Т, Д и М обозначены следующие события «Взлом», «Землетрясение», «Тревожный звонок», «Джон звонит», «Мэри звонит». Каждая строка в таблице СРТ содержит условную вероятность каждого значения вершины для обусловливающего случая (соnditioning case ), определяющего условную вероятность.
Обусловливающий случай представляет собой одну из возможных комбинаций значений родительских вершин (в принципе его можно рассматривать как миниатюрное атомарное событие). Каждая строка должна в сумме составлять 1, поскольку элементы этой строки представляют собой исчерпывающее множество случаев для данной переменной. А если речь идет о булевых переменных (как в данном примере), то после определения вероятности истинного значения, скажем Р, вероятность ложного значения должна быть равна 1-Р. Вообще говоря, любая таблица для булевой переменной с k булевыми родительскими переменными содержит 2k независимо определяемых вероятностей. Таблица для вершины без родительских вершин имеет только одну строку, представляющую априорные вероятности каждого возможного значения соответствующей переменной.
Любая байесовская сеть представляет собой полное описание рассматриваемой проблемной области. Каждый элемент в полном совместном распределении вероятностей может быть рассчитан на основании информации, представленной в этой сети. Универсальным элементом в совместном распределении является вероятность конъюнкции конкретных присваиваний значений каждой переменной, такой как Р(Х1 =х1 …….. Хn = хn ). В качестве сокращенного обозначения для такой конъюнкции будет использоваться выражение Р(х1 ……..хn ). Значение этого элемента задается следующей формулой:
n
Р(х1 …….. хn ) = P(хi parents (хi )).
i=1
Где parents (хi ) обозначает конкретные значения переменных в множестве вершин Рarents (Хi ). Поэтому каждый элемент в совместном распределении представлен в виде произведения соответствующих элементов в таблицах условных вероятностей (СРТ) байесовской сети. Таким образом, таблицы обеспечивают распределённое представление совместного распределения.
Для иллюстрации описанных выше понятий рассчитаем вероятность того, что прозвучал тревожный звонок, но не произошли ни взлом, ни землетрясение, а звонили и Мэри, и Джон.
Р(Д М Т В З) = Р(Д Т) Р(М Т) Р(Т В З) Р( В) Р( З) = 0,9 0,7 0,001 0, 999 0,998 = 0,00062
Таким образом, так как байесовская сеть служит представлением совместного распределения вероятностей, то она может также применяться для получения ответа на любой запрос о данной проблемной области. В этом и заключается вывод вероятностных знаний на байесовских сетях.