Гра́фова моде́ль, або імові́рнісна гр́афова моде́ль (ІГМ, ) — це ймовірнісна модель, для якої між випадковими змінними виражено графом. Вони поширені в теорії ймовірностей, статистиці, — зокрема, баєсовій, — та в машинному навчанні.
Типи графових моделей
Як правило, ймовірнісні графові моделі як основу для кодування повного розподілу над багатовимірним простором використовують представлення на основі графів, і граф, що є компактним або представленням набору незалежностей, що містяться у певному розподілі. Зазвичай застосовують дві галузі графових представлень розподілів, а саме баєсові та марковські мережі. Обидва сімейства охоплюють властивості розкладу та незалежностей, але вони мають відмінності в наборі незалежностей, що вони можуть кодувати, та факторизації розподілу, що вони спричиняють.Koller; Friedman (2009). Probabilistic Graphical Models. Massachusetts: MIT Press. ISBN 0-262-01319-3.
Баєсова мережа
Якщо мережеву структуру моделі представлено як орієнтований ациклічний граф, то ця модель представляє розклад спільної ймовірності всіх випадкових змінних. Точніше, якщо подіями є , то спільна ймовірність задовольняє
де є набором батьків вершини . Іншими словами, спільний розподіл розкладається у добуток умовних розподілів. Наприклад, зображена вище статистична модель (що насправді є не орієнтованим ациклічним, а ) складається з випадкових змінних з густиною спільного розподілу ймовірності, що розкладається як
Будь-які дві вершини є для заданих значень їх батьків. Загалом, будь-які дві множини вершин є умовно незалежними для заданої третьої множини, якщо в графі виконується критерій, що називається о-розділеністю. В баєсових мережах локальна та глобальна незалежності є еквівалентними.
Цей тип графової моделі відомий як орієнтована графова модель, баєсова мережа, або мережа переконань. Класичні методи машинного навчання, такі як приховані марковські моделі, нейронні мережі, та новіші моделі, такі як , можуть розглядатися як окремі випадки баєсових мереж.
Марковське випадкове поле
Марковське випадкове поле, відоме також як марковська мережа, є моделлю над неорієнтованим графом. Графічну модель з багатьма повторюваними підблоками може бути представлено за допомогою .
Інші типи
— це неорієнтований двочастковий граф, що з'єднує змінні та фактори. Кожен фактор представляє функцію над змінними, з якими його з'єднано. Це представлення є корисним для розуміння та реалізації . Дерево клік або дерево злук, є деревом, що складається з клік, яке застосовується в . — це граф, що може мати як орієнтовані, так і неорієнтовані ребра, але без жодних орієнтованих циклів (тобто, якщо ми почали з будь-якої вершини і рухаємось графом, дотримуючись напрямків наявних стрілок, то ми не зможемо повернутися до початкової вершини, якщо ми пройшли стрілку). Як орієнтовані ациклічні графи, так і неорієнтовані графи є окремими випадками ланцюгових графів, що відтак забезпечують спосіб уніфікації та узагальнення баєсових та марковських мереж. є подальшим розширенням, що має орієнтовані, біорієнтовані та неорієнтовані ребра. Умовне випадкове поле є розрізнювальною моделлю, визначеною над неорієнтованим графом. Обмежена машина Больцмана є двочастковою породжувальною моделлю, визначеною над неорієнтованим графом.
Застосування
Система моделей, що забезпечує алгоритми для виявлення та аналізу структур складних розподілів для їх стислого опису та витягування не структурованої інформації, дозволяє будувати та використовувати їх ефективно. Застосування графових моделей включають витягування інформації, розпізнавання мовлення, комп'ютерний зір, декодування кодів з малою щільністю перевірок на парність, моделювання генних регуляторних мереж, пошуку генів та діагностування захворювань, та .
Див. також
Примітки
Навчальні посібники
Graphical models and Conditional Random Fields Probabilistic Graphical Models taught by Eric Xing at CMU
Джерела та література
Книги та глави книг
Досконаліша та статистично орієнтована книга
Обчислювальний підхід до аргументації, в якому було формально представлено взаємозв'язки між графами та ймовірностями.
Статті в наукових журналах
Інше
Heckerman's Bayes Net Learning Tutorial A Brief Introduction to Graphical Models and Bayesian Networks Sargur Srihari's lecture slides on probabilistic graphical models