Какова связь между байесовскими и нейронными сетями?

Я ищу сложные вычислительные задачи для реализации с CUDA и задаюсь вопросом, могут ли применяться нейронные сети или байесовские сети. Это, однако, не мой вопрос, а скорее отношение между двумя типами сетей. Они кажутся очень связанными, особенно если вы смотрите на байесовские сети с возможностью обучения (о чем упоминается в статье о википедии). С первого взгляда, байесовские сети смотрят на бит, как на определенный тип нейронных сетей. Может ли кто-нибудь суммировать свои отношения, и если есть какое-либо соединение за пределами видимого сходства?

Ответ 1

Байесовские сети представляют независимость (и зависимость) между переменными. Таким образом, ссылки представляют условные отношения в вероятностном смысле. Вообще говоря, нейронные сети не имеют такой прямой интерпретации, и на самом деле промежуточные узлы большинства нейронных сетей обнаруживают признаки, а не имеют какой-либо предикат, связанный с ними сами по себе.

Ответ 2

Сообщается что байесовские сети более устойчивы к "перетренированности" , которая наблюдается в некоторых нейронных сетях. Другими словами, некоторые нейронные сети становятся настолько "обученными" наблюдаемым измерениям, используемым в обучении, что они не полезны для общих случаев.

Ответ 3

Действительно, они есть. Я вижу байесовскую сеть как нейронную сеть, использующую теорему Байя в больших масштабах, но я не помню подробностей. Я знаю, где вы можете их найти, и я рекомендую эту книгу для этого.