Классификация ANN и SVM

Где ANN классификация (регрессия) лучше, чем SVM? Некоторые примеры в реальном мире?

Ответ 1

Есть много приложений, где они лучше, много приложений, где они сопоставимы, во многих приложениях, где они хуже. Это также зависит от того, кого вы спросите. Трудно сказать этот тип данных или тот тип данных/приложений.

Пример, когда ANN, в частности сверточные нейронные сети, работают лучше, чем SVM, будут классификация разрядов в MNIST. Другим примером является работа группы Geoff Hinton по распознаванию речи с использованием Deep Belief Networks

Ответ 2

Недавно я прочитал статью о том, что теоретическая эквивалентность между ANN и SVM. Тем не менее, ANN обычно медленнее SVM.

Ответ 3

Я просто заканчиваю сравнительное сравнение между векторными машинами поддержки и нейронными сетями по нескольким популярным регрессиям и классификации набор данных - первые результаты в кратчайшие сроки: svms быстро учатся и прогнозируют медленные нейронные сети, которые учатся медленно, но быстро прогнозируют и имеют очень легкие модели. Что касается точности/потерь, оба метода, похоже, находятся на уровне.

Ответ 4

Это будет в значительной степени зависеть, так как оба имеют различные компромиссы и критерии дизайна. Была проведена некоторая работа, чтобы показать отношения, а некоторые говорят об эквивалентности, как видно из других ответов на этот вопрос. Ниже приведена еще одна ссылка, которая рисует связи между этими двумя методами в машинном обучении:

Ронан Коллоберт и Сэми Бенжио. 2004. Связи между персептронами, MLP и SVM. В материалах двадцать первой международной конференции по машинному обучению (ICML '04). ACM, Нью-Йорк, Нью-Йорк, США, 23-. DOI: https://doi.org/10.1145/1015330.1015415