Наивный байесовский классификатор

Классификатор, который позволяет определять вероятность принадлежности наблюдения или объекта к одному из классов. При этом выдвигается предположение о независимости влияния на нее различных атрибутов (предположение об условной независимости классов), которое существенно упрощает сопутствующие вычисления. В связи с этим данный метод называется наивным (простым) классификатором Байеса.

Наивный байесовский классификатор относит объект X к классу C_i тогда и только тогда, когда выполняется условие P(C_i|X)>P(C_j|X),

где:

P(C_i|X). Апостериорная вероятность принадлежности объекта X к классу C_i;
P(C_j|X). Апостериорная вероятность принадлежности объекта X к произвольному классу C_j, отличному от C_i.

Иными словами, апостериорная вероятность принадлежности объекта к классу C_i больше апостериорной вероятности принадлежности объекта к любому другому классу.

Апостериорная вероятность - это условная вероятность случайной переменной, которая назначается после принятия во внимание некоторой новой и связанной с ней информации. Иными словами, это вероятность события А при условии, что произошло другое событие B.

Теоретически байесовский классификатор обеспечивает ошибку, сравнимую с другими типами классификаторов, такими как нейронные сети и дерево решений. Однако на практике его применение может быть ограничено, поскольку предположение об условной независимости классов не всегда соблюдается.

См. также:

Библиотека методов и моделей | Ключевые факторы | ISmNaiveBayes