Многие алгоритмы сгруппированы на основе сходства их функций.

Алгоритмы регрессии

  • Обычная регрессия методом наименьших квадратов (OLSR)
  • Линейная регрессия
  • Логистическая регрессия
  • Пошаговая регрессия
  • Сплайны многомерной адаптивной регрессии (MARS)
  • Локально оцененное сглаживание диаграммы рассеяния (LOESS)

Алгоритмы на основе экземпляров

  • k-ближайший сосед (kNN)
  • Изучение векторного квантования (LVQ)
  • Самоорганизующаяся карта (SOM)
  • Локально взвешенное обучение (LWL)
  • Методы опорных векторов (SVM)

Алгоритмы регуляризации

  • Ридж-регрессия
  • Оператор наименьшего абсолютного сокращения и выбора (LASSO)
  • Эластичная сетка
  • Регрессия по наименьшему углу (LARS)

Алгоритмы дерева решений

  • Дерево классификации и регрессии (CART)
  • Итеративный дихотомайзер 3 (ID3)
  • C4.5 и C5.0 (разные версии мощного подхода)
  • Хи-квадрат автоматического обнаружения взаимодействия (CHAID)
  • решение пень
  • M5
  • Условные деревья решений

Байесовские алгоритмы

  • Наивный Байес
  • Гауссовский наивный байесовский метод
  • Полиномиальный наивный байесовский алгоритм
  • Усредненные оценки с одной зависимостью (AODE)
  • Байесовская сеть убеждений (BBN)
  • Байесовская сеть (БС)

Алгоритмы кластеризации

  • k-средние
  • k-медианы
  • Максимизация ожиданий (EM)
  • Иерархическая кластеризация

Алгоритмы обучения правилам ассоциации

  • Априорный алгоритм
  • Алгоритм Экла

Алгоритмы искусственной нейронной сети

  • Персептрон
  • Многослойные персептроны (MLP)
  • Обратное распространение
  • Стохастический градиентный спуск
  • Сеть Хопфилда
  • Радиальная базисная функциональная сеть (RBFN)

Алгоритмы глубокого обучения

  • Сверточная нейронная сеть (CNN)
  • Рекуррентные нейронные сети (RNN)
  • Сети с долговременной кратковременной памятью (LSTM)
  • Стекированные автокодировщики
  • Глубокая машина Больцмана (DBM)
  • Сети глубокого убеждения (DBN)

Алгоритмы уменьшения размерности

  • Анализ главных компонентов (PCA)
  • Регрессия основных компонентов (PCR)
  • Частичная регрессия методом наименьших квадратов (PLSR)
  • Картография Саммона
  • Многомерное масштабирование (MDS)
  • Преследование проекции
  • Линейный дискриминантный анализ (LDA)
  • Дискриминантный анализ смеси (MDA)
  • Квадратичный дискриминантный анализ (QDA)
  • Гибкий дискриминантный анализ (FDA)

Алгоритмы ансамбля

  • Повышение
  • Агрегация с начальной загрузкой (бэггинг)
  • АдаБуст
  • Средневзвешенное значение (смешивание)
  • Обобщение с накоплением (наложение)
  • Машины повышения градиента (GBM)
  • Деревья регрессии с градиентным усилением (GBRT)
  • Случайный лес