Многие алгоритмы сгруппированы на основе сходства их функций.
Алгоритмы регрессии
- Обычная регрессия методом наименьших квадратов (OLSR)
- Линейная регрессия
- Логистическая регрессия
- Пошаговая регрессия
- Сплайны многомерной адаптивной регрессии (MARS)
- Локально оцененное сглаживание диаграммы рассеяния (LOESS)
Алгоритмы на основе экземпляров
- k-ближайший сосед (kNN)
- Изучение векторного квантования (LVQ)
- Самоорганизующаяся карта (SOM)
- Локально взвешенное обучение (LWL)
- Методы опорных векторов (SVM)
Алгоритмы регуляризации
- Ридж-регрессия
- Оператор наименьшего абсолютного сокращения и выбора (LASSO)
- Эластичная сетка
- Регрессия по наименьшему углу (LARS)
Алгоритмы дерева решений
- Дерево классификации и регрессии (CART)
- Итеративный дихотомайзер 3 (ID3)
- C4.5 и C5.0 (разные версии мощного подхода)
- Хи-квадрат автоматического обнаружения взаимодействия (CHAID)
- решение пень
- M5
- Условные деревья решений
Байесовские алгоритмы
- Наивный Байес
- Гауссовский наивный байесовский метод
- Полиномиальный наивный байесовский алгоритм
- Усредненные оценки с одной зависимостью (AODE)
- Байесовская сеть убеждений (BBN)
- Байесовская сеть (БС)
Алгоритмы кластеризации
- k-средние
- k-медианы
- Максимизация ожиданий (EM)
- Иерархическая кластеризация
Алгоритмы обучения правилам ассоциации
- Априорный алгоритм
- Алгоритм Экла
Алгоритмы искусственной нейронной сети
- Персептрон
- Многослойные персептроны (MLP)
- Обратное распространение
- Стохастический градиентный спуск
- Сеть Хопфилда
- Радиальная базисная функциональная сеть (RBFN)
Алгоритмы глубокого обучения
- Сверточная нейронная сеть (CNN)
- Рекуррентные нейронные сети (RNN)
- Сети с долговременной кратковременной памятью (LSTM)
- Стекированные автокодировщики
- Глубокая машина Больцмана (DBM)
- Сети глубокого убеждения (DBN)
Алгоритмы уменьшения размерности
- Анализ главных компонентов (PCA)
- Регрессия основных компонентов (PCR)
- Частичная регрессия методом наименьших квадратов (PLSR)
- Картография Саммона
- Многомерное масштабирование (MDS)
- Преследование проекции
- Линейный дискриминантный анализ (LDA)
- Дискриминантный анализ смеси (MDA)
- Квадратичный дискриминантный анализ (QDA)
- Гибкий дискриминантный анализ (FDA)
Алгоритмы ансамбля
- Повышение
- Агрегация с начальной загрузкой (бэггинг)
- АдаБуст
- Средневзвешенное значение (смешивание)
- Обобщение с накоплением (наложение)
- Машины повышения градиента (GBM)
- Деревья регрессии с градиентным усилением (GBRT)
- Случайный лес