Machine learning algorithms based on methods for solving inverse problems
- Authors:
- Ekaterina B. Gribanova, Roman S. Gerasimov
- Work direction:
- Все направления
- Abstract:
- Монография посвящена проблеме повышения эффективности алгоритмов машинного обучения на основе математического аппарата решения некорректно поставленных обратных задач. Целью работы является разработка и тестирование новых оптимизационных алгоритмов, предназначенных для обучения регрессионных и нейросетевых моделей, а также кластеризации данных.
В исследовании выполнено переформулирование задач оптимизации в машинном обучении в виде обратных задач. Показано, что применение адаптивного стохастического поиска и L1-регуляризации позволяет в ряде случаев не только повысить точность предсказаний, но и создавать компактные, сильно разреженные решения при минимальной настройке гиперпараметров (подход «из коробки»). Предложенные гибридные алгоритмы позволили эффективно отсеять незначимые признаки без значительной потери прогностической точности, что сделало логику работы моделей прозрачной. Апробация алгоритмов выполнена на верифицированных датасетах репозиториев KEEL и UCI, реальных данных из разных сфер (экономика, метеорология и т.д.), а также синтетических данных.
Монография предназначена для математиков, интересующихся применением методов оптимизации в сфере Data Science, а также для специалистов по машинному обучению, ищущих новые подходы для повышения качества, устойчивости и интерпретируемости разрабатываемых моделей.
- Keywords: