Машинное обучение с использованием библиотеки Н2О

[html]Машинное обучение наконец-то достигло стадии зрелости. При помощи программного обеспечения H2O вы можете решать задачи машинного обучения и анализа данных с использованием простого в использовании и открытого (open source) фреймворка, который поддерживает большое количество операционный систем и языков программирования, а также масштабируется для обработки больших данных. Книга "Машинное обучение с использованием библиотеки Н2О" научит вас использовать алгоритмы машинного обучения, реализованные в H2O, с упором на наиболее важные для продуктивной работы аспекты.Если вы умеете программировать на R или Python, хотя бы немного знаете статистику и имеете опыт обработки данных, эта книга Даррена Кука познакомит вас с основами использования H2O и поможет вам поэкспериментировать с машинным обучением на наборах данных разного размера. Вы изучите несколько современных алгоритмов машинного обучения: глубокое обучение, "случайный лес", обучение на неразмеченных данных и ансамбли моделей.Прочтя книгу "Машинное обучение с использованием библиотеки Н2О", вы:- узнаете, как импортировать данные в H2O, преобразовывать их и экспортировать их из H2O;- изучите основные концепции машинного обучения, такие как перекрестная проверка и проверочные наборы данных;- поработаете с тремя разными наборами данных, решая задачи регрессии, бинарной и многоклассовой классификации;- используете H2O для анализа каждого набора данных при помощи четырех алгоритмов машинного обучения;- поймете, как работает кластерный анализ и другие алгоритмы обучения на неразмеченных данных.Понимание процесса построения моделей, тупиковых ситуаций и заканчивающихся провалом экспериментов является не менее важным, чем изучение кода!Содержание книги "Машинное обучение с использованием библиотеки Н2О"Предисловие..............................................................................................................10Глава 1. Установка и начало работы........................................................................13Подготовка к установке..............................................................................................13Установка R.............................................................................................................13Установка Python....................................................................................................14Конфиденциальность.............................................................................................14Установка Java.........................................................................................................15Установка H2O при помощи R (CRAN)......................................................................15Установка H2O при помощи Python (pip).................................................................16Наша первая задача машинного обучения...............................................................17Обучение и предсказания в Python.......................................................................21Обучение и предсказания в R................................................................................23Производительность и предсказания...................................................................25Если вам не повезло...............................................................................................26Веб-интерфейс Flow...................................................................................................27Данные....................................................................................................................28Модели.....................................................................................................................29Предсказания..........................................................................................................31Дополнительные сведения об интерфейсе Flow..................................................32Резюме.........................................................................................................................32Глава 2. Импортирование и экспортирование данных.........................................33Требования к памяти.................................................................................................33Подготовка данных.....................................................................................................34Загрузка данных в H2O...............................................................................................35Загрузка файлов в формате CSV............................................................................35Загрузка файлов в других форматах.....................................................................37Загрузка данных из R.............................................................................................38Загрузка данных из Python....................................................................................39Операции с данными.................................................................................................40"Ленивость", присвоение имен и удаление.........................................................40Итоговые статистики.............................................................................................42Операции со столбцами.........................................................................................42Агрегирование строк..............................................................................................43Индексация.............................................................................................................44Разделение данных в кластере H2O......................................................................46Строки и столбцы...................................................................................................49Выгрузка данных из H2O...........................................................................................52Экспорт таблиц.......................................................................................................52Формат POJO...........................................................................................................53Файлы моделей.......................................................................................................54Сохранение всех моделей......................................................................................54Резюме.........................................................................................................................55Глава 3. Наборы данных...........................................................................................56Набор данных об энергетической эффективности..................................................56Настройка и загрузка.............................................................................................57Переменные............................................................................................................58Разделение данных................................................................................................59Изучение данных....................................................................................................60О наборе данных.....................................................................................................64Набор данных: рукописные цифры...........................................................................64Настройка и загрузка.............................................................................................65Изучение данных....................................................................................................66Как можно "помочь" модели.................................................................................68О наборе данных.....................................................................................................70Набор данных: результаты футбольных матчей......................................................70Корреляции.............................................................................................................73Пропущенные данные............................................................................................76Как обучать и тестировать?...................................................................................77Настройка и загрузка.............................................................................................77Третий источник данных.......................................................................................78Снова про пропущенные данные..........................................................................80Настройка и загрузка (снова).................................................................................80О наборе данных.....................................................................................................83Резюме.........................................................................................................................83Глава 4. Общие параметры моделей.......................................................................84Поддерживаемые метрики........................................................................................84Метрики для регрессии..........................................................................................85Метрики для классификации.................................................................................85Бинарная классификация......................................................................................86Основы........................................................................................................................88Объем выполняемой работы.....................................................................................89Оценка и проверка.....................................................................................................90Ранняя остановка.......................................................................................................90Контрольные точки....................................................................................................92Перекрестная проверка..............................................................................................94Взвешивание наблюдений.........................................................................................95Выборки и обобщающая способность.......................................................................98Регрессия.....................................................................................................................99Контроль вывода результатов..................................................................................100Резюме.......................................................................................................................100Глава 5. "Случайный лес"........................................................................................101Решающие деревья...................................................................................................101"Случайный лес".......................................................................................................103Параметры................................................................................................................103Энергоэффективность зданий: "случайный лес" с настройкамипо умолчанию...........................................................................................................105Поиск по сетке..........................................................................................................107Полный перебор...................................................................................................108Случайный поиск..................................................................................................110Общая стратегия...................................................................................................112Энергоэффективность зданий: настроенный "случайный лес"...........................113MNIST: "случайный лес" с настройками по умолчанию........................................114MNIST: настроенный "случайный лес"...................................................................116Дополненные данные...........................................................................................119Футбол: "случайный лес" с настройками по умолчанию......................................120Футбол: настроенный "случайный лес"..................................................................122Резюме.......................................................................................................................124Глава 6. Градиентный бустинг.................................................................................125Бустинг......................................................................................................................125Хорошее, плохое... и непонятное............................................................................126Параметры ...............................................................................................................127Энергоэффективность зданий: градиентный бустинг с настройкамипо умолчанию...........................................................................................................128Энергоэффективность зданий: настроенный градиентный бустинг...................130MNIST: градиентный бустинг с настройками по умолчанию...............................133MNIST: настроенный градиентный бустинг ..........................................................134Футбол: градиентный бустинг с настройками по умолчанию..............................137Футбол: настроенный градиентный бустинг..........................................................138Резюме.......................................................................................................................140Глава 7. Линейные модели......................................................................................141Параметры GLM........................................................................................................141Данные об энергоэффективности: GLM с настройками по умолчанию...............145Данные об энергоэффективности: настроенная GLM ..........................................147MNIST: GLM с настройками по умолчанию............................................................151MNIST: настроенная GLM.........................................................................................153Футбол: GLM с настройками по умолчанию...........................................................155Футбол: настроенная GLM .......................................................................................156Резюме.......................................................................................................................157Глава 8. Глубокое обучение (нейронные сети).....................................................158Что такое нейронные сети?......................................................................................159Количественные и категориальные переменные..............................................160Слои нейронной сети...........................................................................................161Функции активации.............................................................................................163Параметры................................................................................................................164Регуляризация ......................................................................................................164Оценка качества...................................................................................................165Энергоэффективность зданий: модель глубокого обучения с настройкамипо умолчанию...........................................................................................................168Энергоэффективность зданий: настроенная модель глубокого обучения...........168MNIST: модель глубокого обучения с настройками по умолчанию.....................174MNIST: настроенная модель глубокого обучения..................................................175Футбол: модель глубокого обучения с настройками по умолчанию....................179Футбол: настроенная модель глубокого обучения.................................................180Резюме.......................................................................................................................185Приложение: дополнительные параметры............................................................185Глава 9. Обучение на неразмеченных данных.....................................................187Кластеризация методом k-средних.........................................................................188Автокодировщики....................................................................................................191Вложенные автокодировщики.............................................................................193Метод главных компонент.......................................................................................194GLRM..........................................................................................................................196Пропущенные данные..............................................................................................196GLRM......................................................................................................................200Избавляемся от R..................................................................................................200Резюме.......................................................................................................................203Глава 10. Все остальное..........................................................................................204Документация...........................................................................................................204Установка актуальной версии..................................................................................204Сборка из исходных кодов...................................................................................204Запуск из командной строки...................................................................................205Кластеры....................................................................................................................205EC2.........................................................................................................................206Другие облачные провайдеры.............................................................................206Hadoop...................................................................................................................207Spark / Sparkling Water..............................................................................................207Наивный байесовский классификатор...................................................................207Ансамбли...................................................................................................................208Стекинг: h2o.ensemble..........................................................................................208Ансамбли для классификации.............................................................................210Резюме.......................................................................................................................210Глава 11. Эпилог.......................................................................................................211Результаты для данных об энергоэффективности.................................................211Результаты для набора данных MNIST....................................................................213Результаты для данных о футбольных матчах.......................................................214Как далеко вы готовы зайти.....................................................................................216Чем больше, тем лучше........................................................................................217Еще больше данных..............................................................................................218Отбор сложных примеров....................................................................................219Автокодировщик..................................................................................................219Сверточные сети...................................................................................................220Ансамбли...............................................................................................................221Результаты............................................................................................................222Резюме.......................................................................................................................223Приложение 1. Deep Water.....................................................................................224Установка...................................................................................................................224Сборка из исходных кодов...................................................................................224Amazon Machine Image.........................................................................................224Образ Docker.........................................................................................................224Примеры данных..................................................................................................224Обзор библиотеки Deep Water.................................................................................224Глубокое обучение в библиотеке H2O.................................................................225Современные тенденции в глубоком обучении.................................................225Почему нужно использовать Deep Water............................................................225Начало работы: набор данных MNIST.....................................................................226Бекенды.................................................................................................................227CPU и GPU..............................................................................................................227Классификация изображений..................................................................................229Данные..................................................................................................................229Параметры изображений.....................................................................................229Предварительно созданные архитектуры..........................................................229Архитектуры, создаваемые пользователем.......................................................230Предварительно обученные нейросети..............................................................230Веб-интерфейс Flow.................................................................................................230Поиск по сетке..........................................................................................................233Полный перебор...................................................................................................233Случайный поиск..................................................................................................234Контрольные точки..................................................................................................235Ансамбли...................................................................................................................237Признаки скрытых слоев и меры сходства.............................................................238Поддержка нескольких GPU.....................................................................................239Развертывание моделей...........................................................................................240MOJO......................................................................................................................240Prediction Service Builder......................................................................................240Приложение 2. Ансамбли (стекинг моделей).........................................................241Вступление................................................................................................................241Стекинг / Super Learner............................................................................................241Алгоритм...............................................................................................................242Вложенные ансамбли в библиотеке H2O................................................................242Пример......................................................................................................................243На языке R.............................................................................................................243На языке Python....................................................................................................245Вопросы и ответы.....................................................................................................247Дополнительная информация.................................................................................248Список литературы...................................................................................................248Краткий предметный указатель............................................................................249[/html]