Библиотека H2O: запуск на кластере; обобщенные низкоранговые модели и градиентный бустинг

В этом сообщении рассмотрены основы работы с библиотекой H2O с использованием кластеров на примере двух алгоритмов машинного обучения: обобщенных низкоранговых моделей и градиентного бустинга.

Про пакет pipelearner и проникаемость веществ через Сaco2-клетки

Вступление

В этом сообщении будут рассмотрены две темы: одна из сферы машинного обучения и программирования на R, а вторая - из области разработки лекарственных средств.

Dogs vs. Cats classification with mxnet and R

Написал руководство по файн-тюнингу предобученных моделей: Dogs vs. Cats classification with mxnet and R. Также описаны этапы подготовки изображений (без аугментации). Не все работает так, как ожидалось  (см. issue); некоторые вещи выглядят как баги, хотя возможно я сам где-то ошибся и что-то делаю неправильно. 

Deep learning в R. Пакет tinydnn

Недавно появилась минималистичная (без внешних зависимостей - нужен только компилятор C++) библиотека для глубокого обучения под названием tiny-dnn (хабр). А две недели назад для нее сделали и R-пакет tinydnn. Ставится пакет очень просто: devtools::install_github("yixuan/tinydnn"); перед этим нужно установить RTools, причем путь к папке должен быть без пробелов. 

По своим возможностям сильно уступает mxnet, но для изучения темы библиотека крайне полезная и годная. Сделал пример сверточной сетки: взял за основу этот пример, прочитал краткую справку ?layers - и с первой попытки все заработало. Изумительная простота, впервые такое вижу. Скорость работы с mxnet или чем-нибудь еще специально не сравнивал, но на первый взгляд она вполне типичная для расчетов без использования GPU.

Deep learning с использованием языка R и библиотеки mxnet. Предсказания, итераторы и дополнительные возможности

• 1. Вступление
• 2. Создание “словаря синонимов”
• 3. Обучение модели
• 4. Предсказания на основе модели
• 5. Итераторы
• 6. Доступные слои и функции потерь
• 7. Использование активаций скрытых слоев

Красивая версия с картинками доступна по ссылке https://statist-bhfz.github.io/mxnet_usage.html

1. Вступление

Это сообщение является продолжением Deep learning с использованием языка R и библиотеки mxnet. Установка и начало работы. Будет рассмотрено предсказание классов изображений на основе модели, а также работа с итераторами и некоторые другие аспекты.

Полезные ссылки:

End-to-End Deep Learning Tutorial,

https://github.com/dmlc/mxnet/tree/master/docs/tutorials/r,

https://github.com/dmlc/mxnet/tree/master/R-package/vignettes.

По двум последним ссылкам доступна самая актуальная документация и примеры от разработчиков.

Deep learning с использованием языка R и библиотеки mxnet. Установка и начало работы

• 1. Вступление
• 2. Установка CUDA/cuDNN
• 3. Установка mxnet с интерфейсами для R и Python
• 4. Подготовка данных
• 5. Обучение сверточной нейронной сети

Красивая версия с картинками доступна по ссылке https://statist-bhfz.github.io/mxnet_intro.html

1. Вступление

Известно, что библиотеки для глубокого обучения (Deep learning) очень хорошо дружат с языком Python: например, библиотека Keras написана на Python и может использовать в качестве бекенда Theano (тоже на Python) или Tensorflow (C++/Python).
Но пользователи R тоже не обделены возможностью обучать глубокие нейронные сети. Помимо недавно появившего интерфейса для Tensorflow, существует не столь известная, но набирающая популярность библиотека mxnet, написанная на C++ и укомплектованная интерфейсами и для R, и для Python (а также для Julia, Matlab, Scala и Javascript!). Данная библиотека обладает высокой производительностью и умеренным расходом памяти, умеет работать как на CPU, так и на GPU Nvidia, используя CUDA/cuDNN (причем можно обучаться сразу на нескольких видеокартах).
Основным препятствием для ее освоения является очень своеобразно написанная и не всегда поддерживаемая в актуальном состоянии документация: если для Python она более-менее полная и последовательная, то в случае с R все плохо. MXNet R Reference Manual является лишь списком функций и аргументов, подавляющее большинство примеров написаны с использованием Python, так что в R приходится действовать по аналогии и искать ответы в issues на Гитхабе. Это сообщение является попыткой слегка исправить ситуацию и создать руководство по установке и использованию mxnet в R. Возможно, будет и продолжение про более продвинутые темы.

Kyiv useR! Group

Внезапно узнал, что в Киеве существует Kyiv useR! Group. 17 декабря поучаствовал в митапе, свои материалы залил на гитхаб: https://statist-bhfz.github.io/r_trials.html Подобная движуха есть повсеместно (например, https://vk.com/spbrug), так что многие могут найти вариант возле дома, чтобы поучаствовать.

Настройка гиперпараметров и оценка качества прогностической модели: пример с использованием языка R и пакета caret

По ссылке можно скачать мою статью для конференции на тему подбора гиперпараметров, перекрестной проверки и базового использования пакета caret. Рассчитано на околонулевой уровень, например, на студентов непрофильных вузов.

Публикация контента при помощи Bookdown и RStudio Connect

Пакет bookdown позволяет перейти от рендеринга одиночных .Rmd-файлов в нужный формат к созданию полноценных многостраничных сайтов (или книг, или книг в виде сайта - есть много разных вариантов и форматов). В книге все возможности и особенности разобраны подробно, это сообщение представляет собой лишь минимальную инструкцию по использованию на примере Руководства по data.table. Использовать будем свежую сборку RStudio Preview.