Об алгоритмах метаобучения первого порядка08.03.2018 08:00

Аннотация

В данной статье рассматриваются задачи метаобучения, когда существует распределение задач, и мы хотим получить агента, который демонстрирует хорошие результаты (то есть быстро обучается) при встрече с ранее не виденной задачей, выбранной из этого распределения. Мы анализируем семейство алгоритмов для обучения инициализации параметров, которую можно быстро дообучить на новой задаче, используя только производные первого порядка для обновлений метаобучения. Это семейство включает и обобщает алгоритм first-order MAML — приближение MAML, получаемое путем отбрасывания производных второго порядка. Оно также включает Reptile, новый алгоритм, который мы представляем здесь и который работает посредством многократного выбора задачи, обучения на ней и смещения инициализации в сторону обученных весов для этой задачи. Мы расширяем результаты Финна и др. (Finn et al.), показывая, что алгоритмы метаобучения первого порядка демонстрируют хорошие результаты на некоторых устоявшихся бенчмарках для обучения с малым количеством примеров (few-shot classification), и предлагаем теоретический анализ, направленный на понимание причин эффективности этих алгоритмов.