Анна Полякова
Обычно у нейросети есть все детали: если вы, например, создаете систему распознавания разных видов собак, то сразу обозначаете их породы. Детей же учат совсем иначе: сначала знакомят с более общим понятием, поэтому и пуделя, и немецкую овчарку ребенок назовет просто собакой. Только когда он научится различать простые категории, родители начнут их дробить.
Ученые из Университета Карнеги — Меллона вдохновились этим подходом и создали новую методику, которая учит ИИ классифицировать объекты поэтапно. На каждой ступени он видит одни и те же данные, но под обобщенными названиями, которые со временем становятся все конкретнее.
ИИ-алгоритм, имитирующий детское познание мира, оказалось сложнее запутать
Анна Полякова
Чтобы правильно установить эту градацию, исследователи сначала показали нейросети обучающие данные с окончательными подробными метками. Затем они получили так называемую матрицу ошибок: она показала категории изображений, которые алгоритму было сложнее всего различить. Это позволило ученым выделить этапы обучения: на ранних стадиях похожие категории входили в одну группу, но потом начинали постепенно разделяться.
В тестах использовали несколько популярных наборов данных для классификации изображений. Новый подход почти всегда оказывался успешнее, чем традиционный. В лучшем случае точность распознавания увеличивалась до 7%.
Хотя этот подход не применялся раньше, сама идея не нова. Обучение нейросети с возрастающей сложностью известно как «курсовое обучение» и существует с 1990-х годов. Но дело в том, что раньше нейросети показывали разные подмножества данных, а не одни и те же данные с разными метками.
Сегодня подавляющее большинство исследований глубокого обучения сосредоточено на размере выборки: считается, что нейросети трудно различать объекты, если ей не предоставили достаточно примеров. Но имитация детского познания мира позволила получать лучшие результаты с таким же набором данных. В перспективе это поможет создать алгоритмы, которые будут более эффективными с точки зрения обучения.
Словарь Rusbase: Чем различаются машинное и глубокое обучение
Источник.
Источник:
