NEC разработала технологию автоматической оптимизации глубокого обучения, упростив точность распознавания

Недавно NEC объявила, что разработала технологию глубокой обучающей авто-оптимизации, которая может более легко улучшить точность распознавания.

Раньше глубокое обучение было трудно скорректировать на основе структуры нейронной сети (примечание 1), так что было невозможно провести оптимальное обучение по всей сети и, следовательно, не в состоянии полностью реализовать его идентификацию. Разработанную технологию можно автоматически оптимизировать на основе ее структуры Прогресс в обучении нейронной сети упрощает идентификацию более точно, чем когда-либо прежде.

Появление этой технологии позволяет дополнительно улучшить точность распознавания в различных областях, таких как распознавание изображений и распознавание голоса и т. Д. Например, точность распознавания видеонаблюдения, такая как распознавание лиц и анализ поведения, а также инфраструктура Проверьте эффективность работы для автоматического обнаружения аварий, аварий и бедствий.

Во-первых, фон

В последние годы исследования по глубокому обучению сделали прыжки и границы и были применены в широком спектре областей, таких как распознавание изображений и распознавание голоса и т. Д. Глубокое обучение использует нейронную сеть с глубокой структурой для изучения данных, подготовленных заранее для достижения высокой точности. Однако, если данные слишком изучены, существует феномен «чрезмерного обучения» (примечание 2) », в котором только высокоуровневые данные могут быть идентифицированы с высокой точностью, а точность распознавания данных, не используемых для обучения, уменьшается. Возникновение этой ситуации требует использования технологии регуляризации (Примечание 3) для настройки.

Из-за сложного и изменчивого процесса обучения нейронных сетей тот же метод регуляризации может использоваться только для всей сети в прошлом, что приводит к таким проблемам, как чрезмерное обучение на всех уровнях сети и обуздание стагнации, что затрудняет полное Кроме того, поскольку чрезвычайно сложно вручную настроить ход обучения на всех уровнях, спрос на автоматическую корректировку обучения постепенно по слою очень высок.

Технология, разработанная на этот раз, основана на структуре нейронной сети, которая предсказывает прогресс обучения поэтапно и автоматически настраивает методы регуляризации, которые подходят для прогресса всех слоев. Благодаря этому методу обучение оптимизируется по всей сети, а частота ошибок распознавания может быть уменьшена примерно на 20%, повысить точность распознавания.

Уровень «Рисунок» уровня регуляризации нейронной сети автоматически устанавливает схему

Во-вторых, преимущества новых технологий

1, согласно структуре нейронной сети оптимизации автоматического обучения

Основываясь на структуре нейронной сети, мы прогнозируем ход обучения каждого уровня и автоматически устанавливаем регуляризацию, подходящую для прогресса каждого уровня, за слоем. Таким образом, процесс обучения всей сети оптимизирован для решения проблем чрезмерного обучения и обучения Стагнация. При распознавании экспериментов с использованием рукописных цифровых данных этого метода частота ошибок распознавания была снижена примерно на 20%, а точность распознавания была значительно улучшена.

Изменение частоты ошибок распознавания «графика» против объема данных обучения

2, с таким же количеством расчетов в прошлом, легко достичь высокой точности

Этот метод реализуется один раз только до обучения нейронной сети, что позволяет достичь высокой точности с таким же количеством вычислительного обучения, как и раньше.

NEC Group стремится продвигать социальные решения во всем мире для обеспечения безопасных, безопасных, эффективных и справедливых социальных ценностей, для интеграции передовых технологий ИКТ со знаниями и для содействия более яркому, более красочному и эффективному обществу ,

(Примечание 1) Нейронная сеть: нейронная сеть, состоящая из искусственных нервных клеток (нейронов).

(Примечание 2) Переучивание: переучивание данных, но не обучение данных

Признание феномена пониженной точности.

(Примечание 3) Регуляризация: подавление чрезмерного обучения путем ограничения сложности модели.

Самая крутая новая информация о медиа-технологиях

Sweep выиграл приз