Обложка статьи

Вне зоны нейросетей

Нейросети широко применяются для распознавания объектов на картинках. Но далеко не все изображения подвластны искусственному интеллекту. Ученые Калифорнийского университета в Беркли собрали базу данных ImageNet-A из восьми тысяч картинок, при распознавании которых нейросети ошибаются в 98 % случаев.

Что нейросеть видит на этих фото? 

Ответы в конце страницы

Искусственный интеллект (ИИ) учится распознавать образы и развивает машинное зрение на основе баз данных, в которых содержатся уже распознанные и описанные людьми изображения. Самая крупная открытая для разработчиков библиотека — ImageNet. Она включает в себя десятки миллионов картинок, разбитых по тысячам категорий.

Недавно исследователи из Беркли добавили туда датасет ImageNet-A. Там содержатся изображения, на которых нейросети затрудняются обнаружить объекты. 

Основная причина беспомощности ИИ в этом случае — adversarial attack, состязательная атака. Так называется способность обмануть алгоритмы нейросети, чтобы они выдали неверный результат. Запутать ИИ могут шумы на фотографиях, оптические иллюзии, яркий фон и небольшие изменения в фоторедакторах. В результате алгоритмы могут идентифицировать белку как морского льва, а бабочку принять за стиральную машину. 

Разработчики пытались повысить точность распознавания наиболее применяемыми в машинном обучении методами, например аугментацией данных или метрикой неуверенности в предсказании. Но это не привело к качественному результату: нейросети стали определять класс объектов лучше менее чем на пять процентов. Результаты своей работы ученые опубликовали в статье Natural Adversarial Examples

Точность распознавания объектов ИИ важна для систем безопасности или для машин на автопилоте, где любая ошибка может привести к печальным последствиям. Пока что ученые не предложили универсального пути решения проблемы, но новый датасет может стать полигоном для тренировок нейросетей.

Ответы: 1 Брокколи; 2, 3, 4 Банан.

10 октября 2019