Японские исследователи заставили ИИ думать, что 3D-печатная черепаха – это винтовка

Японские исследователи заставили ИИ думать, что 3D-печатная черепаха – это винтовка

Японские исследователи заставили ИИ думать, что 3D-печатная черепаха – это винтовка

03 ноября
Покажи другу:

Мы все больше полагаемся на искусственный интеллект, позволяющий нам делать новые открытия, от новых и экзотических состояний материи до распознавания конкретных лиц, но насколько легко обмануть подобные механизмы? Это то, что группа исследователей и хотела узнать. Студенты из MIT взяли на себя задачу выяснить то, как последовательно и точно обмануть нейронную сеть, заставив ошибочно распознать некий объект.

Они использовали подход, называемый «состязательным обучением на основе изображений» ("adversarial image"), который заключается в том, что одна из нейронных сетей обучает другую, следовательно, намеренное воздействие на одну из сетей скажется и на другой. В данном случае речь не идет о замене изображения, а о шаблоне, накладываемом на существующее изображение, к примеру, это может быть какой-то невидимый слой. Однако состязательное обучение не всегда работает должным образом; такие условия, как применение масштабирования, обрезки, угла и других преобразований, зачастую могут привести к корректному обнаружению. Студенты были заинтересованы в том, чтобы выяснить, как создать состязательное изображение, которое бы каждый раз обманывало ИИ.

Команда из MIT смогла создать алгоритм, который бы точно обманывал ИИ с использованием состязательных изображений и мог применяться как к двумерным изображениям, так и к 3D‑печатным объектам. Такие изображения обманут ИИ, вне зависимости от угла обзора. Способ был протестирован на Google Inception v3 AI, который подумал, что 3D-печатная черепаха на самом деле представляет собой винтовку. Результаты исследования были опубликованы на arXiv.org.

Важно отметить, что эта проблема не ограничивается сервисами Google – это проблема, характерная для всех нейронных сетей. Выяснив, как люди могут обманывать эти системы (и показывая, насколько это просто), исследователи могут разработать новые способы повышения точности систем распознавания искусственного интеллекта.

Источник: https://www.engadget.com/2017/11/02/mit-students-trick-ai-object-recognition/





Комментарии (0)


Чтобы оставить комментарий вам необходимо авторизоваться


количество
пользователей

2339

количество
работ

4789