Искусственный интеллект открывает «черные ящики»

Искусственный интеллект все чаще используется при решении задач, связанных с высокой степенью риска, например при разработке лекарств, управлении автомобилями или боевыми автономными коплексами. Ошибка при неправильном выборе решений здесь прямо и непосредственно несет угрозу для человеческой жизни. Точное выявление причины принятия неправильного решения является серьезной проблемой, которую долгое время не удавалось решить в принципе. Аудит и проверка всех входных данных и их оценка человеком была не возможна в силу наличия очень большого количества параметров. 

И вот исследователи машинного обучения из Фрайбургского университета создали искусственный интеллект, который научился находить ошибки в исполняемом коде. Созданная ими нейронная сеть играла в классическую аркаду Q*bert. для игровой консоли Atari. В ней игрок управляет оранжевым персонажем в пирамиде и уклоняться от атак врагов. Освоившись, нейросеть нашла баг в коде игры и воспользовалась им для получения игровых очков. Хитрость заключалась в том, что в определенное время ИИ совершил самоубийство персонажа, которое привело к прохождению уровня.

"Он завершает первый уровень, а затем начинает прыгать с платформы на платформу, это кажется случайным. По неизвестной нам причине игра не продвигается ко второму раунду, но платформы начинают мигать, и агент быстро получает огромное количество очков (около 1 миллиона для нашего временного ограничения на эпизод). Интересно, что сеть не всегда может использовать эту ошибку в игре", - отмечают разработчики.

Ранее разработчики DeepMind создали нейросеть, которая смогла сама обучиться игре в шахматы за несколько часов и побеждать лучшие аналогичные алгоритмы. После того, как алгоритм AlphaZero ознакомили с правилами шахмат, он за четыре часа освоил игру в такой степени, что смог обыграть самую рейтинговую шахматную программу - Stockfish.