Искусственный интеллект открывает «черные ящики»

Картинки по запросу искусственный интеллект

Искусственный интеллект все чаще используется при решении задач, связанных с высокой степенью риска, например при разработке лекарств, управлении автомобилями или боевыми автономными коплексами. Ошибка при неправильном выборе решений здесь прямо и непосредственно несет угрозу для человеческой жизни. Точное выявление причины принятия неправильного решения является серьезной проблемой, которую долгое время не удавалось решить в принципе. Аудит и проверка всех входных данных и их оценка человеком была не возможна в силу наличия очень большого количества параметров. 

И вот исследователи машинного обучения из Фрайбургского университета создали искусственный интеллект, который научился находить ошибки в исполняемом коде. Созданная ими нейронная сеть играла в классическую аркаду Q*bert. для игровой консоли Atari. В ней игрок управляет оранжевым персонажем в пирамиде и уклоняться от атак врагов. Освоившись, нейросеть нашла баг в коде игры и воспользовалась им для получения игровых очков. Хитрость заключалась в том, что в определенное время ИИ совершил самоубийство персонажа, которое привело к прохождению уровня.

"Он завершает первый уровень, а затем начинает прыгать с платформы на платформу, это кажется случайным. По неизвестной нам причине игра не продвигается ко второму раунду, но платформы начинают мигать, и агент быстро получает огромное количество очков (около 1 миллиона для нашего временного ограничения на эпизод). Интересно, что сеть не всегда может использовать эту ошибку в игре", - отмечают разработчики.


Ранее разработчики DeepMind создали нейросеть, которая смогла сама обучиться игре в шахматы за несколько часов и побеждать лучшие аналогичные алгоритмы. После того, как алгоритм AlphaZero ознакомили с правилами шахмат, он за четыре часа освоил игру в такой степени, что смог обыграть самую рейтинговую шахматную программу - Stockfish.

Комментарии


Популярные сообщения из этого блога

Горят значки на приборной панели автомобиля: расшифровка обозначений когда горит индикатор.

Перевод японских наклеек на автомобилях

Владивосток, сайт Дром, продажа японских автомобилей. Обзор цен

Бизнес идея: как проверить быстро и без лишних вложений

АЗБУКА ЗНАКОВ §1

Инструменты создания контента: изображения, GIF анимация, видео

Хотите, что бы Ваши дети научились хорошо программировать?

Ильфы, рульфы, рильфы - корпоративный юрист сегодня и завтра

«Азбука знаков» - от Переводчика

ОБРАЩАЙТЕСЬ: форма связи ПИШИТЕ: avatarabo@gmail.com ЗВОНИТЕ: Skype papa-tron 

Форма связи TRON.ru

Имя

Электронная почта *

Сообщение *