Искусственный интеллект открывает «черные ящики»

Картинки по запросу искусственный интеллект

Искусственный интеллект все чаще используется при решении задач, связанных с высокой степенью риска, например при разработке лекарств, управлении автомобилями или боевыми автономными коплексами. Ошибка при неправильном выборе решений здесь прямо и непосредственно несет угрозу для человеческой жизни. Точное выявление причины принятия неправильного решения является серьезной проблемой, которую долгое время не удавалось решить в принципе. Аудит и проверка всех входных данных и их оценка человеком была не возможна в силу наличия очень большого количества параметров. 

И вот исследователи машинного обучения из Фрайбургского университета создали искусственный интеллект, который научился находить ошибки в исполняемом коде. Созданная ими нейронная сеть играла в классическую аркаду Q*bert. для игровой консоли Atari. В ней игрок управляет оранжевым персонажем в пирамиде и уклоняться от атак врагов. Освоившись, нейросеть нашла баг в коде игры и воспользовалась им для получения игровых очков. Хитрость заключалась в том, что в определенное время ИИ совершил самоубийство персонажа, которое привело к прохождению уровня.

"Он завершает первый уровень, а затем начинает прыгать с платформы на платформу, это кажется случайным. По неизвестной нам причине игра не продвигается ко второму раунду, но платформы начинают мигать, и агент быстро получает огромное количество очков (около 1 миллиона для нашего временного ограничения на эпизод). Интересно, что сеть не всегда может использовать эту ошибку в игре", - отмечают разработчики.


Ранее разработчики DeepMind создали нейросеть, которая смогла сама обучиться игре в шахматы за несколько часов и побеждать лучшие аналогичные алгоритмы. После того, как алгоритм AlphaZero ознакомили с правилами шахмат, он за четыре часа освоил игру в такой степени, что смог обыграть самую рейтинговую шахматную программу - Stockfish.

Комментарии

Популярные сообщения из этого блога

Кнопки на рычаге переключения АКПП: O/D, MANU и POWER

§1 The General Picture: A Dream About the End of a War

Индикаторы и значки на панели японского авто. Часть 1

TRON: технология прогноза силы, места и времени землетрясений

与俄罗斯“卢布区王座”项目合作的隐私政策

生物传感器:动物预测地震能力的资料汇编

Biosensors: Materials on the Ability of Animals to Predict Earthquakes

バイオセンサー:動物の地震予知能力に関する資料集

§2 The Richest Man in the World: A Morning After Triumph

TRON: Technology for Predicting the Magnitude, Location, and Time of Earthquakes

Цифровое творчество Личный блог: 8 930 Р. Полезный и необходимый подарок себе любимому / любимой.
Или родным и близким.
Подробнее