Искусственный интеллект открывает «черные ящики»
Искусственный интеллект все чаще используется при решении задач, связанных с высокой степенью риска, например при разработке лекарств, управлении автомобилями или боевыми автономными коплексами. Ошибка при неправильном выборе решений здесь прямо и непосредственно несет угрозу для человеческой жизни. Точное выявление причины принятия неправильного решения является серьезной проблемой, которую долгое время не удавалось решить в принципе. Аудит и проверка всех входных данных и их оценка человеком была не возможна в силу наличия очень большого количества параметров. И вот исследователи машинного обучения из Фрайбургского университета создали искусственный интеллект, который научился находить ошибки в исполняемом коде. Созданная ими нейронная сеть играла в классическую аркаду Q*bert. для игровой консоли Atari. В ней игрок управляет оранжевым персонажем в пирамиде и уклоняться от атак врагов. Освоившись, нейросеть нашла баг в коде игры и воспользовалась им для получения игровых...