Конец ядерных договоров: Ученые предлагают следить за боеголовками из космоса с помощью ИИ

На протяжении полувека ядерные державы мира опирались на сложную и многоуровневую систему договоров, которые медленно, но неуклонно сокращали количество ядерного оружия на планете. Теперь этих договоров больше нет — как и признаков того, что они вернутся в обозримом будущем. В качестве временной меры исследователи и учёные предлагают смелый и даже немного странный путь: использовать для мониторинга мировых ядерных арсеналов систему спутников и искусственный интеллект. «Чтобы прояснить ситуацию: это план Б», — говорит WIRED Мэтт Корда, заместитель директора Федерации американских учёных (Federation of American Scientists, FAS). Корда подготовил для FAS доклад, в котором описывает возможное будущее контроля над вооружениями в мире, где все прежние договоры прекратили существование. В работе «Инспекции без инспекторов» Корда и его соавтор Игорь Морич предлагают новый способ мониторинга мировых ядерных арсеналов, который они называют «кооперативными техническими средствами». Проще говоря, ту работу, которую раньше делали учёные и инспекторы на местах, теперь должны выполнять спутники и другие технологии дистанционного наблюдения. По словам Корды, в этом процессе может помочь искусственный интеллект. «Одна из вещей, в которых ИИ действительно хорош, — это распознавание образов», — говорит он. — «Если бы у вас был достаточно большой и тщательно подобранный массив данных, вы могли бы, по идее, обучить модель, способную выявлять как мельчайшие изменения в конкретных местах, так и, возможно, распознавать отдельные виды вооружений». СНВ-III — подписанный в 2010 году договор, ограничивавший количество развёрнутых ядерных вооружений США и России, — истёк на 5 февраля. (Не волнуйтесь: по сообщениям, обе страны пока намерены сохранять статус-кво.) Тем временем обе державы тратят миллиарды на создание новых типов ядерного оружия. Китай строит новые шахты для межконтинентальных баллистических ракет. По мере того как Америка уходит с мировой арены, её ядерные гарантии теряют вес, и такие страны, как Южная Корея, начинают подумывать о создании собственного ядерного арсенала. Уровень доверия между государствами находится на историческом минимуме. В этих условиях Корда и Морич предлагают для заключения новых договоров и обеспечения их выполнения использовать уже существующую инфраструктуру. «Ни одна страна не хочет, чтобы инспекторы бродили по ее земле», — говорит Корда. Поэтому, раз такой вариант невозможен, чтобы контролировать мировые ядерные арсеналы удалённо, ядерные державы могут применять спутники и другие средства дистанционного наблюдения. Системы искусственного интеллекта и машинного обучения будут получать данные, сортировать их и передавать на проверку людям. Это предложение далеко от идеала, но оно лучше, чем то ничего, что есть у мира сейчас. На протяжении десятилетий США и Россия работали над тем, чтобы сократить количество ядерного оружия в мире. В 1985 году существовало более 60 000 боеголовок. Сейчас их чуть больше 12 000. Уничтожение примерно 50 000 единиц ядерного оружия заняло десятилетия напряжённой работы политиков, дипломатов и учёных. Смерть СНВ-III фактически сводит на нет результаты этих усилий. В период Холодной войны инспекции на местах укрепляли доверие между Россией и США и создавали основу для снижения напряжённости. Эта эпоха закончилась, уступив место взаимной враждебности и новой гонке ядерных вооружений. «Идея, которую мы изложили в этой работе, заключается в следующем: что если существует некая промежуточная форма между полным отсутствием контроля над вооружениями, когда остаётся только шпионаж, и полноценным контролем с навязчивыми инспекциями на местах, которые, возможно, больше не являются политически приемлемыми?» — говорит Корда. — «Что мы можем делать дистанционно, чтобы обеспечить режим удалённой верификации?» Корда и Морич предлагают использовать сеть существующих спутников для наблюдения за шахтами межконтинентальных баллистических ракет (МБР), мобильными пусковыми установками, а также объектами по производству плутониевых сердечников. Одним из серьёзных препятствий является то, что для эффективного дистанционного режима контроля всё равно потребуется определённый уровень сотрудничества. В любом случае, потребуется согласие ядерных держав. «Они могли бы передать сообщение примерно такого содержания: „В целях проверки выполнения договора о контроле над вооружениями мы просим вас открыть люк такой-то шахты в такой‑то день, в такое‑то время, потому что именно тогда наш спутник будет пролетать над этим районом“», — говорит Корда. — «Это позволяет организовать взаимную верификацию с помощью технологий, которые уже существуют. Для этого не нужно присутствие инспекторов на месте и не требуется постоянное наблюдение в шпионском стиле, когда вы просто надеетесь что‑то случайно заметить. Вместо этого вы фактически работаете вместе, чтобы обеспечить взаимную проверку». Наблюдать за всем этим могли бы системы искусственного интеллекта, под человеческим надзором. Но, разумеется, здесь возникает множество проблем. Одна из них состоит в том, что для эффективной работы ИИ нужны большие массивы данных, а данных, связанных с ядерным оружием, крайне мало. «Приходится создавать специальные базы данных для каждой конкретной страны», — говорит Корда. — «Вот как в Россия строит шахты для МБР, вот как это делают в США — что‑то в этом роде. Но даже внутри одной страны могут быть существенные различия». Один из таких наборов данных в рамках готовящегося исследования об использовании систем ИИ для верификации контроля над вооружениями создала Сара Аль‑Саид из Союза обеспокоенных учёных. В центре её работы находятся ракеты, но, по её словам, гипотетической системе ядерного мониторинга на базе ИИ пришлось бы отслеживать куда больше. «Можно представить себе всё, что угодно: ракеты, пусковые установки, бомбардировщики, подводные лодки, места их производства, испытаний, хранения, обслуживания и демонтажа — включая любые объекты, находящиеся на этих площадках», — говорит она в интервью WIRED. — «То есть нужно мыслить очень детально, учитывать все объекты». И остаётся вопрос о том, чем именно должны заниматься такие системы ИИ. «Какова их задача?» — говорит Аль‑Саид. — «Вы хотите обнаруживать наличие или отсутствие объекта? Классифицировать то, что видите? Или вам нужно выявлять и отслеживать изменения со временем?» «В этих методах изначально заложен элемент случайности — начиная с процесса отбора данных, которые вы будете использовать для обучения модели, затем разметки, затем самой модели, её случайного поведения, и заканчивая случайностью результатов, которые она выдаёт», — говорит она. В гипотетическом мире, где ИИ и дистанционное наблюдение заменяют инспекции на местах, сторонам, заключающим новый договор, пришлось бы договориться о том, как именно работают эти системы ИИ и что именно они отслеживают. А это означает новые раунды переговоров и новые соглашения — в то время как страны и старых-то не соблюдают. Аль‑Саид говорит, что если мы окажемся в ситуации, когда страны начнут обсуждать использование ИИ для контроля над вооружениями, значит, мир уже в серьёзной беде. «Почему вы вообще захотите полагаться на систему проверки, основанную на ИИ?» — говорит она. — «Если вы считаете автоматизацию необходимой, значит, вы находитесь в парадигме, где чувствуете, что должны ловить каждое возможное нарушение со стороны противника или партнёра по договору. Но как две или более сторон могут собраться и договориться о заключении соглашения или договора по контролю над вооружениями, если изначально предполагается, что любое их действие может вызывать подозрения?» Она задает важный вопрос: «Как мы можем сделать сами машины заслуживающими доверия?» На данный момент — никак. Системы ИИ ежедневно дают сбои. Они выходят в свет с огромными уязвимостями в безопасности, а их создатели зачастую не могут объяснить, как именно они работают. На такой технологии трудно построить новый режим контроля над ядерными вооружениями. Но никакой режим контроля не совершенен. И сегодня ни одна страна не позволит иностранцам разъезжать по своим ядерным объектам. Для Корды, Морича и других специалистов FAS речь идёт о своего рода сортировке, отборе — использовании спутников и несовершенных систем ИИ, чтобы хотя бы как‑то наблюдать за мировыми ядерными арсеналами. Это может стать хоть небольшим, но все же мостиком к более безопасному миру. «Преемник СНВ-III не приведёт нас на путь полного разоружения, — говорит Корда. — Но он поможет избежать порочного круга, при котором страны начнут массово развёртывать новые боеголовки».