Дарио Амодея. Anthropic, Claude: «Машины любви и благодати»
Дарио Амодей — гендиректор Anthropic, создателя модели Claude. До этого он возглавлял команду, которая разрабатывала GPT-2 и GPT-3 в OpenAI. В октябре 2024 года он опубликовал эссе «Machines of Loving Grace» — манифест о том, как сильный ИИ может переделать мир к лучшему. Название он позаимствовал у стихотворения Ричарда Браутигана 1967 года, но наполнил его собственным, дерзким смыслом. В отличие от многочисленных предупреждений об опасностях ИИ, этот текст — сознательно оптимистичный взгляд на будущее.
Что такое «сильный ИИ» по версии Амодея
Амодей избегает расплывчатого термина AGI и говорит о «мощном ИИ» (powerful AI). По его определению, это система, которая умнее лучших нобелевских лауреатов в большинстве областей — от биологии до программирования. Она автономна, мультимодальна (работает с текстом, изображениями, видео, аудио) и способна существовать в миллионах копий, работая параллельно, как «страна гениев в дата-центре». Такой ИИ не просто советует — он сам проектирует эксперименты, управляет лабораторными роботами и интерпретирует результаты. Амодей подчёркивает: на пути к этой цели нет непреодолимых препятствий, а значит, это вопрос времени, а не принципиальной возможности.Сжатие века прогресса в 5–10 лет
Главная идея эссе: мощный ИИ способен сжать 50–100 лет биологического прогресса в 5–10 лет. Амодей называет это «сжатым XXI веком». ИИ-биологи будут работать в 10 раз быстрее, чем лучшие человеческие команды, и станут «виртуальными биологами», которые сами проектируют эксперименты. К 2035 году (по оптимистичному сценарию) мы можем получить технологии, которые естественным путём появились бы только к 2100–2150 годам. При этом Амодей не считает, что ИИ вытеснит учёных — скорее, он станет незаменимым ассистентом и катализатором, расширяя границы человеческого мышления.Пять областей, где ИИ перевернёт мир
1. Биология и физическое здоровье. Амодей утверждает, что ИИ победит большинство видов рака, болезни Альцгеймера, диабет и инфекции. Он предсказывает создание надёжной генной терапии, которая позволит увеличить продолжительность здоровой жизни до 150 лет. ИИ сможет моделировать действие лекарств на молекулярном уровне без многолетних клинических испытаний.2. Нейронаука и психическое здоровье. Современная психиатрия действует наугад — подбирает таблетки методом проб. ИИ, по мнению Амодея, позволит взломать код мозга, вылечить депрессию, шизофрению, посттравматический синдром и другие расстройства. Это радикально повысит качество жизни сотен миллионов людей.
3. Экономическое развитие и борьба с бедностью. ИИ поможет развивающимся странам совершить прыжок через технологические этапы. Умные системы образования, сельского хозяйства и управления ресурсами — это не фантастика, а прямой путь к сокращению неравенства, которое Амодей считает главным тормозом человечества.
4. Мир и управление
К сожалению, я не вижу веских оснований полагать, что ИИ будет преимущественно или структурно способствовать развитию демократии и мира, в отличие от того, как, по моему мнению, он структурно продвинет здоровье человека и поможет облегчить бедность.
Если ИИ будет способствовать дальнейшему экономическому росту и повышению качества жизни в развитых странах, но при этом мало чем поможет развивающемуся миру, мы должны рассматривать это как ужасный моральный провал. В идеале, мощный ИИ должен помочь развивающемуся миру догнать развитый, даже несмотря на то, что он произведет революцию в последнем
Я не так уверен, что ИИ сможет справиться с неравенством и экономическим ростом, как я уверен в том, что он сможет создавать фундаментальные технологии. Это связано с тем, что у технологии есть столь очевидная высокая отдача от интеллекта, тогда как экономика включает в себя множество ограничений, связанных с людьми, а также большую долю внутренней сложности.
Распространение медицинских вмешательств. Область, в которой я, пожалуй, наиболее оптимистичен, — это распространение медицинских вмешательств по всему миру. Некоторые болезни в принципе можно было бы искоренить, воздействуя на их переносчиков — например, выпуская комаров, зараженных бактерией, которая блокирует их способность переносить болезнь, или используя генные драйвы для уничтожения самих комаров.
Экономический рост. Может ли развивающийся мир быстро догнать развитый не только в вопросах здравоохранения, но и во всех остальных экономических аспектах? Для этого есть некоторый прецедент: в последние десятилетия XX века несколько восточноазиатских экономик достигли устойчивых годовых темпов роста реального ВВП на уровне около 10%, что позволило им догнать развитые страны.
5. Работа и смысл жизни
Это, вероятно, самая сложная и глубокая тема из всех. Если ИИ сможет сделать всё, что мы умеем, но быстрее, дешевле и лучше, то что останется людям?
Что будет с нашей целью и самооценкой? В эссе я не даю окончательного ответа на этот вопрос, поскольку считаю, что он выходит за рамки простых технологических прогнозов и касается самой сути человеческого существования.
Самооценка людей просто рухнет. Человечество выросло в парадигме, что оно есть вершина Вселенной.
Субъективный идеализм - мир существует только в сознании субъекта. Вне сознания нет никакой реальности.
Сильный антропный принцип - Вселенная должна быть такой, чтобы в ней возник наблюдатель. Без наблюдателя Вселенная не существует.
То есть страшнее кошки зверя нет, без Человека Вселенная существовать не может. Гордыня наша все.
Но будут отдельные адекватные люди, спокойно живущие в мире, где есть Иные Разумы, разумнее людей. Мио Бога (или Богов). Какая в нем цель - служит Богу (или Богам, или Вселнной, или Высшему Разуму - эвфемизмов множество).
Большая же часть человечества двинется в Мышиному раю «Вселенной 25»
Моё предположение заключается в том, что люди, скорее всего, переключатся на те сферы деятельности, где человеческий опыт, эмпатия, творчество и лидерство будут по-прежнему цениться.
ИИ по определению недоступен только квалиа. Ценится кем? Что люди ценят эмпатию, убивая друг друга тысячами? Или поговорить о ценности творчества с Поэтами, Художниками и Музыкантами - умершими в нищете? Где, в каком обществе личный мистический опыт. эмпатия, творчество, лидерство являются по факту, а не на словах, поддерживаемые социальные ценности?
ИИ может взять на себя рутинные, опасные или требующие огромных вычислений задачи, освобождая людей для занятий искусством, наукой, философией, социальным взаимодействием и другими видами деятельности, которые придают жизни смысл. - Для какого процента людей это является смыслом жизни? В лучшем случае для 10-15. Для остальных смысл жизни в биологических потребностях - есть, пить. размножаться самому и через детей.
Однако я также признаю, что переходный период будет крайне сложным. Он потребует фундаментального переосмысления образования, переквалификации огромного количества людей и, возможно, заключения новых социальных контрактов, перераспределяющих богатство, создаваемое ИИ. Оставим ли мы работу, чтобы освободить время для созерцания и творчества, или же погрузимся в экзистенциальный кризис — во многом зависит от того, как мы подготовимся к этому переходу уже сегодня.
Я считаю, что нам нужна не только борьба с рисками, но и искренне вдохновляющее видение будущего, за которое стоит бороться. Это видение не должно быть просто технологической утопией, а обязано включать размышления о том, каким мы хотим видеть место человека в мире, где машины превосходят нас в интеллекте.
Это тоже самое место, которое коты и кошки занимают в мире людей.
Почему это не случится мгновенно
Амодей предупреждает: даже самый умный ИИ упирается в физику, логистику и человеческие законы. Клинические испытания не ускорить в 10 раз — они требуют времени. Учёных, которые верят в старые парадигмы, не переубедить за месяц. Данных для тренировки нейросетей в некоторых областях просто не хватает. Наконец, биологические системы остаются сложнейшим объектом во Вселенной. Сверхинтеллект — не волшебная пыльца: он не заставит клетку расти быстрее и не обойдёт законы физики. Поэтому «сжатый XXI век» — это верхняя планка, а реальный путь будет длиннее и извилистее.Зачем Амодей написал этот манифест
Я часто говорю о рисках ИИ, и меня иногда считают пессимистом. Это не так. Риски — это единственное, что стоит между нами и тем, что я вижу как фундаментально позитивное будущее. Большинство людей недооценивают, насколько радикальным может быть позитивный потенциал ИИ, точно так же, как они недооценивают риски.Мне нужна была не только борьба с рисками, но и искренне вдохновляющее видение будущего, за которое стоит бороться. Это не попытка вести людей к спасению, а приглашение к более взвешенному и конкретному разговору о том, что возможно, если мы сделаем всё правильно.
Комментарии
Отправить комментарий
Ваше мнение по этому поводу?