Мы прошли горизонт событий; взлет начался. Человечество близко к созданию цифрового сверхразума, и, по крайней мере, пока это гораздо менее странно, чем должно быть.
Роботы еще не ходят по улицам, и большинство из нас не общаются с ИИ целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и во вселенной есть много того, чего мы не понимаем.
И все же, мы недавно создали системы, которые во многих отношениях умнее людей и способны значительно усилить результаты людей, использующих их. Наименее вероятная часть работы позади; научные идеи, которые привели нас к таким системам, как GPT-4 и o3, были получены с трудом, но они проведут нас очень далеко.
ИИ внесет свой вклад в мир во многих отношениях, но прирост качества жизни от ИИ, способствующего более быстрому научному прогрессу и повышению производительности, будет огромным; будущее может быть намного лучше настоящего. Научный прогресс является важнейшим двигателем общего прогресса; невероятно волнительно думать о том, насколько больше мы могли бы иметь.
В каком-то большом смысле ChatGPT уже более мощный, чем любой человек, который когда-либо жил. Сотни миллионов людей полагаются на него каждый день и для все более важных задач; небольшая новая возможность может создать огромное положительное влияние; небольшое несоответствие, умноженное на сотни миллионов людей, может вызвать огромное отрицательное влияние.
В 2025 году появились агенты, которые могут выполнять настоящую когнитивную работу; написание компьютерного кода никогда не будет прежним. В 2026 году, вероятно, появятся системы, которые смогут вырабатывать новые идеи. В 2027 году, возможно, появятся роботы, которые смогут выполнять задачи в реальном мире.
Гораздо больше людей смогут создавать программное обеспечение и искусство. Но мир хочет гораздо больше и того, и другого, и эксперты, вероятно, все равно будут намного лучше новичков, если они будут использовать новые инструменты. В целом, способность одного человека сделать гораздо больше в 2030 году, чем он мог бы сделать в 2020 году, станет поразительным изменением, и многие люди поймут, как извлечь из этого пользу.
В наиболее важных отношениях 2030-е годы, возможно, не будут кардинально отличаться. Люди по-прежнему будут любить свои семьи, выражать свое творчество, играть в игры и плавать в озерах.
Но в очень важных аспектах 2030-е годы, скорее всего, будут сильно отличаться от любого времени, которое было до этого. Мы не знаем, насколько далеко за пределы человеческого уровня интеллекта мы можем зайти, но мы собираемся это выяснить.
В 2030-х годах интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут дико изобильными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; с изобилием интеллекта и энергии (и хорошим управлением) мы теоретически можем иметь что-то еще.
Мы уже живем с невероятным цифровым интеллектом, и после некоторого первоначального шока большинство из нас довольно привыкли к нему. Очень быстро мы переходим от удивления тем, что ИИ может создать прекрасно написанный абзац, к удивлению тем, что он может создать прекрасно написанный роман; или от удивления тем, что он может ставить медицинские диагнозы, спасающие жизни, к удивлению тем, что он может разработать лекарства; или от удивления тем, что он может создать небольшую компьютерную программу, к удивлению тем, что он может создать целую новую компанию. Вот как работает сингулярность: чудеса становятся рутиной, а затем ставками на стол.
Мы уже слышим от ученых, что они в два или три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не столь значимо, как тот факт, что мы можем использовать его для более быстрого проведения исследований ИИ. Мы можем открыть новые вычислительные субстраты, лучшие алгоритмы и кто знает что еще. Если мы сможем провести десятилетние исследования за год или месяц, то скорость прогресса, очевидно, будет совсем другой.
С этого момента инструменты, которые мы уже создали, помогут нам найти дальнейшие научные идеи и помогут нам в создании лучших систем ИИ. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая свой собственный код, но тем не менее это личиночная версия рекурсивного самосовершенствования.
В игре есть и другие самоусиливающиеся циклы. Создание экономической стоимости запустило маховик сложного построения инфраструктуры для работы этих все более мощных систем ИИ. И роботы, которые могут строить других роботов (и в некотором смысле центры обработки данных, которые могут строить другие центры обработки данных), не так уж далеки от этого.
Если нам придется сделать первый миллион человекоподобных роботов старомодным способом, но затем они смогут управлять всей цепочкой поставок — копать и перерабатывать минералы, водить грузовики, управлять фабриками и т. д. — чтобы построить больше роботов, которые могут строить больше предприятий по производству чипов, центров обработки данных и т. д., то скорость прогресса, очевидно, будет совсем другой.
По мере автоматизации производства центров обработки данных стоимость интеллекта в конечном итоге должна приблизиться к стоимости электроэнергии. (Людям часто интересно, сколько энергии потребляет запрос ChatGPT; средний запрос потребляет около 0,34 ватт-часов, что примерно столько же, сколько духовка потребляет за секунду, а высокоэффективная лампочка — за пару минут. Он также потребляет около 0,000085 галлона воды; примерно одну пятнадцатую чайной ложки.)
Скорость технического прогресса будет продолжать ускоряться, и люди по-прежнему будут способны адаптироваться практически ко всему. Будут очень сложные моменты, например, исчезновение целых классов рабочих мест, но с другой стороны, мир будет становиться настолько богаче и так быстро, что мы сможем серьезно рассматривать новые политические идеи, которые мы никогда не могли раньше. Мы, вероятно, не примем новый общественный договор сразу, но если мы оглянемся назад через несколько десятилетий, постепенные изменения станут чем-то большим.
Если судить по истории, мы найдем новые занятия и новые желания, быстро освоим новые инструменты (хорошим примером является смена работы после промышленной революции). Ожидания будут расти, но возможности будут расти так же быстро, и мы все получим лучшее. Мы будем создавать все более замечательные вещи друг для друга. У людей есть долгосрочное важное и любопытное преимущество перед ИИ: мы запрограммированы заботиться о других людях, о том, что они думают и делают, и нас не очень волнуют машины.
Фермер, живущий натуральным хозяйством тысячу лет назад, посмотрел бы на то, чем занимаются многие из нас, и сказал бы, что у нас фальшивые рабочие места, и подумал бы, что мы просто играем в игры, чтобы развлечь себя, поскольку у нас много еды и невообразимых предметов роскоши. Я надеюсь, что мы посмотрим на эти рабочие места через тысячу лет и подумаем, что они очень фальшивые, и я не сомневаюсь, что они будут казаться невероятно важными и удовлетворяющими людей, которые их выполняют.
Скорость достижения новых чудес будет колоссальной. Сегодня трудно даже представить, что мы откроем к 2035 году; может быть, мы перейдем от решения физики высоких энергий в одном году к началу колонизации космоса в следующем году; или от крупного прорыва в материаловедении в одном году к настоящим высокоскоростным интерфейсам мозг-компьютер в следующем году. Многие люди выберут прожить свою жизнь примерно так же, но, по крайней мере, некоторые люди, вероятно, решат «подключиться».
Заглядывая вперед, это звучит сложно для нашего понимания. Но, вероятно, пережить это будет впечатляюще, но выполнимо. С точки зрения релятивизма сингулярность происходит постепенно, а слияние происходит медленно. Мы поднимаемся по длинной дуге экспоненциального технологического прогресса; она всегда выглядит вертикальной, если смотреть вперед, и плоской, если идти назад, но это одна плавная кривая. (Вспомните 2020 год и то, как бы звучало, если бы к 2025 году было что-то близкое к AGI, по сравнению с тем, как на самом деле выглядели последние 5 лет.)
Существуют серьезные проблемы, с которыми нужно столкнуться, наряду с огромными преимуществами. Нам действительно нужно решить проблемы безопасности, как в техническом, так и в социальном плане, но затем критически важно широко распространить доступ к сверхинтеллекту, учитывая экономические последствия. Лучший путь вперед может быть таким:
Решить проблему согласования, то есть мы можем надежно гарантировать, что мы заставим системы ИИ учиться и действовать в соответствии с тем, чего мы коллективно действительно хотим в долгосрочной перспективе (ленты социальных сетей являются примером несогласованного ИИ; алгоритмы, которые их поддерживают, невероятно заставляют вас продолжать прокручивать и четко понимать ваши краткосрочные предпочтения, но они делают это, эксплуатируя что-то в вашем мозгу, что переопределяет ваши долгосрочные предпочтения).
Затем сосредоточьтесь на том, чтобы сделать суперинтеллект дешевым, широко доступным и не слишком сосредоточенным на каком-либо человеке, компании или стране. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя мы будем совершать много ошибок и что-то пойдет совсем не так, мы будем быстро учиться и адаптироваться и сможем использовать эту технологию, чтобы получить максимальный выигрыш и минимальный проигрыш. Предоставление пользователям большой свободы в широких пределах, которые общество должно решить, кажется очень важным. Чем раньше мир сможет начать разговор о том, что такое эти широкие границы и как мы определяем коллективное соответствие, тем лучше.
Мы (вся отрасль, а не только OpenAI) создаем мозг для мира. Он будет чрезвычайно персонализированным и простым в использовании для всех; мы будем ограничены хорошими идеями. Долгое время технические специалисты в индустрии стартапов высмеивали «идейных парней»; людей, у которых была идея, и они искали команду для ее реализации. Теперь мне кажется, что они вот-вот получат свой день под солнцем.
OpenAI — это много вещей сейчас, но прежде всего мы — компания по исследованию сверхразума. У нас много работы впереди, но большая часть пути перед нами теперь освещена, и темные области быстро отступают. Мы чувствуем себя необычайно благодарными за то, что можем делать то, что мы делаем.
Интеллект, слишком дешевый для измерения, вполне достижим. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что мы будем там, где мы есть сегодня, это, вероятно, звучало бы более безумно, чем наши нынешние прогнозы о 2030 году.
Давайте масштабируемся плавно, экспоненциально и без происшествий с помощью сверхразума.
Комментариев нет:
Отправить комментарий
А какие у Вас мысли по этому поводу?