Что такое технологическая сингулярность - обзор моделей 2010 года
Аннотация
В данной статье рассматриваются различные определения и модели технологической сингулярности. Модели варьируются от концептуальных набросков до детальных эндогенных моделей роста, а также включают попытки подогнать эмпирические данные под количественные модели. Такие модели полезны для изучения динамики мировой системы и возможных типов будущих кризисных точек, где вероятны фундаментальные переходы. Текущие модели показывают, что, как правило, даже небольшая возрастающая отдача ведёт к радикальному росту.
Если ментальный капитал станет копируемым (как это было бы в случае ИИ или эмуляции мозга), крайне быстрый рост также станет вероятным.
Введение
Набор концепций, которые сегодня обычно называют «технологической сингулярностью», имеет долгую историю в сообществе компьютерных учёных. Ранние примеры включают:
Одна беседа была сосредоточена на постоянно ускоряющемся прогрессе технологий и изменениях в образе человеческой жизни, что создаёт впечатление приближения некой существенной сингулярности в истории расы, за которой человеческие дела, какими мы их знаем, не смогут продолжаться.
— Стэнислав Улам, «Посвящение Джону фон Нейману», Bulletin of the American Mathematical Society, vol 64, nr 3, part 2, May 1958, p. 1–49.
и
Пусть сверхразумная машина определяется как машина, которая может намного превзойти все интеллектуальные действия любого человека, каким бы умным он ни был. Поскольку проектирование машин является одним из этих интеллектуальных действий, сверхразумная машина могла бы проектировать ещё лучшие машины; тогда, безусловно, произошёл бы «интеллектуальный взрыв», и интеллект человека был бы оставлен далеко позади. Таким образом, первая сверхразумная машина — это последнее изобретение, которое человеку когда-либо потребуется сделать.
— Ай Джей Гуд (Good, 1965)
Объединяющая тема этих двух примеров — ускоренные технологические изменения, ведущие к быстрому переходу в состояние, где текущие условия человеческой жизни будут поставлены под сомнение.
Технологическая сингулярность вызывает всё больший интерес среди футурологов — как предсказанная возможность в среднесрочном будущем и как предмет методологических дебатов.
Концепция используется в самых разных контекстах и приобрела, к сожалению, большое количество значений. Некоторые версии подчёркивают роль искусственного интеллекта, другие ссылаются на более общие технологические изменения. Эти множественные значения могут пересекаться, и многие авторы используют комбинации значений: даже основополагающее эссе Вернора Винджа (Vinge, 1993), которое ввело этот термин, использует несколько значений. Некоторые из этих значений могут подразумевать друг друга, но часто происходит смешение различных элементов, которые, вероятно (но не обязательно), происходят параллельно. Это вызывает путаницу и недопонимание до такой степени, что некоторые критики утверждают, что этот термин следует вообще избегать (Tyler). По крайней мере, термин «сингулярность» привёл ко многим неудачным предположениям о том, что технологическая сингулярность включает в себя какую-то форму математической сингулярности и поэтому может быть проигнорирована как нефизическая.
Эта статья пытается создать простую таксономию моделей технологической сингулярности, надеясь помочь разграничить различные значения этого слова. Она также направлена на краткий обзор формальных количественных моделей сингуляроподобных явлений в надежде способствовать более строгому обсуждению этих возможностей.
Определения технологической сингулярности
Краткий список значений термина «технологическая сингулярность», найденных в литературе, и некоторые из их сторонников:
A. Ускоряющиеся изменения. Экспоненциальный или суперэкспоненциальный технологический рост (связанный с экономическим ростом и социальными изменениями). Рэй Курцвейл (Kurzweil, 2005), Джон Смарт (Smart, forthcoming).
B. Самосовершенствующаяся технология. Улучшение технологий позволяет быстрее разрабатывать новые и лучшие технологии. (Flake, 2006).
C. Интеллектуальный взрыв. Более умные системы могут улучшать сами себя, производя ещё больше интеллекта в сильной петле обратной связи. (I. J. Good, 1965; Элизер Юдковский).
D. Появление сверхинтеллекта. «Сингулярность — это технологическое создание интеллекта, превосходящего человеческий» (Singularity Institute)1.
E. Горизонт прогнозирования. Быстрые изменения или появление сверхчеловеческого интеллекта делают будущее невозможным для прогнозирования на основе наших текущих ограниченных знаний и опыта. (Vinge, 1993).
F. Фазовый переход. Сингулярность представляет собой переход к новым формам организации. Это может быть фундаментальное различие по типу, такое как замена человечества постлюдьми или искусственными интеллектами, переход прерывистого равновесия или появление нового уровня метасистемы. (Teilhard de Chardin; Valentin Turchin, 1977; Heylighen, 2007).
G. Катастрофа сложности. Увеличение сложности и взаимосвязанности приводит к возрастающей отдаче, но повышает нестабильность. В конечном итоге это производит кризис, за которым точка динамики должна быть иной. (Sornette, Johansen & Sornette, 2001; West, Bettencourt et al., 2007).
H. Точка перегиба. Крупномасштабный рост технологий или экономики следует логистической кривой роста. Сингулярность представляет собой точку перегиба, где изменения переходят от ускорения к замедлению. (Extropian FAQ; T. Modis, 2002).
I. Бесконечный прогресс. Скорость прогресса в какой-либо области стремится к бесконечности за конечное время. (Мало кто, если вообще кто-то, считает это правдоподобным2).
Три основные группы, по-видимому, представляют собой ускоряющиеся изменения, горизонт прогнозирования и интеллектуальный взрыв, ведущий к сверхинтеллекту (как первоначально отметил Bostrom, 1998, и обсуждалось в Yudkowsky, 2007).
В дополнение к общему значению(ям), сингулярность может быть локальной или глобальной (взлёт возможностей сущности или небольшой группы — или широкая эволюция всей экономики), быстрой или медленной (происходящей в компьютерных масштабах времени, масштабах времени разработки оборудования, человеческих масштабах времени или исторических масштабах времени). Также существует путаница относительно того, является ли отличительной чертой событие/точка, историческая уникальность, природа общего процесса или большая историческая тенденция.
Для целей данной статьи я сосредоточусь на аспекте роста: ускоряющиеся изменения, самосовершенствующаяся технология, интеллектуальные взрывы и катастрофа сложности (и в некоторой степени точка перегиба) — все они включают рост технологических или когнитивных возможностей. Природа и скорость этого роста важны как для понимания того, какие утверждения на самом деле делаются, так и для рассмотрения последствий такого процесса, если он произойдёт.
Как отмечено в Heylighen (1997), модели технологической сингулярности, качественные или количественные, не следует принимать слишком буквально. Модели включают то, что считается важными и релевантными характеристиками системы, абстрагируясь от незначительных, затеняющих характеристик. Они полезны, потому что заставляют нас показывать наши предположения, выводя их на свет. Их предсказания могут быть менее важны, чем демонстрация того, как изменения в предположениях влияют на результаты.
Модели
Линейное поглощение (Тип D, F)
Сингулярные события могут происходить, когда одна форма роста опережает другую. Эта форма «линейной сингулярности» не обязательно включает какое-либо ускорение прогресса.
Элизер Юдковский представил простой набросок того, почему кажущийся прогресс ИИ может быть обманчивым: скорость прогресса на самом деле высока, но начинается с очень низкого уровня. Это означает, что быстрое развитие не легко обнаружить, пока оно внезапно не пройдёт относительно узкий человеческий диапазон и не выйдет за его пределы3.
Простая формализация модели была бы такой: человеческий интеллект X постоянен, в то время как машинный интеллект Y(t) = a + bt растёт линейно со временем. В настоящее время X ≈ Y(t). Мы менее чувствительны к различиям в менее чем человеческом интеллекте, чем к различиям в интеллекте человеческого уровня; наш субъективный опыт интеллекта (и, возможно, его способность влиять на мир) — это быстро вогнутая функция, например экспоненциальная кривая. Кажущийся интеллект машин рос бы как ea+bt, с «удивительным» окончательным скачком от кажущегося неизменного низкого состояния к быстрому росту вблизи человеческого уровня. Это по сути то же утверждение, которое делает Курцвейл относительно того, как большинство людей не понимают экспоненциальный рост, хотя рост здесь может быть не нелинейным (нелинейна только его обнаруживаемость).
Логистический рост (Тип H)
Обычно утверждают, что экспоненциальный рост неустойчив, поскольку требует ресурсов, которые в конечном итоге закончатся. Это верно даже если доступна колонизация космоса, поскольку объём космоса, который может быть достигнут за время t, растёт самое большее как 4πc³t³/3 ∝ t³, где c — скорость света. Это означает, что в конечном итоге скорость роста должна будет снизиться до полиномиальной.
Однако, если рост происходит в области знаний, культуры или чистой ценности, менее очевидно, что существует верхний предел или что рост сильно ограничен ресурсами. Существуют некоторые физические ограничения на то, сколько информации может быть сохранено в области вселенной, но они очень широки; в лучшем случае они исключают бесконечное хранение информации4.
Могут существовать ограничивающие факторы для технологий, основанные на (возможной) конечной сложности вселенной: существовало бы только конечное количество полезных фактов о природе, которые могут быть открыты. По мере того как всё больше и больше становится известным, сложность нахождения новых увеличивается. Это было бы совместимо с логистическим уравнением роста:
где X(t) — знания, r — скорость роста, а K — верхний порог того, что познаваемо. Первоначально X(t) растёт экспоненциально, но в конечном итоге насыщается и замедляется, асимптотически приближаясь к X(t) → K. Другие формы ценности могут продолжать расти после насыщения, но знания останутся ограниченными.
В этом случае сингулярность, вероятно, обозначала бы точку перегиба — (исторически очень краткий) переход от дотехнологического состояния к максимально продвинутому состоянию.
Переход метасистемы (Тип F)
Переход метасистемы — это эволюционное появление более высокого уровня организации или контроля в системе (Turchin, 1977). Ряд систем интегрируются в систему более высокого порядка, производя многоуровневую иерархию контроля. В биологии такие эволюционные переходы произошли через эволюцию самовоспроизведения, многоклеточности, полового размножения, обществ и т. д., где меньшие подсистемы сливаются, не теряя дифференциации, но часто становясь зависимыми от более крупной сущности (Smith & Szathmáry, 1995). В начале процесса механизм управления является примитивным, в основном координируя подсистемы. По мере дальнейшего развития всей системы подсистемы специализируются, и системы управления становятся более эффективными. В то время как переходы метасистемы в биологии рассматриваются как вызванные биологической эволюцией, другие системы могут демонстрировать другие формы эволюции (например, социальные изменения или преднамеренную организацию) для вызова переходов метасистемы.
Экстраполируя на людей, будущие переходы могут включать части или весь вид людей, становящихся суперорганизмом (Turchin & Joslyn, 1989).
Как модель технологической сингулярности, переход метасистемы является в значительной степени качественным, а не количественным. Без детальной модели динамики подсистем переход не определён. Однако биологические и социальные примеры, данные теоретиками, дали бы некоторые аналоговые данные о том, как могли бы работать будущие переходы (например, как модели прерывистого равновесия). Ключевым вопросом, достойным изучения, может быть степень, в которой такие переходы являются конвергентными или дивергентными — будут ли при аналогичных обстоятельствах переходы производить похожие или различные формы организации5.
Ускоренный переход метасистемы (Тип A, B, F)
Heylighen утверждает (Heylighen, 2007), что эволюционные силы, действующие на технологии (и другие системы), как правило, приводят к эфемерализации — деланию большего с меньшими затратами — из-за селективного давления в любой среде, ограниченной ресурсами. Это производит возрастающую эффективность в использовании, обработке и транспорте материи, энергии и информации, уменьшая «трение» и позволяя более длинные контролируемые причинные цепи.
Аналогично, инновации в институтах, медиаторах и стигмергии (косвенное влияние на других агентов через среду, «носитель») производит всё более глобальную координацию. Он утверждает, что стигмергия ускоряет эволюцию, поскольку уже найденные решения распространяются на других агентов: улучшение среды облегчает дальнейшие инновации, что помогает улучшить и распространить среду. Он сравнивает это с моделью роста населения Коротаева (Korotayev, 2007), где население N контролируется логистическим уравнением роста, где ёмкость пропорциональна общей производительности T технологий:
Технологии растут пропорционально населению и технологиям:
Это производит гиперболическую кривую роста с сингулярностью конечного времени. Heylighen отмечает, что отклонение в росте населения от гиперболического роста в 1970-х всё ещё совместимо с общей моделью, если мы интерпретируем это как переход от r-стратегии (быстрое размножение, короткая жизнь) к K-стратегии (медленное размножение, долгая жизнь). В K-стратегии больше человеческого капитала инвестируется в потомство, и они будут давать больше взамен, делая фактор T второго уравнения более важным, чем фактор N. Он предсказывает, что вышеуказанные тенденции приведут к формированию глобального суперорганизма какого-то рода за относительно короткий промежуток времени.
Экономические модели ввода-вывода (Тип A)
Модели ввода-вывода изображают экономику как A — матрицу, обозначающую количество единиц, которые сектор экономики должен купить у другого сектора, чтобы произвести единицу своего собственного выпуска, и B — матрицу того, сколько единиц из других отраслей необходимо для самого производства (например, оборудование, здания и т. д.). Если уровни выпуска различных секторов в момент времени t равны X(t), количество товаров, доставленных домохозяйствам и другим конечным пользователям, будет (Leontief, 1986):
Если все выпуски реинвестируются в экономику, Y(t) = 0, и уравнение производит динамическую систему:
Рост будет экспоненциальным, со скоростью, установленной наибольшим собственным значением матрицы в скобках, и вектором производства X, стремящимся к собственному вектору, соответствующему этому значению. Если потребление Y(t) не равно нулю, общий случай всё ещё является экспоненциальным ростом: матричные рекурсии формы X(t + 1) = CX(t) + d или дифференциальные уравнения типа X'(t) = CX(t) + d имеют решения, стремящиеся к Λeλt, если C диагонализуема.
Модели эндогенного роста (Тип A, B, I)
Теория эндогенного роста моделирует рост экономики с улучшающимися технологиями, где предполагается, что технологии растут как функция экономики и распределения ресурсов к ней. Она была разработана как ответ на модели экзогенного роста, где убывающая отдача предсказывает, что рост остановится, а не продолжится.
…в то время как часть, которую природа играет в производстве, показывает тенденцию к убывающей отдаче, часть, которую играет человек, показывает тенденцию к возрастающей отдаче. Закон возрастающей отдачи может быть сформулирован так: увеличение труда и капитала обычно приводит к улучшенной организации, которая увеличивает эффективность работы труда и капитала.
— Маршалл (1920), Книга 4, Глава XIII, Параграф IV.XIII.11.
Однако опубликованные модели, по-видимому, обычно пытаются избежать «нереалистичного» взрывного роста, выбирая уравнения для роста знаний, которые исключают его. Например, (Hakenes & Irmen, 2004) изменяют свою модель не только для избежания отрицательных знаний, но и для исключения суперэкспоненциального роста. В более поздней статье (Hakenes & Irmen, 2007) они заявляют:
Мы придерживаемся мнения, что правдоподобное описание эволюции знаний должно удовлетворять двум асимптотическим условиям. Смотря вперёд, мы следуем Солоу (2000) в поддержании того, что бесконечные знания за конечное время невозможны. Смотря назад, мы требуем, чтобы знания исчезали в бесконечном прошлом, но не за конечное время. Мы называем эволюцию правдоподобной, если она удовлетворяет этим критериям.
Эта статья показывает, что для роста знаний
знания либо равны нулю во все времена, либо увеличиваются со временем. В последнем случае, если φ < 1, знания начинаются с нуля в конечном прошлом; если φ > 1, знания расходятся к бесконечности в конечном будущем; или если φ = 1, знания всегда конечны и растут экспоненциально без каких-либо сингулярностей. Отсюда делается вывод, что возможен только экспоненциальный случай. Добавление (эндогенного или экзогенного) роста населения не помогает в общем случае.
Однако простая модель, предсказывающая сингулярность конечного времени, всё ещё может быть релевантной, если другие, не смоделированные факторы вблизи потенциальной сингулярности предотвращают её фактическое возникновение. Предположение о том, что модель должна держаться бесконечный промежуток времени (особенно когда это высоко абстрагированная модель сложного процесса), кажется неоправданным. Модели, демонстрирующие сингулярности конечного времени, могут быть количественно или качественно точным соответствием текущему или близкому будущему росту, хотя они в конечном итоге покидают область применимости.
Как отмечено в (Johansen & Sornette, 2001):
Сингулярности всегда являются математическими идеализациями природных явлений: они не присутствуют в реальности, но предвещают важный переход или изменение режима. В настоящем контексте они должны интерпретироваться как своего рода «критическая точка», сигнализирующая о фундаментальном и резком изменении режима, подобном тому, что происходит в фазовых переходах.
Наблюдение о том, что сингулярности конечного времени являются общими, когда существуют эффекты масштаба в производстве знаний (φ > 1), кажется, поддерживает дальнейшее изучение суперэкспоненциального роста и ставит под сомнение предположение о том, что рост знаний всегда должен моделироваться как экспоненциальный.
Широко цитируемая модель роста, демонстрирующая сингулярность конечного времени, — это модель Кремера (Kremer, 1993): общее население L(t) и общий экономический выпуск Y(t), и их отношение Y(t)/L(t) = ȳ установлено на уровень прожиточного минимума ȳ, который фиксирован. Выпуск зависит от технологий/знаний A(t) и труда, пропорционального L(t):
где 0 < α < 1. Скорость роста технологий предполагается пропорциональной населению и уровню технологий:
с явными предположениями о том, что большие популяции имеют более талантливых людей, которые могут продвигать технологии, и что новые технологии в значительной степени получаются путём использования существующих технологий (следовательно, это подразумевает сингулярность типа B). Объединение двух уравнений даёт:
Следовательно, население (и технологии) имеет сингулярность конечного времени.
(Solow & Swan, 1996) далее обсуждают многовариантные расширения модели с капиталом K(t), производящим выпуск:
где aK — доля запасов капитала, используемая в НИОКР, aL — доля труда, используемая в НИОКР. Инновации производятся как:
для положительных констант B, β и γ. Предполагая экзогенную норму сбережений s и отсутствие амортизации, получаем:
Эта система может достигать сингулярностей конечного времени даже при фиксированном населении, если θ + β > 1. Прошлые инновации и капитал могут создавать взрывной рост, даже когда каждый из факторов в изоляции не может.
Модель населения-технологий (Тип A, F, I)
Демографическая модель, аналогичная эндогенному росту, была сформулирована Taagepera (1979). Она связывает население P с технологиями T и невозобновляемыми ресурсами R через модифицированную логистическую модель роста:
где первый фактор представляет скорость роста (увеличивается технологиями к максимальной скорости k'₀). Технологии увеличиваются как степень размера населения для малых популяций и независимо от него при больших размерах:
где U — характерный размер населения. Скорость истощения ресурсов была либо смоделирована с полной моделью рециркуляции, где продвинутые общества могут перерабатывать большую часть материала:
где V — критический уровень технологий, где истощение ресурсов выравнивается. Другой возможностью была просто стабилизация скорости истощения на душу населения:
Для начального состояния P ≪ U, T ≪ V, Tⁿ ≪ 1/a и R ≫ C уравнения производят гиперболический рост. В зависимости от того, меняют ли знак первыми первое, два средних или последние неравенства, есть три результата. Первый случай — истощение ресурсов — производит в конечном итоге население насыщения с вероятным окончательным снижением. В среднем случае рециркуляция или стабилизация на душу населения становится значимой до того, как население станет большим, а ресурсы закончатся, и гиперболический рост продолжается, пока не произойдёт один из других случаев. Если население становится большим, но ресурсы всё ещё есть, рост населения является двойным экспоненциальным.
Taagepera отмечает, что модель, хотя и избегает сингулярностей конечного времени, всё ещё имеет кризисы, где она переходит от одного режима к другому, возможно, за очень короткие периоды времени.
Закон ускоряющейся отдачи (Тип A, B)
Рэй Курцвейл формулирует «закон ускоряющейся отдачи» следующим образом (Kurzweil, 2001):
- Эволюция применяет положительную обратную связь в том, что более способные методы, полученные в результате одного этапа эволюционного прогресса, используются для создания следующего этапа. В результате скорость прогресса эволюционного процесса увеличивается экспоненциально со временем. Со временем «порядок» информации, встроенной в эволюционный процесс (т. е. мера того, насколько хорошо информация соответствует цели, которой в эволюции является выживание), увеличивается.
- Коррелят вышеуказанного наблюдения заключается в том, что «отдача» эволюционного процесса (например, скорость, экономическая эффективность или общая «мощность» процесса) увеличивается экспоненциально со временем.
- В другой петле положительной обратной связи, по мере того как конкретный эволюционный процесс (например, вычисление) становится более эффективным (например, экономически эффективным), большие ресурсы развёртываются для дальнейшего прогресса этого процесса. Это приводит ко второму уровню экспоненциального роста (т. е. скорость экспоненциального роста сама растёт экспоненциально).
- Биологическая эволюция — это один из таких эволюционных процессов.
- Технологическая эволюция — это другой такой эволюционный процесс. Действительно, появление первого вида, создающего технологии, привело к новому эволюционному процессу технологий. Следовательно, технологическая эволюция является выходом и продолжением биологической эволюции.
- Конкретная парадигма (метод или подход к решению проблемы, например, уменьшение транзисторов на интегральной схеме как подход к созданию более мощных компьютеров) обеспечивает экспоненциальный рост, пока метод не исчерпает свой потенциал. Когда это происходит, происходит сдвиг парадигмы (т. е. фундаментальное изменение в подходе), который позволяет экспоненциальному росту продолжаться.
Курцвейл моделирует рост как состоящий из скорости роста технологий V(t) = c₁W(t), движимой и движущей общие мировые знания W'(t) = c₂V(t) (где c₁ и c₂ — константы). Это имеет экспоненциальное решение со скоростью роста c₁c₂. Затем он предполагает, что существуют экспоненциально увеличивающиеся вычислительные ресурсы N(t) = c₃·2c₄t и что мировые знания растут пропорционально произведению V(t) и N(t): W'(t) = c₁V(t)N(t) = c₁c₂c₃·2c₄tW(t), что имеет двойное экспоненциальное решение формы W(t) ∝ exp(Ct²).
Неясно, почему экзогенные вычислительные ресурсы N(t) не увеличиваются пропорционально W(t) — например, если экономика и население, предоставляющие их, были положительно затронуты ростом знаний, а не просто росли бы стабильно экспоненциально. Если бы была какая-либо положительная обратная связь с W(t), уравнения показали бы по существу то же поведение, что и уравнение (1), и имели бы сингулярность конечного времени.
Модель Винджа/Моравека (Тип A, B, I)
Оригинальное эссе о сингулярности Винджа (Vinge, 1993) не описывает никакой количественной модели. Оно говорит:
«Когда больший, чем человеческий, интеллект управляет прогрессом, этот прогресс будет намного более быстрым. Фактически, кажется, нет причин, почему сам прогресс не включал бы создание ещё более интеллектуальных сущностей — на ещё более короткой шкале времени. Лучшая аналогия, которую я вижу, — это с эволюционным прошлым: Животные могут адаптироваться к проблемам и делать изобретения, но часто не быстрее, чем естественный отбор может делать свою работу — мир действует как свой собственный симулятор в случае естественного отбора. Мы, люди, имеем возможность интернализовать мир и проводить „что если" в наших головах; мы можем решать многие проблемы в тысячи раз быстрее, чем естественный отбор. Теперь, создавая средства для выполнения этих симуляций на намного более высоких скоростях, мы входим в режим, столь же радикально отличный от нашего человеческого прошлого, как мы, люди, отличаемся от низших животных».
Это переформулировка модели интеллектуального взрыва Гуда (Good, 1965). Виндж также утверждает, что текущий технологический прогресс (особенно в вычислениях) находится под влиянием автоматизации проектирования, производя сильные стимулы для дальнейшей автоматизации. Это приводит к сильной обратной связи, где либо ИИ, усиление интеллекта, либо распределённый интеллект производят интеллектуальный взрыв. Формализация этого была бы моделированием технологического улучшения как экспоненциального процесса, где новые технологии уменьшают время удвоения. Однако, производит ли это сингулярность конечного времени или просто ускоряющийся рост, зависит от точной функциональной формы.
Ханс Моравек исследовал модель, основанную на Виндже (Moravec, a; Moravec, b). Первоначально он предположил, что «мировые знания» X(t) производят экспоненциальное ускорение производительности компьютера V(t) = eX(t). В случае постоянного числа людей, работающих без помощи, рост знаний был бы линейным, X'(t) = 1, производя X(t) = t и V(t) = et (стандартный закон Мура).
Если рост знаний вместо этого напрямую управляется компьютерами X'(t) = V(t) = eX(t), производя решение X(t) = log(−1/t) (t < 0). Это соответствует медленному росту, достигающему сингулярности. Дальнейшая модель добавила мощность компьютера к человеческой мощности, давая X(t) = log(1/(e−t − 1)), что имеет линейный рост для t ≪ 0, становится примерно экспоненциальным вблизи t = −1 и имеет сингулярность при t = 0.
Наблюдая, что V(t) = eX(t), вероятно, слишком оптимистично, он затем показал разнообразие моделей, где V(t) была вогнутой возрастающей функцией X(t), производя сингулярности конечного времени. Эти результаты по существу такие же, как наблюдение об уравнении (1). Слегка суперлинейный рост, например X'(t) = (1 + log(X(t)))X(t), просто производит быстрый двойной экспоненциальный рост, X(t) = exp(et − 1), но квадратичный логарифмический рост (X'(t) = (1 + log²(X(t)))X(t)) даёт rise к истинной сингулярности (X(t) = exp(tan(t))). Фактически, если логарифм имеет показатель > 1, существует окончательная математическая сингулярность.
В последующем обсуждении между Моравеком, Курцвейлом и Винджем (Kurzweil, Vinge & Moravec) Курцвейл отметил:
Моё чувство таково, что трудно обосновать на теоретических основаниях, чтобы скорость увеличения знаний была равна «размеру» знаний, возведённому в степень больше 1. Однако я действительно думаю, что можно обосновать отдельные компоненты роста, некоторые (или один) из которых имеют показатель один, а некоторые (или один) из которых имеют логарифмический показатель. Вышеуказанный анализ указывает на логарифмический показатель. Я считаю, что мы можем обосновать, что «ценность» типичной сети или базы данных не расширяется пропорционально её размеру, а логарифму её размера. Например, ценность Интернета для меня не удваивается, если число пользователей удваивается. Скорее, его ценность для меня увеличивается логарифмически. Показатель 1 приходит от числа самих пользователей. Наличие вдвое больше пользователей означает, что он обслуживает вдвое больше людей. Таким образом, общая ценность сети = n × log n (n людей обслуживается times ценность сети для каждого человека = log n). Это отличается от формулы Меткалфа, что ценность сети = n².
Он предположил, что эмпирических данных может быть достаточно для обоснования двойного экспоненциального, но нашёл невероятность бесконечной информации достаточно сильной, чтобы предварительно исключить более быстрые приращения.
Соломонофф (Тип A, B, I)
Рэй Дж. Соломонофф представил модель прогресса в ИИ, основанную на идее, что после того, как машина построена, которая имеет общую способность решения проблем вблизи человеческой в области, такой как промышленность или наука, такие машины будут использоваться в этих областях, ускоряя технологический прогресс. Это в конечном итоге привело бы к строительству машин с возможностями вблизи или за пределами оригинального сообщества компьютерных учёных (Solomonoff, 1985). В частности, он отмечает, что ключевыми факторами является то, что машинный интеллект в конечном итоге станет дешевле человеческого интеллекта, и что высокие первоначальные затраты на обучение могут быть компенсированы путём копирования уже обученных машин.
Его формальная модель состоит из роста эффективного сообщества компьютерных наук (люди плюс ИИ, люди предполагаются постоянными) C(t) как:
где R — скорость денег, потраченных на ИИ, а x(t) — количество вычислительной мощности на доллар. x(t) предполагается расти экспоненциально со временем удвоения, обратно пропорциональным размеру сообщества компьютерных наук:
где A — константа. Объединение уравнений и предположение c = x = 1 при t = 0 даёт:
что имеет сингулярность конечного времени для некоторого t. Предполагая время удвоения x каждые четыре года, получается A = log(2)/4 ≈ 0.1733; с R = 1 сингулярность происходит через 4.62 года, для R = 0.1 через 11.11 лет и R = 0.01 через 21.51 лет.
Модель неявно устанавливает t = 0 в точке, где достигается веха около-человеческого интеллекта; до этого компьютеры не предполагаются расширяющими эффективное сообщество компьютерных наук очень сильно. Следовательно, это модель только конкретного технологического сообщества, а не общего технологического роста, хотя правдоподобно, что быстрое увеличение x(t) profoundly повлияет на общество.
Хамахер (Тип E)
Хамахер прокомментировал модель Моравека/Винджа/Курцвейла, отметив, что её макроэкономическая грубость игнорирует проблемы координации, конкуренции, распределения ресурсов и социологические вопросы. Вместо этого он ввёл модель паутины определения цены, где предложение и спрос итеративно определяют количество и цену продукта. Если S(q) — предложение, а D(q) — спрос при количестве q, доступная цена pt и количество qt обновляются итеративно:
qt+1 = S⁻¹(pt+1)
Такие модели имеют богатую динамику, соответствующую итерированным 1-мерным отображениям, включая стабильные фиксированные точки, предельные циклы и хаотические аттракторы в зависимости от выбора S(q) и D(q). В частности, энтропия или показатель Ляпунова временного ряда qt производит горизонт прогнозирования: первоначальные неопределённости о состоянии системы растут экспоненциально со скоростью, установленной этими значениями. По мере изменения параметров для имитации динамики замещения вероятность встречи горизонта прогнозирования увеличивается (Hammacher, 2006).
Экономика городов (Тип A, G)
(Bettencourt et al., 2007) проанализировали экономику масштаба городов, показав, что многие величины, отражающие создание богатства и инновации, масштабируются с населением с показателем β > 1, подразумевая возрастающую отдачу. Величины инфраструктуры, с другой стороны, масштабируются с β < 1, показывая экономию масштаба. Больший город, следовательно, будет производить больше на душу населения, но иметь более низкие затраты на обслуживание на душу населения. Это в прямом контрасте с биологическими организмами, где «экономика» (частота сердечных сокращений, метаболизм, темп жизни) уменьшается с размером.
Авторы предложили уравнение городского роста. Рост ограничен доступностью ресурсов и скоростью их потребления. Ресурсы Y используются как для поддержания существующей инфраструктуры (по цене R за единицу времени и единицу инфраструктуры), так и для её расширения (по цене E, чтобы получить одну единицу). Распределение может быть выражено как Y = RX(t) + EX'(t), где X'(t) — скорость роста города. Общий рост:
что имеет решение (β ≠ 1; для β = 1 решение экспоненциально):
Для β < 1 рост в конечном итоге ограничен и приближается к асимптотическому уровню, очень похожему на биологический рост. Для β > 1 рост становится суперэкспоненциальным и в конечном итоге достигает сингулярности конечного времени, если есть достаточно ресурсов.
Однако авторы не считают эту сингулярность достижимой. Они утверждают, что в конечном итоге происходит переход к состоянию, ограниченному ресурсами, и вместо этого рост обращается и в конечном итоге рушится. Чтобы избежать этого кризиса, система должна «инновировать», изменяя ограничивающие пределы ресурсов, чтобы позволить дальнейший рост. Повторяя это в нескольких циклах, коллапс может быть отложен. Модель предсказывает, что время между циклами уменьшается как 1/X(0)β−1, где X(0) — размер в начале цикла. Это производит суперэкспоненциальный средний рост, пока достаточно сильные новые инновации могут поставляться с постоянно ускоряющейся скоростью — пока не будет достигнута сингулярность конечного времени.
Хотя модель описывает города, общая структура кажется применимой к экономическим системам с возрастающей отдачей.
Хэнсон (Тип A)
Робин Хэнсон исследовал экономику технологической сингулярности, используя стандартные экономические инструменты. Он проанализировал простую модель инвестиций в контексте технологической сингулярности (Hanson, 1998b). Он обнаружил, что кривая предложения капитала имеет две различные части, производящие два режима экономического роста. В нормальном режиме медленного роста нормы прибыли ограничены человеческими ставками дисконтирования. В быстром режиме инвестиции ограничены общим объёмом богатства — отдача настолько велика, что норма сбережений становится очень высокой. По мере развития технологий спрос на капитал медленно увеличивается, подталкивая систему к быстрому режиму (который, учитывая прошлый рост нормы сбережений, может произойти где-то «около 2150 года»). Однако этот режим требует тонкой настройки нормы сбережений и доли возврата инвестиций.
В большинстве смыслов технологической сингулярности количество доступного «ментального капитала» (людей или машин, способных выполнять квалифицированную работу) значительно увеличивается. Хэнсон моделирует это в экзогенной модели роста, которая исследует экономический рост при машинном интеллекте (Hanson, 1998a). По мере того как машины становятся более способными, они больше не просто дополняют человеческий труд (что имеет тенденцию увеличивать спрос на квалифицированный труд), но могут заменять его. В модели машины, заменяющие людей, имеют падающую цену, но первоначально компьютерные инвестиции покупают только неинтеллектуальные дополнительные компьютеры, поскольку цена ИИ слишком высока. По мере падения цены ИИ начинает заменять людей, и человеческие зарплаты будут падать вместе с ценой компьютера.
Введение машинного интеллекта делает годовую скорость роста как минимум на порядок больше, чем текущая скорость роста, со временем удвоения, измеряемым в месяцах, а не годах. Отчасти это связано с предположением, что компьютерная/ИИ технология растёт быстрее, чем другие технологии, отчасти потому, что машины могут быть произведены для удовлетворения производственных потребностей, в то время как люди должны вырасти. Это также производит очень быстрое увеличение популяции интеллектов, которая может быстро достичь мальтузианских пределов ресурсов: Хэнсон предсказывает, что потребление на интеллект будет иметь тенденцию к падению. Приведёт ли это к увеличению дохода на душу населения для людей, зависит от того, сохраняют ли они постоянную долю капитала.
Вариации модели, такие как эндогенный рост, изменение рабочих часов, континуум типов работ, где некоторые более подходят для людей, чем другие, и различение человеческого капитала, оборудования и программного обеспечения от другого капитала, не изменяют существенных выводов.
Хэнсон обнаружил, что переход от экономики, доминируемой людьми, к экономике, доминируемой машинами, может быть быстрым (порядка нескольких лет, предполагая развитие стоимости компьютера, подобное закону Мура). Эта модель по существу является экономической моделью «линейной сингулярности», где ИИ проходит диапазон человеческого интеллекта (или экономической эффективности). Она не предполагает, что технологический прогресс ускоряется по мере роста экономики быстрее, что, если бы было включено, ускорило бы переход.
Подобные экономические эффекты, вероятно, произойдут, если могут быть созданы эмуляции мозга (симуляции человеческих мозгов с достаточным разрешением для производства человеческого эквивалентного поведения и решения проблем (Sandberg & Bostrom, 2008)) (Hanson, 1994; Hanson, 2008a). Присутствие копируемого человеческого капитала приводит к взрыву популяции программного обеспечения, ограниченному стоимостью и доступностью оборудования, необходимого для запуска эмуляций, производя высокую скорость роста, но уменьшающиеся индивидуальные зарплаты.
Эмпирические оценки
Эмпирические оценки технологической сингулярности состоят из попыток сопоставить исторические (иногда даже палеонтологические и космологические) данные для оценки того, увеличивается ли «скорость изменения» экспоненциально или суперэкспоненциально. Это предполагает, что сингулярность вызвана текущим, крупномасштабным процессом в настоящем или прошлом. Модели интеллектуального взрыва и горизонта прогнозирования, вероятно, не могут быть поддержаны или оспорены с использованием этого вида данных.
Технологический рост (Тип A, B, H)
Существует значительная литература об экспоненциальном росте научных ресурсов и результатов, а также росте во многих технологических областях. Аналогично, существуют различные прогнозы неминуемых концов прогресса, либо из-за истощения ресурсов, либо более тонких вопросов.
Закон Решера гласит, что кумулятивный результат первоклассных находок в науке пропорционален логарифму того, сколько было инвестировано, производя только линейную отдачу по мере экспоненциального роста инвестиций (второсортные находки, с другой стороны, могут расти пропорционально инвестициям и не обязательно имеют пренебрежимую полезность) (Wagner-Döbler, 2001).
С другой стороны, Мейер и Валле утверждали, что технологический рост во многих областях (таких как мощность, производство, скорость, набор текста и т. д.) был суперэкспоненциальным, вероятно, гиперболическим и состоящим из меньших логистических кривых роста для отдельных технологий. Поскольку авторы не предполагали, что бесконечный рост осуществим, они предсказали, что переход от гиперболического роста к какому-то другому режиму будет либо через какую-то форму «мягкого регулирования», либо катастрофу (Meyer & Vallée, 1975).
Население (Тип A, G, I)
Различные авторы подогнали человеческое население к гиперболической кривой роста N(t) = C/(T − t), где население достигает бесконечности в некоторое время T. Это было заявлено как хорошее эмпирическое соответствие (von Foerster et al., 1960; Taagepera, 1979; Johansen & Sornette, 2001; Korotayev, 2007), но с 1970 года наблюдаемое население больше не соответствует кривой роста. (Kapitza, 2006) утверждает, что модель всё ещё по существу верна (рост управляется квадратом населения), но может быть расширена, и сингулярность удалена путём учёта конечного человеческого размножения; изменённая модель вместо этого предсказывает год 2000 как точку перегиба глобального роста населения.
Кремер протестировал предсказание своей модели экономического роста, обнаружив, что скорость роста населения исторически была пропорциональна населению. Поскольку количество технологических инноваций (которые увеличивают максимально возможное население) предполагается пропорциональным населению, это дало бы некоторые доказательства гиперэкспоненциального роста (Kremer, 1993).
Последовательность режимов экономического роста (Тип A, F, H)
Робин Хэнсон исследовал долгосрочный рост человеческой экономики (Hanson, 1998c), основанный на эмпирических оценках прошлого мирового продукта. Он обнаружил, что временной ряд мирового продукта за последние два миллиона лет мог бы быть хорошо подогнан с небольшим количеством экспоненциальных режимов роста. Одна интерпретация была как сумма четырёх экспонент, сложенных вместе6, но лучшее соответствие (с тем же количеством параметров) было моделью с постоянной эластичностью замещения между тремя экспоненциальными режимами роста. Эти режимы, по-видимому, соответствуют охотничьей, земледельческой и промышленной эрам и имели время удвоения 224 000, 909 и 6.3 года. Также могут быть некоторые доказательства более раннего режима, основанного на эволюции мозга.
В течение каждого периода времени экономика, как правило, доминируется только одним режимом, и скорость роста примерно постоянна7. Между этими режимами происходит быстрый (быстрее, чем типичное время удвоения предыдущего режима) переход к режиму со скоростью роста примерно на два порядка больше. Это управляется появлением новых технологий, которые изменяют структуру и масштаб экономики (Hanson, 2008b).
Учитывая прошлое появление таких новых режимов, Хэнсон предположил, что новый режим может произойти в относительно ближайшем будущем. Если количество времени удвоения во время режима примерно постоянно, это поместило бы переход где-то в течение XXI века.
Эта модель включает сингулярности типа A, F и H. Технически, она не включает никакого логистического ограничения на рост, а скорее логистическое подобие ограничения увеличения скорости роста внутри каждого режима. Она также уникальна в предсказании множественных прошлых сингулярностей (в смысле радикальных фазовых переходов типа F).
Сорнетт (Тип A, F, G)
(Johansen & Sornette, 2001) подогнали степенные законы формы (T − t)β к мировому населению, ВВП и финансовым данным. β допускается быть комплексным, подразумевая не только суперэкспоненциальный рост по мере приближения ко времени T (из-за действительной части показателя), но и всё более быстрые осцилляции (из-за мнимой части). Использование этой формы мотивировано аналогией с физикой, например, каскадами неустойчивостей Рэлея-Тейлора, формированием чёрных дыр, фазовым разделением и разрушением материалов, которые все показывают лог-периодические осцилляции перед финальной сингулярностью. Теоретически это было мотивировано соображениями дискретной масштабной инвариантности и комплексных критических показателей в неунитарных теориях поля (Saleur & Sornette, 1996).
Их вывод:
Главный посыл этого исследования заключается в том, что, каков бы ни был ответ и независимо от оптимистического или пессимистического взгляда на устойчивость мира, все эти важные данные указывают на существование конца текущей эры, который будет необратимым и не может быть преодолён никакими новыми инновациями предшествующего рода, например, новой технологией, которая делает возможным окончательное завоевание океанов и обширных минеральных ресурсов там. Это потому, что любая новая инновация глубоко встроена в само существование сингулярности — фактически, она питает её. В результате будущий переход человечества к качественно новому уровню вполне возможен.
Сдвиги парадигм (Тип A, F)
Были предприняты различные более или менее эмпирические попытки предсказать скорость сдвигов парадигм. Уровень доказательств и моделирования варьируется. Некоторые примеры:
Джеральд С. Хокинс предложил «уравнение мыслешага»:
для годов, когда произойдёт «мыслешаг» (фундаментальный сдвиг человеческой парадигмы). Оно сходится к 2053 году и основано на 5 (!) точках данных (Hawkins, 2002).
Nottale et al. утверждали, что основные экономические кризисы западной цивилизации показывают лог-периодический ускоряющийся закон с сингулярностью конечного времени ≈ 2080 (Nottale, Chaline & Grou, 2001).
Теодор Модис собрал ряд эволюционных поворотных точек из различных источников, оценивая их «скачки сложности» (основываясь на предположении, что изменение сложности будет обратно пропорционально расстоянию до следующего) (Modis, 2002). Он обнаружил, что лучшее соответствие росту сложности было крупномасштабной логистической кривой, помещающей настоящее примерно на полпути через историю вселенной.
Рэй Курцвейл перестроил те же данные и заключил, что скорость сдвигов парадигм удваивается каждое десятилетие, производя чрезвычайно быструю скорость ускорения (Kurzweil, 2001). Это вызвало энергичный ответ, критикующий независимость данных, методологию Курцвейла и общее предположение об ускоряющемся технологическом росте (Modis, 2006).
Д. Дж. ЛеПуар попытался оценить прогресс физики, назначая события различным подполям (например, оптика, волновая теория, квантовая механика и т. д.) и строя кривые доли результатов в подполе, которая была завершена к определённому времени; они были примерно логистическими. Используя их медианные времена, предположение, что общий прогресс физики в целом следует логистической кривой, и что некоторые подполя образуют естественные «стадии», произвело подгонку с центром на 1925 (LePoire, 2005). Его модель предполагает, что сингулярность уже прошла, по крайней мере в физике (сильное утверждение типа H).
Роберт Онджер утверждал, что термодинамика представляет собой ключевой фактор в изменении организации систем на протяжении истории, и сосредоточился на появлении новых механизмов контроля потока энергии внутри систем. Используя набор данных кандидатов, он обнаружил возрастающую тенденцию плотности потока энергии и степенное уменьшение длины промежутка между переходами. Хотя он предсказал, что следующий переход начнётся около 2010 года и продлится 20–25 лет, он утверждал, что в последнем столетии было плато в длине переходов, которое исключило бы технологическую сингулярность (Aunger, 2007)8.
Обсуждение
Как правило, математические модели, демонстрирующие рост, tend to exhibit at least экспоненциальный рост, поскольку это сигнатура линейных членов самосвязи. Если существуют эффекты масштаба, вводящие нелинейности, суперэкспоненциальный рост или сингулярности конечного времени, по-видимому, являются общими (generic). Следовательно, неудивительно, что существует множество моделей, производящих быстрый или сингулярный рост. Реальный вопрос заключается в том, могут ли модели с сильным отображением на реальность демонстрировать такие явления.
Следует также подчеркнуть, что даже если модель допускает математические сингулярности, её применимость или правдоподобие может не уменьшиться. Рассмотрим ньютоновскую и эйнштейновскую гравитацию, где математические сингулярности возникают, но лишь указывают на пределы применимости теории. Математические сингулярности в модели роста, вероятно, являются индикаторами переходов к другим областям роста или того, что другие, не смоделированные факторы станут релевантными вблизи этой точки. Правдоподобие (но, очевидно, не применимость) модели больше зависит от её соответствия несингулярной динамике в прошлом и настоящем, чем от её потенциального неадекватного поведения в будущем.
Эмпирические подгонки, основанные на «сдвигах парадигм» или других дискретных событиях, страдают от ограниченных данных, а также от эффектов смещения памяти — у нас больше доступных данных для недавних времён, и события, близкие к нам, могут казаться более драматичными. Также легко отбирать точки данных сознательно или бессознательно, подгоняя под ожидания (Schmidhuber, 2006). Кроме того, существует риск смещённого выбора модели: люди, склонные верить в сингулярность определённого типа, с большей вероятностью попытаются подогнать модели с таким типом поведения, чем люди, сопротивляющиеся этой идее.
Модели населения могут быть менее смещёнными, но не обязательно отслеживают технологические факторы, представляющие интерес, напрямую и, очевидно, ограничены биологическими ограничениями. Тем не менее, пересечение между моделированием населения, эмпирическими исследованиями технологического и экономического роста и моделями роста, по-видимому, предоставляет много возможностей для эмпирически ограниченного моделирования. Тот факт, что долгосрочный (по крайней мере) экспоненциальный рост может происходить и что многие не слишком неправдоподобные эндогенные модели роста могут производить радикальный рост, по-видимому, поддерживает некоторые формы концепции сингулярности.
Распространённая критика заключается в том, что технологическая сингулярность предполагает технологический детерминизм. Это кажется неверным: несколько, если не все, концепции сингулярности во введении могли бы применяться, даже если бы технология просто демонстрировала тенденции, управляемые недетерминистическими (но не полностью случайными) микроуровневыми решениями. В конце концов, модели населения не критикуются как «биологически детерминистические», если они не моделируют микромасштабную динамику — игнорирование случайности и статистического разброса является просто частью нормального процесса моделирования, и дальнейшие модели могут, если необходимо, включать такие тонкие детали. Будущие модели технологической сингулярности вполне могут включать многообразные микромасштабные или культурные детали, формирующие крупномасштабный прогресс, но понимание основной структуры явления должно начинаться с простых и надёжных моделей, где влияние различных предположений выведено на свет. Может оказаться, что технологический прогресс имеет достаточно степеней свободы, чтобы отклоняться от любой простой модели непредсказуемыми способами, но прошлые тенденции, по-видимому, предполагают, что крупномасштабные технологические тренды часто стабильны.
Самый надёжный вывод, учитывая вышеуказанные модели и подгонки, заключается в том, что даже небольшая возрастающая отдача в модели роста (будь то модель экономики, информации или размера системы) может производить радикальный рост. Следовательно, выявление петель обратной связи с возрастающей отдачей может быть способом обнаружения зарождающихся сингулярностей типа A.
Эндогенные модели роста и модели Робина Хэнсона также сильно поддерживают вывод о том, что если ментальный капитал (воплощённый в людях, искусственном интеллекте или постлюдях) становится относительно дёшево копируемым, крайне быстрый рост, вероятно, последует. Следовательно, наблюдение прогресса в направлении искусственного интеллекта, эмуляции мозга или других способов увеличения человеческого капитала может предоставить доказательства за или против сингулярностей типа A.
Существует заметный дефицит моделей того, как может произойти интеллектуальный взрыв. Это может быть самой важной и самой сложной проблемой в области исследований сингулярности. Самой важной — поскольку появление сверхинтеллекта имеет наибольший потенциал быть фундаментально меняющим правила игры для человечества (к добру или к худшему). Самой сложной — поскольку оно, по-видимому, требует понимания общей природы сверхчеловеческих разумов или, по крайней мере, способа ограничить их способности и скорости роста.
Нехватка моделей будущей предсказуемости менее удивительна: доступные данные показывают, что человеческие эксперты обычно слабы в долгосрочном прогнозировании даже без сингулярностей.
Благодарности
Я хотел бы поблагодарить Ника Бострома, Тоби Орда, Стюарта Армстронга, Карла Шульмана и Роко Мийича за полезные комментарии и дополнения.
Список литературы
Aunger, R. A rigorous periodization of 'big' history. Technological Forecasting and Social Change, 74:1164–1178, 2007.
Bekenstein, J. D. Universal upper bound on the entropy-to-energy ratio for bounded systems. Phys. Rev. D, 23(2):287–298, Jan 1981.
Bettencourt, L. M. A., Lobo, J., Helbing, D., Kühnert, C., and West, G. B. Growth, innovation, scaling, and the pace of life in cities. PNAS, 104(17):7301–7306, April 2007.
Bostrom, N. Singularity and predictability. 1998.
Barrow, J. D. and Tipler, F. J. The Anthropic Cosmological Principle. Oxford University Press, 1986.
Chaisson, E. J. The cosmic environment for the growth of complexity. Biosystems, 46(1-2):13–19, 1998.
Flake, G. W. How I learned to stop worrying and love the imminent internet singularity. Proc. 15th ACM CIKM, 2006.
Good, I. J. Speculations concerning the first ultraintelligent machine. Advances in Computers, 6, 1965.
Hammacher, K. Accelerating changes in our epoch and the role of time-horizons. In The Future of Life and the Future of our Civilization, vol. III. Springer, 2006.
Hanson, R. If uploads come first: the crack of a future dawn. Extropy, 6(2), 1994.
Hanson, R. Economic growth given machine intelligence. 1998a.
Hanson, R. Is a singularity just around the corner? Journal of Evolution and Technology, 2, 1998b.
Hanson, R. Long-term growth as a sequence of exponential modes. 1998c.
Hanson, R. Economics of brain emulations. In Unnatural Selection, pp. 150–158. EarthScan, 2008a.
Hanson, R. Economics of the singularity. IEEE Spectrum, pp. 37–42, June 2008b.
Hawkins, G. S. Mindsteps to the Cosmos. World Scientific, 2002.
Heylighen, F. The socio-technological singularity. 1997.
Heylighen, F. Accelerating socio-technological evolution. In Globalization as an Evolutionary Process. Routledge, 2007.
Hakenes, H. and Irmen, A. Airy growth — was the take-off inevitable? 2004.
Hakenes, H. and Irmen, A. On the long-run evolution of technological knowledge. Economic Theory, 30:171–180, 2007.
Johansen, A. and Sornette, D. Finite-time singularity in the dynamics of the world population, economic and financial indices. Physica A, 294:465–502, 2001.
Kapitza, S. P. Global population blow-up and after. Report to the Club of Rome, 2006.
Korotayev, A. Compact mathematical models of world system development. In Globalization as an Evolutionary Process. Routledge, 2007.
Kurzweil, R. The law of accelerating returns. 2001.
Kurzweil, R. The Singularity Is Near. Viking Penguin, 2005.
Kurzweil, R., Vinge, V., and Moravec, H. Singularity math trialogue.
Leontief, W. W. Input-Output Economics. Oxford University Press, 2nd ed., 1986.
LePoire, D. J. Application of logistic analysis to the history of physics. Technological Forecasting and Social Change, 72:471–479, 2005.
Kremer, M. Population growth and technological change: One million B.C. to 1990. QJE, 108:681–716, 1993.
Modis, T. Forecasting the growth of complexity and change. Technological Forecasting and Social Change, 69:377–404, 2002.
Modis, T. Discussion. Technological Forecasting and Social Change, 73(2):104–112, 2006.
Moravec, H. Simple equations for Vinge's technological singularity.
Moravec, H. Simpler equations for Vinge's technological singularity.
Meyer, F. and Vallée, J. The dynamics of long-term growth. Technological Forecasting and Social Change, 7:285–300, 1975.
Nottale, L., Chaline, J., and Grou, P. On the fractal structure of evolutionary trees. In Fractals in Biology and Medicine, Vol III. Birkhäuser, 2001.
Sandberg, A. and Bostrom, N. Whole brain emulation: A roadmap. Technical Report #2008-3, FHI, Oxford, 2008.
Schmidhuber, J. New millennium AI and the convergence of history. Challenges to Computational Intelligence, 2006.
Smart, J. Evo devo universe? In Cosmos and Culture. NASA Press, forthcoming.
Solomonoff, R. J. The time scale of artificial intelligence. Nort-Holland Human Systems Management, 5:149–153, 1985.
Smith, J. M. and Szathmáry, E. The Major Transitions in Evolution. Oxford University Press, 1995.
Saleur, H. and Sornette, D. Complex exponents and log-periodic corrections in frustrated systems. J. Phys. I France, 6(3):327–350, 1996.
Taagepera, R. People, skills, and resources. Technological Forecasting and Social Change, 13:13–30, 1979.
Turchin, V. and Joslyn, C. The cybernetic manifesto. 1989.
Turchin, V. The Phenomenon of Science. Columbia University Press, 1977.
Tyler, T. The singularity is nonsense.
Vinge, V. The coming technological singularity. NASA CP-10129, 1993.
von Foerster, H., Mora, P. M., and Amiot, L. W. Doomsday: Friday 13 November, A.D. 2026. Science, 132:1291–1295, 1960.
Wagner-Döbler, R. Rescher's principle of decreasing marginal returns. Scientometrics, 50(3), 2001.
Yudkowsky, E. S. Three major singularity schools. 2007.
Автор: Андерс Сандберг, Институт будущего человечества (Future of Humanity Institute), Оксфордский университет
Оригинал: «An overview of models of technological singularity», AGI-10, 2010
Перевод: полный, с сохранением всех формул и ссылок
Комментарии
Отправить комментарий
Ваше мнение по этому поводу?