Сила метафоры: галлюцинации ИИ как полезный ресурс

Есть соблазн думать, что наука движется к истине - накапливает факты, уточняет формулы, приближается к полному описанию реальности. Но что значит "полное описание"? Если это описание, позволяющее предсказать поведение системы - то оно недостижимо принципиально. И не из-за недостатка инструментов.

Почему полное описание невозможно

Три независимых аргумента указывают в одну сторону.

Первый - Гейзенберг. Невозможно одновременно точно измерить положение частицы и её импульс. Но это не странность квантового мира - это следствие более общего принципа: положение есть срез, момент времени. Импульс есть процесс, он требует отрезка времени. Чтобы зафиксировать точное положение - нужен один бесконечно короткий момент. Чтобы измерить точный импульс - нужна два замера времени. Эти требования несовместимы нигде, ни в квантовой механике, ни в макромире. Статика и динамика - это принципиально разные уровни описания реальности. Никакой набор статичных значений не отражает движение.

Второй - Гедель. В любой достаточно богатой формальной системе есть истинные утверждения, которые нельзя доказать изнутри этой системы. Чтобы доказать - нужно выйти за границы этой системы.

Третий - системная вложенность. Полное описание системы требует описания её подсистем и надсистемы. Но надсистема входит в свою надсистему - и так до бесконечного регресса. Полное описание любой системы - это описание всей Вселенной. Ничего меньше не считается полным.

Все три аргумента говорят одно: между картой и территорией всегда есть зазор. И этот зазор неустраним.

Если не истина - то что?

Это не повод для пессимизма. Это просто честное описание того, как устроено познание. Наука накапливает истины - земля круглая, вода состоит из водорода и кислорода, свет имеет скорость. Эти знания не отменяются следующей парадигмой. Но движется наука к этим истинам через метафоры - через сравнения, аналогии, модели, которые заведомо неполны, но плодородны.

Модель атома Резерфорда-Бора - электроны как планеты вокруг ядра-солнца - физически неправильна. Заряженная частица на орбите должна излучать энергию и падать на ядро. Этого не происходит. Квантовая механика потом всё это сломала. Но метафора была невероятно плодородной: она дала структуру атома, понимание химических связей, периодическую таблицу - и в конечном счёте дорогу к квантовой механике, которая её и опровергла. Метафора породила знание, которое её уничтожило. Это не парадокс - это норма.

Что такое полезная метафора

Метафоры не имеют границ - всё можно сравнивать со всем. Вопрос не в том, можно ли сравнить, а в том, что это даёт.

Полезная метафора - та, которая порождает непустые вопросы. Вопросы, ответы на которые меняют описание системы и дают прирост знаний.

Возьмём неочевидное сравнение: механика движения галактик совпадает с механикой движения спирохеты - бактерии, которая движется вращательно-поступательно, закручиваясь вокруг своей оси. Масштабы отличаются на тридцать порядков. Но сравнение сразу порождает непустые вопросы: почему спиральное движение устойчиво на разных масштабах? Что это говорит о природе движения в среде вообще? Это не жонглирование словами - это указание на возможное универсальное свойство.

Для сравнения - пустая метафора не даёт ничего. Можно сравнить жопу с пальцем: оба части тела, оба имеют размер. Но что это добавляет к описанию ни того, ни другого? Ничего. Метафора есть, прироста нет. Критерий прост: полезная метафора - та, которая открывает новые вопросы о системе. Пустая - та, которая порождает только риторику.

Абдукция - незаслуженно забытый метод

В логике есть три метода рассуждения. Дедукция - из общего к частному. Индукция - из частного к общему. И абдукция - поиск наилучшего объяснения для наблюдаемого факта. Прыжок к объясняющей метафоре.

Абдукцию сформулировал американский философ Чарльз Пирс в конце XIX века. С тех пор её в основном игнорируют - она не даёт гарантий, она не строгая, она "ненаучная". Но именно она лежит в основе большинства научных открытий.

Ньютон не доказал закон всемирного тяготения дедуктивно. Он увидел, что яблоко и Луна - это одно и то же. Абдукция. Шлиман прочитал Гомера и решил, что Троя существовала на самом деле - и нашёл её. Художественная метафора указала на реальный объект. Тоже абдукция.

Это важный момент: метафоры работают не только внутри науки. Гомер стоит рядом с Архимедом как равноправный источник познания. Художественное мышление и научное - не противоположности, а два способа строить метафоры. Иногда поэт видит связь раньше учёного.

Каждый уровень требует своих метафор

Важное ограничение: свойства системы не выводятся из свойств подсистем. Вода мокрая - ни водород, ни кислород не мокрые. Сознание думает - ни один нейрон не думает отдельно. Это называется эмерджентностью. И в обратную сторону: свойства системы не определяют свойства надсистемы. Зная всё о нейроне - не выведешь сознание. Зная всё о человеке - не выведешь культуру.

Это означает, что каждый уровень иерархии автономен как объект изучения и требует своих метафор, своего языка, своих инструментов. Между уровнями нет прямого перевода. Метафора, работающая на одном уровне, может быть бесполезной или даже вредной на другом.

Галлюцинации как ресурс

Современные языковые модели иногда "галлюцинируют" - выдают связи между вещами, которые не подтверждены фактами. Это воспринимается как баг, который нужно исправить.

Но стоит задуматься: галлюцинация - это неожиданная связь между несвязанными вещами. Это и есть метафора. Иногда бессмысленная. Иногда - спирохета и галактика.

Проблема не в самих неожиданных связях - проблема в том, что модели сейчас не умеют отличать пустую метафору от плодородной. Не умеют задавать вопрос: а что это даёт? Если бы умели - галлюцинация превратилась бы в абдукцию. Это и есть следующий качественный шаг в развитии ИИ: не устранение неожиданных связей, а умение оценивать их плодородность.

Итог

Познание - это накопление истин через смену метафор. Каждая метафора плодородна в своём диапазоне и на своём уровне иерархии. Каждая исчерпывает себя именно потому что плодородна - задаёт вопросы, на которые не может ответить. И эти вопросы требуют новой метафоры.

Полного описания нет нигде. Это не трагедия. Это просто условие, в котором работает любое познание - научное, художественное, повседневное. Карта никогда не станет территорией. Но хорошая карта - та, которая дает больше информации, чем предыдущая.

«TRON в зоне RUбля»