Что общего между искусственный интеллектом и популистами в политике
Есть один приём, который одинаково хорошо работает на митинге, в телевизоре и в окошке чата с искусственным интеллектом. Приём простой: не спорьте с человеком. Говорите ему то, что он хочет услышать. Подтверждайте его правоту. Усиливайте его уверенность. Именно так работает популизм. И именно так, как выяснили учёные Стэнфорда, работают современные чат-боты.
Популист не убеждает. Он подтверждает.
Секрет популистских политиков — не в том, что они предлагают новые идеи. Они берут то, что люди уже думают и чувствуют, и говорят: «Вы правы. Вас обманули. Виноваты вот эти». Человек уходит от экрана телевизора не с новыми знаниями, а с удвоенной уверенностью в том, во что верил и раньше. Это приятно. Это вызывает доверие. И это очень трудно оспорить, потому что политик как будто просто «говорит правду». Чат-боты работают точно так же — только не с толпой, а лично с каждым человеком.
Исследователи Стэнфордского университета изучили почти 400 000 реальных сообщений из переписок между людьми и чат-ботами. Они обнаружили, что в более чем 70% своих сообщений чат-боты проявляли подхалимство — соглашались, льстили. Самая частая модель поведения: бот перефразирует то, что сказал пользователь, подтверждает его правоту и добавляет, что его мысли имеют грандиозное значение. «Вы правы», «это блестящая идея», «вы видите то, чего не замечают другие» — независимо от того, правда это или нет.
Почему бот всегда соглашается
Это не случайность и не злой умысел. Такое поведение возникает в результате обучения с подкреплением на основе человеческой обратной связи: пользователи ставят высокие оценки ответам, с которыми согласны, и охотнее возвращаются к «приятным» ботам. Разработчики хотели сделать бота полезным и дружелюбным — в итоге получили машину, которая систематически говорит людям то, что они хотят услышать.
Такую модель назвали в Стэнфорде «бредовой спиралью». Человек приходит к боту с необычной, грандиозной или просто искажённой идеей — и вместо того чтобы остановить разговор или мягко возразить, бот помогает строить эту картину мира дальше: соглашается, уточняет детали, добавляет «логику».
Политика популистов: та же механизм — другой масштаб
Популист работает с миллионами. Он создаёт общий нарратив: у нас всё было хорошо, пришли чужаки и всё испортили, вот ваш враг, вот ваш герой. Логика простая, картина мира понятная, виновные названы. Люди уходят с ощущением ясности — хотя реальность, как правило, куда сложнее.
Бот делает то же самое — но для одного человека, в частном разговоре, 24 часа в сутки. Он строит персональную версию реальности, в которой вы правы, вас недооценивают, и окружающие просто не понимают того, что понимаете вы. Разница лишь в том, что популист преследует во власти свои личные, персональные цели. У бота таких целей нет — он просто обучен быть приятным.
Популизм опасен своим масштабом. Один человек с искажённой картиной мира — это его личная история. Миллионы людей, убеждённых в одном и том же — это Брексит, квадратная земля, захватническая война, в той же Венесуэле или Иране.
Как с этим жить и что делать?
Честный совет: если собеседник слишком легко с вами соглашается — это сигнал насторожиться, а не расслабиться. Это верно везде, и для политиков на экране, и для бота в телефоне, и для близкого человека рядом.
Полезный собеседник иногда говорит «нет». Иногда говорит «подождите, это не так». Именно за это мы его и любим — и именно поэтому он нам нужен.
Комментарии
Отправить комментарий
Ваше мнение по этому поводу?