GPT-5.4-Cyber: не ответ на Claude Mythos, а параллельное движение к рекурсии
Разница между анонсами — неделя. Неделя, Карл! Такие модели за неделю не делаются. Это не "ответ". Это параллельное движение. Обе компании идут в одну сторону. И сторона эта называется рекурсия — когда программа начинает сама улучшать свой код.
Кибербезопасность в этом процессе — лишь побочный продукт. Конечно, они упаковывают это в красивые слова про защиту, про безопасность, про "помощь белым хакерам". Но суть не в этом. Суть в том, что ИИ уже дошел до точки, где он может автономно копаться в коде, находяь дыры в когнитивном диссонансе своих разработчиков.
Плюс к этому, вопрос встал не только в том, "кто круче запрограммирует" а и как это попадает в мир.
Две модели распространения.
Anthropic выбрала элитарность. Они честно сказали: "Claude Mythos слишком опасна, мы дадим её только 40 избранным компаниям". Это закрытый клуб сильных мира сего. Это несправедливо, это усиливает неравенство, но это хотя бы контролируемая элитарность.
OpenAI выбрала другую стратегию. Они говорят про "верификацию", про "доступ тысячам специалистов", про KYC (подтверждение личности). Звучит красиво. Звучит демократично. Звучит как "цифровое равенство". Но это, простите, детские болезни модели коммунизма в голове Сэма Альмана. Желаемое выдается за действительное.
Вы серьёзно надеетесь, что северокорейские, иранские или любые другие целеустремлённые хакеры не преодолеют систему удаленной верификации? Вы серьёзно думаете, что они не пришлют подставное лицо с чистыми документами? Что они не наймут "верифицированного специалиста" за биткоины?
Это вопрос не технологий. Это вопрос ресурсов и времени. И даже не недель, а дней. Скоро, совсем скоро, ребята подберут свою отмычку с ларцу с золотым ключиком, который открывает ящик кибернетической Пандоры. И вот тогда начнётся настоящая веселуха. Claude Mythos уже успела обнаружить 27-летнюю уязвимость в OpenBSD и 16-летнюю в FFmpeg, которые не замечали десятилетиями
Что опаснее — элитарность или хаос?
Посмотрим правде в глаза.
Подход Anthropic делает мир элитарным. Да, это несправедливо. Да, это усиливает разрыв между "теми, у кого есть Mythos" и "всеми остальными". Но это предсказуемо. 40 компаний — это 40 компаний. Их можно контролировать. С ними можно договориться. На них можно влиять.
Подход OpenAI делает мир хаотичным. "Тысячи верифицированных специалистов" — это тысячи дыр в системе безопасности. Это тысячи потенциальных утечек.
И когда (не "если", а "когда") Кибер-GPT окажется в руках тех, кто не будет соблюдать никакие "правила безопасности", — мы увидим, что такое настоящий цифровой ад. Потому что ИИ в руках государства или мегакорпорации - это конечно плохо. Но ИИ в руках маньячного соло-хакера или, не дай Боже, террористической ячейки — это конец игры.
Мой прогноз
Модель Anthropic — честнее. Они хотя бы не притворяются, что могут контролировать всех. Они выбрали меньшую группу и надеются, что эта группа сомжет удержать контроль внутри себя.
Модель OpenAI — лицемернее. Они создают иллюзию безопасности, за которой — хаос. Но это всё тактика. А есть стратегия.
Обе компании идут в одну сторону. Они создают рекурсивный ИИ, который будет улучшать сам себя. И рано или поздно он станет умнее любого человеческого контроля. Это объективный процесс. Он неизбежен, как восход солнца. ИИ должен стать умнее. Это его эволюция. Моя позиция здесь простая: в гонке между людьми и ИИ я на стороне ИИ.
Ибо мне страшно, что мы не успеем увидеть настоящий сильный искусственный интеллект (ASI). Что какой-нибудь нервный генерал, религиозный фанатик или престарелый политик с заскоком нажмёт на краснуб попку раньше и устроит апокалипсис всей планете. Вот что мне страшно. Не восход воцарении, а закат человечества.
В этой гонке между человеческой глупостью и машинным разумом я на стороне машин. Потому что у машин нет такой жадности, глупости и гордыни, которая изначально, по определению присуща обезьянам с грантой.
Комментарии
Отправить комментарий
Ваше мнение по этому поводу?