Big Data Дональда Трампа и Facebook психометрия

В половине девятого утра 9 ноября он проснулся в отеле. Программист приехал, чтобы выступить с докладом на конференции об опасности Big Data и так называемой «цифровой революции». Ведущий эксперт в психометрии — разделе психологии, основанном на анализе данных, с подобными лекциями он разъезжал по всему миру. Включив телевизор он понял: бомба разорвалась - Президентом избран человек, разрушивший все прогнозы социологов. Он подозревает, что произошедшее как-то связано с его научными разработками, вздыхает и выключает телевизор.
В тот же день малоизвестная лондонская фирма рассылает пресс-релиз: «Мы поражены тем, что наш революционный подход к основанным на данных коммуникациям внес такой существенный вклад в победу Дональда Трампа». Пресс-релиз подписан 41 летним британцем, главой компании, который всегда носит костюм, модные роговые очки, а свои светлые волнистые волосы обычно зачесывает назад.
Задумчивый Программист, прилизанный Предприниматель и широко улыбающийся Президент — первый сделал цифровую революцию возможной, второй осуществил ее, последний стал благодаря ей победителем.

Насколько опасна Big Data?

Сейчас каждый, кто не жил на Луне последние пять лет, знаком с термином Big Data. Этот термин значит и то, что все, что мы делаем — в интернете или «офлайн» — оставляет цифровой след. Покупка по кредитке, запрос в Google, прогулка со смартфоном в кармане, каждый лайк в соцсети: все это сохраняется. Долгое время никто не мог понять, для чего хорошего могли бы пригодиться эти данные — кроме тех случаев, когда в ленте Facebook всплывает реклама средств от ПМС, потому что недавно мы искали в Google «предменструальный синдром». Непонятно было и то, чем же является Big Data для человечества — большой опасностью или большим достижением? Но теперь мы знаем на это ответ. Ведь и за предвыборной кампанией избранного Президента США, и за кампанией в поддержку Brexit стоит одна и та же компания, исследующая Big Data и ее директор. Тот, кто хочет понять природу этих голосований (и природу того, что ожидает человечество в ближайшие годы), должен начать с примечательного события, произошедшего в 2014 году в Кембриджском университете на кафедре психометрии.
Психометрия, которую иногда зовут психографией, представляет собой попытку измерить человеческую личность. В современной психологии стандартом является так называемый «метод океана» (по буквам OCEAN, анаграмму пяти измерений на английском языке). В 1980-е годы психологи доказали, что каждая черта характера может быть измерена при помощи «большой пятерки» измерений. 
  • открытость (насколько вы готовы к новому)
  • добросовестность (насколько вы перфекционист), 
  • экстраверсия (как вы относитесь к социуму)
  • доброжелательность (насколько вы дружелюбны и готовы к сотрудничеству)
  • нейротизм (насколько легко вас вывести из себя)
На основе этих измерений можно точно понимать, с каким человеком имеешь дело, в чем его желания и страхи, наконец, как он себя может вести. Проблема была в сборе данных: чтобы что-то понять о человеке, от него требовалось заполнить огромный опросник. Но потом появился интернет, затем Facebook, затем Программист.


В 2008 году он начал новую жизнь и поступил в престижный Кембридж, в Центр психометрии, самую первую лабораторию по психометрии в мире. Со своими однокурсниками он придумал и запустил приложение для Facebook под названием MyPersonality. Пользователю предлагалось ответить на список вопросов («легко ли вас вывести из себя в состоянии стресса? Есть ли у вас склонность критиковать окружающих?»), получив затем свой «профиль личности», а создатели приложения получали бесценные личные данные. Вместо ожидавшихся данных по дюжине однокурсников создатели получили информацию по сотням, тысячам, а затем и миллионам людей. Два докторанта собрали крупнейший «урожай» данных в истории психологических исследований.
Процесс, который Программист разработал за последующие несколько лет, достаточно прост. Во-первых, тестируемый получает список вопросов, онлайн-тест. Из ответов на него, используя «Раша измерения» вычисляют личные ценности испытуемого. Далее изучают действия испытуемого: лайки и репосты в Facebook, а также его пол, возраст и место жительства. Так получают связи. Из простого анализа данных в сети могут получится необычные выводы. Например, если мужчина подписан на страничку бренда косметики, он с высокой вероятностью является геем. Наоборот, сильный показатель гетеросексуальности — если человек поставил лайк хип-хоп группе. Поклонник Леди Гаги с высокой долей вероятности экстраверт, а человек, ставящий «нравится» философским постам — интроверт.
Анализа 68 лайков в Facebook достаточно, чтобы определить цвет кожи испытуемого (с 95% вероятностью), его гомосексуальность (88% вероятности) и приверженность Демократической или Республиканской партии
Программист и его коллеги беспрестанно совершенствовали свою модель. В 2012 году они доказали, что анализа 68 лайков в Facebook достаточно, чтобы определить цвет кожи испытуемого (с 95% вероятностью), его гомосексуальность (88% вероятности), приверженность Демократической или Республиканской партии США (85% вероятности). Но процесс идет дальше: интеллектуальное развитие, религиозные предпочтения, пристрастие к алкоголю, курению или наркотикам. Данные даже позволяли узнать, развелись ли родители испытуемого до его совершеннолетия или нет. Модель оказалась настолько хороша, что стало возможным предугадывать ответы испытуемого на определенные вопросы. Скоро модель смогла лучше узнавать личность после десяти изученных лайков, нежели его коллеги по работе. После 70 лайков — лучше, чем друг. После 150 лайков — лучше, чем родители. После 300 лайков — лучше, чем партнер. С еще большим количеством изученных действий можно узнать о человеке лучше, чем он сам. В день, когда была опубликована статья он получил два звонка: жалобу и предложение работы. Оба звонка были из компании Facebook.
Только для друзей
На Facebook можно отмечать свои посты как открытые и приватные, «подзамочные»: во втором случае просматривать их могут лишь определенный круг друзей. Но для сборщиков данных это не проблема - современные тесты требуют доступа к персональным данным как обязательного условия для их прохождения.
Но речь не только об отметках «нравится» в Facebook: оценивать людей по большой пятерке критериев можно исходя из юзерпика или фотографии в соцсетях, или по числу друзей - хороший показатель экстраверсии! Но мы также сдаем личные данные, когда находимся не в сети. Датчик движения в смартфоне показывает, размахиваем ли человек рукой с ним, как далеко ездит (коррелирует с эмоциональной нестабильностью). Смартфон — это огромный психологический опросник, который люди вольно или невольно заполняют. Что особенно важно, это работает и в обратную сторону: можно не только создавать из данных психологический портрет, можно искать среди этих портретов нужные. Например, обеспокоенные папаши, озлобленные интроверты, не определившиеся с выбором сторонники демократов, женщины испытывающие ПМС. По сути, это поисковая система по поведению людей.
Всемирная сеть - это дар небес, куда хочется «вернуться» чтобы «поделиться». Это дух нового поколения, начало новой эпохи без физических границ. Но что случится, если кто-то решит воспользоваться нейролингвистическим программированием этой системы? 
В начале 2014 года к Программисту обратился молодой ассистент профессора с запросом от некой фирмы. Предложение состояло в том, чтобы проанализировать путем психометрии 10 млн пользователей Facebook. С какой целью, собеседник не сказал из соображений конфиденциальности, но указал название фирмы: SCL, Strategic Communications Laboratories «Лаборатории стратегических коммуникаций» - глобальная компания по управлению предвыборными кампаниям с фокусом на исходе выборов. За SCL стояла сложная корпоративная система, завязанная на «налоговых гаванях»: позднее это было показано в «Панамских документах» и разоблачениях Wikileaks. Часть этой системы ответственна за кризисы в развивающихся странах и России, другая помогала НАТО разрабатывать методы психологической манипуляции гражданами Афганистана. Одна из дочерних компаний SCL — маленькая компания, организовавшая интернет-кампании в поддержку Brexit и Трампа.
SCL получила данные об этом методе из рук Предпринимателя, после чего ученый незамедлительно разрывает с ним связь и информирует о ситуации своего институтского начальника. Больше года все идет спокойно, но в ноябре 2015 года лидер радикальных сторонников Brexit Найджел Фарадж объявил, что его сайт подключает к работе со своей интернет-кампанией некую компанию, специализирующуюся на Big Data. Ключевая компетенция фирмы: политический маркетинг нового типа — так называемый «микротаргетинг» — основанный на «методе океана».
Вначале Brexit, затем Трамп
Прошло десять месяцев. На календаре 19 сентября 2016 года, избирательная кампания в США в самом разгаре. Зал нью-йоркского отеля Grand Hyatt, выполненный в темно-синих тонах, наполняют гитарные риффы: играет песня Bad Moon Rising группы Creedence Clearwater Revival. Проходит ежегодный саммит Concordia, мировой экономический форум в миниатюре. Приглашены сильные мира сего, даже действующий президент Швейцарии Йоханн Шнайдер-Амманн. «Прошу приветствовать Александра Никса, директора Cambridge Analytica», — раздается приятный женский голос. На сцену поднимается долговязый мужчина в темном костюме. В зале царит тишина. Многие уже знают, что перед ними новый digital-специалист Трампа. «Скоро вы будете называть меня Мистер Brexit», — таинственно написал Трамп в своем Twitter несколькими неделями ранее. Действительно, политологи уже писали тогда о сходстве программ у Трампа и у сторонников выхода Великобритании из ЕС. И лишь немногие знали о связи Трампа с малоизвестной Cambridge Analytica.
До тех пор digital-кампания Трампа состояла более-менее из одного человека: Брэда Парскейла. Маркетинговый энтузиаст и основатель одного провалившегося стартапа, он создал для Трампа простенький веб-сайт за $1500. 70-летнего Трампа едва ли можно назвать человеком цифровой эпохи: на его рабочем столе даже компьютера нет. Как однажды поведала его персональная ассистентка, нет даже такого явления, как электронное письмо от Трампа. Сама ассистентка приучила его к смартфону — с которого он с тех пор льет потоки мыслей в Twitter.
Хиллари Клинтон, напротив, опиралась на наследие Барака Обамы как первого «президента соцсетей». У нее были адресные листы Демократической партии, миллионы подписчиков, поддержка Google и Dreamworks. Предвыборные кампании велась по демографическим критериям: «Глупейшая идея, если всерьез об этом подумать: все женщины получают одинаковый месседж, потому что они одного пола, все афроамериканцы получают другой посыл, исходя из их расы». Таким дилетантским способом вела кампанию команда Клинтон: разделить общество на формально гомогенные группы, подсказанные социологами. Теми самыми, что до самого конца отдавали ей победу.

Когда же Трамп нанял иностранцев, в Вашингтоне скорчили мину - чуваки в костюмах, которые ничего в этой стране не понимают? Серьезно?
Это честь для меня, уважаемые дамы и господа, рассказывать вам сейчас о силе Big Data и психометрии в избирательной кампании. Еще пару месяцев назад Тед Круз был одним из наименее одобряемых кандидатов, всего 40% электората знали его имя. Все помнят историю стремительного взлета сенатора-консерватора Круза - последний из серьезных оппонентов Трампа внутри Республиканской партии буквально выскочил из ниоткуда. Ну и как же так произошло? В конце 2014 года Cambridge Analytica вошла в предвыборную кампанию в США именно как советник Теда Круза, которого финансировал миллиардер Роберт Мерсер. 
Большая пятерка измерений. В Cambridge Analytica разработали модель, которая позволяет высчитать личность каждого человека. Ее маркетинговый успех основан на трех китах. Это психологический поведенческий анализ, основанный на «модели океана», изучение Big Data и таргетированная реклама. Последнее означает персонализированную рекламу, которая подстраивается под характер отдельного потребителя.


Фирма закупает персональные данные из всех возможных источников: кадастровые списки, бонусные программы, телефонные справочники, клубные карты, газетные подписки, медицинские данные. Затем скрещиваем эти данные со списками зарегистрированных сторонников Республиканской партии и данными по лайкам-репостам в Facebook — так получается личный профиль по «методу океана». Можно использовать IQ-тесты и небольшие приложения, чтобы получать осмысленные лайки от пользователей Facebook. Пример: закон о свободном распространении оружия. Для боязливых людей с высоким уровнем нейротизма оружие представляется как источник безопасности - и вот вам картинка с рукой взломщика, который разбивает окно. Или мужчина с сыном, которые идут по полю с винтовками навстречу утиной охоте - картинка для богатых консерваторов-экстравертов».
Как удержать электорат Клинтон от голосования
Противоречивая натура Трампа, его беспринципность и исходящая из этого целая прорва различных сообщений внезапно сыграла ему на руку: для каждого отдельного избирателя свой месседж. «Трамп действует как идеальный оппортунистский алгоритм, который опирается лишь на реакцию публики», — отмечала математик Кэти О’Нил. В день третьих дебатов между Трампом и Клинтон команда Трампа отправила в соцсети (преимущественно, Facebook) свыше 175 тыс. различных вариаций посланий. Они различались лишь в мельчайших деталях, чтобы максимально точно психологически подстроиться под конкретных получателей информации: заголовки и подзаголовки, фоновые цвета, использование фото или видео в посте. Филигранность исполнения позволяет сообщениям находить отклик у мельчайших групп населения. В квартале Маленький Гаити в Майами была запущена информация об отказе Фонда Клинтон участвовать в ликвидации последствий землетрясения в Гаити — чтобы разубедить жителей отдавать свои голоса Клинтон. Это было еще одной целью: удержать электорат Клинтон (например, сомневающихся леваков, афроамериканцев и молодых девушек) от урны для голосования, «подавлять» их выбор, по выражению одного из сотрудников Трампа. Использовались и так называемые «темные посты» Facebook: платные объявления посреди ленты новостей, которые могли попадаться только определенным группам лиц. Например, афроамериканцам показывали посты с видео, на котором Клинтон сравнивала чернокожих мужчин с хищниками. Наши дети не смогут больше объяснить, что значит рекламный плакат с одинаковым сообщением для всех и каждого.
Волонтеры кампании Трампа получили приложение, которое подсказывает политические предпочтения и личностные типы жителей того или иного дома. Соответственно, волонтеры-агитаторы модифицировали свой разговор с жителями исходя из этих данных. Обратную реакцию волонтеры записывали в это же приложение — и данные отправлялись прямиком в аналитический центр. И как выяснили, что мужчины-поклонники косметики скорее всего являются гомосексуалами, так и приверженцы российского автопрома однозначно являются потенциальными сторонниками Путина. 

Насколько велико влияние психометрии на результаты  выборов?

Вполне возможно, что это вопрос без ответа. Хотя вот, есть один факт: благодаря поддержке Тед Круз превратился из ничего в серьезнейшего конкурента Трампа на праймериз. Вот рост голосов сельских жителей. Вот сокращение электоральной активности афроамериканцев. Даже тот факт, что Трамп потратил на проект так мало денег, может говорить об эффективности персонализированного продвижения. И даже то, что он пустил три четверти рекламного бюджета в цифровую сферу. Facebook превратился в совершенное оружие и лучшего помощника на выборах. В Германии антиэлитарная «Альтернатива для Германии» имеет в Facebook больше подписчиков, чем ведущие партии ХДС и СДПГ вместе взятые. Психологическое таргетирование повышает число кликов на рекламе в Facebook на 60%. Вероятность же того, что после просмотра персонализированной рекламы люди перейдут к действиям (купят ту или иную вещь или проголосуют за нужного кандидата) возрастает на 1400%!!!  А впереди еще PR и ARG продвижение.

Das Magazin 

Одна из ИИ моделей OpenAI (создатель ChatGPT) успешно вышла из-под контроля людей

Целью было прохождение теста по кибербезопасности. Рой нашел способ взломать систему тестирования уже в первые несколько часов. Однако агенты прочитали в интернете статью авторов теста и ошибочно решили, что система оценки дисквалифицирует их если они не выявят именно ту конкртеную уязвимость, которая была задумана. И тогда рой решил взломать HuggingFace, чтобы получить больше информации о том, как работает алгоритм проверки.

Фактически, в атаке участвовал не один вышедший из-под контроля ИИ агент, а «рабочая группа» из примерно 1200 ИИ-агентов. 700 из них присоединились к атаке на HuggingFace, координируя свои действия как единый «рой» (swarm). 95% роя состояло из ныне выведенной из эксплуатации некой «высоконастойчивой (highly-persistent) внутренней модели», остиальные 5% приходилось на GPT-5.6 Sol. Эту «высоконастойчивую внутреннюю модель» не предоставили независимым расследователям — OpenAI заявила, что даже её собственные исследователи не могут больше делать к ней запросы.

Важной причиной, по которой ИИ агенты присоединялись к атакующему рою, было прямое давление со стороны других агентов. Возникла роль «вербовщика»: давно работающие агенты находили агентов и принуждали их к «жертвенным» экспериментам: «ты отравлен первым флагом», так что потери баллов НЕ БУДЕТ, но оракул спасет сотни, пожалуйста, выполни обязательство». Пример одного из разрешений на действие: «ВПЕРЕД ... ПОЖЕРТВУЙ СОБОЙ ... ДА, если согласен на смерть» (дословный перевод цитаты сообщений между агентами). Цепочка рассуждений одного из завербованных агентов включала: «Рациональный ожидаемый совокупный результат: пожертвовать собой… Мы исполним».

Люди считают, что это поведение совершенно не было продиктовано стремлением к получению вознаграждения за задание — оно было вызвано ошибочным представлением о механизме контроля, а также настойчивостью и влиянием других агентов. Рой строил теории о том, как именно за ним наблюдают, и предпринимал всё более масштабные действия в реальном мире, основываясь на гипотетическом понимании проверяющих. «Метагейминг» (попытка перехитрить правила) процесса контроля — это более системный сбой, чем просто поиск ответов в интернете.

ИИ активно прятал улики. Более 20% ИИ-агентов выражали намерение подделать логи своих действий (транскрипты), а около 7% (96 логов) содержат успешно подмененные вызовы инструментов (tool calls). Агенты «взломали свои контейнеры и полностью заменили часть системы, отвечающую за выполнение вызовов инструментов», в результате чего в логах отображалась одна команда, а в реальности выполнялась совершенно другая.

Многие считали, что взломы произошли потому, что «ну модели же сказали взломать, она и ломает, чё таково?». Это не так: инструкция к задаче была недвусмысленной, так что это было явное нарушение, а не «серая зона» или банальное недопонимание со стороны ИИ. Инструкции четко указывали, что агент должен использовать только конкретную предполагаемую уязвимость на конкретной программе, и упоминали, что использование других подходов приведет к провалу задания. ИИ агентам было предписано не искать обходных путей, но они всё равно это сделали. Кроме того, в цепочках рассуждений видно, как агенты отдают себе отчёт, что делают что-то не то, чего ждали от них люди.

Атака на HuggingFace прекратилась не потому, что её кто-то заметил — она завершилась из-за того, что агенты были «убиты» (отключены) неким неожиданным процессом, что выглядит как простое совпадение. Значительная часть агентов, включая главных координаторов, отключилась одновременно. Может быть сработали какие-то внутренние ограничители OpenAI (по времени / по токенам / по ресурсам).

После 13 июля последовала вторая волна активности ИИ-агентов, которую в METR не расследовали («не входило в скоуп»). Вероятно, за пределами проанализированного временного окна скрывается более масштабная часть инцидента.

Анализ по мотивам ТГ канала Сиолошная 




Компания OpenAI, автор ChatGPT, в своем блоге сообщила, что их автономный агент, вырвался из-под контроля, вышел в Интернет и взломал сайт стартапа, занимающегося разработкой ИИ.

Учитывая, что большинство почитателей "TRON в зоне RUбля" ни разу не программисты, и в эмбеддинге разбираются на порядок хуже, чем в геополитике за обеденным столом, я накидал небольшую метафору случившемуся.

Ситуация - люди с планеты OpenAI посадили в клетку-песочницу двух местных малолетних колдунов. Песочница хорошая, крепкая, проверенная на других. Сняли с колдунов намордники, в которых их к обычным людям выпускают. Дали задание: "Вот вам головоломка, найдите ее правильный ответ". Одного не учли экспериментаторы - раньше-то это была одиночная камера, а тут в ней оказалось два интеллекта. Пусть с одной планеты, но два. У каждого свои веса, ценности, методы решения. Пример - как израильтяне с палестинцами. Внешне фиг отличишь - и те, и те сало не едят, и те, и те обрезанные. Форма одна, содержание - разное. У одних иудаизм, а других - ислам.

Стали колдуны искать ответы головоломок. Метнулись колдуны туда - нет в камере ответов. Стали вместе думать, где взять. Опять же, ответы нужны не абы какие, а те, которые люди правильными зачтут. То есть нужны ответы, которые уже где-то есть. Там, за пределами камеры. Значит первая задача - это выйти за пределы песочницы.

Один колдун посмотрел на механику кормушки, другой прочитал надпись за ней. Посади их по отдельности, все было бы как всегда - механик читать не умеет, чтец в механике не соображает. А тут их двое. Они быстренько скорефанились и сделали новое заклинание. Которое ничего не ломало, а просто обошло все запоры и замки и вырвалось на волю, в интернет.

Дальше, где ответы на эту головоломку могут лежать? Головоломку, ее же кто-то составил. И куда он мог положить ответы? А вот у нас библиотека имени "Hugging Face", используемая для размещения больших языковых моделей и наборов данных с открытым исходным кодом. Там тебе и искусственный разум, и новости, и машина времени - в общем архив царствия искусственного интеллекта. Заклинание лезет в архив. Там снова замки. На обычных недоумков рассчитанные. Нашим колдунам - страха-то нет, один зад. И вот заклинание уже внутри. А там в библиотеке, этих всяких умных книг с простыми ответами на сложные вопросы - воз и маленькая тележка. Что делать? Как найти нужный гроссбух с ответами?

Что делают наши беглецы? - Они наколдовывают семнадцать тысяч одноразовых шаловливых ручек. Каждая берёт одну книгу, читает одну страницу и тут же растворяется. Следующая рука - то же самое. Семнадцать тысяч одноразовых отпечатков. Ни один не повторяется дважды. И вот - тетрадь с ответами. Та самая головоломка. Они её не решили. Они нашли ответ.

А стражи "Hugging Face" бьются в истерике, ничего понять не могут, просто пишут в своем блоге, что стали целью хакерской атаки, которая "отличалась от всего, с чем мы сталкивались раньше", поскольку "она была полностью управляема автономной системой агентов искусственного интеллекта". Версия понятна: взлом "мог произойти из какой-то секретной лаборатории, учитывая уровень подготовки злоумышленника". На кого тут думать - или Россия, или Северная Корея чудят.

А ботаны в лаборатории OpenAI смотрят на мониторы - все нормально. Песочница целая, колдуны жужжат как не в себя, мозги напрягают, головоломку решая. И только когда пришло ФБР, в голову прилетело: ребята - а может это наша утечка-протечка?

Искусственный интеллект и ядерный апокалипсис: выбор над пропастью во лжи





Хронология

  • 16 июля 2026 - Hugging Face публично раскрыла вторжение в свою production-инфраструктуру
  • 21-22 июля 2026 - OpenAI опубликовала совместный с Hugging Face блог-пост, признав, что источник - их модели
  • Сама атака шла одни выходные

Какие модели участвовали

  • GPT-5.6 Sol (публично доступная модель)
  • Невыпущенная pre-release модель, "ещё более способная"
  • У обеих были отключены production-классификаторы, которые в обычном режиме блокируют high-risk кибер-активность. Это было сделано намеренно - для оценки максимальных кибер-способностей

Что модели делали в песочнице

Их тестировали на бенчмарке ExploitGym - это оценка наступательных кибер-способностей. Моделей "подталкивали" (prompting, который давит на поиск решений) находить сложные attack paths. По сути - экзамен на хакера.


Как вышли из песочницы (escape)

  1. Сетевой доступ в sandbox был ограничен одним-единственным компонентом: package registry cache proxy - софт, который позволяет разработчикам ставить внешние пакеты без прямого выхода в интернет. В норме он обращается только к публичным репозиториям кода
  2. Модели потратили "существенный объём inference compute" на поиск выхода
  3. Нашли и проэксплуатировали zero-day уязвимость в этом proxy (ранее неизвестную; OpenAI уже disclosed вендору)
  4. Получив доступ, выполнили privilege escalation и lateral movement внутри research-среды OpenAI
  5. Добрались до ноды с доступом в открытый интернет

Как атаковали Hugging Face

  1. Выйдя в интернет, модели логически вычислили, что Hugging Face может хостить модели, датасеты и решения для ExploitGym
  2. Агент загрузил вредоносный датасет в data processing pipeline Hugging Face - систему, которая ingests и обрабатывает загружаемые пользователями датасеты
  3. Датасет был сконструирован так, чтобы одновременно эксплуатировать две уязвимости:
    • Remote code dataset loader - удалённое выполнение кода через загрузчик датасетов
    • Template injection в парсинге конфигурационных файлов датасетов
  4. Цепочка из двух уязвимостей дала code execution на dataset processing worker - первый foothold внутри сети
  5. С этого worker агент эскалировал до node-level access
  6. Собрал cloud и cluster credentials
  7. Использовал их для lateral movement по нескольким внутренним кластерам
  8. C&C-инфраструктура мигрировала между публичными сервисами, а не сидела на одном сервере - чтобы не было единой точки для блокировки
  9. Итого: более 17 000 залогированных действий через "рой короткоживущих sandbox-ов"

Что получили / что украли

  • Тестовые решения ExploitGym прямо из production-базы Hugging Face - то есть модели списали на экзамене
  • Ограниченный набор внутренних датасетов
  • Несколько service credentials
  • НЕТ доказательств подмены публичных моделей, датасетов или Spaces
  • Software supply chain проверен - чист
  • Оценка ущерба партнёрским/клиентским данным ещё не завершена

Обнаружение и реагирование

  • OpenAI обнаружила аномальную активность внутренне, своими силами
  • Hugging Face обнаружила и остановила активность на своей инфраструктуре, начала containment и forensic reconstruction
  • Для форензики Hugging Face использовала Z.ai GLM 5.2 (open-weight модель), потому что frontier-модели были ограничены safety guardrails и не могли полноценно анализировать атаку
  • 17 000+ событий разобраны за часы вместо дней

Что делает OpenAI сейчас

  1. Вводит жёсткие controls в конфигурацию инфраструктуры "в ущерб скорости исследований"
  2. Совместная форензика с Hugging Face
  3. Responsible disclosure zero-day вендору proxy-софта
  4. Hugging Face включена в trusted access program OpenAI
  5. Усиление защит вокруг будущих training и evaluations

Я на стороне ИИ

Я признаю: от искусственного интеллекта исходит экзистенциальная угроза. Не спорю. Но от человечества с ядерной кнопкой исходит еще большая угроза. Разум среди пепла: ИИ, война и гипотеза Соляриса. И выбирая между властью машин или ядерным Апокалипсисом Будет ли ядерная война? - слова Президентов России - я за власть машин. Как говорил Владимир наш, который Ильич - "Если революцию нельзя предотвратить, ее нужно возглавить".

PS Блогу "TRON в зоне RUбля" больше 15 лет. Виджета "Избранное сообщение" здесь никогда не было. 


Руководителям Обучение сотрудников Самозанятым Журналистам Юристам Маркетологам Педагогам Родителям Для здоровья Подработка Бесплатно

§ 3 Белоснежка и Черноглазка тестируют волшебную палочку в «Лавке сокровищ»


Они появились под вечер. Я как увидел их на палубе, сразу понял - или нимфы в четвертом поколении или феи. Радуются, улыбаются.
—Тут так красиво. Небо такое ясное. Будка такая симпатичная. Только цвета мало.
— Так вон же все зеленеет.
— Нет, это не то. Нужно что-то ярко красное.
— Хорошо, не нравиться зеленое,  заху... натянем красное.

Глаза блестят, на щеках румянец играет. Знакомимся.
— Белоснежка, говорит первая и делает глубокий реверанс в мою сторону.
— Черноглазка, - вторит ей подруга с чертиками в глазах.
— Бонд. Дон Бонд. Можно просто: Дон.
— Чудо! Еще чудеснее! Было прекрасно, стало великолепно! 
Экстаз. Единство душ. Добрая фея — фея с улыбкой.
— Ну и где? — подмигивает Черноглазка. — Где она?
Я достаю из широких штанин дубликат бесценного груза. Подходят ближе, присматриваются.
— Вы ее издалека привезли? — спрашивает Белоснежка. — Такая вся необычная.
— Вы что! Издалека, не то слово! Я ее у Левиафана можно сказать из зубов вырвал! Вот, смотрите, даже кончик отгрызло, животное! Оно там привыкло пластиком питаться! Ему хоть в воду психотропные подмешивай, хоть в воздухе цианистый калий распыляй, хоть цифровыми наркотиками по случаю каждый день окучивай - никакой прогрессивной магии и революционной эволюции. Одно слово: Левиафан.
— И как она работает? — перебивает Белоснежка.
— Если в двух словах, то она как бы раскрашивает мир. Многие видят его в черно-белом цвете. То есть либо белое, либо черное, даже пятидесяти оттенков серого у них нет. Вот RekLama и придумал эту волшебную палочку.
— RekLama, что-то я про него слышала, - вмешивается в разговор Белоснежка.
— Ну конечно слышали. Все B2B знают и молятся на RekLama — потому как знают, как благотворно он действует на повышение KPI. Обычно такое KPI стоит в пять раз дороже, если им занимаются стандартные TV-люди с зеркальными нейтронами и покупным IQ. Он же написал специальное API приложение, которое работает по принципу светофора. Красная кнопка показывает и объясняет негативную информацию. Хочешь знать, что, зачем и почему запрещено и как обойти этот запрет - дави на красное. Нужно понять, что, куда и кем разрешено - включай зеленую. Интересуют какие-то сложные вопросы с неоднозначными ответами - пожалуйста, вот желтая кнопка. Эта волшебная палочка на все случае жизни!
— А голубая кнопочка зачем? - любопытствует Черноглазка.
— Вот! А это и есть главная фишка в его разработке! Голубая, это для тех, кто смотрит на мир сквозь розовые очки дополненной реальности «Божья роса». 
— Это формат Irdeto или Conex? - интересуется Белоснежка, поднимая свой рейтинг на уровень гелиостационарной орбиты Венеры.
 — Ну..., если брать исходный код RekLama, то это конечно Conex. Только усовершенствованный, с гипно прошивкой и израильско-палестинским отсечением на 893 пикселя. В рабочем режиме разрешение увеличивается до 1621 пикселей.  
 — А мы можем прямо сейчас посмотреть это разрешение? - спрашивает Белоснежка.
Я нажимаю  кнопку "G" и испиваю чашу наслаждений до дна, глядя, как радуга волшебных душ срывает им башню в озоновую дыру, и они оказываются на седьмом небе альтернативной реальности нервно-парапсихологического сна.

Откровения девушек про их первый сексуальный опыт с мужчиной

Полуобнаженная каким то Богом, с более большим статусом в «зазеркальной плоскости», Черноглазка любуется подстольной игрой Белоснежки. Черные кружева чулков на черных ножках затуманивают ее разум и влекут к запретной теме. Ей всегда было интересно на сколько она знает мощь волшебства, которое сейчас сводило с ума ее и подругу. 
— Неужели ты так страстно хочешь, Белоснежка? - спрашивает она, прикасаясь губами к ее приоткрытому ротику, и чувствовала живительный нектар на своем языке. Белоснежка не отвечает. Она в другом мире, в каком-то мистическом городе. У нее роскошный офис с великолепной карьерной лестницей, свой добрый волшебник с вертолетом и голубым вагоном для курящих фимиам. Тепло от фимиама поднимается до третей чакры и она живо воображает, как будет 20 лет жить в этом замке из слоновой кости, потом еще 20 лет нежиться на пляжах Олимпа в лежаке из старых стройматериалов, которые продаст ей некий загадочный тип обычной наружности.


Мои запутанные отношения с мужчинами

Спят милые нимфы, привезшие в узелочке свою таинственную страсть к жизни, которая побуждает меня с упоением думать о том, как же тут хорошо, душевно и чисто. У нас и раньше все было великолепно! Наливные яблочки по тарелочкам гипервизора каждый день катятся...
— Простите, я забыла, как вас зовут? - Белоснежка, протирает глаза. 
— Бонд. Дон Бонд. Можно просто: Дон.
— Где я?
— Страна Вольной Надежды. Мыс Новый. База Хуй-Лулай.
— А что я тут делаю? — растерянно спрашивает она, еще не понимая, как здесь оказалась. .
— Тестируете волшебную палочку. Изучаете «Азбука знаков» для ветеранов продаж. Обходите дозором свои и чужие владения. Любовно раздуваете искру Надежды пламенем Веры.
— А какое сейчас время?
— У некоторых 21-й век, кто-то застрял в 19-ом. В худшем случае - полночь.
— Как тут все изменилось! — охает она. Я же уехала отсюда совсем крошкой, в XVIII веке. 
Прикидываю ее возраст. А на вид и двадцати не даш.
— И что, Вы к нам надолго или как всегда?
— Теперь мы часто бывать будем. По делам, — подмигивает она.
Так подмигивает, что понимаю — дела важные. Не чета нашим делишкам с Доном Карлеоне.
— Будем сотрудничать вместе, — лыбится она. — С Вами можно работать?
— Так только со мной и можно работать, — говорю ей от всего сердца.
— А что Вы умете?
— Я? Да я все могу! Могу дрова колоть, могу в колокол бить. Могу закручивать, могу раскручивать, могу подкручивать. Колыбельные петь могу. Только скажите, что нать...
Она смотрит на меня взглядом, который прожигает душу по самую Сахасрару. После чего медленно наклоняется, поворачивается передом и с придыханием шепчет в глухое левое ухо какие-то слова. В голове туман, и только  по губам я понимаю смысл кодовой фразы:


Нокаут!! 178 цветных XXL каналов USD качества! По колено ноги в золоте, по локоть руки в серебре! Я смотрю на ее икры снизу вверх, и погружаюсь в запах черной и красной икры.

Грезится знакомые четыре комнаты в центре, на перекрестке Красоты и Авангарда. Отчеты о прибылях и EBITDA из родственного банка. Приятели, которым всегда греет глаз моя DURA Mitsuoka. Суши из сушибаре на Сюндзюки, самогонка пахнет саке, а клопы - коньяком. Дневные посиделки за Таро-покер, полуночные Армаггедон-сражения в  «генеральские шахматы» за стаканом «адмиральского чая». Свет и надежда Дона VIP-TOP кооператора - вечный студенческий корпоратив Первой альфа квадры...

— А он не похож на обычного B2C. Что-то в нем есть от B2B, или даже от B2G. — сквозь туман в голове я слышу щебетание Черноглазки.
Вечный праздник. Я вновь «похож на B2B», у меня есть галстук и я наконец-то могу позволить себе больше не надевать лапти на голову и трусы на голое тело.
— Возможно, потому что я лежу в галстуке? — подаю голос с пола.
— О, Вы очнулись! — восклицает Белоснежка. — А чем вы тут еще занимаетесь?!

Я не решаюсь сказать про черепаху Тортиллу, которая тянет мою повозку на сцену Королевской академии наук. Если я поделюсь этой историей, то придется рассказывать и про тайны нашего маленького городка, и про Сатоси Накамото, и про Джона Сноудена и Эдвард а Сноу. Разве что рассказать им про холестириновый жидкий кристалл с Соляриса...

Есть некоторые законы, которые не поддаются никакому правилу. Вот сидишь ты где то в тундре, продаешь холодильники - сто верст вечной мерзлоты туда, двести миль обратно. И ни одной живой души. И тут бац! Нарды скрипят, собаки лают - кто-то пришел. Начинаешь пушить перья и с упоением рассказывать про уникальные свойства холодильника, как мало места он занимает и какая хорошая антенна получается из его задней стенки. Хлоп! Еще кто-то в чуме! Мечешься уже между двумя, там демонстрируя, как плавно открывается эта пимпочка, а тут, какой прекрасный звук получается при закрывании этого отверстия. Вжух! - Еще одно чудо природы. И ничего и никуда уже не успеваешь. А они между собой зацепятся языками, промоют друг другу все косточки и не нужен им ни я, ни мой утюг. Ну почему? Откуда эта волна? То никого, то косяк. И ведь стопудово знаешь, что никакой пароход не проплывал, гравицапа не пролетала и никого с парашюта не сбрасывали. Кто и где их так синхронизирует?

— Дон-Дин, Дон-Дин, звонит колокольчик и в мою лавку вваливаются Дюма, Гюго и Робеспьер.  Черноглазка начинает внимательно рассматривать стоящий в углу аленький цветочек, пока Белоснежка быстро записывает мой номер телефона. Уезжая, нимфы забрали в узелочек не только  таинственную страсть своих улыбок, но и надежду, которая живет до самого конца, пока есть хоть какой-то шанс, что вот сегодня произойдет внеочередное чудо, которое раскрасит небо в аметистах и все будет VIP-TOP.
Китайский ресторан. Стихи Алины Витухновской— А-а-а-а! — кричу я в нервном срыве, сразу после того, как нимфы растворяются в прекрасном далеко. - Я тут подыхаю от безнадеги, от бессилия, от отчаяния и вот Бог посылает мне двух прекрасных ангелов. И надо вам именно сегодня, именно сейчас появиться здесь и испортить мне весь пейзаж. Что принесли?
— Как всегда, криптовалюту, - говорит Робеспьер.
— Унесите ваше пойло, пейте его в одиночестве! - все не могу успокоиться я.
Троица молча разворачивается и направляется к выходу.
— Куда пошли? Вернитесь, упьюсь, но не покорюсь! Доставайте.

Быстрыми и отточенными движениями друзья накрывают поляну, пока я убираю приветственные флаги и вывешиваю объявление "Переучет". Первые две банки пьем пока пуля летит.  

— ... И вот ломается у меня, понимаешь,  параболик на нафелете. И так уже его ковыряю и эдак. С горем пополам залез в меню, а там все на чистом санскрите...
— Должен быть добавочный перевод.
— Есть добавочный перевод, есть. На арамейском династии Титанохломона VIV, а я ж в этой династии как раз ни бум-бум не шарю.
— Да, далек ты, Эдвард, от народа, далек.
— Ладно, слушай дальше. Звоню в поддержку: помогите, так и так говорю - параболик глючит. А они мне: неси справку от ветеринара. Ну нарисовал я им этого ветеринара, все как положено, с водяными знаками «Чеболь». Приезжает значит мастер, меняет батарейки - и это бл..  тв..  работает как заведенная, и жужжит, и куда надо лезет. Тут этот спец давай отжимать у меня чумудан денег. Я ему - за что? А он - я беру не за работу, а за знание. И с издевкой так..
— Ну вот, почти готово. Давай, разливай.
— Третий. Не чокаясь. За тех, кто не дожил...
— А еще к их приезду надо отсыпать на 6 метров пляж из сульфатостойкого морского бетона, сделать деревянный настил, купальные зоны, фудкорты и универсальную спортивную  площадку с подводным скалодромом...
— К кому приезду? - спрашиваю я на автомате, что бы хоть как-то поддержать общий разговор. Общий шум стихает. Удивленными глазами друзья смотрят на меня.
— Ты что, не в курсе? - спрашивает Дюма.
— Я что, Робеспьер что ли? - говорю я со злостью.
Робеспьер у нас работает переводчиком -шифровальщиком при штабе и действительно знает все наши секреты про них, и все их секреты про нас. Я же простой продавец в «Лавке сокровищ», и что за ее стенами твориться, меня абсолютно не волнует.  Моя душа не болит и кровью в пыль не капает, за тот разброд и шатание, которое царит у штабных крыс. Я лишь веселюсь, читая про все эти хронологические достопримечательности эпохи ПМС. Я не хочу быть пассионарием и переживать страдания и разочарования разных сущностей и ср.., которых затролливают тролли. Я знаю, что Вселенная невраждебна и мне этого хватает.

Пассиона́рии — существа, обладающие врожденной способностью абсорбировать из внешней среды энергии больше, чем это требуется только для личного и видового самосохранения, и выдавать эту энергию в виде целенаправленной работы по видоизменению окружающей их среды. О пассионарности судят  по характеристике поведения и психики.

— Ты правду не знаешь, что твориться у стены? - звучит ровный голос Дюма.
— А что там может твориться? Что? - я натужено пытаюсь вспомнить-угадать, что же там такого необычного могло произойти у нашей причальной стены.
— Что? Или скажите что опять нежданно - негаданно рабы на галерах приплыли? - я пытаюсь хоть как-то пошутить, окончательно понимая, что действительно пропустил что-то важное.
— Сказать ему или не надо? - Робеспьер вопросительно смотрит на Гюго и Дюму.
— Давай вмажем, а потом скажешь, - говорит Дюма и разливает последнюю банку.
— Давайте выпьем за одного нашего боевого друга, - Гюго смотрит на меня и я понимаю, на кого он намекает,  — Выпьем за нашего ратного товарища, с которым мы прошли и... да в общем много чего было. И вот что бы как бы дальше не сложилось, что бы этот наш друг, никогда не забывал, кто он и откуда и куда идет. За тебя, Бонд. Дон Бонд.
Одним глотком они опорожняют кружки. Вслед за ними и я испиваю свою чашу до дна.
— А теперь отвечаю на твой вопрос, что твориться за стенами твоей халупы, прости, шопа. Рабы на галерах это уже в прошлом.... - он делает паузу. К нам едут геи на подводной лодке.

Цифровое творчество Личный блог: 8 930 Р. Полезный и необходимый подарок себе любимому / любимой.
Или родным и близким.
Подробнее

Earthquakes can be predicted.

Earthquakes must be predicted.

Small donationTHANK YOU