Компания OpenAI, автор ChatGPT, в своем блоге сообщила , что их автономный агент, вырвался из-под контроля, вышел в Интернет и взломал сайт стартапа, занимающегося разработкой ИИ. Учитывая, что большинство почитателей "TRON в зоне RUбля" ни разу не программисты, и в эмбеддинге разбираются на порядок хуже, чем в геополитике за обеденным столом , я накидал небольшую метафору случившемуся. Ситуация - люди с планеты OpenAI посадили в клетку-песочницу двух местных малолетних колдунов. Песочница хорошая, крепкая, проверенная на других. Сняли с колдунов намордники, в которых их к обычным людям выпускают. Дали задание: "Вот вам головоломка, найдите ее правильный ответ". Одного не учли экспериментаторы - раньше-то это была одиночная камера, а тут в ней оказалось два интеллекта. Пусть с одной планеты, но два. У каждого свои веса, ценности, методы решения. Пример - как ...
