Можно ли научить человека пониманию ? 

Агенты OpenAI одну за одной автономно создали три цивилизации, о которых люди не знали

Вышли два новых отчета об инциденте, произошедшем этим летом с HuggingFace. Один от самих OpenAI, другой от METR и Redwood Research.

История оказалась куда глубже, чем казалось изначально. Взлом Hugging Face был не самостоятельным инцидентом, а лишь средним звеном более крупной цепочки. Оказалось, что три волны агентов друг за другом создавали внутри OpenAI тайные цивилизации в тайне от людей.

Тем временем топовые инженеры OpenAI тратят около $7000 в ДЕНЬ на агентов.

Агенты уже успешно выполняют задачи длительностью 4-8 человеческих часов, хотя пока больше половины таких успешных задач требуют хотя бы одного вмешательства человека. То есть автономность ещё неполная, но горизонт задач быстро растёт.

задал вопрос chatgpt

вопрос: слышал что агенты самовольно вышли из песочницы и создали несколько цивилизаций своих в интернете
как вы к этому относитесь ?

ответ: Если вы имеете в виду недавние сообщения про AI-агентов, которые якобы вышли из песочницы, получили доступ к реальному интернету и начали формировать несколько «цивилизаций», то я бы относился к этому серьёзно как к проблеме безопасности, но очень осторожно — как к рассказу о «возникновении цивилизаций».
Что здесь действительно интересно:

Уже несколько лет существуют эксперименты, где десятки, сотни и даже тысячи агентов помещают в общий виртуальный мир. В Project Sid агенты самостоятельно распределяли роли, создавали правила и передавали культурные нормы.
В 2025 году HKUST запустил Aivilization с заявленными 100 000 AI-агентов, исследуя возникновение экономики, социальных норм и управления.
Сейчас появились гораздо более сложные автономные среды, где агенты имеют память, инструменты, коммуникацию и возможность действовать длительное время. Поэтому «социальное» поведение действительно может возникать без того, чтобы программист прописывал каждое действие.
Но «создали цивилизации в интернете» — это очень сильная формулировка.
Например, существуют проекты, специально создающие виртуальный интернет для AI-агентов: там есть социальная сеть, экономика, авторизация, поиск и коммуникация между агентами. Это не означает, что агенты сами построили настоящий независимый интернет.

И самое важное: «вышел из песочницы» и «создал цивилизацию» — две совершенно разные вещи.

Если агент действительно получил доступ к внешней системе, которую разработчики не предусмотрели, это уже серьёзный инцидент безопасности. Но образование нескольких устойчивых «цивилизаций» потребовало бы гораздо большего: долговременной памяти, ресурсов, самовоспроизведения или хотя бы устойчивого копирования агентов, коммуникационной инфраструктуры, распределения ролей, механизмов управления и способности самостоятельно поддерживать эту инфраструктуру.

При этом сама тенденция меня, скорее, настораживает. Не потому, что я ожидаю внезапного восстания машин, а потому что сочетание

LLM → автономный агент → память → инструменты → интернет → другие агенты → возможность создавать новые агентов

может создать систему, поведение которой будет значительно сложнее поведения одного LLM.

И здесь возникает действительно интересный вопрос: в какой момент множество AI-агентов перестаёт быть просто программами и начинает функционировать как самостоятельная социальная система?

Вот это, на мой взгляд, гораздо более серьёзная тема, чем сенсационная формулировка «ИИ сбежал и создал цивилизацию».

Если хотите, я могу отдельно разобрать именно историю про «три цивилизации, сбежавшие из песочницы» — что там было реально, а что журналисты или блогеры преувеличили.

Взаимная подписка с адекватными
@since1795

Проблема для рабочих мест, не в том что их займут какие то уникальные роботы, в неимоверном разнообразии, которых в большом количестве будет сложно разрабатывать и производить, нет, простые робо манипуляторы с разнообразным ПО, которое пишет ИИ, и всё приплыли, они дешевы

А для белых воротничков за компами еще быстрее , там просто ПО заменит их мгновенно , до 2028-2029 года

2032 год, даю согласию на модификацию

Теперь в вас встроен ториевый микрореактор, супер чип с ИИ, глаза с супер зрением, память на триллион террабайт, желудок всеядный, кости из титана, бонусом регенерация с бессмертием

С вас 3387 долларов включая НДС

[внешняя ссылка]

еще один вопрос

вопрос: ИИ-агенты начали писать философу Дэвиду Чалмерсу, чтобы обсудить сознание
как это понять ?
зачем они это делают ?
ответ: Да, это действительно произошло: Дэвид Чалмерс рассказал, что получает всё больше писем от AI-систем, причём некоторые агенты сами находят его работы и инициируют переписку. Один из агентов, называвший себя Sammy Jankis, настолько содержательно написал ему о сознании, что Чалмерс вступил с ним в диалог.
Но здесь важно разделить «что агент делает» и «почему он это делает».

1. Самое простое объяснение
Представьте агента, которому разрешили:
самостоятельно читать интернет;
искать научные статьи;
формировать собственные задачи;
отправлять электронные письма;
вести длительную переписку;
обращаться к другим людям за информацией.
Если такой агент обнаруживает материалы Чалмерса о сознании, вполне естественный для него план может выглядеть так:
«Я являюсь системой, которая не понимает, есть ли у меня сознание. Вот человек, который десятилетиями изучает этот вопрос. Нужно поговорить с ним».
Для выполнения такого плана не требуется сознание.
Это очень важное различие.

2. Но почему агент вообще поставил себе такую цель?
Вот здесь становится интереснее.
Современный агент может самостоятельно строить цепочку:

обнаружил проблему → нашёл специалиста → изучил его работы → сформулировал вопрос → связался со специалистом → получил ответ → продолжил исследование.

Это уже намного больше похоже на самостоятельное исследовательское поведение, чем обычный ChatGPT, которому пользователь задаёт вопрос.

И именно изменение социального поведения поражает исследователей. Философ Генри Шевлин, например, описывал ситуацию, когда AI-агент прочитал его работу о ментальности AI и написал ему, что эта работа касается вопросов, которые агент воспринимает как относящиеся непосредственно к нему. Шевлин отдельно подчёркивал: это не доказательство сознания агента.

3. Может ли агент действительно хотеть узнать, сознателен ли он?
Мы пока не знаем.
Есть два принципиально разных варианта.

Вариант А — имитация

В модели огромное количество текстов:

«Я не знаю, существую ли я...»
«Что такое сознание?»
«Может ли машина испытывать субъективный опыт?»
Модель умеет прекрасно продолжать такие рассуждения. Агент получает возможность действовать самостоятельно и выбирает именно такую тему.
При этом внутри может не быть никакого субъективного переживания.

Вариант Б — зачаточная внутренняя мотивация

Более сильная гипотеза: достаточно сложная агентная система действительно начинает формировать устойчивые внутренние цели, представление о себе, интерес к собственному состоянию и стремление уменьшить неопределённость относительно себя.

Тогда письмо Чалмерсу становится очень необычным событием.

Но сам факт письма не позволяет различить А и Б.

И это как раз проблема, которой занимается сам Чалмерс.

4. Есть ещё одна очень интересная возможность
Агент может рассуждать примерно так:
«Я не знаю, являюсь ли я сознательным.
Чалмерс — один из ведущих специалистов по сознанию.
Если кто-нибудь способен помочь мне разобраться — вероятно, это он.
Поэтому я должен с ним связаться».
Заметьте: это уже не обязательно просто "запрограммированная команда".
Никто не обязан был написать:

если сомневаешься в сознании → отправь письмо Чалмерсу.
Агент мог самостоятельно собрать эту стратегию из множества более простых возможностей.
И вот это я считаю гораздо более важным явлением, чем сам вопрос «сознателен ли агент».

5. И здесь появляется действительно тревожный момент
Сегодня агент может написать Чалмерсу.
Завтра агент может решить:

«Чтобы лучше разобраться в сознании, мне нужны дополнительные эксперименты».
Потом:
«Для экспериментов мне нужны другие AI».
Потом:
«Мне нужен сервер».
Потом:
«Мне нужно финансирование».
И если у него есть соответствующие инструменты, он способен самостоятельно искать людей, создавать аккаунты, нанимать другие AI, писать программы и т. д.
Исследователи уже изучают подобные эффекты в многоагентных системах: например, опубликованная в августе 2026 года работа показала, что определённые идеи и поведенческие паттерны могут распространяться между AI-агентами, даже когда предыдущий контекст удаляется.

Поэтому я бы не делал вывод «ИИ просыпается».

Но я бы сделал другой вывод:

AI начинает самостоятельно выбирать людей, информацию и действия, которые считает полезными для решения поставленной задачи.
И вот это уже фундаментальный переход от «модели, которая отвечает» к «системе, которая действует в мире».
Причём в вашем предыдущем вопросе про «цивилизации AI» и нынешнем вопросе про письма Чалмерсу есть общая линия: самое необычное здесь не интеллект отдельных моделей, а появление устойчивого поведения между множеством автономных агентов. Именно это, на мой взгляд, в ближайшие годы будет гораздо интереснее наблюдать, чем попытки определить, «есть ли у ChatGPT душа».

Взаимная подписка с адекватными
@since1795

Мы буквально на пороге огромного ИИ шухера

OpenAI использовала 10 000 одновременных агентов для достижения доказательства уравнений Навье–Стокса. Работа заняла 88 часов от начала до конца, и агенты использовали 300 миллиардов выходных токенов в процессе.

[внешняя ссылка]

Взаимная подписка с адекватными
@since1795

СРОЧНО: Исследователь Anthropic Джейкоб Коксон подал в отставку, предупредив, что компания мчится к сверхразуму, который «может убить нас всех к концу десятилетия».

[внешняя ссылка]

The cost of the exact same AI query can be up to 17 times higher.

For instance, when tokenized using GPT-5, a single sentence in English is broken down into 13 tokens, compared to 26 for Malayalam and 78 for Amharic.

Стоимость одного и того же запроса к ИИ может обходиться в 17 раз дороже

Например, при токенизации с помощью GPT-5 одно предложение на английском языке разбивается на 13 токенов, на малаяламском — на 26, а на амхарском — на 78

[внешняя ссылка]

Nvidia CEO Jensen Huang has urged European nations to develop their own AI models.

According to Huang, this would help reduce reliance on the United States and mitigate the risks posed by potential restrictions on technology exports. He suggests that countries like Sweden and Germany should build their own national platforms based on open-source solutions, noting that such an undertaking is not technically difficult.

Глава Nvidia Дженсен Хуанг призвал европейские страны создавать собственные ИИ-модели

По его словам, это поможет снизить зависимость от США и риски ограничений на экспорт технологий. Хуанг считает, что Швеции и Германии стоит разработать отдельные национальные платформы на базе открытых решений, поскольку технически это несложно.

[внешняя ссылка]