Смотрите, уже и ИИ подсказывает, как организовывать людей
Юрген Шмидхубер, самоулучшающиеся агенты и манёвр Конвея321
В 80-е и 90-е от автоматизации ждали умного и жёсткого конвейера. Процессы описаны, шаги автоматизированы, человеческий фактор убран - а вместе с ним ошибки, забывчивость, фантазии людей.
Прошло сорок лет. Вершиной автоматизации стал ИИ. И у него - галлюцинации.
Может быть, это не баг, а фича?
Юрген
Юрген Шмидхубер - один из пионеров современного ИИ. Его сеть LSTM (long short-term memory, «долгая краткосрочная память») двадцать лет была основой распознавания речи и машинного перевода. Ещё в 1990 году он описал агента с моделью мира и искусственным любопытством. В том же 1990-м в Омске появилось малое предприятие «Лаборатория 321» - с него началась практика321.
На его сайте есть подсказка, как произносить имя: «YourGAN». GAN (generative adversarial networks, состязательные нейросети) - это пара сетей: одна рисует подделки, другая учится их распознавать. Шмидхубер давно доказывает, что придумал этот принцип в 1990-м. Вот и выходит: произносишь его имя - и заодно соглашаешься, что GAN его.
Тридцать пять лет он раскручивает одну и ту же идею. Её и стоит понять.
Одна идея: сжатие
Понять - значит описать короче. Интересно не то, что уже понятно, и не шум, в котором понимать нечего, - как телевизор с белым шумом. Интересно то, что прямо сейчас удаётся описать короче. Любопытство по Шмидхуберу - это скорость, с которой растёт понимание.
Из той же идеи выходит всё остальное. Красота - то, что коротко описывается твоей моделью мира. Юмор - момент, когда развязка вдруг пересобирает историю короче, а смех - награда за этот скачок. Агент может учиться даже во сне: тренироваться внутри того, что нафантазировала его модель мира, и переносить навык в реальность. Фантазия здесь - не сбой, а способ учиться.
У команды, которая годами работает вместе, тоже появляется общая модель мира. Понимание с полуслова. Мы называем это Когнитивным Облаком (КО) команды. Почему такое сжатие почти не помещается в регламенты - в «Что есть Организация?».
Конвейер 80-х хотел оставить от человека только логику. По Шмидхуберу выходит, что без любопытства и смеха логика не учится.
Агенты учатся улучшать себя
В 2025–2026 годах появились ИИ-агенты, которые улучшают сами себя. Агент для программирования переписывает собственный код. Изменение остаётся, только если на проверочных задачах стало лучше. Хранятся и неудачные на вид версии - из них тоже вырастают удачные.
За 80 таких шагов один агент поднял свой результат в два с половиной раза. А агент группы Шмидхубера вышел на уровень лучших агентов, сделанных людьми.
Это не конвейер без ошибок, а ошибки плюс проверка реальностью.
Пока такие агенты учатся «днём»: переписывают инструкции и код, а веса модели не трогают. Следующий шаг - «сон», как у людей: когда нагрузка падает, хоть каждую ночь, закреплять опыт в весах своей модели.
Малая команда - у агентов и у людей
Исследователи, которые собирают команды из ИИ-агентов, пришли к знакомой картине. У одиночки - собственные галлюцинации и неполный взгляд. Чем больше собрание, тем чаще агенты приходят к компромиссу и теряют мнение того, кто знает. Малая группа с общим контекстом - посередине.
Практика321 пришла к малым командам своим путём, за 35 лет. Одна небольшая команда отвечает и за связь с бизнесом, и за эксплуатацию, и за развитие системы. Ключевые специалисты заказчика - часть команды: они связывают её с реальностью. Проверка - Кольцо автотестов на пользовательских контрольных примерах (ПКП): код может менять кто угодно, человек или агент, а примеры приходят от ключевых пользователей. И самая большая проверка - КО самой команды.
Выходит, ИИ подсказывает то, к чему практика пришла сама: малая команда с проверкой реальностью.
Манёвр Конвея321
В 1968 году Мелвин Конвей заметил: системы повторяют структуру общения в организациях, которые их создают. Позже появился «обратный манёвр Конвея»: сначала строим команды так, чтобы получилась нужная архитектура системы.
Можно повернуть ещё раз: смотреть, как исследователи ищут лучшую организацию для ИИ-агентов, - и применять найденное к людям. В командах, в коллективах, в обществе. Назовём это манёвром Конвея321.
Об этом говорили ещё в 2024 году. В TeamLeadTalks, опубликован 3 ноября, - про обратный манёвр Конвея, там же - что ИИ показывает, насколько наши нейросети похожи на человека. А в ITBizRadio, ещё в марте, - что ChatGPT галлюцинирует, как ребёнок, осваивающий мир.
Уже и ИИ подсказывает, как организовывать людей: малыми командами с общей моделью мира и проверкой реальностью.
Дальше - смешанные команды людей и агентов с общей моделью мира. Может быть, большие языковые модели гораздо ближе к людям, чем мы думаем? И может быть, то, что мы сорок лет называли человеческим фактором, - тоже не баг?
Как манёвр Конвея321 ложится на госИТ - в статье на LinkedIn «GovOpsAgents321: уже и ИИ подсказывает, как организовывать госИТ».
Подробности
Для тех, кто хочет глубже, - то, что не вошло в основной текст.
- Сны агента. В 2018 году Шмидхубер с Дэвидом Ха показали «модели мира»: агент учится уворачиваться от огненных шаров в игре Doom внутри собственного сна - внутри того, что нафантазировала его модель мира. Потом переносит навык в настоящую игру.
- «Я» и «мы». Агент присутствует в каждом своём наблюдении. Самый короткий способ описать всё прожитое - завести символ себя. У команды, которая годами работает вместе, так же появляется общий символ себя - это и есть КО.
- Эмоции и интеллект. Обычно логику и вычисление разводят с любопытством, чувством прекрасного и смехом. У Шмидхубера это одно движение: радость, интерес и смех - то, как изнутри ощущается прогресс сжатия. Эмоции здесь не добавка к интеллекту и не помеха ему, а его производная.
- Два уровня: «сознательный» и «бессознательный». Первый - символы и слова, второй - то, что работает без слов. Они всё время работают вместе. Водить машину учатся сразу руками, а слова и правила подтягиваются по ходу. Так учатся дети. У агентов «сознательный» уровень - это код, ПКП, глоссарий, файлы памяти. У людей на словах - то же самое. Это общее место, где КО людей и агентов могут встретиться и расти вместе. И у людей, и у нейросетей опыт по сути хранится в весах связей: синапсы у людей, веса у модели. Дневной опыт агента - «сознательный» уровень; дообучение весов своей модели, когда нагрузка падает, - «бессознательный», как сон у человека. Это возможно только на своей модели: чужую в облаке под себя не переучишь.
- Dessa: модель, которая учится говорить, как ребёнок. В октябре 2026 года «(очень) маленькая», как она сама себя называет, лаборатория внутри компании Block показала Dessa - модель, которая научилась разговаривать только на человеческой речи, без единого текста. Звук на входе, звук на выходе, паузы, «ага», смех посреди фразы. «Дети учатся говорить, ни разу не увидев написанного слова. Мы хотели проверить, сможет ли так и модель».
- Машина Гёделя (2003). Шмидхубер описал систему, которая может переписать любую свою часть, включая ту, что отвечает за переписывание. Условие одно: сначала доказать, что после изменения станет лучше. В работающих системах 2025–2026 годов доказательство заменили тесты.
- PowerPlay (2011). Система сама ищет самую простую задачу, которую ещё не умеет решать, но может быстро освоить. Новый навык добавляется только вместе с проверкой, что все старые на месте, и время на эту проверку входит в цену шага.
- Цифры самоулучшения. Darwin Gödel Machine (DGM; Sakana AI, Джефф Клун и коллеги, 2025): за 80 итераций - с 20,0% до 50,0% решённых задач на SWE-bench (набор реальных задач из открытых репозиториев кода) и с 14,2% до 30,7% на Polyglot (задачи на разных языках программирования). Без хранения неудачных на вид версий агент застревает после первой неудачной правки. Huxley-Gödel Machine (HGM; группа Шмидхубера, конференция ICLR 2026) выбирает изменения по тому, насколько хороши «потомки» версии: на SWE-bench Verified - 56,7% против 53,3% у DGM, и вычислений уходит в два с лишним раза меньше; на SWE-bench Lite - 57%, уровень лучшего официально проверенного агента, сделанного людьми. AlphaEvolve (DeepMind, 2025) генерирует варианты кода, автоматически оценивает и оставляет лучшие. DGM и HGM не меняют веса модели - они переписывают свой код, промпты (инструкции для модели) и инструменты и хранят историю всех версий.
- Две работы о командах агентов (2026). В «Multi-Agent Teams Hold Experts Back» (Стэнфорд, Apple) агенты обсуждают задачу вместе. Команда лучше одного участника, взятого наугад, и её трудно сбить одному участнику, который ведёт не туда. Но чем больше агентов - 2, 4, 8, - тем чаще они приходят к компромиссу и теряют мнение того, кто знает. В работе Tran и Kiela (Стэнфорд) один агент и рой получают одинаковый бюджет на рассуждения - и сравниваются.
- Команда321 подробнее. В -OpsDev- части (сопровождение и развитие) обычно четыре инженера. В -OpsVibe- части, где код пишут ИИ-ассистенты, - 2–3 человека; это то, что прямо сейчас развивается на практике. Учимся сразу, в работе, как ребёнок. Ключевых специалистов - они же ключевые пользователи - двое и больше. В команде они part-time, а постоянно работают в других командах своей организации и связывают команды между собой. Похожую роль связующих участников описывает Team Topologies.
- Разнесение на организации и Казахстан. Одна команда может быть разнесена на несколько организаций ради организационной устойчивости: ключевые специалисты - у заказчиков, инженерные группы - у подрядчиков, и всё это одна команда с одним КО. «На двоих» - заказчик и подрядчик - уже проверено практикой. «На троих», а тем более «на четверых» - задача текущего момента. Стратегия Digital Qazaqstan до 2029 года делает ставку на ИИ во всех отраслях, а отраслевые центры компетенций могут стать ещё одним узлом таких команд.
- Об этом тексте. Его тоже пришлось сжать: первая версия была втрое длиннее. Краткость - сестра таланта по Чехову и признак глубокого понимания по Шмидхуберу.
Источники
- Jürgen Schmidhuber. Artificial Curiosity & Creativity Since 1990–91
- Jürgen Schmidhuber. Formal Theory of Creativity, Fun, and Intrinsic Motivation (1990–2010) (IEEE Transactions on Autonomous Mental Development, 2(3), 2010)
- David Ha, Jürgen Schmidhuber. World Models (2018)
- Block. Dessa - speech-to-speech модель, обученная только на речи (октябрь 2026)
- Jürgen Schmidhuber. Gödel Machines (2003)
- Jürgen Schmidhuber. PowerPlay (2011)
- Zhang, Hu, Lu, Lange, Clune. Darwin Gödel Machine (2025); обзор Sakana AI
- Wang, …, Schmidhuber. Huxley-Gödel Machine (ICLR 2026)
- Novikov et al. AlphaEvolve (2025); блог DeepMind
- Pappu, El, Zou et al. Multi-Agent Teams Hold Experts Back (2026)
- Tran, Kiela. Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets (2026)
- Melvin Conway. How Do Committees Invent? (Datamation, 1968)
- Skelton, Pais. Team Topologies (2019)