Смотрите, уже и ИИ подсказывает, как организовывать людей
Юрген Шмидхубер, самоулучшающиеся агенты и манёвр Конвея321
В 80-е и 90-е от автоматизации ждали умного и жёсткого конвейера. Процессы описаны, шаги автоматизированы, человеческий фактор убран - а вместе с ним ошибки, забывчивость, фантазии людей.
Прошло сорок лет. Вершиной автоматизации стал ИИ. И у него - галлюцинации.
Может быть, это не баг, а фича?
Юрген
Чтобы разобраться, стоит заглянуть в блог Юргена Шмидхубера.
Шмидхубер - один из авторов LSTM, рекуррентной сети, на которой двадцать лет держались распознавание речи и машинный перевод. В 1990-м он описал агента, у которого есть модель мира и искусственное любопытство. В том же 1990-м в Омске появилось малое предприятие «Лаборатория 321» - с него началась практика321. У Шмидхубера на сайте даже есть подсказка, как произносить фамилию: «YourGAN Shmidhoobuh».
Ещё он известен тем, что на многие громкие новости ИИ у него находится ссылка на собственную работу начала девяностых. Коллеги над этим посмеиваются. А если читать его блог подряд, видно: тридцать пять лет он раскручивает одну и ту же идею.
Одна идея: сжатие
Интересно не то, что уже понятно, и не белый шум. Интересно то, что прямо сейчас становится понятнее - что удаётся описать короче, чем минуту назад. Любопытство по Шмидхуберу - это скорость, с которой растёт понимание.
Из той же идеи у него выходит всё остальное.
Красота - то, что коротко описывается твоей моделью мира.
Юмор - момент, когда развязка вдруг пересобирает всю историю короче. Смех - награда за такой скачок.
Сны. В 2018 году Шмидхубер с Дэвидом Ха показали «модели мира»: агент учится уворачиваться от огненных шаров в игре Doom внутри собственного сна - внутри того, что его модель мира нафантазировала. А потом переносит навык в настоящую игру. Фантазия здесь - не сбой, а способ учиться.
«Я». Агент присутствует в каждом своём наблюдении. Самый короткий способ описать всё прожитое - завести символ себя.
«Мы». По той же логике у команды, которая годами работает вместе, появляется общий символ себя и общая модель мира. Понимание с полуслова. Мы называем это Когнитивным Облаком (КО) команды.
Обычно интеллект и эмоциональный интеллект разводят по разным углам: в одном логика, правила, вычисление, в другом - любопытство, чувство прекрасного, смех. У Шмидхубера это одно и то же движение. Понимание - это сжатие. А радость, интерес и смех - то, как ощущается прогресс этого сжатия изнутри. Эмоции здесь не добавка к интеллекту и не помеха ему, а его производная.
Конвейер 80-х хотел оставить от человека только логику. По Шмидхуберу выходит, что без любопытства и смеха логика не учится.
У Шмидхубера два уровня: «сознательный» - символы и слова, и «бессознательный» - то, что работает без слов. Они всё время работают вместе, в симбиозе. Водить машину можно учиться сразу руками, а слова и правила подтягиваются по ходу. Так учатся дети. И так же начинают учиться модели. В октябре 2026 года «(очень) маленькая», как она сама себя называет, лаборатория внутри Block показала Dessa - модель, которая научилась разговаривать только на человеческой речи, без единого текста. Звук на входе, звук на выходе, паузы, «ага», смех посреди фразы. Команда формулирует так: «Дети учатся говорить, ни разу не увидев написанного слова. Мы хотели проверить, сможет ли так и модель».
Самоулучшение: от доказательства к проверке
В 2003 году Шмидхубер описал машину Гёделя - систему, которая может переписать любую свою часть, включая ту, что отвечает за переписывание. Условие одно: сначала доказать, что после изменения станет лучше.
В 2011-м появился PowerPlay: система сама ищет самую простую задачу, которую ещё не умеет решать, но может быстро освоить. Новый навык добавляется только вместе с проверкой, что все старые на месте, и время на эту проверку входит в цену шага.
В 2025–2026 годах появились работающие системы - с одной заменой: вместо доказательства в них тесты.
- Darwin Gödel Machine (Sakana AI, Джефф Клун и коллеги, 2025). Агент для программирования переписывает собственный код. Изменение остаётся, если на наборе задач стало лучше. При этом в архиве хранятся и неудачные на вид версии - от них тоже растут новые ветки, и многие улучшения прошли именно через них. Без такого открытого поиска агент застревает после первой неудачной правки. За 80 итераций - с 20,0% до 50,0% на SWE-bench и с 14,2% до 30,7% на Polyglot.
- Huxley-Gödel Machine (группа Шмидхубера, ICLR 2026). Выбирает изменения не по тому, насколько хорош результат сейчас, а по тому, насколько хороши у этой версии «потомки». На SWE-bench Verified - 56,7% против 53,3% у DGM, и вычислений на это уходит в два с лишним раза меньше. Агент, выращенный этим способом, на SWE-bench Lite набирает 57% - уровень лучшего официально проверенного агента, сделанного людьми.
- AlphaEvolve (DeepMind, 2025). Генерирует варианты кода, автоматически оценивает, лучшие оставляет. Эвристика для планировщика дата-центров Google больше года в работе и возвращает в среднем около 0,7% мировых вычислительных ресурсов компании.
Генерация вариантов - в том числе неверных - и проверка реальностью. Не конвейер без ошибок, а ошибки плюс проверка.
DGM и HGM не меняют веса модели - они переписывают свой код, промпты, инструменты и хранят историю всех версий. Сжатая история копится на «сознательном», символьном уровне - так же, как у команды копятся код, примеры и договорённости.
Малая команда - у агентов
В 2026 году вышли две работы о командах из LLM-агентов. В «Multi-Agent Teams Hold Experts Back» (Стэнфорд, Apple) агенты обсуждают задачу вместе. Команда лучше одного участника, взятого наугад, и её трудно сбить одному участнику, который ведёт не туда. А чем больше агентов - 2, 4, 8, - тем чаще они приходят к компромиссу и теряют мнение того, кто знает. В работе Tran и Kiela (Стэнфорд) один агент и рой получают одинаковый бюджет на рассуждения - и сравниваются.
В этих работах у одиночки - собственные галлюцинации и неполный взгляд, у большого собрания - компромиссы. Малая группа с общим контекстом - посередине.
И у людей
Теперь положим это рядом с тем, как устроена команда BizOpsDev321 и BizOpsVibe321.
Малая автономная команда. Одна команда обеспечивает и связь с бизнесом, и эксплуатацию, и развитие. В -OpsDev- части - обычно четыре инженера. В -OpsVibe- - 2–3 человека с ИИ-агентами; это то, что прямо сейчас развивается на практике. Учимся сразу, в работе, как ребёнок.
Ключевые специалисты. В команду входят ключевые специалисты - они же ключевые пользователи. Их двое и больше, в зависимости от функциональности системы. В нашей команде они part-time, а постоянно работают в других командах своей организации - и связывают команды между собой и с реальностью. Похожую роль связующих участников описывает Team Topologies.
Проверка практикой. В программировании это Кольцо автотестов на Пользовательских Контрольных Примерах (ПКП): код может менять кто угодно, человек или агент, а примеры приходят от ключевых пользователей. У машины Гёделя на этом месте стояло доказательство, у DGM - набор задач. Но самый большой верификатор - КО самой команды. Оно живёт в головах участников и включает все их связи с реальностью - внутри организации и вокруг неё.
Разнесение на организации. Одна команда может быть разнесена на несколько организаций - ради организационной устойчивости. Ключевые специалисты - у заказчиков, -OpsDev- и -OpsVibe- группы - у подрядчиков, и всё это одна команда с одним КО. В сопровождении прикладного софта сила «на двоих» - заказчик и подрядчик - уже проверена практикой. «На троих», а тем более «на четверых» - задача текущего момента. И здесь особенно верим в Казахстан: стратегия Digital Qazaqstan до 2029 года делает ставку на ИИ во всех отраслях, а отраслевые центры компетенций могут стать ещё одним узлом таких команд. Об этом - скоро в отдельных материалах.
Манёвр Конвея321
В 1968 году Мелвин Конвей заметил: системы повторяют структуру коммуникаций организаций, которые их создают. Позже из этого вырос «обратный манёвр Конвея» - его описывает Team Topologies: сначала строим команды так, чтобы получилась нужная архитектура системы.
Можно повернуть ещё раз. Смотреть, как исследователи ищут лучшую организацию для ИИ-агентов, - и применять найденное к людям. В отдельных командах, в коллективах, в обществе. Назовём это манёвром Конвея321.
Практика321 пришла к малым командам своим путём: через опыт - и через попытку понять, то есть построить модель мира. Теперь к малым группам, проверке реальностью и накопленной истории приходят и исследования ИИ-агентов.
А дальше - смешанные команды. У агентов «сознательный» уровень - это код, ПКП, глоссарий, файлы памяти. У людей на словах - то же самое. Это общее место, где КО людей и агентов могут встретиться и расти вместе.
Сны, юмор, «я» и «мы», галлюцинации - у Шмидхубера всё это выходит из одной идеи, и всё это сегодня можно увидеть у агентов. Может быть, LLM гораздо ближе к людям, чем мы думаем? И может быть, то, что мы сорок лет называли человеческим фактором, - тоже не баг?
Об этом - в следующих текстах: и про часть «321», и про смешанные команды людей и агентов.
Источники
- Jürgen Schmidhuber. Artificial Curiosity & Creativity Since 1990–91
- Jürgen Schmidhuber. Formal Theory of Creativity, Fun, and Intrinsic Motivation (1990–2010) (IEEE Transactions on Autonomous Mental Development, 2(3), 2010)
- David Ha, Jürgen Schmidhuber. World Models (2018)
- Block. Dessa - speech-to-speech модель, обученная только на речи (октябрь 2026)
- Jürgen Schmidhuber. Gödel Machines (2003)
- Jürgen Schmidhuber. PowerPlay (2011)
- Zhang, Hu, Lu, Lange, Clune. Darwin Gödel Machine (2025); обзор Sakana AI
- Wang, …, Schmidhuber. Huxley-Gödel Machine (ICLR 2026)
- Novikov et al. AlphaEvolve (2025); блог DeepMind
- Pappu, El, Zou et al. Multi-Agent Teams Hold Experts Back (2026)
- Tran, Kiela. Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets (2026)
- Melvin Conway. How Do Committees Invent? (Datamation, 1968)
- Skelton, Pais. Team Topologies (2019)