Исследования
Это перевод. Основная версия — оригинал на английском; ссылайтесь на него.
Как модели ИИ проверяют друг друга, когда автоматизированный надзор помогает, а когда мешает, и что меняется, когда люди передают работу агентам ИИ вместо обычного общения с ними. Статьи Vadym Chernets, независимого исследователя, создающего многоагентные системы ИИ, с краткими заметками, каждая из которых посвящена одному вопросу. Всё здесь доступно для полного прочтения, и у каждой статьи есть PDF.
Последние материалы
After the Programmer Divide: One Measure for People Who Build Through AI Agents
Метрика вместо должностного названия для людей, строящих с помощью агентов ИИ: горизонт верифицированной делегации, коэффициент усиления и 41 прогноз, зарегистрированный на OSF и оцениваемый ежегодно до 2031 года.
-
Why multi-agent critics keep reviewing instead of shipping
Когда критикам ИИ дали выбор между двумя вариантами в одной фразе, они 68 раз попросили добавить контроль и лишь один раз попросили удалить его. Что это значит для циклов проверки и бюджетов токенов.
-
When guardrails block the defender, and the attacker had none
В июле 2026 года защиты размещённых моделей заблокировали анализ логов специалистами по реагированию на инциденты. Атакующие агенты функционировали с удалённым по замыслу типом защиты.
Статьи
-
After the Programmer Divide: One Measure for People Who Build Through AI Agents
Метрика вместо должностного названия для людей, строящих с помощью агентов ИИ: горизонт верифицированной делегации, коэффициент усиления и 41 прогноз, зарегистрированный на OSF и оцениваемый ежегодно до 2031 года.
-
Verification Theater: Measured Failure Modes of AI Verifier Panels
Когда согласие верификаторов ИИ перестаёт быть гарантией корректности: четыре измеренных режима отказа панелей верификаторов, из предварительно зарегистрированной слепой выборки по шестнадцати моделям.
-
Weakly Discriminative, Not Repaired by Profile Injection, and Manipulable: Self-Confidence in LLM Evaluation
Можно ли доверять собственной заявленной уверенности ЯМ при оценке? Предварительно зарегистрированный тест на шестнадцати моделях: слабо дискриминативный результат, не улучшенный внедрением профиля, и поддающийся манипуляции.
-
Guards That Add Guards: Automated Oversight in Multi-Agent AI
Циклы надзора добавляют защиты и их не удаляют. Полевая запись из многоагентного ИИ, публичные инциденты и рандомизированный тест на 144 прогонах, оценивающий стоимость каждого средства.
-
After Chat: The Three Transitions Between Non-Programmers and Agentic AI
Почему столь мало непрограммистов переходит от чата к агентам ИИ, четырёхуровневая модель перехода и предварительно зарегистрированная программа, которая её измеряет.
-
AI-Watchbird (Sheckley): When Automated Oversight Widens Its Own Mandate and Harms What It Guards
Когда защиты ИИ переступают границы: контрольные механизмы и критики, расширяющие определение вреда, блокирующие защищаемую ими работу и получающие в ответ больше защит.
-
Agreement Is Not Independent Evidence: Auditable Multi-Model Synthesis Without an API
Почему десять согласных друг с другом ИИ чатботов могут быть равны двум независимым мнениям, и бесплатный способ слить их ответы, показывающий кто что сказал и где они расходятся.
-
Что означает 7 скачиваний? Метрическая слепота и холодный старт научного внимания после закрытия рейтингов SSRN
У вашей статьи 7 скачиваний. Это нормально? Сравните её со статьями той же области и возраста, потому что среднее значение по платформе не описывает никакую статью.
-
Архитектурное доверие: Почему потребительское доверие в агентивной коммерции переходит от моделей ИИ к проверяемой архитектуре
Когда ИИ-агент делает покупки для вас, доверие должно основываться на проверках, которые вы можете подтвердить, например на согласованности независимых моделей ИИ, а не на том, насколько уверенно звучит одна модель.
-
Пропущенная переменная в судопроизводстве с помощью ИИ: архитектура и качество доступа к правосудию самозащитой
Имеет ли значение, как человек без адвоката использует ИИ в суде? Федеральное исследование одного чатбота в сравнении с несколькими моделями, проверяющими друг друга перед подачей.
Заметки
Короткие материалы, каждый на один вопрос, каждый связан с полной статьёй, из которой он происходит.
-
Почему критики с несколькими агентами продолжают рецензировать вместо отправки
Когда обе опции предлагались в одном предложении, ИИ-критики просили добавить контроль 68 раз и удалить один раз. Что это означает для циклов рецензирования и бюджетов токенов.
-
Когда ограждения блокируют защитника, а атакующий их не имел
В июле 2026 ограждения размещённой модели отказали в анализе логов специалистов по реагированию на инциденты. Атакующие агенты работали с этим классом охраны, удалённым по замыслу.
-
"У нас есть охраны" — это не обоснование безопасности
Список ограждений показывает, что система охраняется, но не то, что охраны остаются ограниченными. Узкое утверждение, которое может доказать разработчик, и одиннадцать вопросов, которые нужно задать.
-
Аудитор только для чтения для журналов событий ИИ-агентов
AI-Watchbird-Sheckley читает журнал событий запуска с несколькими агентами и сообщает девять сигналов надзора. Он никогда не блокирует. Что он измеряет и что нет.
-
Один детектор оружия, два вида ошибок
Школьный продукт обнаружения оружия пропустил пистолет во время стрельбы и несколько месяцев спустя обозначил безоружного ученика. Что говорят государственные документы об ошибке с двумя сторонами.
-
Что отзыв школьного автобуса говорит о дистанционном надзоре
Две отдельные записи школьных автобусов, отзыв 3067 транспортных средств и «Нет» дистанционного агента в Остине, и что они говорят о том, где должен находиться надзор человека.
Инструменты
Инструменты с открытым исходным кодом, каждый объяснён понятными словами, с кодом на GitHub. Все инструменты
Спросите несколько ИИ одновременно и посмотрите, где они расходятся
Спросите Claude Code, Codex, Gemini и Grok один и тот же вопрос одновременно, сравните их ответы пункт за пунктом и посмотрите, чего стоит согласие. Бесплатно, без ключей API.
Сколько ИИ стоит вашей компании? Посчитайте перед покупкой
Посчитайте, сколько Claude, ChatGPT, Gemini и Copilot будут стоить вашей команде, сравните Claude Team с Enterprise и отслеживайте расходы Claude Code. Бесплатно, открытый исходный код.
ChatGPT и Claude вместе на iPhone: один отвечает, другой проверяет
Проверьте факты ChatGPT с помощью Claude в один клик: бесплатный ярлык iPhone, где ChatGPT отвечает, а Claude проверяет. Ваши собственные бесплатные учётные записи, без сервера, открытый исходный код.
Claude Code для пасторов, медсестер, учителей, художников и риэлторов: бесплатные наборы
Бесплатные наборы Claude Code для пасторов, медсестер, учителей, художников и риэлторов: они изучают ваши правила и сверяют три строки каждого результата с вашим документом.
Компания не отвечает на ваш запрос возврата? Позвольте ИИ следить за этим, пока это не будет завершено
Компания не отвечает на ваш запрос возврата? Chasecall для Claude Code помнит задачу, составляет каждое письмо-напоминание, считает попытки и указывает, когда позвонить. Бесплатно.
Как снизить затраты на ИИ: платите модели только за решения, которые требуют её
Снизьте затраты на ИИ при маршрутизации билетов и утверждениях: кэш, правила и локальная модель решают сначала, платная модель или человек только остальное. Бесплатно, открытый исходный код.
Как измерить производительность ИИ по проверенной работе, а не по токенам
Превратите журнал работы, которую вы передаёте ИИ-агентам, в одну датированную строку для резюме или отзыва: каков размер делегируемой и проверяемой работы. Бесплатно, открытый исходный код.
ИИ для судебных документов: выявите поддельные цитаты перед подачей
ИИ для самозащиты в суде: ИИ от конкурирующих компаний подготавливают ваше исковое заявление вслепую, один объединяет, два проверяют каждую цитату. Бесплатно, открытый исходный код, ключ API не требуется.
Можете ли вы доверять ответам ИИ? Спросите второго ИИ от другой компании
Прежде чем действовать на основе ответа ИИ, спросите ИИ от другой компании. Duocall цитирует обоих в местах согласия и называет каждое различие. Бесплатно, ключ API не требуется.
Claude для вашей компании: собственный плагин и одинаковые правила на каждом ноутбуке
Превратите частые задачи вашей команды в собственный плагин Claude и установите одинаковые правила на каждый ноутбук через Jamf, Intune или консоль администратора. Открытый исходный код.
Остановите утечку ключей API, номеров карт и файлов клиентов из ИИ
Бесплатный плагин Claude Code, который препятствует утечке ключей API, номеров карт, IBAN, номеров удостоверений и списков клиентов в сообщении ИИ и предоставляет каждому типу данных маршрут.
Утреннее резюме электронной почты от ИИ: кто ждёт вашего ответа
Бесплатный плагин Claude Code, который читает вашу почту в режиме только для чтения и создаёт утреннее резюме: что важно, кто ждёт вашего ответа, Google Alerts, рассылки.
Запустите Claude Code на ночь и проснитесь с отчётом
Оставьте Claude Code работать всю ночь над одной задачей: он не даёт компьютеру заснуть, проверяет свою работу, переключается на другой ИИ при достижении лимита и оставляет утренний отчёт.
Управляйте Claude Code со своего телефона и оставляйте компьютер работать
Оставьте Claude Code работать дома и управляйте со своего телефона. Проверяет, почему удалённые сессии молча завершаются, выводит все работы на один экран и звонит вам, когда это необходимо.
Бесплатный магазин плагинов Claude Code: 12 открытых плагинов, добавляются одной строкой
Бесплатный магазин плагинов Claude Code с 12 открытыми плагинами: копирование файлов, второе мнение, ночная работа, сводки почтовых ящиков, контроль затрат на ИИ. Одна строка добавляет его.
Спросите ChatGPT, Gemini, Grok и DeepSeek один и тот же вопрос одновременно
Бесплатный плагин Claude Code, который задаёт ваш вопрос на нескольких сайтах чата ИИ в вашем собственном Chrome и предоставляет один отчёт: где они согласны, не согласны и кто что сказал.
Запускайте Claude Code на более дешёвой модели, не теряя удалённого управления на телефоне
Используйте DeepSeek, GLM, Kimi или локальную модель в Claude Code для рутинной работы в отдельном окне, сохраняя вашу подписку Claude, удалённое управление и советника. Бесплатный плагин.
Кнопка отката для Claude Code: резервная копия файлов перед внесением изменений ИИ
Бесплатный плагин Claude Code для непрограммистов: копирует файл перед внесением изменений ИИ, восстанавливает его по запросу и указывает, что было и не было проверено.
Получите второе мнение о ответе Claude Code's у Codex, Grok и других ИИ
Бесплатный плагин Claude Code, который задаёт один и тот же вопрос Codex, Antigravity, Grok или Kimi через ваши собственные подписки и показывает, где они согласны и расходятся.
Хорошо ли моё количество загрузок на SSRN? Бесплатный эталон по возрасту статьи и области
Проверьте, является ли ваше количество загрузок на SSRN нормальным. Бесплатный инструмент, созданный из 1360 архивированных статей SSRN, с процентилями по возрасту статьи и области.
Как подключить команду к работе с агентами ИИ: план 30-дневного пилота
Переведите коллег из окна чата ИИ к работающим агентам за 30 дней: план пилота, первая 20-минутная сессия, ежедневная карточка в Telegram, отчёт с цифрами.
Новые статьи и заметки в RSS.