Investigación

Esta es una traducción. La versión de referencia es el original en inglés; cite esa.

Cómo los modelos de IA se verifican mutuamente, cuándo la supervisión automatizada ayuda y cuándo se interpone, y qué cambia cuando las personas delegan trabajo a agentes de IA en lugar de conversar con ellos. Artículos de Vadym Chernets, investigador independiente que construye sistemas multi-IA, con notas breves que abordan una pregunta cada una. Todo aquí está disponible para leer gratuitamente en su totalidad, y cada artículo tiene un PDF.

Más reciente

Artículos

Notas

Piezas breves, cada una sobre una pregunta, cada una vinculada al artículo completo del que proviene.

  • Nota · · Lectura de 4 min

    Por qué los críticos multiagente siguen revisando en lugar de publicar

    Ofrecidas ambas opciones en una oración, los críticos de IA pidieron agregar un control 68 veces y eliminar uno una sola vez. Lo que eso significa para los bucles de revisión y los presupuestos de tokens.

    Supervisión de IA

  • Nota · · Lectura de 4 min

    Cuando las salvaguardas bloquean al defensor, y el atacante no tenía ninguna

    En julio de 2026, las salvaguardas de modelos alojados se negaron al análisis de registros de los respondedores de incidentes. Los agentes atacantes habían funcionado con esa clase de salvaguarda eliminada por diseño.

    Supervisión de IA

  • Nota · · Lectura de 4 min

    "Tenemos salvaguardas" no es un caso de seguridad

    Una lista de salvaguardas muestra que un sistema está protegido, no que las salvaguardas se mantengan limitadas. La afirmación estrecha que un desplegador puede demostrar, y once preguntas a hacer.

    Supervisión de IA

  • Nota · · Lectura de 4 min

    Un auditor de solo lectura para registros de eventos de agentes de IA

    AI-Watchbird-Sheckley lee el registro de eventos de una ejecución multiagente e informa nueve señales de supervisión. Nunca bloquea. Qué mide y qué no.

    Supervisión de IA

  • Nota · · Lectura de 4 min

    Un detector de armas, dos tipos de error

    Un producto de detección de armas escolar perdió una pistola en un tiroteo y meses después marcó a un estudiante desarmado. Lo que los registros públicos dicen sobre el error bilateral.

    Supervisión de IA

  • Nota · · Lectura de 4 min

    Lo que un retiro de autobús escolar dice sobre la supervisión remota

    Dos registros separados de autobús escolar, un retiro de 3.067 vehículos y un «No» de un agente remoto en Austin, y lo que dicen sobre dónde debe estar la supervisión humana.

    Supervisión de IA

Herramientas

Herramientas de código abierto, cada una explicada en palabras simples, con el código en GitHub. Todas las herramientas

Nuevos artículos y notas por RSS.