Herramientas

Cómo Reducir Costos de IA: Paga un Modelo Solo por las Decisiones que lo Necesitan

Esta es una traducción. La versión de referencia es el original en inglés; cite esa.

Vadym Chernets · código abierto · 6 min de lectura

Decidecall toma las pequeñas decisiones que una empresa toma una y otra vez (qué equipo recibe este mensaje, aprobar o devolver, urgente o no) y responde cada una con lo más barato que sea lo suficientemente seguro. Una respuesta anterior viene primero, luego una regla simple, luego un modelo ejecutándose en tu propia computadora; solo lo que queda va a un modelo pagado, y lo que ningún modelo está seguro de va a una persona. La respuesta de la persona se guarda, para que la misma pregunta nunca cueste dos veces.

Decidecall es un complemento gratuito de código abierto para Claude Code, el asistente de IA de Anthropic que funciona con los archivos de tu computadora. No necesita cuenta, tarjeta ni clave de API (el código de acceso que los programas usan para llamar a una IA) propia: se accede a un modelo pagado a través de un programa que tu empresa ya ha instalado y en el que ya inició sesión.

Por qué la mayoría de decisiones nunca necesitan un modelo

Muchos equipos que comienzan con IA envían cada mensaje a un modelo. Funciona, pero el costo es dar la misma respuesta una y otra vez: "¿dónde está mi factura?" llega a una bandeja de entrada de soporte todos los días, y la palabra "factura" ya indica que debe ir a facturación. Tian Pan describe un equipo que ejecutó un modelo para enrutar tickets de soporte durante meses antes de darse cuenta de que el 70% de los tickets nombraban un producto en la línea de asunto, que una tabla de búsqueda simple habría enrutado con una precisión del 99%.

Los investigadores han medido la misma idea a escala. FrugalGPT de Stanford pregunta primero a un modelo barato y solo asciende cuando la respuesta parece débil; igualó el mejor modelo único "con hasta 98% de reducción de costos". RouteLLM de LMSYS, que selecciona un modelo fuerte o débil para cada pregunta, redujo costos en más del 85% en un punto de referencia mientras mantenía el 95% de la calidad de GPT-4.

Cómo funciona la cadena

Cada decisión recorre los mismos seis eslabones y se detiene en el primero que es suficientemente seguro:

• Caché: respuestas ya dadas. Se encuentra una repetición exacta incluso con diferentes mayúsculas, espacios y puntuación. Con un pequeño modelo de incrustación en su ordenador (tal como nomic-embed-text en Ollama), también se encuentra una pregunta formulada de otra manera: "Why was my card billed two times?" encuentra la respuesta a "I was charged twice this month".
• Reglas: palabras que resuelven la respuesta, escritas una sola vez: "invoice", "refund" o "charged" significa facturación. Cuando dos reglas apuntan a diferentes respuestas, permanecen en silencio en lugar de adivinar.
• Modelo local: un modelo ejecutándose en su propio ordenador, gratuito para cada decisión.
• Modelos en la nube baratos y potentes: modelos pagos, el más barato permitido primero.
• Una persona: quienquiera que sea propietario de la decisión, se le muestra la mejor conjetura hasta ahora.

Cada enlace responde con una decisión y una confianza, un número del 0 al 1. Con 0.95 o más, se toma la respuesta. Por debajo de eso, se pregunta al siguiente enlace, y cuando dos fuentes diferentes están de acuerdo (y al menos una de ellas tiene una confianza de 0.70 o más), eso lo resuelve. Dos enlaces que ejecutan la misma familia de modelo nunca se confirman mutuamente, y una coincidencia por significado en la caché es solo una sugerencia que otro enlace tiene que confirmar. Cuando nada es seguro, una persona decide, y su respuesta va a la caché. Ambos umbrales son suyos para cambiar.

Un tipo de decisión es un pequeño archivo: la pregunta, las respuestas posibles, las palabras que la resuelven y cuánta seguridad debe tener un enlace. El mismo formato funciona para ordenar mensajes de soporte, "aprobar o devolver" en reclamaciones de gastos o "urgente o no" en correo entrante.

Un ejemplo trabajado: 65 mensajes de soporte

El repositorio incluye una bandeja de entrada de soporte para cuatro equipos (facturación, técnico, cuenta y ventas): 65 mensajes de clientes, con repeticiones como las que tiene el soporte real. El 2 de octubre de 2026 la cadena fue medida dos veces (resultados completos):

Sin ningún modelo, más de la mitad de la bandeja de entrada fue clasificada sin errores (reejecución el 10 de octubre de 2026 con el mismo resultado). Al añadir Claude Haiku 4.5, el modelo pequeño y rápido de Anthropic, quedaron seis mensajes para una persona.

El informe es igualmente explícito sobre qué no funcionó. Haiku fue incorrecto dos veces a pesar de tener 98% de certeza: "I get logged out every five minutes" fue a técnico en lugar de cuenta, y también su repetición. Exactamente por eso la cadena solicita una segunda fuente distinta antes de confiar en la respuesta repetida del modelo. Sesenta y cinco ejemplos son una primera lectura: la herramienta está construida de modo que ejecutes la misma medición en cientos de tus propias decisiones pasadas.

Qué hace

• Decidir una pregunta: la respuesta, cuál fue el enlace, cuán seguro estaba, qué costó.
• Etiquetar: la respuesta de una persona se almacena en la caché, por lo que es gratuita la próxima vez.
• Promover: las decisiones que los modelos tomaban de la misma manera, confirmadas por dos familias de modelos diferentes, se convierten en entradas de caché una vez que usted dice que sí; las palabras que solo se asociaban con una respuesta se ofrecen como nuevas reglas.
• Banco de Pruebas: sus propias decisiones pasadas etiquetadas se ejecutan a través de la cadena, mostrando cuántas fueron decididas sin una persona, cuántas fueron correctas, cuán honestos fueron los números de confianza y el precio de una decisión comparado con enviar todo a un modelo.
• Candidatos: 14 programas y servicios que pueden respaldar un enlace, cada uno con su licencia y página de origen.

Los modelos de decisión se conectan directamente

Ha llegado un nuevo tipo de modelo para esta tarea exacta. Jev de TypeSafe, anunciado en septiembre de 2026, no escribe texto: toma una situación y una pregunta con opciones y devuelve la opción elegida con una probabilidad, a $0.042 por millón de tokens de entrada (DataCamp). Los modelos abiertos del mismo tipo se ejecutan en tu propio ordenador: Strands Decider, cuyos autores informan que sus «respuestas con una confianza de 0,9 o superior son correctas el 95% de las veces», y, desde Ollama 0.35, modelos de decisión servidos por Ollama, la herramienta gratuita para ejecutar modelos localmente. Decidecall habla esta interfaz directamente, así como modelos locales ordinarios (Ollama, llama.cpp, vLLM, LM Studio) y Claude a través de Claude Code que ya tienes; bench muestra en tus propios datos qué añade cada uno.

Sus reglas para datos y dinero

Decidecall lee el mismo archivo de política de la empresa que los otros complementos de la empresa:

• Los datos confidenciales permanecen en la computadora. Marca en rojo una decisión y va solo a la caché, las reglas y los modelos locales; Decidecall mantiene una huella digital del texto, nunca el texto en sí.
• Solo a los proveedores que autorizas, u solo aquellos que no conservan nada después de responder.
• Un presupuesto diario: se omite un enlace de pago que lo superaría, y los enlaces gratuitos siguen funcionando.
• Las claves permanecen en el llavero, nunca en un archivo.

Es un único archivo Python que no requiere nada más allá de Python y no abre ninguna conexión de red por su cuenta, por lo que se ejecuta incluso en una computadora desconectada de internet.

Cómo empezar

En Claude Code, agrega el catálogo Poly A1 e instala Decidecall (no se necesita git ni una cuenta de GitHub):

/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install decidecall@poly-a1

Luego di qué quieres que se decida, en tus propias palabras: "ordena nuestros mensajes de soporte por equipo", o "¿vale la pena Strands Decider para nosotros?". Claude formula sus preguntas una por una (qué se decide, las respuestas posibles, qué palabras confirman la respuesta, qué tan segura debe ser) y escribe el archivo de tareas contigo. Luego ejecuta bench en tus decisiones pasadas antes de que se pague nada. Decidecall necesita Python 3.8 o más reciente y funciona en Mac, Linux y Windows.

El código, la bandeja de ejemplo y las mediciones: github.com/vadimchernets/decidecall.

Dónde encaja

Decidecall es uno de los complementos empresariales en el Poly A1 plugins catálogo. Se empareja con Routecall, donde un modelo fuerte planifica y los más baratos hacen el volumen, y con Billcall, que cuenta lo que cuesta la IA a la empresa; Firmcall escribe el archivo de política compartida. Decidecall fue escrito por Vadym Chernets, publicado bajo la licencia Apache-2.0 y archivado en Zenodo (DOI 10.5281/zenodo.23116720).

Ver decidecall en GitHub

Vadym Chernets también desarrolla Poly A1, una aplicación en la que sistemas de IA de diferentes empresas verifican mutuamente su trabajo.