✨︎ Resumen (TL;DR):
- Google lanzó Gemini Decisions API dentro de Gemini API en Google AI Studio.
- Gemini Decision 1 puede evaluar hasta 1,000 preguntas sobre una entrada compartida, con una ventana total de 262,144 tokens.
- La tarifa de pago es de 0.10 dólares por millón de tokens de entrada y no cobra tokens de salida; las reglas de uso de datos cambian según el servicio y la región.
Google lanzó Gemini Decisions API para que aplicaciones y agentes de inteligencia artificial evalúen hasta 1,000 preguntas sobre una misma entrada en una sola solicitud. El servicio usa el nuevo modelo Gemini Decision 1, acepta texto, imágenes, audio, video y documentos PDF, y devuelve respuestas estructuradas con una medida de confianza que la aplicación puede usar para decidir qué hacer después.
Google anunció el 11 de noviembre que la API está disponible a través de Gemini API en Google AI Studio. La entrada puede combinar texto, imágenes, audio, video y documentos PDF en un mismo envío.
Gemini Decisions API es una API que evalúa preguntas independientes sobre una entrada compartida y devuelve respuestas estructuradas con un indicador de confianza. La aplicación puede usar esos resultados dentro de la lógica que programe el desarrollador.
Una entrada compartida, preguntas independientes
Por ejemplo, una aplicación de atención al cliente podría enviar la foto de un producto junto con la descripción del comprador. Sobre ese material, la API puede evaluar si hay daños visibles, elegir un área de soporte entre opciones definidas y asignar una puntuación de gravedad.
El desarrollador puede combinar tres tipos de pregunta en la solicitud:
- Sí o no: una comprobación binaria.
- Opción: elegir entre 2 y 255 alternativas.
- Puntuación: asignar un valor sobre una escala ordenada.
En cada caso, el servicio devuelve un indicador de confianza. Las respuestas de opción y puntuación también incluyen probabilidades para las alternativas o los niveles correspondientes.
La API evalúa las preguntas por separado. La documentación de Google precisa que una pregunta no puede ver la respuesta de otra dentro de la misma solicitud. Si el siguiente paso depende de un resultado anterior, la aplicación puede combinar las respuestas por su cuenta o hacer otra solicitud.
El tope depende de la ventana de tokens
El máximo de 1,000 preguntas comparte espacio con el material analizado. La ventana total es de 262,144 tokens, sumando la entrada y todas las preguntas.
Los tokens son unidades de procesamiento que también se calculan para el contenido visual y de audio. Por eso, el límite no equivale a una cantidad fija de palabras: el tamaño del material y de las instrucciones afecta cuántas preguntas caben en una solicitud.
La medida de confianza es una estimación, no una garantía de acierto. Google recomienda ajustar los umbrales con ejemplos etiquetados del tráfico propio y tomar en cuenta el costo de los falsos positivos y falsos negativos. Los casos dudosos pueden enviarse a revisión humana.
Precio, ahorro y condiciones de datos
La tarifa de pago es de 0.10 dólares por millón de tokens de entrada. Gemini Decisions API no cobra tokens de salida.
Google factura la entrada compartida una vez por solicitud, aunque se evalúen varias preguntas. Cada pregunta agrega los tokens de sus instrucciones, criterios y formato.
Si una solicitud de pago suma 100,000 tokens de entrada compartida y 20,000 tokens de preguntas, los 120,000 tokens costarían 0.012 dólares a la tarifa anunciada.
El ahorro de compartir material ocurre dentro de una solicitud. Gemini Decisions API no admite caché de contexto ni Batch API; si el mismo material se envía en solicitudes separadas, vuelve a contar como entrada. Google también ofrece una cuota gratuita para pruebas.
En los servicios gratuitos, Google indica que puede usar el contenido y las respuestas para mejorar sus productos. También pide no enviar información sensible, confidencial o personal.
En los servicios de pago, Google afirma que no usa las instrucciones ni las respuestas para mejorar sus productos, aunque registra esos datos durante un periodo limitado para seguridad y cumplimiento legal.
Para quienes están en el Espacio Económico Europeo, Suiza o el Reino Unido, las condiciones de uso de datos de los servicios de pago también se aplican a los servicios gratuitos, según las condiciones de Google.
OpenAI ofrece otro límite y caché
OpenAI ofrece su propia Decisions API con una tarifa base de 0.10 dólares por millón de tokens de entrada sin caché y sin cobro por tokens de salida. Su documentación admite hasta 400 preguntas por solicitud y contempla caché de contexto.
OpenAI también advierte que pueden aplicarse recargos por procesamiento regional y multiplicadores para contextos largos.
La diferencia entre 1,000 y 400 preguntas no permite por sí sola medir la precisión ni el costo total de una aplicación. Si una carga repite el mismo contexto en solicitudes separadas, la disponibilidad de caché cambia la comparación.
Google sitúa la latencia de extremo a extremo de Gemini Decision 1 entre 150 y 250 milisegundos en los escenarios que describe para entradas multimodales y contextos de hasta 16,000 tokens. La empresa afirma que se mantuvo casi constante al pasar de 1 a 100 preguntas por solicitud.
Esa referencia no demuestra que todas las solicitudes de hasta 1,000 preguntas tarden lo mismo. La cifra cubre los escenarios descritos por Google, no cada combinación posible de entrada, número de preguntas y tamaño de contexto.
Para quien construya una aplicación con la API, el atractivo principal está en preguntar varias cosas sobre el mismo material y pagar la entrada compartida una sola vez dentro de la solicitud. La decisión práctica queda ligada a la ventana de tokens, a la falta de caché entre solicitudes y a las condiciones de manejo de datos. La confianza que devuelve el servicio tampoco sustituye los umbrales calibrados ni la revisión humana en los casos dudosos.
