💡 Resumen (TL;DR):
- Databricks presentó KARL, un agente de IA diseñado para resolver búsquedas complejas en entornos empresariales.
- El modelo iguala a las IA propietarias, pero reduce un 33% los costos por consulta y un 47% la latencia.
- Su entrenamiento dependió 100% de datos sintéticos, y su infraestructura ya está disponible en beta privada.
Databricks lanzó este miércoles KARL, un nuevo agente de inteligencia artificial entrenado para ejecutar búsquedas y tareas de razonamiento en entornos corporativos. El sistema iguala el rendimiento de los modelos propietarios más potentes del mercado, pero recorta los costos por consulta en un 33% y reduce la latencia en un 47%.
KARL (Knowledge Agent via Reinforcement Learning) es un modelo de IA que extrae y reconstruye información a partir de documentos internos fragmentados, historiales de cuentas corporativas y resultados de acuerdos comerciales. A diferencia de los sistemas tradicionales Retrieval-Augmented Generation (RAG) que suelen fallar ante patrones de consulta variables, esta herramienta domina seis comportamientos de búsqueda distintos.
El equipo de investigación enfrentó un obstáculo técnico principal: el conocimiento corporativo carece de respuestas absolutas para guiar el aprendizaje por refuerzo.
“Muchos de los grandes triunfos del aprendizaje por refuerzo que hemos visto en la comunidad durante el último año han sido en tareas verificables donde hay una respuesta correcta y una incorrecta”, explicó Jonathan Frankle, líder de investigación en Databricks, a VentureBeat. “Las tareas en las que trabajamos para KARL, y que son simplemente normales para la mayoría de las empresas, no son estrictamente verificables de esa misma manera”.
Entrenamiento sintético y disponibilidad empresarial
Para resolver este problema, la compañía desarrolló la técnica OAPL, un método que estabiliza el entrenamiento en entornos distribuidos. Esto permitió que el aprendizaje dependiera únicamente de datos sintéticos, sin etiquetado humano, consumiendo apenas unos miles de horas de procesamiento GPU.
El despliegue inicial de la tecnología abarca las siguientes implementaciones:
* Integración directa en la suite Agent Bricks, impulsando el asistente Knowledge Assistant.
* Capacidad nativa para fundamentar respuestas combinando datos estructurados y no estructurados dentro del ecosistema Databricks Lakehouse.
* Disponibilidad en beta privada de las canalizaciones e infraestructura de aprendizaje por refuerzo para clientes que buscan crear sus propios agentes IA de alto volumen.
Este lanzamiento expande la arquitectura Instructed Retriever que la empresa presentó a inicios de año, la cual mejoró la precisión en la resolución de preguntas empresariales en más de un 70%. Databricks reafirma así su estrategia técnica: apostar por modelos especializados más rápidos y económicos en lugar de depender exclusivamente de modelos de propósito general masivos.
