Como Backend & Generative AI Engineer, trabajé en una plataforma de generación aumentada por recuperación (RAG) que pone el corpus propio de decisiones judiciales de un equipo legal detrás de una búsqueda en lenguaje natural, fundamentando las respuestas en las decisiones reales, en lugar de en lo que un modelo de propósito general recuerde de su entrenamiento.
Problema
La investigación jurídica consiste en encontrar el precedente correcto dentro de un cuerpo grande y creciente de decisiones. Un modelo de lenguaje de propósito general puede responder con fluidez, pero no garantiza que su respuesta esté fundamentada en una decisión real: un riesgo real en un dominio donde una cita incorrecta tiene consecuencias.
Solución
Generación aumentada por recuperación: las respuestas se generan a partir de decisiones recuperadas del corpus propio de la plataforma, no de lo que un modelo recuerde de su entrenamiento.
Escala
La plataforma sirve respuestas fundamentadas en más de 10.000 decisiones judiciales, en producción.
Mi contribución
Trabajé en el backend: un servicio FastAPI que expone el pipeline de recuperación y generación al resto del producto.