Volver a proyectos

Python · Base de conocimiento e IA · 2025

Aves de Costa Rica

Buscador de aves costarricenses por sus características sobre una base de conocimiento en Prolog, con sugerencias generadas por IA y una vulnerabilidad de inyección detectada y corregida.

  • Python
  • Flask
  • Prolog
  • Azure OpenAI

El problema

Identificar un ave a partir de lo que una persona recuerda (color, tamaño, hábitat, alimentación) es difícil con listas o buscadores de texto. Hacía falta una forma de cruzar varias características a la vez sobre un catálogo de especies de Costa Rica y ayudar a interpretar descripciones imprecisas.

Mi rol

Desarrollo principal: base de conocimiento en Prolog, back end Flask, integración con Azure OpenAI y front end. Proyecto académico en equipo del curso Lenguajes y Paradigmas (UIA, 2025); los compañeros contribuyeron con correcciones puntuales.

La solución

Una aplicación Flask consulta una base de conocimiento en SWI-Prolog con los hechos de las especies y sus características. Azure OpenAI sugiere filtros a partir de una descripción libre y el resultado se valida contra la base de Prolog. A partir de una foto, la aplicación extrae el color dominante para usarlo como filtro; no clasifica la imagen.

  1. Interfaz web
  2. API Flask
  3. Validación de filtros
  4. Base de conocimiento Prolog
  5. Sugerencias Azure OpenAI

Decisiones técnicas

Prolog para cruzar características

Una base de hechos permite combinar filtros (color, tamaño, hábitat, alimentación) de forma declarativa y añadir especies sin cambiar el código de búsqueda.

La IA sugiere, la base de conocimiento decide

Lo que propone el modelo de lenguaje se trata como una sugerencia: solo se usa si coincide con valores válidos y con especies que existen en la base.

Configuración segura y modo demo

Las credenciales de Azure se leen del entorno, nunca del código. Sin credenciales, la aplicación funciona en modo demo y maneja los límites de uso del servicio.

Caso de seguridad: inyección de código en las consultas Prolog

Clase de vulnerabilidad
Inyección de código (CWE-94), del tipo de las neutralizaciones incorrectas de entrada (CWE-74), agravada porque parte de la entrada venía de un modelo de lenguaje.
Cómo la detecté
Al revisar el código vi que los filtros de búsqueda se concatenaban dentro del texto de la consulta Prolog. Lo confirmé en local con una prueba inofensiva: un filtro manipulado conseguía añadir un hecho marcador a la base de conocimiento.
Impacto
Cualquiera que usara el formulario o la API podía ejecutar objetivos Prolog arbitrarios y modificar la base de hechos; en el peor caso, ejecutar comandos en el servidor. Las sugerencias del modelo seguían el mismo camino, así que una inyección de prompt podía terminar en inyección de código. El generador de la base de hechos tenía además un escape incompleto.
Mitigación
Separé los datos del código: las búsquedas llaman siempre a un predicado fijo, cada valor pasa una lista blanca estricta y se cita como átomo con escape completo, y lo que no cumple recibe un error 400 claro. Los errores internos ya no llegan al cliente y el servidor registra solo el tipo de excepción.
Verificación
Escribí primero pruebas de regresión que reproducían el problema y fallaban; después del arreglo pasan todas, y las búsquedas válidas devuelven exactamente los mismos resultados que antes.
Lección
La salida de un modelo de lenguaje es entrada no confiable. Ningún lenguaje que se interpreta, sea SQL, shell o Prolog, debe construirse concatenando texto externo.

Qué comprobé

  • 33 pruebas automáticas en verde, incluidas las de regresión de la inyección, las de CORS y las de manejo de configuración de Azure.
  • CORS apagado por defecto y limitado a los orígenes configurados; fotos de Wikimedia Commons con licencia libre y atribución visible.
  • Las consultas nuevas devuelven los mismos resultados que las anteriores en los casos de búsqueda probados.
  • Funciona en modo demo sin credenciales ni llamadas de red.

Alcance y limitaciones

  • No es un clasificador visual: de la foto solo se usa el color dominante.
  • Las búsquedas con tildes (por ejemplo, «montaña») todavía no devuelven resultados por la codificación de la base de hechos.
  • La demo funciona en local; no hay una versión pública en línea.

¿Necesitas algo parecido?

Cuéntame qué necesitas y te preparo una cotización sin compromiso.