Skip to content
Volver al Blog
IA
Actualizado el

La búsqueda con IA en software empresarial empieza por los permisos

Una respuesta útil también puede revelar el documento equivocado. Definí los permisos de consulta, su revocación y los límites de la caché antes de conectar datos internos.

Branded abstract 5e Labs cover image for La búsqueda con IA en software empresarial empieza por los permisos

El control de acceso en consultas con IA debe actuar antes de que el modelo reciba un documento. Si una persona no puede abrir una fuente en la aplicación empresarial, el asistente tampoco debería recibir su texto, resumirlo ni revelar su título. Una negativa después de recuperar la información llega demasiado tarde para funcionar como barrera de permisos.

Antes de elegir el modelo, identificá qué servicio decide lo que esta persona puede leer en este momento. Esa decisión también debe respetarse al reutilizar respuestas guardadas.

La aplicación define el alcance de la búsqueda

Obtené la identidad del usuario y de su organización desde una sesión verificada en el servidor. Consultá sus permisos actuales allí, sin confiar en el identificador de organización o el rol que envíe el navegador. La búsqueda debe limitarse a ese alcance autorizado.

La guía de autorización de OWASP recomienda denegar por defecto y validar permisos en cada solicitud. Ese criterio también corresponde a las consultas del asistente y a las descargas de documentos.

Cada fragmento indexado necesita un identificador estable de la fuente y metadatos suficientes para aplicar la política. Si el acceso depende de pertenecer a un proyecto, filtrar solo por organización no alcanza. Un fragmento sin metadatos de permisos debe quedar fuera, no volverse público.

Cuando la herramienta lo permita, filtrá candidatos dentro del motor de búsqueda. Volvé a comprobar los permisos vigentes antes de enviar el texto seleccionado al modelo. Filtrar únicamente después de elegir los mejores resultados también puede producir respuestas vacías si los documentos inaccesibles ocupan esas posiciones.

La revocación necesita su propio flujo

El índice es una copia. Sus permisos pueden quedar desactualizados respecto a la aplicación original. Definí qué sucede cuando alguien sale de un proyecto, cambia la clasificación de un documento o se cierra una cuenta.

Hay varias superficies que revisar:

SuperficieDecisión necesaria
ÍndiceCómo llegan los cambios de permisos a los fragmentos existentes
Caché de respuestasQué alcance y versión de permisos identifican cada entrada
HistorialSi las respuestas anteriores siguen visibles tras revocar el acceso
Enlaces a fuentesSi abrir una cita verifica los permisos actuales

Si falla el servicio de permisos, mostrale al usuario que la consulta no está disponible. Usar un índice sin restricciones convertiría una falla operativa en una exposición de datos. Registrá el motivo internamente sin revelar nombres de documentos restringidos.

Ejemplo hipotético: un cambio de proyecto

Un equipo de operaciones en Costa Rica atiende a dos clientes de Estados Unidos. Ana pasa de una cuenta a la otra. Ambas tienen documentos llamados “Calendario de entregas”.

Antes del cambio, Ana consulta el calendario del primer cliente. Después, repite la pregunta. Una caché identificada solo por el texto devolvería la respuesta anterior. Agregar la organización tampoco resuelve el problema si el cambio de permisos ocurrió entre proyectos de la misma cuenta.

La prueba debe inspeccionar los identificadores recuperados y la solicitud enviada al modelo, además de la respuesta final. También debe intentar abrir la cita anterior. Una respuesta aparentemente correcta no demuestra que el texto restringido quedó fuera.

Pedí evidencia antes de habilitar el acceso

Incluí pruebas con identificadores adivinados, sesiones viejas, membresías revocadas y fragmentos sin permisos. Revisá las exportaciones y la suplantación autorizada para soporte: suelen recorrer rutas distintas a la búsqueda habitual.

El siguiente paso es dibujar una consulta completa, desde la sesión hasta la descarga de la fuente, y marcar cada validación. Ese mapa sirve para iniciar un proyecto de software a la medida antes de escoger el modelo o la base vectorial.

¿Tienes un proyecto en mente?

Contáctanos