La seguridad de un proceso depende de cuatro decisiones: qué información puede consultar, quién puede administrarlo, qué acciones puede ejecutar y a quién se envían los resultados. La configuración debe limitar el alcance y mantener revisión humana cuando una decisión pueda tener un impacto relevante.
¿Cómo se protegen los datos?
Buk Studio y Buk AI operan dentro de los controles de seguridad y permisos definidos para la plataforma. La protección de la información no depende únicamente de la tecnología utilizada, sino también de cómo se configura el proceso, quién puede administrarlo, qué fuentes consulta y quién recibe sus resultados.
Por esta razón, cada proceso debe utilizar solamente las fuentes necesarias para su objetivo, limitarse a la población correspondiente y enviar información únicamente a destinatarios autorizados. La inteligencia artificial no reemplaza las políticas internas de seguridad de la empresa ni la correcta configuración de roles.
Las cuatro preguntas de seguridad
- ¿Qué información puede consultar el proceso?
- ¿Quién puede crear, editar o activar la configuración?
- ¿Qué acciones puede ejecutar?
- ¿Quién puede recibir el resultado?
¿Con qué permisos accede un agente?
Un agente no obtiene acceso ilimitado por utilizar inteligencia artificial. El acceso depende del perfil del usuario, los permisos asignados, el módulo involucrado, la fuente de datos, la configuración del proceso y la acción que se intenta ejecutar.
Un agente solo debe procesar información disponible y autorizada para el contexto en que se ejecuta. Si una persona cambia de rol o pierde un permiso, ese cambio debe considerarse al revisar los procesos que administra o utiliza.
¿Quién puede crear y administrar procesos?
La capacidad de crear, editar y activar procesos depende de los permisos asignados. Según la configuración, los permisos pueden determinar quién puede crear procesos, editar instrucciones, definir destinatarios, configurar acciones, activar o pausar procesos, revisar ejecuciones, eliminar procesos y administrar templates.
Antes de asignar la administración de un proceso, verifica que la persona comprenda su objetivo, sus fuentes de información, sus acciones y los destinatarios configurados. También conviene revisar periódicamente si los administradores siguen necesitando ese acceso.
¿Cómo se controlan los destinatarios?
Una notificación debe llegar solamente a quienes necesitan conocer el resultado y están autorizados para recibirlo. Antes de activar un proceso, revisa si el destinatario necesita el detalle completo, un resumen o solo una alerta. También confirma si el contenido incluye información sensible, si el canal está habilitado y si la notificación puede enviarse a un grupo.
Los permisos de acceso a Buk no deben sustituirse mediante el envío de información a personas que no tienen autorización. Si el resultado contiene más datos de los necesarios, ajusta el formato de salida o limita el alcance del proceso.
¿Puede un agente modificar o eliminar información?
Un agente no debe modificar ni eliminar información de forma autónoma, salvo que esa capacidad esté explícitamente habilitada, documentada y protegida por permisos y controles adicionales. En su alcance de consulta y análisis, un agente puede revisar información, generar resúmenes, detectar excepciones y entregar recomendaciones.
Cuando existe una acción de mayor impacto, es recomendable considerar permisos específicos, confirmación humana, registro de auditoría, validación de datos, posibilidad de reversión, restricción de la población y pruebas antes de la activación. La configuración debe dejar claro qué puede hacer el proceso y qué queda fuera de su alcance.
¿Qué es la participación humana?
La participación humana significa que una persona interviene antes de completar una acción relevante o toma la decisión final a partir del resultado entregado por Buk AI. Puede implementarse mediante una aprobación, una confirmación, una revisión de resultados o la separación entre quien configura y quien aprueba.
Este control es especialmente importante cuando el proceso puede afectar remuneraciones, contratos, documentos legales, datos sensibles o el estado laboral de una persona. Buk AI puede apoyar el análisis, pero la responsabilidad de una decisión crítica debe permanecer en las personas definidas por la empresa.
¿Qué información queda registrada?
Según la capacidad disponible, el historial puede mostrar el proceso ejecutado, la fecha y hora, el evento que lo inició, la etapa activa, el responsable, el resultado, la acción ejecutada, los errores o advertencias y las notificaciones enviadas.
Revisa el historial cuando necesites investigar una ejecución, confirmar el comportamiento de un proceso o comprobar si una notificación fue generada. El nivel de detalle puede variar según el tipo de proceso y la versión disponible.
¿Los datos de la empresa se utilizan para entrenar modelos?
De acuerdo con las políticas de privacidad vigentes de Buk, los datos de la empresa no se utilizan para entrenar modelos externos. El tratamiento de la información también debe respetar la legislación aplicable, las políticas de privacidad, los permisos de la plataforma, las configuraciones de la empresa y las restricciones de cada módulo.
Si la empresa tiene requisitos adicionales de privacidad o seguridad, el administrador debe considerarlos al definir las fuentes, destinatarios y acciones de cada proceso.
¿Qué debo hacer si detecto un resultado incorrecto?
Primero revisa la instrucción, las fuentes utilizadas, los filtros y los permisos. Después consulta el historial de ejecución para identificar qué proceso se ejecutó, con qué información y qué resultado produjo. Si el proceso puede generar nuevos impactos, páusalo mientras analizas el problema.
Una vez identificada la causa, corrige la configuración, realiza nuevas pruebas y verifica el resultado con una población controlada. Reactiva el proceso solo cuando la respuesta sea consistente y las personas responsables hayan revisado el cambio.
Recomendaciones de seguridad
- Utiliza únicamente las fuentes necesarias.
- Limita el alcance del proceso.
- Define destinatarios autorizados.
- Evita incluir información sensible innecesaria.
- Solicita revisión humana para acciones relevantes.
- Prueba los procesos antes de activarlos.
- Revisa periódicamente las ejecuciones.
- Pausa los procesos que ya no se utilicen.
- Mantén actualizados los permisos.
- Documenta los cambios importantes.
Estas prácticas ayudan a reducir errores y facilitan investigar lo ocurrido cuando una ejecución no produce el resultado esperado.
Artículos relacionados
- Crear y administrar agentes.
- Configurar flujos.
- Escribir instrucciones.
- Revisar ejecuciones.
- Administrar permisos en Buk Studio.