Informe sobre la nube y las amenazas:
Aplicaciones de IA en la empresa

El punto de partida para el riesgo de las aplicaciones genAI son las propias aplicaciones. En la práctica, los controles de aplicaciones también son el punto de partida para controlar ese riesgo, normalmente implementados como listas de permitidos o bloqueados dentro de un SWG o proxy en línea.

La mayoría de las organizaciones han restringido el uso de aplicaciones genAI para proteger sus datos, con un 77% de las organizaciones bloqueando al menos una aplicación genAI en junio de 2024, lo que supone un aumento del 45% respecto al 53% de las organizaciones en junio de 2023.

Esta tendencia indica una buena madurez y adopción en los controles básicos en torno al uso de aplicaciones genAI. Controlar qué aplicaciones se utilizan en una Organización es un punto de partida necesario para reducir el riesgo. Sin embargo, se requerirán controles más granulares para que sean efectivos. El uso específico de una aplicación a menudo determina si la actividad debe estar permitida o no. Por ejemplo, se debe permitir una búsqueda general en ChatGPT, mientras que no se debe enviar el código fuente.

Si miramos con más detalle las aplicaciones bloqueadas, la mediana del número de aplicaciones bloqueadas para todos los usuarios de una Organización también ha ido en aumento, pasando de 0,6 aplicaciones en junio de 2023 a más de 2,6 aplicaciones en junio de 2024. El hecho de que haya tan pocas prohibiciones de aplicaciones genAI en toda la Organización en comparación con los cientos de aplicaciones genAI que hay en el mercado apunta hacia la popularidad de otros controles más matizados, que analizaremos con más detalle más adelante en este Informe.

Las aplicaciones genAI más bloqueadas tienen un cierto alcance en popularidad, pero un buen número de aplicaciones menos populares son las más bloqueadas. De esas organizaciones que bloquean aplicaciones genAI, el 28% bloquea Beautifal.ai (lo que la convierte en la aplicación genAI más comúnmente bloqueada), y el 19% bloquea Perplexity AI, que es la décima aplicación más comúnmente bloqueada. Los bloqueos pueden ser a menudo una medida temporal mientras se evalúan las nuevas aplicaciones para determinar si sirven a algún propósito comercial legítimo y son seguras para un determinado uso Caso.

Las aplicaciones específicas que se bloquean variarán según la Política de la organización, pero cuando los porcentajes son lo suficientemente altos, como en la lista de las 10 principales de arriba, vale la pena que toda Organización revise si las aplicaciones específicas se utilizan dentro de su propio entorno, así como si debe ajustar los controles en torno a la categoría de aplicaciones. La siguiente tabla muestra que las aplicaciones más bloqueadas abarcan una variedad de diferentes casos de uso en el espacio genAI.

Categorías de aplicaciones GenAI más bloqueadas

A medida que las organizaciones maduran más allá de las listas de aplicaciones permitidas, tienden a empezar a promulgar controles más finos en torno al uso de las aplicaciones permitidas. Como era de esperar, los controles DLP están creciendo en popularidad como control de riesgo de datos genAI. La popularidad de la prevención de la pérdida de datos ha aumentado del 24% en junio de 2023 a más del 42% de las organizaciones que utilizan DLP para controlar los tipos de datos enviados a las aplicaciones genAI en junio de 2024, lo que supone un crecimiento interanual superior al 75%.

El aumento de los controles de DLP refleja una comprensión en toda la Organización sobre cómo mitigar eficazmente el riesgo de los datos en medio de la tendencia más amplia y general del creciente uso de aplicaciones genAI. Dentro de DLP Política, las organizaciones buscan controlar los flujos de datos específicos, especialmente para bloquear los avisos de genAI que contengan información sensible o confidencial. En la Organización con Política de protección de datos, el código fuente representa casi la mitad (46%) de todas las infracciones de la DLP, mientras que los datos regulados por normativas sectoriales o requisitos de cumplimiento suponen el 35%, y la propiedad intelectual el 15%. Los datos regulados han sido una de las principales áreas de violación antes de la generación de IA y refuerza los desafíos con la capacitación manual de los usuarios en el intercambio inadecuado de datos regulados.

La publicación de datos sensibles en las aplicaciones genAI no sólo refleja las prioridades actuales de la Organización, sino que también muestra la utilidad de las distintas aplicaciones genAI. Por ejemplo, la popularidad de GitHub Copilot, unida a la cuota de mercado de Microsoft como Plataforma de desarrollo de software, puede impulsar un mayor uso de genAI para la generación de código en el futuro.

Si bien es obvio que las aplicaciones o actividades maliciosas se benefician de los controles que bloquean y alertan, el riesgo de los datos suele ser más bien un área gris. Los controles de coaching pueden ser una técnica muy eficaz para hacer frente a las zonas grises, especialmente en los primeros ciclos tecnológicos de rápido movimiento como la genAI. Además, la Organización puede utilizar el asesoramiento para informar y perfeccionar los controles de seguridad sin bloquear la productividad con falsos positivos y lentos procesos de aprobación.

Los controles de entrenamiento proporcionan un cuadro de diálogo de advertencia al usuario mientras interactúa con las aplicaciones de genAI, lo que le permite cancelar o continuar con sus acciones. Funciona como las funciones de navegación segura integradas en los navegadores. Las ventajas son que proporciona una experiencia más amigable para el usuario, no bloqueando su trabajo, sino informando y permitiendo a los usuarios mejorar su comportamiento.

En el caso de las organizaciones con Política para controlar el uso de aplicaciones genAI, el 31% de ellas utilizaban diálogos de coaching en junio de 2024, frente al 20% de las organizaciones en junio de 2023, lo que supone un aumento de la adopción de más del 50%.

Esto concuerda con la creciente sofisticación de la Organización a la hora de aplicar controles de coaching similares de otros ámbitos de seguridad a otros nuevos, como el riesgo de las aplicaciones genAI. Aunque el crecimiento se ha aplanado, los controles de coaching son relativamente nuevos en comparación con los bloqueos totales y las alertas basadas en DLP o en la aplicación. Esperamos que la adopción siga creciendo a medida que más organizaciones comprendan cómo utilizar el coaching para gestionar los riesgos más graves asociados a los datos.

Cuando desglosamos la respuesta real del usuario a las alertas del diálogo de entrenamiento que se han producido, vemos una medida de eficacia. Para todos los usuarios que recibieron alertas de diálogo de coaching para aplicaciones genAI, en el 57% de esos Casos, los usuarios optaron por detener la acción que estaban realizando, lo que redujo el riesgo al evitar los usuarios enviar datos sensibles en las solicitudes de aplicaciones genAI o al evitar el uso de aplicaciones genAI desconocidas o nuevas. El 57% es lo suficientemente alto como para reforzar el Caso de que el coaching puede ser un control eficaz para complementar los bloques de aplicación explícitos y la Política DLP. Además, el coaching también permite la retroalimentación. Cuando deciden seguir adelante, la mayoría de las organizaciones ponen en práctica políticas que exigen que los usuarios justifiquen sus acciones durante la interacción de coaching.

No se trata de sugerir que la toma de decisiones de los usuarios sea la base de la Política de seguridad. Por el contrario, indica que en el caso de las organizaciones que utilizan el coaching, aproximadamente la mitad del uso de las aplicaciones genAI que no se bloquea directamente puede reducirse aún más por decisión del usuario. Igualmente importante, las decisiones de los usuarios en respuesta a los diálogos de orientación pueden y deben informar la revisión y el ajuste de la Política de Seguridad. Si bien las decisiones de los usuarios pueden ser defectuosas y arriesgadas, las dos categorizaciones forman la base para una revisión posterior. Las aplicaciones que un usuario ha decidido no usar en función de un cuadro de diálogo de entrenamiento deben analizarse para obtener una lista de bloqueo total. Las aplicaciones que un usuario decidió usar deben revisarse para incluirlas en una lista de estándares corporativos permitidos o quizás bloquearlas si hay una aplicación mejor o más aceptable. Las respuestas de los usuarios a las indicaciones de orientación también podrían utilizarse para perfeccionar una Política más matizada, como la Política DLP, para que sea más específica en su aplicación.

Estamos viendo signos tempranos de detecciones avanzadas de comportamientos sospechosos de usuarios con respecto al movimiento de datos que fueron detectados por los motores de detección de comportamiento. El movimiento sospechoso de datos a menudo comprende múltiples indicadores de comportamiento sospechoso o inesperado por parte de un usuario con respecto a la línea de base de la actividad normal del usuario o de la Organización. Los indicadores podrían implicar una actividad anómala de descarga o carga, fuentes u objetivos de datos nuevos o sospechosos como las aplicaciones genAI de Nuevo, así como otros comportamientos sospechosos como el uso de una dirección IP o un agente de usuario inesperados u ofuscados.

Un ejemplo de alerta de comportamiento avanzada detectada por movimiento de datos sospechoso implica el movimiento de datos desde una aplicación gestionada por la Organización y cargados en una aplicación genAI personal no aprobada.

Al igual que el coaching, la lista de aplicaciones que aparecen en estas alertas también se puede utilizar para priorizar los esfuerzos de control con el uso de aplicaciones genAI. Por ejemplo, dos aplicaciones de uso común pueden superponerse en funcionalidad, y eso por sí solo podría priorizar los esfuerzos para reducir la cantidad de aplicaciones.

El uso de alertas de comportamiento muestra la concienciación temprana y la adopción de la Organización para encontrar amenazas más difíciles de detectar, que tradicionalmente han incluido credenciales comprometidas, amenazas internas, movimiento lateral y actividades de exfiltración de datos por parte de actores maliciosos.

Cuando observamos más de cerca los movimientos de datos confidenciales, encontramos que las principales aplicaciones donde se originaron los datos confidenciales reflejan la popularidad de las aplicaciones corporativas en la nube, con OneDrive (34%) y Google Drive (29%) en la parte superior, seguidos de SharePoint (21%) y Outlook (8%) y Gmail (6%).

Las 3 aplicaciones principales son todas aplicaciones de almacenamiento y colaboración en la nube y fueron la fuente de los datos sensibles el 84% de las veces, mientras que las principales aplicaciones de Correo electrónico en la nube fueron la fuente el 14% de las veces. Al saber qué aplicaciones específicas están involucradas con más frecuencia en los movimientos de datos confidenciales, los equipos de seguridad pueden ajustar los controles de manera adecuada, por ejemplo, colocando controles DLP adicionales alrededor de las aplicaciones de intercambio de archivos. Las organizaciones deben dar prioridad a la evaluación de los riesgos de seguridad y a la implementación de controles en torno al movimiento de datos entre aplicaciones, especialmente el paso de aplicaciones gestionadas a aplicaciones genAI no gestionadas, ya que es cada vez más común y puede tener un gran impacto en la pérdida de datos.