Las organizaciones aumentan los presupuestos de ciberseguridad para abordar las amenazas a la privacidad de los datos y la seguridad de la nube en medio de una rápida adopción de la IA generativa.
La adopción acelerada de la inteligencia artificial generativa (GenAI) está impulsando a las organizaciones de Medio Oriente y África a aumentar la privacidad de los datos y las protecciones de seguridad en la nube en un intento de evitar los aspectos más preocupantes de la tecnología de la IA.
La buena noticia para los equipos de seguridad: las preocupaciones sobre GenAI están impulsando el crecimiento de los presupuestos, con aumentos esperados del 24% y el 17% en el gasto en privacidad de datos y seguridad en la nube, respectivamente, en comparación con 2023, afirmó Gartner en un análisis reciente.
La mala noticia: el panorama de amenazas potenciales que plantea la IA está en gran medida inexplorado y las empresas todavía están estableciendo estrategias para abordar sus efectos disruptivos en las empresas. Los peligros recientes incluyen que los empleados filtren propiedad intelectual a través de chatbots, los atacantes refinan su ingeniería social y las “alucinaciones” de la IA que causan impactos comerciales inesperados.
En general, el uso no autorizado por parte de los trabajadores plantea riesgos operativos, mientras que la adopción de la tecnología por parte de los atacantes significa un probable aumento de sus capacidades técnicas básicas y mejores ataques de ingeniería social, dice Nader Henein, analista vicepresidente de Gartner, que cubrió Medio Oriente y África del Norte. (MENA) en su estudio.
“Con un LLM que busca LinkedIn, cada ataque de phishing se convierte en una tarea de phishing dirigida y única [y] lo que antes estaba reservado para objetivos de alto valor ahora se convierte en la norma”, afirma. “La IA tiene cuatro décadas, pero los LLM y las capacidades generativas son nuevos y están a nuestro alcance. Decir que controlamos todos los riesgos potenciales es arrogancia”.
Microsoft expone el abuso de GenAI
Las preocupaciones sobre el impacto empresarial de la IA generativa ciertamente no se limitan a Medio Oriente y África. Microsoft y OpenAI advirtieron la semana pasada que las dos compañías habían detectado atacantes de Estados-nación de China, Irán, Corea del Norte y Rusia utilizando los servicios GenAI de las compañías para mejorar los ataques automatizando el reconocimiento, respondiendo consultas sobre los sistemas objetivo y mejorando los mensajes y señuelos utilizados en ataques de ingeniería social, entre otras tácticas. Y en el lugar de trabajo, tres cuartas partes de los profesionales de TI y ciberseguridad creen que los trabajadores están utilizando GenAI , con o sin autorización.
Los riesgos de seguridad obvios no están frenando el entusiasmo por GenAI y LLM. Casi un tercio de las organizaciones en todo el mundo ya cuentan con un programa piloto para explorar el uso de GenAI en sus negocios: el 22% ya utiliza las herramientas y el 17% las implementa.
“[C]on un poco de esfuerzo técnico inicial, este riesgo se puede minimizar pensando en casos de uso específicos para permitir el acceso a aplicaciones de IA generativa y al mismo tiempo analizando el riesgo en función de dónde fluyen los datos”, Teresa Tung, tecnóloga jefe de nube primero. en Accenture, según un análisis de 2023 de las principales amenazas generativas de IA. “La ‘confianza por diseño’ es un paso crítico en la construcción y operación de sistemas exitosos”, añadió.
Raíces de la privacidad de datos
Para las organizaciones de Oriente Medio y África, las preocupaciones sobre la adopción de la IA generativa (así como las leyes de protección de datos actualizadas) son los mayores impulsores del aumento de los presupuestos de protección de datos, mientras que la adopción de la nube está impulsando la necesidad de proteger los servicios de nube de las empresas. , según el pronóstico de Gartner.
En general, se espera que las empresas y agencias gubernamentales de la región MENA gasten 3.300 millones de dólares en seguridad y gestión de riesgos este año, un aumento del 12% con respecto a 2023, dice Shailendra Upadhyay, analista principal senior de Gartner.
“Debido a la implementación de leyes de protección de datos para el manejo de ‘datos personales’ que involucran a personas identificables [o] identificadas, las empresas en la región MENA deberán mantener un mayor nivel de privacidad de datos e higiene de ciberseguridad en 2024”, dice.
El siguiente en la lista es el gasto en seguridad en la nube, con un aumento en la adopción de IaaS, PaaS y SaaS y la necesidad de comprar herramientas de seguridad en la nube, añade Upadhyay.
Las preocupaciones sobre GenAI se extienden a los dos segmentos: la seguridad de los datos es la principal preocupación entre las empresas que lo implementan y la infraestructura en la nube generalmente brinda servicios GenAI.
GenAI para la ciberseguridad
La adopción general de tecnologías de IA en la región del Consejo Cooperativo del Golfo (CCG) supera a otros lugares del mundo, incluidos Estados Unidos y Europa. Sin embargo, la aplicación de la tecnología es mayoritariamente desigual.
Alrededor del 62% de las organizaciones utilizan la IA en al menos una función empresarial (en comparación con el 58% en América del Norte y el 47% en Europa), pero la mayoría sólo la utiliza para operaciones de marketing y ventas o de servicios, según la consultora McKinsey.
“Las empresas que ahora están implementando IA apenas han arañado la superficie de lo que puede ofrecer”, afirmó McKinsey en su informe de 2023 sobre el estado de la IA en los países del CCG .
De manera similar, las organizaciones en Medio Oriente y el norte de África aún se encuentran en los primeros días de su viaje a la nube.
Según un segundo análisis de McKinsey, el servicio de Internet relativamente caro, la falta de conectividad en muchas regiones y la incertidumbre regulatoria en torno a la nube han provocado un retraso en la demanda . Sin embargo, la situación está evolucionando rápidamente: los gobiernos están financiando economías emergentes basadas en el conocimiento y creando nuevas regulaciones de seguridad de datos para igualar las reglas en otras partes del mundo.
Mientras tanto, GenAI también puede ser parte de la solución de seguridad: las empresas de ciberseguridad están agregando inteligencia y aprendizaje automático (AI/ML) a sus productos como una forma de reducir las cargas de trabajo en equipos que ya están sobrecargados de trabajo.
McKinsey recomienda tres criterios para la adopción de la IA: una estrategia de IA claramente definida, un equipo de trabajadores capacitados en IA y un proceso implementado para una rápida adopción y escala de la IA. Sin embargo, actualmente menos del 30% de las empresas del CCG han cumplido cada uno de esos tres criterios, afirmó la empresa en su informe.
También te puede interesar leer: El 41% de las pymes sufrieron un ataque cibernético en los últimos 12 meses