OpenAI, Anthropic, Google y más de 100 empresas advirtieron sobre los riesgos de la inteligencia artificial para la ciberseguridad
Los ciberataques impulsados por inteligencia artificial ( IA ) podrían multiplicarse y alcanzar un mayor grado de complejidad durante los próximos meses. Esa es la advertencia que más de 100 organizaciones tecnológicas , financieras y de seguridad informática incluyeron en una carta abierta que recl
Los ciberataques impulsados por inteligencia artificial (IA) podrían multiplicarse y alcanzar un mayor grado de complejidad durante los próximos meses. Esa es la advertencia que más de 100 organizaciones tecnológicas, financieras y de seguridad informática incluyeron en una carta abierta que reclama una respuesta coordinada antes de que las capacidades ofensivas de los modelos den otro salto.
La carta pone el foco en los servicios esenciales, debido a que una intrusión en un hospital, una planta de tratamiento de agua o la infraestructura que sostiene internet puede afectar a miles de personas.
Por ese motivo, los firmantes piden que la protección de esos sistemas reciba más herramientas, personal y financiamiento por parte de los gobiernos.
En una carta a gobiernos, las tecnológicas más importantes alertaron que, a medida que los modelos de inteligencia artificial adquieran nuevas capacidades, también aumentará la posibilidad de que sean utilizados para localizar fallas y preparar ataques con mayor rapidez. (Imagen: GeminiAI).
El documento, publicado por OpenAI esta semana, cuenta con el respaldo de Anthropic, Google, Microsoft, Amazon Web Services, IBM, Mastercard, Visa, Cloudflare, CrowdStrike y decenas de compañías de distintos sectores. Todas parten del mismo diagnóstico: a medida que los modelos adquieren nuevas capacidades, también aumenta la posibilidad de que sean utilizados para localizar fallas y preparar ataques con mayor rapidez.
Ese avance, a la vez, ofrece recursos más potentes para quienes protegen las redes. De allí que la propuesta se concentre en ampliar el acceso controlado a sistemas capaces de detectar vulnerabilidades, comprobar reparaciones y responder ante una intrusión. El objetivo planteado en la carta es que las defensas progresen antes de que las herramientas ofensivas alcancen una escala mayor.
Por qué las defensas actuales podrían resultar insuficientes
La carta señala que muchas empresas y dependencias públicas todavía funcionan con sistemas antiguos, programas sin actualizar, permisos excesivos, configuraciones incorrectas y mecanismos de autenticación débiles. Cada una de esas deficiencias representa un posible punto de acceso. En conjunto, amplían la superficie que deben vigilar equipos que suelen trabajar con recursos limitados.
La incorporación de inteligencia artificial puede profundizar esa desventaja porque automatiza tareas que antes demandaban conocimientos especializados y muchas horas de trabajo. Así, una operación maliciosa podría analizar más objetivos, detectar errores con mayor velocidad y adaptar sus procedimientos en menos tiempo.
Del lado defensivo, las mismas capacidades permiten revisar código, ordenar los riesgos según su gravedad y verificar si una corrección consiguió cerrar la vulnerabilidad. El resultado depende, entonces, del acceso de cada sector a esas herramientas y de los recursos disponibles para utilizarlas. Una gran empresa puede contratar especialistas y renovar sus sistemas, mientras que un hospital pequeño, una administración local o un operador de agua suele enfrentar límites presupuestarios y técnicos. Por eso, la carta coloca a esas organizaciones en el comienzo de cualquier programa de asistencia.
La convocatoria también muestra que el problema excede a los laboratorios que desarrollan inteligencia artificial.Bancos, aseguradoras, automotrices, consultoras y proveedores de infraestructura digital se sumaron al pedido porque un ataque puede avanzar desde un sistema vulnerable hacia otras compañías conectadas con él. En consecuencia, la protección de cada integrante de una cadena de proveedores influye sobre la seguridad del resto.
Qué les piden a las empresas, los gobiernos y los laboratorios de IA
Para reducir esa brecha, el documento distribuye tareas entre las organizaciones, el sector público, las empresas de ciberseguridad y los creadores de los modelos más avanzados. El primer nivel corresponde a las compañías y organismos que utilizan sistemas informáticos: sus directivos deberían tratar la ciberdefensa como una prioridad, corregir las fallas de mayor riesgo y elevar las exigencias para el software que compran o desarrollan, incluido el código generado con IA.
Ese trabajo, a su vez, necesitaría el apoyo de los proveedores tecnológicos. La carta les reclama que sometan las defensas a pruebas continuas, incorporen inteligencia artificial a sus productos y compartan información sobre amenazas y procedimientos comprobados. De esa manera, una solución desarrollada por una empresa podría servir para proteger a otras antes de que sufran el mismo ataque.
Los gobiernos aparecen como el siguiente eslabón porque pueden coordinar el intercambio de información entre países y financiar a los servicios esenciales que carecen de presupuesto. Además, el texto propone ampliar los programas de acceso confiable para que hospitales, operadores de agua y administraciones locales accedan a modelos defensivos, realicen pruebas autorizadas y reciban asistencia especializada.
Los laboratorios de inteligencia artificial tendrían que proporcionar acceso responsable a sus sistemas, capacitación, financiamiento y apoyo técnico. También deberían crear mecanismos que permitan identificar y supervisar a los agentes autónomos, invertir en evaluaciones de seguridad y comunicar las vulnerabilidades de manera privada hasta que exista una solución verificada.
El pedido se conoce después de que la alianza de inteligencia Five Eyes, integrada por Estados Unidos, Reino Unido, Canadá, Australia y Nueva Zelanda, advirtiera en junio que la IA podría transformar la ciberseguridad. Ese pronunciamiento reflejó la preocupación de los cinco países por el uso creciente de modelos avanzados en campañas maliciosas, informó Reuters.
El alcance concreto del llamamiento dependerá de las medidas que adopten empresas y gobiernos después de la publicación. Al tratarse de recomendaciones voluntarias, el documento no fija fechas, presupuestos ni obligaciones para las organizaciones que lo respaldaron.
