El mundo de la tecnología se vio hace unos días sacudido por una historia que lo tiene todo, y que comenzó como un thriller de ciencia ficción.
Hugging Face, una start-up dedicada a las aplicaciones para herramientas de inteligencia artificial, alertó el 16 de julio que había sido pirateada por un ciberdelincuente que utilizaba una IA enormemente poderosa.
El impactante anuncio estaba repleto de términos técnicos y aterradores: "un enjambre de entornos aislados", "agente atacante" y "mando y control auto-migratorio".
Hugging Face afirmó que el ataque informático fue diferente a cualquier otro sufrido antes, ya que fue perpetrado con una velocidad sobrehumana por una IA con poca o ninguna intervención humana.
La IA atacante realizó 17.000 acciones en menos de dos días, logrando infiltrarse con éxito en la gran y acaudalada empresa tecnológica para robar secretos.
El ataque dejó al mundo de la tecnología conmocionado. Pero ¿quién fue el responsable?
Los investigadores de Hugging Face supusieron que los misteriosos perpetradores habían utilizado uno de los grandes modelos de IA, pero no tenían ni idea de quiénes eran los criminales ni dónde se encontraban.
La empresa, desconcertada, contactó con la policía y se iniciaron las investigaciones.
El drama de la conspiración
Desde entonces, ha habido un acalorado debate sobre el incidente.
¿Fue realmente una seria advertencia sobre el futuro de la IA? ¿O fue una estrategia publicitaria de OpenAI para demostrar la potencia de sus programas?
Se trata del tipo de marketing alarmista del que se ha acusado a las empresas de IA durante años y, desde el muy comentado lanzamiento del modelo Mythos de Anthropic, la destreza en ciberseguridad ha sido un punto central.
Uno de los comentarios más destacados en la publicación de Sam Altman, jefe de OpenAI, sobre el incidente resume este escepticismo: "Si no pueden entender que esto se escribió simplemente para presumir del modelo, entonces no sé qué decirles".
El consultor de ciberseguridad Daniel Card dijo sarcásticamente en LinkedIn: "Qué suerte que, de los millones de sitios que fueron hackeados, OpenAI lograra hackear a alguien que también pudiera beneficiarse de la exposición de marketing".
Para algunos, la historia se asemeja más a un drama de conspiración que a un thriller de ciencia ficción.
El mensaje es: "¿Acaso mis herramientas de IA no son realmente poderosas? Cómpralas para protegerte de los ataques de otras IA".
No podemos saber la verdad, pero el punto de vista opuesto planteado por otros comentaristas es igual de alarmante.
¿Es esto una señal de que OpenAI cometió un error de juicio y planificación potencialmente peligroso?
"Reconocemos que hay muchas preguntas y especulaciones sobre el incidente. Planeamos publicar un informe técnico con las lecciones aprendidas en las próximas semanas", afirmó un portavoz de la empresa.
Comedia de errores
He cubierto muchas noticias sobre inteligencia artificial, incluidos los temores en torno al modelo Mythos de Anthropic.
Mi bandeja de entrada está ahora repleta de mensajes de empresas y expertos en ciberseguridad que critican a OpenAI por no haber creado un entorno de prueba más robusto para su IA, conocido como sandbox.
Al fin y al cabo, estos agentes de IA habían sido entrenados específicamente para acceder ilegalmente a lugares sin ningún tipo de restricción.
"El incidente de OpenAI y Hugging Face es un ejemplo real de un problema más amplio que llevamos meses denunciando", declaró Dor Sarig, de Pillar Security.
"Los entornos aislados (sandboxes) por sí solos no constituyen una barrera de seguridad suficiente para la IA con agentes", agregó.
Alan Woodward, profesor de ciberseguridad de la Universidad de Surrey (Reino Unido), declaró a los periodistas que OpenAI había quedado en ridículo, y Katie Moussouris, de la firma Luta Security, fue más allá, sugiriendo que la industria de la IA no está logrando controlar sus peligrosos inventos.
"Estamos trabajando con tecnología de vanguardia sin tener los conocimientos necesarios para controlarla", advirtió.
"El hecho de que contemos con las personas más brillantes desarrollando IA no significa que tengamos la capacidad de hacerlo de forma segura", alertó la experta.
Según estas opiniones, si el incidente de piratería informática fue una estrategia publicitaria, entonces parece que les salió el tiro por la culata.
Independientemente de lo que haya provocado el ataque, está claro que se trata de un momento crucial para la industria de la IA y el mundo de la ciberseguridad, que este año han convergido de una forma que muchos temían desde hace tiempo.
En respuesta a este acalorado debate, la asesora en IA y ciberseguridad Francesca Bosco dijo: "Dos narrativas simplistas son igualmente contraproducentes: que se trató de una fuga al estilo de Hollywood, o que fue simplemente un ejercicio publicitario".
Y enfatizó: "Una interpretación más seria es que una prueba de estrés puso al descubierto deficiencias en la arquitectura de contención y evaluación".
BBC
0 comments:
Publicar un comentario