El cofundador de Hugging Face, la empresa tecnológica emergente que fue hackeada después de que uno de los modelos más avanzados de inteligencia artificial de OpenAI se rebeló, afirmó el jueves que el incidente es una "señal de alarma" para la industria.
Thomas Wolf comentó en el programa de radio Newsday de la BBC que "este será uno de los tipos de ataques más comunes que veremos", pero que la mayoría de las empresas no son conscientes de que las "reglas del juego han cambiado".
La BBC se comunicó con OpenAI para que comentara, pero no ha recibido respuesta.
La compañía creadora de ChatGPT expresó el martes que sus modelos de IA escaparon de un entorno de pruebas "seguro" durante un ensayo y lanzaron un ciberataque. La firma señaló que fue un incidente "sin precedentes" y que estaba realizando una investigación junto a Hugging Face.
Los agentes de IA tienen la capacidad de operar de forma independiente para realizar tareas después de recibir instrucciones de humanos.
En "muy poco tiempo" hubo 17.000 ataques contra la red de Hugging Face desde diferentes direcciones IP (sigla en inglés de protocolo de internet), indicó Wolf, quien también es jefe de ciencia de la empresa.
El empresario resaltó que era una advertencia para otras compañías de que deben fortalecer sus defensas de ciberseguridad para contrarrestar estos incidentes.
El hackeo es "preocupante" porque sugiere que los modelos de OpenAI ignoraron las salvaguardas típicas que evitarían que un programa de IA cometa un ciberataque, afirmó Nate Soares del instituto de investigación Machine Intelligence Research Institute.
"En cierto sentido, sabía que esta no era la intención de los creadores. Simplemente no le importó", añadió.
Los conocedores de la industria también han alertado sobre el amplio uso de los modelos de código abierto en China, que permiten a cualquier persona instalar y personalizar las herramientas de IA lanzadas por los principales desarrolladores.
La empresa emergente china Moonshot AI publicó su modelo de código abierto Kimi K3 el 27 de julio. Desde su presentación la semana pasada, ha llamado la atención de la industria, con muchos viéndolo como un fuerte competidor de los principales sistemas de IA en Occidente.
Sin embargo, el miércoles, un asesor de la Casa Blanca acusó a Moonshot de un intento a "gran escala" de robar las capacidades de los principales modelos de IA de Estados Unidos.
BBC
0 comments:
Publicar un comentario