22.4.26

¿Por qué causa preocupación el creciente poder global de la compañía de IA?

 Cada vez que te conectas a internet, hay alguien que está recopilando la información que vas dejando, ya sea tu proveedor de internet, el servidor de la página que estás visitando o el navegador que usas para acceder a ella.


Toda esa información les sirve a las compañías para entender mejor el comportamiento de sus clientes y les ayuda a diseñar estrategias y productos que resuenen mejor con los consumidores.

De la misma manera, esos mismos datos se pueden usar para localizar individuos que puedan ser considerados una amenaza -como hizo EE.UU. en 2011 para dar con el búnker de Osama Bin Laden en Pakistán- o para identificar y apuntar contra objetivos militares, como está haciendo actualmente el ejército de Israel en Irán.

Pero para que la información sea útil, no es suficiente con solo recolectarla: debido a la creciente cantidad de datos que se produce en la web todos los días (se estima que son unos 400 millones de terabytes), las organizaciones que los recopilan tienen que utilizar softwares especializados -potenciados por inteligencia artificial- para poder organizarlos y, a la vez, interpretar lo que puedan revelar.

Y en la actualidad, el consenso entre la mayoría de expertos en ciberseguridad es que no existe un software de análisis de datos en el mundo que se pueda comparar, en complejidad y alcance, con el de la compañía estadounidense Palantir, particularmente en lo que se refiere a seguridad e inteligencia militar.

Hacia finales de los años 90, internet estaba pasando por uno de sus periodos de mayor y más rápida expansión.

En lo que se vino a conocer luego como el "boom de las .com", miles de emprendedores se arriesgaron a lanzar negocios en internet.

Muchas empresas que hoy son inmensos conglomerados digitales empezaron en esa era, incluyendo PayPal, quizá la plataforma de pagos digitales más conocida, y que surgió de la fusión de dos compañías distintas, Confinity y X.com, emprendimientos liderados respectivamente por el entonces joven inversionista Peter Thiel y el hoy principal accionista de Tesla y X, Elon Musk.

Durante esos primeros años en los que la seguridad para hacer transacciones en línea apenas estaba empezando a desarrollarse, PayPal vivió un periodo en el que se convirtió en el sitio preferido de los estafadores gracias a la anonimidad que les garantizaba.

En respuesta a eso, el socio de Thiel y cofundador de Confinity (luego PayPal) Max Levchin, se concentró en desarrollar un software que, a través de algoritmos, lograra hacer seguras las transacciones que ocurrían dentro de la plataforma y así, poder liberar todo el potencial comercial de las compras a través de internet.

El software –bautizado como IGOR, conmemorando al estafador ruso que se convertiría en el primero en caer con la nueva herramienta- fue tan exitoso que logró reducir el fraude en las transacciones a menos del 0.5%, poniendo a PayPal a la vanguardia del comercio online.

Como era de esperar, el éxito de la herramienta también llamó la atención de las autoridades estadounidenses: el FBI se interesó en ella y empezó a trabajar con el equipo de seguridad de PayPal en investigaciones de fraude.

Y luego, el 11 de septiembre de 2001, todo cambió.

Cuando Thiel empezó a buscar el capital necesario para desarrollar el proyecto que tenía en mente, se reencontró con Alex Karp. Ambos se habían hecho buenos amigos durante su paso por la facultad de derecho de la Universidad de Stanford a pesar de estar polos opuestos del debate ideológico: Thiel, un conservador devoto y Karp, un progresista convencido, hijo de una pareja birracial.

Su amistad se había basado principalmente en el descontento que les generaba la educación que estaban recibiendo en una de las mejores universidades del país y una pasión compartida por el ajedrez y las discusiones acaloradas sobre temas profundos.

Cuando se reencontraron después de los atentados de 2001, Thiel reclutó a Karp –un doctor en filosofía alemana que había sido alumno del filósofo Jürgen Habermas- para que le ayudara a conseguir nuevos inversionistas para el emprendimiento, quedando sorprendido por su pasión por el proyecto.

Palantir recibió su nombre en honor a las mágicas piedras de la saga de libros de "El Señor de los Anillos", las cuales le daban a quien las tuviera el poder de ver lo mismo que veían sus enemigos. La asociación con la obra de Tolkien es tan fuerte que los empleados de la compañía se refieren a sí mismos como palantirianos y algunas de sus oficinas están adornadas con runas élficas.

A pesar de su falta de experiencia en el mundo militar, la junta de la compañía decidió nombrar a Karp CEO, por ser quien más clara tenía la visión de lo que querían hacer con Palantir.

"Hay una cosa que hay que entender de Palantir", señala Steinberger, "y es que ha sido política desde sus inicios: fue fundada para ayudar al gobierno de Washington a combatir la guerra contra el terrorismo, algo que luego se transformó en la idea de: 'Estamos ayudando al gobierno de Estados Unidos y a sus aliados a defender su modo de vida'".

Desde el inicio, la compañía se comprometió a no vender su tecnología países como China o Rusia, vistos como adversarios geopolíticos de EE.UU.

"En este momento, no hay duda de la competencia, pero en 2007 o 2008, era algo atrevido salir y decir que no ibas a ofrecer tus productos en el mercado de más grande crecimiento del mundo".

Por otro lado, la compañía sí ofrece sus servicios con los países que ve alineados con las políticas estadounidenses, como es el caso de Israel.

"Siempre se han visto a sí mismos como los guardianes de Occidente. Esa es una idea base de la compañía desde siempre".

"En el libro hablo de la relación de Palantir con el Mossad (Servicio de inteligencia de Israel), que se acercó a ellos a mediados de los 2000 y ha sido cliente desde entonces. Después del 7 de octubre de 2023, las IDF (Fuerzas armadas de Israel) básicamente dijeron 'necesitamos su producto'".

Otros países que usan las herramientas de Palantir incluyen a Reino Unido -desde los servicios de salud hasta el Ministerio de Defensa-, Ucrania, Francia, Canadá, Alemania, Emiratos Árabes Unidos y Arabia Saudita.

¿Estado de vigilancia?

En las más de dos décadas desde la fundación de Palantir, sus productos se han convertido en una poderosa arma para EE.UU. y sus aliados.

Palantir desarrolló las herramientas que llevaron a la muerte de Osama Bin Laden en 2011 y fueron un componente clave en la retirada de todo el personal estadounidense estacionado en Afganistán en 2021.

Además, su sistema de integración de datos Maven se está usando en estos momentos para identificar objetivos militares en Irán y para operar los drones que EE.UU. ha desplegado en la región.

Palantir es también la compañia encargada de desarrollar el software del "Domo dorado", uno de los proyectos insignia de la segunda administración Trump: un sistema de misiles antiaéreos similar al "Domo de Hierro" de Israel, con la capacidad de proteger al país contra cualquier tipo de amenaza, incluidos misiles nucleares.

Al mismo tiempo, Palantir provee servicios a compañías civiles como Airbus, Panasonic, Merck e incluso el equipo de Ferrari en Fórmula 1 para el manejo y análisis de sus datos.

Es por esta misma versatilidad de sus herramientas que Palantir insiste en que deben ser los entes reguladores gubernamentales, y no la propia compañía, los que deben poner límites a los usos de su tecnología.

En una entrevista con la BBC, el director de Palantir en Reino Unido y Europa, Louis Mosley, explicó que el software de Palantir está diseñado para siempre requerir de un ser humano para tomar decisiones: "Así está programado actualmente", aseguró Mosley.

Pero son muchos los críticos que han señalado que la velocidad con la que estas herramientas analizan y hacen predicciones puede llevar a errores de confirmación por parte de los usuarios.

"Esta priorización de la velocidad y la escala, así como del uso de la fuerza, deja muy poco tiempo para una verificación significativa de los objetivos, a fin de asegurar que no incluyan accidentalmente objetivos civiles", le dijo a la BBC la profesora Elke Schwarz, de la Universidad Queen Mary de Londres.Pero para Mosley "esa es, en realidad, una pregunta para nuestros clientes militares".

"Son ellos quienes deciden el marco normativo que determina quién puede tomar qué decisión", dijo.

A pesar de las críticas y de las preocupaciones que genera su tecnología, Palantir está valorada en más de US$380.000 millones y continúa creciendo.

"Aquí surge la interrogante de cuánta responsabilidad recae sobre Palantir respecto al uso que se hace de su producto, y esa es una cuestión muy real en este momento, por ejemplo, en lo que respecta a su relación con el ICE", señala Michael Steinberger.

"¿Tiene Palantir alguna responsabilidad en los abusos que se están cometiendo? ¿Tienen conocimiento de ellos? Si se han perpetrado crímenes de guerra con esa tecnología, ¿tiene Palantir alguna responsabilidad?", se pregunta el columnista del New York Times.

"Estas son algunas de las preguntas a las que se enfrenta ahora la empresa; y son preguntas que van directamente al corazón de la controversia que rodea a Palantir", remata Steinberger.

Con información del corresponsal de IA de BBC News, Marc Cieslak, y de Matt Murphy, de BBC Verify.

0 comments:

Publicar un comentario