A finales de los años sesenta, la Agencia de Proyectos de Investigación Avanzada (ARPA) del Departamento de Defensa de EE.UU. fue el primer organismo en iniciar un proyecto de comunicación interconectada llamado ARPANET, precursor de Internet. Las cosas han cambiado mucho desde entonces, ya que Internet, con su explosión generalizada, ha cambiado el mundo y nuestra percepción de él. La red se ha expandido hasta ser utilizada diariamente por al menos 5.000 millones de personas

, llega a todos los rincones del planeta, ofrece un número incalculable de servicios y es depositaria de una cantidad impresionante de datos.

En los últimos años, sigue recopilando, con un aumento exponencial, información relativa a todos los aspectos de nuestra vida cotidiana, empezando por las huellas de nuestro uso (datos personales, fotos, pensamientos, compras, movimientos, conversaciones y mucho más). Esta información ocupa diferentes capas de la red: desde la pública, accesible por tanto a cualquiera que se conecte, hasta la más oculta y secreta, defendida por barreras más o menos complejas y de ciencia ficción.

Aunque hay organizaciones -que analizan los motores de búsqueda- que se comprometen a garantizar un mínimo de transparencia, la inmensidad de los contenidos sigue generando enormes problemas, y la verdad es ahora tan compleja que resulta desconocida. Esta enorme cantidad de información se denomina "no estructurada". Si, de alguna manera, se idearan métodos para enlazar la información, para hacerla dialogar dentro de una especie de estructura inteligente, ¿cuál sería el resultado? Poder sobre la información y la comunicación global. Una perspectiva aterradora, que hasta ahora ha estado en los sueños de Elon Musk, el multimillonario sudafricano que, con este fin, compró Twitter. Pero esto no le bastará.  

En los últimos años se han publicado estudios destinados a recoger información de la red de forma inteligente, mediante el desarrollo de algoritmos cada vez más sofisticados. La interpretación de esta información produciría escenarios en tiempo real de carácter predictivo, relacionados con la dinámica específica de los mercados, las finanzas, la salud, la seguridad y, lo más interesante, la investigación del comportamiento humano. Evidentemente, las hipótesis de uso son múltiples: elaboración de perfiles de usuarios en el mundo empresarial de una zona geográfica determinada o de una clase social determinada; o, en medicina o seguridad, mejorar la prevención en caso de atentados. No es difícil imaginar las dudas de esta rama de la ciencia: la frontera de la legalidad en la toma de información personal y su uso es muy fina. Especialmente cuando se quiere hacer un perfil de miles de millones de individuos.

El ascenso en el mundo de la inteligencia artificial

Avi Kornblum, nacido en Israel en junio de 1966, tras 20 años de servicio en la inteligencia israelí y experiencia como representante del Mossad en IDT Corporation, Verbx Communications y Fusion Telecommunications International

, fundó una pequeña empresa de software en 2010. Su misión específica, sin embargo, es la que se convertirá en su fortuna: ser capaz de pescar en el mar magnum de Internet información no estructurada y transformarla, a partir de peticiones concretas, en respuestas organizadas y comprensibles. Uno de sus compañeros de viaje es el británico Jonathan Leon Joffe

, antiguo director de QTEC Systems Limited

 de la empresa emergente, que se llamará Voyager Labs Ltd

No se sabe mucho sobre los primeros años de actividad, la startup se lanza en modo sigiloso, una forma particular de constitución que permite la máxima confidencialidad tanto de la actividad como de las cuentas. Se sabe de Voyager Labs en noviembre de 2016, cuando sale del modo oculto

. Durante su periodo de incubación, la pequeña startup recaudó más de 100 millones de dólares

 en financiación de patrocinadores como el empresario británico Ronald Cohen

, el emprendedor británico Lloyd Marshall Dorfman

, su propietario Oracle , y Horizons Ventures del magnate chino Li Ka-Shing

. La empresa tiene un centro de investigación y desarrollo en Tel Aviv y oficinas en Nueva York, Washington y Londres, emplea a unas 130 personas, la mayoría de ellas científicos, analistas de datos y expertos en inteligencia artificial

, y tiene una cartera de clientes (secretos) en todos los sectores de la vida económica mundial

La empresa tiene tres departamentos: Voyager Analytics, Voyager Finance y Voyager eCommerce

. Todos los productos comparten la misma filosofía: recopilar toda la información no estructurada posible, incluidas las redes sociales, y convertirla en imágenes estructuradas mediante un procesamiento impulsado por complejos algoritmos. Según DoiT International

, que presta apoyo informático a Voyager Labs (grandes espacios en la nube para almacenar sus datos de forma segura), la empresa recoge una media de 10.000 millones de datos al día, lo que supone 10 TB, una cifra impresionante

En cada una de sus presentaciones públicas, Voyager Labs se esfuerza por informar de que su software sólo recoge información pública y, por tanto, con total transparencia, pero los críticos dicen lo contrario, como se puede ver en los foros

 de la NDIA National Security (una agencia de la CIA

) o en los seminarios organizados por la ISS World Middle East (una asociación de empresas de ciberespionaje

), que hablan de "información utilizable y antes inalcanzable mediante el análisis y la comprensión de enormes cantidades de datos abiertos, profundos y oscuros de la Web"

. Una presentación realmente inquietante.

La ceremonia de toma de posesión de Leon Panetta como Director de la CIA, con Stephan Kappes (Voyager Libs), Dannis Blair, Sylvia Panetta y Joe Biden

El éxito es inmediato y necesita cobertura política. En diciembre de 2015, unas semanas antes de la presentación pública de la empresa, Stephan Robert Kappes tomó el relevo

: nacido el 22 de agosto de 1951 en Cincinnati, Kappes está casado, tiene dos hijos

 y es licenciado y máster en Patología por la Universidad Estatal de Ohio

. Tras su graduación, se alistó en el Cuerpo de Marines (1976) y ascendió rápidamente en el escalafón hasta que, en 1981, se incorporó a la CIA, donde ocupó numerosos puestos de responsabilidad: jefe de división en Nueva Delhi, Fráncfort, Ciudad de Kuwait, Moscú y Pakistán, y después en Oriente Próximo y Asia Meridional hasta el año 2000; regresó a Estados Unidos como Subdirector de Operaciones de Contrainteligencia y después, en 2004, tomó el relevo del Subdirector de Operaciones James Pavitt

En esta función es uno de los supervisores, junto con Pavitt, de la dirección de las operaciones de la CIA durante la elaboración del polémico informe sobre las armas de destrucción masiva en Iraq

. Dimite después de que el desaguisado se haga público, y unos días después, también dimite el vicedirector, John E. McLaughlin

. En mayo de 2006, Kappes es retirado y nombrado Director Adjunto de la CIA por John Negroponte

, cargo que ocupa hasta 2009: su objetivo es relanzar la imagen de la CIA tras años de escándalos

. Kappes no lo consiguió, porque tenía en contra a varios peces gordos de los servicios de inteligencia, que le declararon culpable de "insubordinación grave" y le hicieron destituir

En 2009, Kappes fue condenado en rebeldía por un tribunal italiano por haber dirigido, en 2003, el secuestro, la extradición y la tortura del ciudadano egipcio Abu Omar, que fue secuestrado en Milán por agentes de la CIA y trasladado a Egipto, donde fue torturado

. Su estilo ya es conocido: pidió a Obama que "restablezca las prisiones secretas y utilice métodos de interrogatorio agresivos"

. El 14 de abril de 2010, Kappes dimitió en un ambiente caldeado; una operación de la que estaba a cargo se convirtió en una masacre debido a un "descuido", es decir, a un fallo en el registro: el 30 de diciembre de 2009, un jordano entró en la base afgana de la CIA con un chaleco explosivo. Siete oficiales de la CIA murieron, incluido el jefe de la base

No es una salida honrosa: para muchos observadores, es uno de los principales artífices de los numerosos fracasos de la Agencia de Inteligencia estadounidense

. En abril de 2005, se incorpora a ArmorGroup International como director y miembro del Consejo de Administración

. Posteriormente es nombrado director en Qtec Analytics Ltd (enero de 2013) y director de Quest Global Holdings Ltd

, dos empresas de ciberseguridad. En diciembre de 2015 comenzó su aventura con Voyager Labs.

En abril de 2020, un escándalo salpicó a la Fuerza Pública colombiana: los funcionarios espiaron las conversaciones de 2016 con los rebeldes de las Fuerzas Armadas Revolucionarias de Colombia (FARC), que terminaron en un acuerdo de paz. Los militares recopilaron indebidamente información sobre más de 130 personas, entre ellas periodistas de medios de comunicación extranjeros y nacionales, políticos y representantes de ONGs

, en un intento de perfilar su comportamiento

. La operación de espionaje utilizó el software de Voyager Labs, adquirido un par de años antes

. El 1 de mayo de 2020, el Ministro de Defensa colombiano, Carlos Holmes Trujillo, anunció la expulsión de 11 oficiales, mientras que un general renunció voluntariamente

En agosto de 2020, Voyager Labs se ve involucrado en el histórico conflicto entre el gobierno chileno y el pueblo indígena mapuche. En el punto de mira está la Operación Huracán

, en la que, mediante registros y detenciones por parte de los Carabineros chilenos, se intenta intimidar a la comunidad mapuche, fabricando pruebas falsas para culpar a algunas familias de terrorismo

. La operación se llevó a cabo con la participación de la Unidad de Inteligencia Operativa Especializada de Chile

, que utilizó el software Voyager Labs para elaborar el perfil de los líderes mapuches

Un caso similar ocurre en España: en enero de 2021, el Centro de Telecomunicaciones y Tecnologías de la Información CTTI de la Generalitat de Cataluña gasta 1,5 millones de euros en adquirir dos plataformas, Voyager Analytics y Voyager Check, con el fin oficial de perfeccionar la lucha contra el terrorismo yihadista

. Pero la preocupación de que estas herramientas puedan ser utilizadas para el control abusivo de las comunidades ordinarias es alta

: los Mossos d'Esquadra no son nuevos en la piratería informática y el espionaje

. La lista de violaciones es larga: retrocediendo en el tiempo, el Centro de Seguridad de la Información de Cataluña (CESICAT), que ya no funciona, acaba siendo acusado de hacer perfiles de activistas sociales y periodistas, espiando su comportamiento: una investigación parlamentaria lleva a pedir la dimisión del entonces consejero de Interior Felip Puig

Dulcis in fundo, llega la investigación penal italiana: en una investigación de la Fiscalía de Florencia en noviembre de 2019, los principales sospechosos son el abogado Alberto Bianchi y su amigo Marco Carrai -la acusación es tráfico de influencias y financiación ilegal de partidos-. En el centro del escándalo está la Fundación Open, creada por el propio Bianchi para financiar las actividades políticas de Matteo Renzi, ex primer ministro, líder y fundador del partido Italia Viva. Hacia finales de 2021, se desvela que Marco Carrai se habría reunido en 2016 con Avi Korenblum, fundador de Voyager Labs, para comprar su software con el objetivo de "monitorizar e influir en la campaña" de la votación de un referéndum constitucional que, de ser aprobado, habría cambiado profundamente la Constitución

. Renzi perdió el referéndum, dimitió y su parábola política empezó a declinar rápidamente.

¿Viola la policía de Los Ángeles la Primera Enmienda?

Las organizaciones delictivas utilizan cada vez más las redes sociales como vehículo de comunicación. Voyager Labs ofrece herramientas de análisis policial que prometen frustrar actos delictivos

El uso de las redes sociales contra la delincuencia va en aumento: una encuesta realizada por la Asociación Internacional de Policía en 2017 afirma que el 70% de los departamentos de policía utilizan las redes sociales para controlar a sus ciudadanos

. El software de Voyager Labs también está siendo adquirido por el Departamento de Policía de Los Ángeles, un organismo que ya lleva tiempo utilizando herramientas muy cuestionadas, como Geofeedia

, que procesa el posicionamiento geográfico de las personas explotando las redes sociales, o Media Sonar

, dos programas informáticos útiles para la elaboración de perfiles individuales a través de los datos recogidos en la red

. La información de estos paquetes de software se gestiona globalmente mediante la plataforma Gotham de Palantir

, una de las herramientas más controvertidas y potentes de las fuerzas policiales de todo el mundo

La sospecha de que las fuerzas policiales están haciendo un uso poco escrupuloso de este software es muy alta. En enero de 2020, el Centro Brennan para la Justicia pidió al Departamento de Policía de Los Ángeles que informara sobre los métodos utilizados para recabar información sobre personas, grupos y actividades mediante el uso de redes sociales como Facebook, Twitter e Instagram

, pero se consideró parcial e insatisfactoria

. El 17 de noviembre de 2020, el Centro Brennan presentó una demanda en el Tribunal Superior de California contra el departamento de policía

, obligándole a presentar documentación adicional: entre marzo y septiembre de 2021

, llegaron como respuesta 12 expedientes con un total de unas 10.000 páginas

De los documentos -que el Centro Brennan hará públicos en noviembre de 2021- se desprende un panorama que roza la violación de la Primera Enmienda: el departamento confirma que está haciendo un uso masivo de herramientas de investigación en las redes sociales, interviniendo de forma encubierta mediante perfiles falsos, recopilando información personal de todo tipo y explotando software predictivo como Voyager Analitics

. Es sobre todo su operatividad la que deja muchas dudas, tanto en los métodos de recogida como en las respuestas: la información se adquiere sin dejar rastro, se utiliza para reconstruir perfiles sociales cerrados o grupos sociales cerrados (violando así la normativa de las plataformas), para analizar las relaciones entre los distintos perfiles, para identificar a los usuarios "más implicados en una posición determinada: emocional, ideológica y personalmente"

. Todo ello sin ningún tipo de auditoría de los procedimientos ni responsabilidad personal sobre los métodos de recogida, uso y almacenamiento de datos

 de Voyager Labs en el que se describe una operación contra el terrorismo islámico, se admite que sus herramientas pueden vigilar y clasificar automáticamente a las personas según su riesgo de convertirse en fundamentalistas islámicos. Los resultados se codifican por colores (verde, naranja y rojo) a partir de "calibraciones de inteligencia artificial", información que se obtiene en cuestión de minutos y sin intervención humana, y sin que el ciudadano sospechoso pueda defenderse

7 de julio de 2016: Miles de personas salen a la calle en Nueva York y otras ciudades estadounidenses al grito de "Black Lives Matter" (Las vidas negras importan) contra Geofeedia y el uso antidemocrático del software de vigilancia policial

Un método aterrador, si se piensa que, para ser identificado como probable terrorista islámico, basta con tener una conexión inconsciente en Facebook, quizá creada años antes y ahora olvidada, con alguien que, alguna vez en su vida, tecleó "Alá es grande". Tan aterrador que incluso un representante de la policía de Los Ángeles expresa su preocupación por el riesgo de ingobernabilidad de los mecanismos de vigilancia de Voyager Labs

, pero también por el recuerdo de las violentas protestas provocadas por el uso de Geofeedia por las fuerzas del orden en 2016

Nadie puede saber cuántas personas en todo el mundo han sido clasificadas como terroristas islámicos. Esta información está en manos de Voyager Labs y no es accesible a ninguna autoridad legal: es un activo secreto con un inmenso poder destructivo porque, si es utilizado por los servicios de inteligencia, puede llevar a cualquier persona a Guantánamo sin responsabilidad alguna. Es la duda hamletiana del principio fundamental del concepto democrático de la justicia: se debe castigar a quien se demuestre que es culpable de un delito, y nunca a quien se sospeche que conoce a alguien que quisiera cometerlo algún día.

El Centro Brennan cree que estas metodologías pueden producir fácilmente resultados aberrantes. Las detenciones basadas en los resultados de la inteligencia artificial corren el riesgo de atacar indiscriminadamente a activistas y comunidades de color inocentes

. El 7 de diciembre de 2021, el Centro Brennan volvió a solicitar

 a la Oficina de Inteligencia y Análisis del Departamento de Seguridad Nacional e Inmigración y Aduanas de Estados Unidos información sobre el uso de las herramientas desarrolladas por Voyager Labs, ShadowDragon y Logically Inc. Las peticiones

, con diferentes motivos, cayeron en saco roto

Facebook pide a la policía de Los Ángeles que suspenda las prácticas que infringen las normas de la plataforma

A principios de 2018, Zuckerberg se encontró con el huracán que azotó a su creación, Facebook: el escándalo de Cambridge Analytica

. Tras haber sido acusado de no proteger los datos de más de 87 millones de usuarios (datos robados para su uso en propaganda política), Facebook ha desarrollado una gran sensibilidad en la protección de la información personal de sus usuarios, entre otras cosas porque el asunto le ha costado unos buenos 643.000 dólares en acuerdos judiciales

. Uno de los primeros movimientos fue cerrar las cuentas de los miembros del equipo de Ciberseguridad para la Democracia

 en agosto de 2021: los investigadores estaban recopilando información de la red para llevar a cabo una investigación sobre Covid19, utilizando una extensión del navegador para burlar los sistemas de detección y recoger datos como nombres de usuario, anuncios y enlaces a perfiles de usuarios, algunos de los cuales no eran visibles públicamente. Según Facebook, esta recopilación, al igual que la de Cambridge Analytica, violó la privacidad de los usuarios

En noviembre de 2021, el Departamento de Policía de Los Ángeles declaró que a Facebook no le gustaba el software de Voyager Labs, que se utilizaba con demasiada ligereza. Según Facebook, este tipo de software viola la privacidad, pero la acusación más importante va dirigida a los agentes de policía que utilizan cuentas falsas para actuar de forma encubierta, una violación flagrante de las normas de la plataforma, actividad que comparten la policía californiana y la rusa. Facebook (Meta) exige el cese de estas actividades

. En vano. No es la primera vez que Facebook interviene ordenando a la policía la suspensión de actividades de investigación mediante el uso de cuentas falsas: ya ocurrió en 2018 con la policía de Memphis, pero en ese caso Facebook había conseguido que se suspendieran las cuentas

Según los documentos publicados por el Centro Brennan, Twitter también se utilizó para la recopilación indiscriminada de información mediante una herramienta de vigilancia, ABTShield, desarrollada por la empresa polaca EDGE NPD

: ABTShield recopiló tantos tuits que hizo que el propio software se volviera loco y obligó a EDGE NPD a detener sus actividades. A lo largo del periodo de prueba se siguió recogiendo un enorme volumen de datos, con un total de casi 2 millones de tuits, una media de unos 70.000 al día. Según EDGE NPD, el software recogió unos 200 millones de tuits durante el periodo de prueba, enviando sólo una parte de ellos a la policía de Los Ángeles

. El resto permanece en las bases de datos de la empresa, y quién sabe qué y a quiénes se les dará uso.

Deep learning aplicado en la detección de comportamientos violentos a través de imágenes

"Esto es marketing hiperbólico de inteligencia artificial. Cuanto más presumen, menos me lo creo": es una afirmación de Cathy O'Neil, científica de datos y revisora de algoritmos, de que las promesas de Voyager Labs no tienen nada de científicas: "Nos dicen: 'Podemos ver si alguien tiene intenciones delictivas'. No, no puedes. Ni siquiera en el caso de personas que cometen delitos se puede predecir que tengan intenciones delictivas"

. Un ejemplo es el uso de técnicas de predicción en Santa Cruz (California) en 2011: después de nueve años, el ayuntamiento votó por unanimidad su prohibición, porque el método agravaba las desigualdades raciales

La idea de que existen indicadores de riesgo predictivos que pueden utilizarse con éxito está desacreditada por décadas de investigación académica

. No hay pruebas de que este tipo de programas haya aportado beneficios en la lucha contra el terrorismo y la delincuencia, sino que, por el contrario, han demostrado ser discriminatorios, divisorios y destructivos para las comunidades. Especialmente en el ámbito del terrorismo islámico, en el que Voyager Labs ha trabajado más intensamente, las técnicas de análisis se basan en conceptos que se han demostrado totalmente aberrantes, como considerar la radicalización islámica un automatismo que conduce al terrorismo

En 2017, Voyager Labs fue nombrado 'Cool Vendors in AI for Banking and Investment Services 2017'

. En noviembre de ese mismo año, también recibió el Premio Europeo a la Innovación de Nuevos Productos 2017

 de la prestigiosa consultora Frost&Sullivan

. En septiembre de 2020, gana el premio a la Innovación Tecnológica de Código Abierto del Año 2020

, otorgado por el Instituto OSMOSIS, que forma a investigadores, investigadores, periodistas y analistas de ciberinteligencia en técnicas y prácticas de Inteligencia de Código Abierto

. En noviembre de 2020, fue galardonada con el premio a la "Mejor solución de la industria de la inteligencia"

 en los AI Breakthrough Awards 2020, realizados por la organización líder en inteligencia del mismo nombre

Los elogios están ahí, pero faltan pruebas reales de eficacia. Sin embargo, hay quienes creen en ello y apuestan fuerte por las técnicas predictivas: en noviembre de 2021, Voyager Labs llegó a Japón y, en sinergia con Terilogy Worx

, firmó un importante acuerdo con una agencia gubernamental japonesa para suministrar sus plataformas de lucha contra el terrorismo y la delincuencia

. La firma se produce unos meses después de otro importante acuerdo, esta vez entre Voyager Labs y Microsoft, consistente en varias plataformas que conforman el programa "Microsoft One Commercial Partner" para la comercialización conjunta de software con los equipos de ventas globales de Microsoft, repartidos en 170 países

Por lo tanto, Voyager Labs sigue encontrando clientes. Sólo cabe esperar que el método madure y sea eficaz, y sobre todo que cause los menores daños colaterales posibles. Cuando la tecnología militar no pretende ayudar sino sustituir a la inteligencia humana, la inquietud sustituye a la fascinación: el riesgo de cometer errores irreparables e inhumanos es dramáticamente real. Expresar una opinión no puede considerarse en sí mismo un delito o un precursor de la violencia. En el pasado, luchar por los derechos civiles o por el derecho al voto de las mujeres se consideraban expresiones terroristas. Esta es la forma de reprimir las ideas, no la violencia.

https://www.statista.com/statistics/617136/digital-population-worldwide/

https://www.internetlivestats.com/total-number-of-websites/

https://www.northdata.com/Voyager+Labs+Ltd.

https://www.topionetworks.com/people/avi-kornblum-5833be77385326fe88000011

https://www.cbetta.com/director/jonathan-leon-joffe

https://suite.endole.co.uk/insight/people/17092653-mr-jonathan-leon-joffe

https://find-and-update.company-information.service.gov.uk/officers/JGerG860MZIbPkKxIPxeewVDpM4/appointments

https://find-and-update.company-information.service.gov.uk/company/07154170

https://insidebigdata.com/2016/11/02/voyager-labs-emerges-from-stealth-mode-with-next-gen-cognitive-computing-deep-insights-platform/

https://equityzen.com/company/voyageranalytics/

https://www.forbes.com/profile/lloyd-dorfman/?sh=5d24653b227f

https://ie.globaldatabase.com/company/ocapac-holding-company-unlimited-company

https://www.haaretz.com/.premium-startup-voyager-labs-goes-public-after4-years-1.5455813

https://www.datanami.com/2017/08/22/guiding-unstructured-data-analytic-journeys/

https://www.doit-intl.com/clients/voyager-labs/

https://www.issworldtraining.com/iss_mea/

https://www.ndia.org/-/media/sites/ndia/meetings-and-events/2021/march/1se1-nsaice/nsaice_program_final.ashx

https://www.zimbio.com/photos/Leon+Panetta/Stephen+Kappes/fO9SgNVhZRY/Ceremonial+Swearing+Leon+Panetta+Held+CIA

https://companycheck.co.uk/company/07154170/VOYAGER-LABS-LIMITED/companies-house-data

https://web.archive.org/web/20070612215306/https:/www.cia.gov/about-cia/leadership/kappes.html

https://www.washingtonpost.com/wp-dyn/content/article/2006/06/18/AR2006061800779.html

https://stringfixer.com/fr/Stephen_R._Kappes

https://georgewbush-whitehouse.archives.gov/wmd/report.html

https://en-academic.com/dic.nsf/enwiki/926565

https://www.chicagotribune.com/chinews-mtblog-2007-09-cia_official_comes_in_from_the-story.html

https://www.usnews.com/opinion/articles/2010/11/11/milans-botched-cia-caper-and-the-war-on-terrorism

https://www.washingtonian.com/2010/03/25/inside-man/

https://shadowproof.com/2010/04/15/steven-kappes-leaves-the-agency-again/

https://www.company-director-search.co.uk/director-stephen-robert-kappes

Voyager Labs: el arma contundente de la inteligencia artificial

0 Comments