|
|
|
|
|
Notícies :: criminalització i repressió |
|
El lado oscuro de las ciudades inteligentes. Smart City en Hebrón
|
|
|
per paralel |
23 abr 2024
|
|
"Bienvenidos al año 2030. Bienvenidos a mi ciudad, o debería decir 'nuestra ciudad'. [...] ¿De compras? Ya no recuerdo lo que es. Para la mayoría de nosotros, ahora se trata de elegir los artículos que vamos a utilizar. A veces me divierte, y a veces quiero que el algoritmo lo haga por mí. A estas alturas conoce mis gustos mejor que yo. [...] Mi mayor preocupación son los que no viven en nuestra ciudad. Los que hemos perdido en las calles. Aquellos que decidieron que toda esta tecnología había llegado a ser demasiado. Los que, cuando los robots y la IA se hicieron con la mayoría de nuestros trabajos, se sintieron obsoletos e inútiles. Los que se enfadaron con el sistema político y se volvieron contra él. Viven vidas diferentes fuera de nuestra ciudad. Algunos han creado pequeñas comunidades autosuficientes. Otros simplemente permanecen en casas vacías y abandonadas de pequeños pueblos del siglo XIX. De vez en cuando me molesta no tener privacidad real. No puedo ir a ninguna parte sin estar registrada. Sé que, en algún lugar, todo lo que hago, pienso y sueño queda registrado. Sólo espero que nadie lo utilice en mi contra. En general, es una buena vida [...]". |
Estas son las palabras que Ida Auken escribió en 2016 -cuando era parlamentaria danesa, Joven Líder Global y miembro del Consejo Global del Futuro sobre Ciudades y Urbanización del Foro Económico Mundial (a partir de aquí FEM)- en un breve artículo titulado inicialmente Bienvenidos a 2030. No poseo nada, no tengo privacidad, y la vida nunca ha sido mejor, a continuación He aquí cómo podría cambiar la vida en mi ciudad en 2030. En su momento, el texto en el que Auken imagina un escenario futuro determinado por el desarrollo tecnológico recibió críticas: algunos lo interpretaron como una utopía del autor, cuando en realidad Auken -según se afirma en una nota al artículo- afirma que sólo ha mostrado un futuro posible. Tanto si el descrito es un sueño como si no, podemos afirmar que nuestras ciudades van por el camino hipotético al adoptar la forma de las llamadas "ciudades inteligentes".
La ciudad inteligente es "un lugar que integra sistemas físicos, digitales y humanos en redes y servicios tradicionales ", es un lugar donde "los servicios, las infraestructuras y las carreteras [están] conectados a la red y [son] tan inteligentes que gestionan los flujos de energía y materiales, la logística y el tráfico ". En 2016, en La cuarta revolución industrial, Klaus Schwab -fundador y presidente del FEM- escribe que " las ciudades 'inteligentes' están ampliando continuamente sus redes de sensores y trabajando en plataformas de datos que serán el espacio donde convergerán diferentes proyectos tecnológicos y donde se implementarán más servicios basados en análisis de datos y modelos de predicción ". Como primera consecuencia negativa de este modelo urbano Schwab señala la cuestión de la privacidad y la vigilancia; como aspecto con efectos aún desconocidos apunta a los cambios en los hábitos individuales de los ciudadanos. Schwab identifica la ciudad como "el espacio donde se genera la innovación", una transformación de tal calado que da lugar a cambios económicos, sociales y culturales. Como señala el autor, "la tecnología y la digitalización lo revolucionarán todo, hasta el punto de que la expresión, a menudo mal empleada o abusada, 'esta vez es diferente' es perfectamente acertada". En pocas palabras, las grandes innovaciones tecnológicas están a punto de promover un cambio global tan trascendental como inevitable". Que la tecnología cambiaría la naturaleza misma de las ciudades es también una conclusión de un estudio realizado por el Consejo de la Agenda Global del FEM sobre el Futuro del Software y la Sociedad , en el que se señala 2026 como el punto de inflexión para el advenimiento de las ciudades inteligentes, incluidas en la lista de veintiuna transformaciones debidas al desarrollo tecnológico.
La ciudad en estado de emergencia permanente
Si para Schwab, la ciudad es el lugar de la innovación, para Shoshana Zuboff, es el campo de batalla preferido para el "negocio del capitalismo ", especialmente el capitalismo de la vigilancia. Con esta expresión, Zuboff se refiere a "un nuevo orden económico que explota la experiencia humana como materia prima para prácticas empresariales confidenciales de extracción, predicción y venta": se trata de una lógica que impregna la tecnología transformándola en acción. Como veremos, en los escenarios urbanos actuales, la tecnología no es una cosa en sí misma, aislada de la economía y la sociedad, sino que es un sujeto que regula el entorno en el que viven las personas y se presenta como la herramienta necesaria para la seguridad, entendida como una prioridad en permanente estado de emergencia. Hoy en día, la necesidad de "defensa" se persigue a través de dispositivos de separación y canalización: las personas, convertidas en "usuarios" de la ciudad, pueden ser filtradas "en función de la legitimidad reconocida a su presencia en el lugar determinado que hay que asegurar ". Como observa el urbanista Jean-Pierre Garnier, el modelo es el del estadio o el aeropuerto, cuyo acceso se controla para evitar atentados terroristas o actos de violencia.
Seguridad y urbanidad son ya una pareja establecida: en un artículo de 2019 sobre las operaciones militares conjuntas de la OTAN en entornos urbanos, Jozsef Bodnar (teniente coronel de la OTAN) y Sue Collins (Mando Aliado de Transformación, OTAN) afirman que "las ciudades se están convirtiendo cada vez más en objetivos principales de ataques militares, políticos y terroristas y son entornos de violencia y conflicto", una situación que "requerirá la participación de la OTAN en zonas urbanas". Para practicar posibles conflictos de alta intensidad se utilizan los llamados "wargames", con los que es posible examinar y evaluar contextos militares y comparar posibles alternativas tácticas, sin experimentar un conflicto real. Archaria es un modelo de ciudad virtual de 2035 encargado por el Mando Aliado de Transformación de la OTAN a Fabaris, una empresa italiana de defensa, inteligencia y aeroespacial. A partir de la experiencia adquirida en el desarrollo de Archaria, en 2019 el Centro de Excelencia de Modelización y Simulación de la OTAN puso en marcha un nuevo proyecto denominado WISDOM (Wargame Interactive Scenario Digital Overlay Model). Se trata de una plataforma de gestión del territorio urbano capaz de crear cualquier número de modelos de ciudades virtuales de especial interés operativo, cuyo uso está permitido a un gran número de usuarios simultáneamente. Desarrollado por la empresa holandesa TNO es, por otra parte, MARVEL, un modelo de sistemas dinámicos que representa la capacidad de recuperación de la ciudad de Archaria en relación con acontecimientos como una acción militar.
En el entorno de las ciudades inteligentes, el Internet de las Cosas (IoT) -incluidos sensores, cámaras y Wi-Fi- altera radicalmente el conocimiento de la situación, un hecho que no solo repercute en las simulaciones de wargames sino que, como veremos, interfiere en la vida cotidiana a través del control total y la policía predictiva.
El caso de Venecia: de la seguridad al análisis de sentimientos
En el panorama italiano, City Vision mide el grado de "inteligencia" de todos los municipios; en 2023, el podio lo ocupaban Milán, Trento y Bolzano.. Numerosas inversiones en la digitalización de las ciudades italianas proceden del PNRR (Programa de gestión de los fondos Next Generation), que prevé la asignación de varios miles de millones de euros para la digitalización y la transformación de territorios vulnerables en ciudades inteligentes14 , mediante la recuperación del papel de los municipios y la promoción de asociaciones público-privadas. De hecho, la cooperación en la que se basan las ciudades inteligentes incluye a las autoridades regionales y locales, las instituciones culturales y académicas, las grandes empresas y, por último, los ciudadanos y los "usuarios de la ciudad", definidos como aquellos que acuden a la ciudad para utilizar un servicio.
En este escenario, una ciudad que destaca es Venecia, en cuyo interior se encuentra una Smart Control Room que, inaugurada en septiembre de 2020, representa una auténtica torre de control para la capital veneciana. Realizada y gestionada en colaboración entre el Ayuntamiento, Venis S.p.A.16, la Policía Local y TIM, se encuentra en la sede de la Policía Municipal de Tronchetto. En la sala tecnológica hay enormes videowalls que proyectan imágenes en directo de las casi 600 cámaras inteligentes instaladas en la ciudad, pero el enorme flujo de datos procede también de sensores situados por toda la zona y de células telefónicas que, mediante la conexión de tarjetas sim a las antenas, revelan presencias e incluso distinguen de dónde vienen las personas. Los datos y metadatos son recogidos y gestionados por MindIcity, una plataforma digital adquirida por TIM en 2022 que correlaciona toda la información obtenida de sensores, cámaras y la red telefónica para interpretar, predecir y simular fenómenos que puedan afectar a la ciudad. La información devuelta en tiempo real e histórico se representa y consulta tanto en los videowalls de la Smart Control Room, como "en los dispositivos personales del Alcalde, administradores y gestores a través de vistas resumidas que, mediante índices de observación y previsión, permiten tener el control de la situación en todo momento, con especial referencia a la seguridad y la movilidad ".
El proyecto veneciano se creó para regular la movilidad mediante un sistema de control integrado de los pasos peatonales, de calzada y de agua. Desde el principio, el seguimiento se presenta como una herramienta útil para controlar los flujos turísticos e identificar posibles concentraciones, permitiendo "la intervención a tiempo de las patrullas de la policía local ". Conviene recordar que la Sala de Control Inteligente de Venecia se hace realidad en 2020, cuando la gestión de emergencias Covid-19 criminaliza la idea de aglomeraciones e inicia el disciplinamiento de masas mediante dispositivos de control e identificación que sólo permiten los movimientos y el acceso a las personas en posesión del Pase Verde. No muy distinto es el funcionamiento de la nueva tasa de acceso exigida para visitar Venecia. De hecho, a partir de abril de 2024, en fechas concretas, los visitantes ocasionales estarán sujetos a la reserva y el pago de una tasa que genera un código QR que deberán mostrar a los agentes de control y que será necesario para entrar físicamente en la laguna cuando se instalen los torniquetes: al obligar constantemente a las personas a demostrar que tienen permiso para entrar en un lugar, Venecia adquiere a todos los efectos la apariencia de un aeropuerto.
Además de la seguridad y la movilidad, la ciudad inteligente se presenta como promotora de la sostenibilidad: las aplicaciones ad hoc permitirían gestionar eficazmente la energía, los recursos medioambientales y los residuos. Es inevitable que la salvaguarda del medio ambiente sea también un tema de primera importancia en Venecia, hasta el punto de que en 2022 se creó la Fundación Venecia Capital Mundial de la Sostenibilidad. También en este caso nos encontramos ante una asociación público-privada formada por autoridades regionales y locales, instituciones culturales y académicas venecianas y grandes empresas. Entre las empresas "interesadas en el desarrollo sostenible del entorno veneciano " , ENI (Ente Nazionale Idrocarburi) figura entre los socios fundadores y Leonardo entre los socios cofundadores. La multinacional italiana dedicada a los combustibles fósiles es una de las empresas más contaminantes del mundo, así como el mayor emisor italiano de gases de efecto invernadero a escala mundial; Leonardo S.p.A. -grupo industrial italiano activo en los sectores de defensa, aeroespacial y seguridad-, por su parte, es la primera empresa de la Unión Europea en ingresos por venta de armas. Si en el primer caso la contradicción es tal que hace evidente el intento de lavado verde, en el segundo el tema de la sostenibilidad se entrelaza con el de la guerra. En estos tiempos bélicos, no es de extrañar que Leonardo muestre interés por una asociación que opera en Venecia, la primera ciudad italiana con una Smart Control Room. Como hemos visto, en efecto, el entorno urbano se considera el principal escenario de ataques y conflictos militares y, en este panorama, las ciudades inteligentes desempeñan un papel cada vez más emblemático. En pocas palabras, para hacer la guerra en el exterior es conveniente poder controlar a la población en el interior.
Hasta ahora hemos dicho que una ciudad inteligente se basa en una colaboración entre los sectores público y privado, pero para que realmente funcione requiere la cooperación de los ciudadanos, que se comunican con las máquinas de forma cada vez más constante e inmediata. La plataforma de la Smart Control Room de Venecia es, de hecho, capaz de realizar análisis de sentimiento, calculando el índice de estado de la ciudad. El análisis de sentimientos se refiere al proceso operativo subyacente al estudio de los textos compartidos por los usuarios en la web, con el fin de identificar su estado de ánimo. Dicho análisis es un campo del procesamiento del lenguaje natural que extrae, cuantifica y estudia la información contenida en el lenguaje con el fin de hacer predicciones sobre patrones de comportamiento y toma de decisiones. En este escenario, las redes sociales son sensores sociales: cotejando las opiniones publicadas en las redes sociales con la ubicación de su publicación, es posible investigar la estabilidad emocional de un lugar.
Para entender cómo puede influir este sistema en el ámbito de las opiniones y las acciones, conviene fijarse en sus campos de aplicación más extremos. Financiado por el programa 2020 de la Comisión Europea es SEWA de la start-up Realeyes, un proyecto que lee indicadores de comportamiento como los gestos, considerados una pista importante, y que utiliza "software especializado para sondear rostros, gestos, cuerpos y mentes, captados por sensores 'biométricos' 'profundos', a menudo combinados con cámaras increíblemente pequeñas y 'discretas'". Un complejo de tecnologías que consiga analizar comportamientos que escapan a la mente consciente corre el riesgo de hacer realidad el hecho de que "nuestro inconsciente, donde se forman los sentimientos antes de que haya palabras para expresarlos, [se convierta] en una fuente más de materias primas para la máquina de renderizado y análisis, con el único propósito de hacer mejores predicciones ". La posibilidad señalada por Zuboff es el objetivo declarado de Realeyes, cuyo asesor científico afirma: "Los ordenadores leerán las emociones mejor que nosotros y serán capaces de detectar matices que los humanos podrían pasar por alto ".
A través de la lente de la Smart Control Room de Venecia -el mayor grado de "ciudad inteligente" de Italia- podemos, por tanto, sostener una ecuación entre la ciudad inteligente y la fábrica inteligente: los parámetros de la Industria 4.0 se aplican a la ciudad, incluida la colaboración entre operador, máquinas y herramientas (producción inteligente) y la colaboración entre empresas, como ocurre entre TIM y el Ayuntamiento de Venecia. Las mismas tecnologías se incorporan tanto en la automatización industrial como en la vida cotidiana de la ciudad, una situación que deja claro que entre los principios tácitos de la ciudad inteligente está la equiparación de personas y máquinas.
Ciudad inteligente de Hebrón: vigilancia masiva
Desde 1997, Hebrón (Cisjordania) está dividida en dos sectores conocidos como H1 y H2. La primera zona, que constituye el 80% de la ciudad, está administrada por las autoridades palestinas, mientras que la segunda, que incluye la ciudad vieja, está bajo control israelí. Uno de los símbolos de la ocupación y de la división entre H1 y H2 es el puesto de control 56, con una barrera de hierro con dos torniquetes y al menos 24 dispositivos audiovisuales de vigilancia. Es en este puesto de control -que sólo cruza la población palestina de H2- donde se descubrió el uso por parte del ejército israelí de un nuevo sistema de reconocimiento facial llamado Red Wolf. El uso de la tecnología de reconocimiento facial como herramienta para restringir la libertad de circulación de los palestinos en los territorios ocupados es el tema investigado en Automated Apartheid - How facial recognition fragments, segregates and controls Palestinians in the OPT, un informe de Amnistía Internacional publicado en 2023.
Red Wolf es la última herramienta de control experimental después de al menos otros tres sistemas de vigilancia y bases de datos, como Blue Wolf, Withe Wolf y Manada de Lobos. Hasta 2021, la tecnología de reconocimiento facial sólo se utilizaba en los puestos de control, pero ahora todos los soldados israelíes pueden utilizarla en cualquier lugar a través de su teléfono móvil. Blue Wolf es, de hecho, una aplicación en los smartphones de los militares que funciona escaneando la cara de la persona o el código de barras del mumarnat -la tarjeta inteligente que contiene la información biométrica de los civiles palestinos, así como información personal y de seguridad, necesaria para entrar en territorio israelí. Mediante el escaneado, se accede inmediatamente a la información almacenada en el Wolf Pack, una gran base de datos con imágenes e información -incluidos, número de matrícula, antecedentes familiares, datos de educación, datos de contacto y una puntuación de peligrosidad- disponible exclusivamente sobre palestinos en Cisjordania. Al final de la búsqueda en el archivo, la aplicación Blue Wolf alerta al soldado con colores tipo semáforo sobre si la persona retratada debe ser detenida o dejada marchar. El objetivo es registrar los perfiles de cada palestino para poder compartir la información con la Agencia de Inteligencia de Asuntos Internos del Estado de Israel (Shin Bet). Según leemos en una declaración recogida por Breaking the Silence -organización no gubernamental fundada en 2004 por veteranos de las Fuerzas de Defensa israelíes-, los soldados acostumbran a pasearse por los barrios de Hebrón bajo control israelí fotografiando a quien quieren: el objetivo es tomar el mayor número de fotos -se ha creado una especie de competición entre los militares- para crear nuevas entradas biométricas, con el fin de completar los perfiles y la información que contiene el Wolf Pack. Apodado el "Facebook de los palestinos", Blue Wolf también puede utilizarse para incursiones cartográficas de inteligencia, una práctica que consiste en realizar incursiones nocturnas en viviendas palestinas para recabar información sobre los residentes y los edificios. Dirigida en cambio a los colonos está Withe Wolf, la aplicación que permite a los judíos de Cisjordania controlar, accediendo a la base de datos, a los palestinos que quieren trabajar en los asentamientos judíos: escaneando los documentos de identidad de los trabajadores, los colonos pueden hacerse con datos gubernamentales confidenciales.
Para acceder a los servicios, muchos palestinos de Hebrón deben pasar por puestos de control militares, y es aquí donde las fuerzas de seguridad israelíes están experimentando con el sistema Red Wolf. En un testimonio, un sargento primero destinado en Hebrón relata cómo funciona el sistema y cómo los soldados se encargan de entrenar el algoritmo para que Red Wolf aprenda a reconocer rostros previamente desconocidos sin intervención humana: "[En el puesto de control] hay unas diez cámaras. Una vez que [los palestinos] llegan y pasan, el sistema toma fotografías, los identifica, para ayudar al soldado que está allí. El sistema capta la cara antes de que la persona entre y la muestra en el ordenador. Si se trata de alguien que pasa a menudo, el ordenador lo reconoce. Básicamente, el sistema toma fotos de todos los que pasan [por el puesto de control]. Y tú, como soldado o comandante, que estás allí, puedes cotejar la cara con los documentos de identidad, hasta que el sistema aprende a reconocer la cara. [El sistema] reconoce [a la persona] que entra con luz verde incluso antes de que me muestre un documento de identidad, por lo que el proceso para ti es más rápido, en teoría. [...] En esencia, estas cámaras te permiten obtener la alerta en el ordenador más rápidamente. [...] Es un sistema en el que, en esencia, tú, como persona en el puesto de control, das las instrucciones. Haces la foto. Puedo almacenar la foto insertar la identificación en ella”.
La identificación biométrica es, sin embargo, algo a lo que los palestinos han estado sometidos durante más de dos décadas. Fue en 1999, de hecho, cuando Israel empezó a experimentar con el Sistema Basilea, un sistema automatizado de identificación biométrica con reconocimiento facial y de la palma de la mano, que regula los movimientos de los palestinos. El Ministerio de Defensa lo instaló en puestos de control militares primero en Gaza y luego también en Cisjordania. Desde entonces, con la ayuda de tecnología muy avanzada, el gobierno israelí ha hecho de Hebrón una auténtica ciudad inteligente en la que, según las fuerzas de defensa, se ha dado un gran paso adelante en la lucha contra el terrorismo. La iniciativa "Smart City Hebron" incluye una amplia red de cámaras de CCTV y sensores que vigilan la ciudad en tiempo real, identificando cualquier situación anómala: "Si el sistema detecta movimientos o ruidos inusuales, envía el mensaje al HML [Mashine Learning for Humanitarian Data] para que siga gestionando el suceso y despliegue fuerzas si es necesario ".
La tecnología utilizada en Hebrón en el contexto de la "Iniciativa Ciudad Inteligente" no sólo representa un alto nivel de vigilancia masiva que controla cada movimiento, sino que, concebida como un programa más de defensa contra el terrorismo, hace realidad el hecho de que ser palestino es un elemento de peligro. Como hemos visto, los palestinos son los únicos residentes en H2 que están obligados a utilizar los puestos de control -los colonos judíos israelíes toman rutas diferentes y no están obligados a cruzar los puestos de control- y sólo sus datos figuran en las bases de datos. Con el telón de fondo de lo que puede considerarse un afán de control total, vemos que, mediante la identificación de la nacionalidad y la amenaza, se legitiman todo tipo de políticas de vigilancia y de guerra utilizando una tecnología que se ha convertido en un arma más en apoyo de un régimen de ocupación. En palabras de Michel Warschawski, "desde el momento en que, en nombre de la seguridad, se nos concede el derecho a negar la dimensión humana del adversario, el proceso de deshumanización ya no puede detenerse: se convierte en un comportamiento global frente al otro, que ya no tiene nada que ver con la seguridad ".
Inteligencia artificial que discrimina
Tras examinar los casos de Venecia y Hebrón, es difícil no darse cuenta de las similitudes entre ambas ciudades: un sistema que detecta movimientos o ruidos inusuales capaz de determinar la intervención policial, la presencia de torniquetes que regulan el acceso y -por último, pero no por ello menos importante- el mismo lenguaje de seguridad permiten acercar ambas realidades. La razón por la que no es tan descabellado comparar situaciones aparentemente muy diferentes la aporta Schwab cuando, al escribir sobre la naturaleza cambiante de los conflictos que ha traído consigo la cuarta revolución industrial, afirma que "la distinción entre guerra y paz -y entre combatientes y civiles- es [...] cada vez menos marcada " .
Sin embargo, un aspecto que en las ciudades inteligentes italianas todavía no es muy evidente, pero que en los territorios ocupados es flagrante, es la discriminación racial que acompaña a estas tecnologías digitales emergentes. A pesar de la percepción generalizada de que la tecnología es neutral y objetiva en su funcionamiento, refleja los valores e intereses de quienes la diseñan y utilizan y se crea en función de las estructuras de poder que operan en la sociedad. El sistema Wolf -producto de la sociedad israelí y, por tanto, espejo de sus principios- ejemplifica cómo la inteligencia artificial reproduce y exacerba la desigualdad, el racismo, la intolerancia y la violencia a los que se ven sometidos los palestinos en su vida cotidiana.
El carácter discriminatorio de la tecnología también puede observarse en los dispositivos utilizados en los países occidentales en el ámbito de la policía predictiva. Uno de los más conocidos es PredPol, un sistema utilizado hasta hace pocos años por el departamento de policía de Los Ángeles, que examinaba diez años de datos sobre delincuencia, incluyendo fechas, lugares y frecuencia de los delitos, para predecir cuándo y dónde era probable que se produjeran delitos en las doce horas siguientes. Esta información, recopilada y clasificada por los agentes de policía, tras el barniz de objetividad del algoritmo, provocó un fuerte aumento de la vigilancia en las comunidades latinas y negras: la capacidad de decisión de la máquina reflejaba a la perfección los prejuicios existentes.
En su lugar, el Reino Unido utiliza la Gangs Violence Matrix (GVM), una base de datos que asigna a las personas conocidas por el programa informático como pertenecientes a un grupo delictivo una puntuación, basada en cualquier información que la policía tenga sobre ellas. En relación con la GVM, un informe de las Naciones Unidas de 2020 sobre discriminación racial y nuevas tecnologías denuncia que los agentes de policía hacen suposiciones basadas en el origen étnico, el sexo, la edad y la situación socioeconómica, una práctica que hace que el 78% de las personas incluidas en la Matriz sean negras y otro 9% pertenezca a otros grupos étnicos minoritarios, aunque los datos muestran que sólo el 27% de los autores de actos graves de violencia juvenil son negros. Los que están en GVM también denuncian ser sometidos a innumerables registros, que se traducen en múltiples detenciones cada día. Pero la violencia basada en la digitalización de la información no termina ahí: la policía comparte datos con otros organismos, como centros de empleo, asociaciones de vivienda, instituciones educativas, perpetrando una marginación basada en la supuesta pertenencia a una banda.
Aunque estos dos ejemplos muestran el peligro de la policía predictiva, en Italia nació en 2020, en el seno del Departamento de Seguridad Pública del Ministerio del Interior, Giove, un sistema de análisis automatizado que debería llegar a todas las jefaturas de policía italianas en unos años, previo consentimiento del garante de la privacidad. Basado en un algoritmo de inteligencia artificial, Giove utiliza las bases de datos de delitos de las fuerzas de seguridad para prevenir y reprimir delitos de impacto social, como el acoso y los robos en domicilios, y, a medida que mejore la tecnología, podrá utilizarse en investigaciones sobre terrorismo que, como ya vemos, incluyen cada vez más todo lo que sea disidencia política.
Inteligencia artificial que reprime
Utilizando de nuevo la lente de Palestina, un contexto bélico explícito, podemos entender el alcance de la inteligencia artificial en defensa. Corre el año 2019 cuando el gobierno israelí anuncia la creación de la Dirección de Objetivos para producir nuevos objetivos funcionales para el ejército, afirmando que las tecnologías utilizadas combinarían por primera vez los campos de la ciencia de datos y el aprendizaje automático. Lo que se desarrolló fue Habsora ("Evangelio" en hebreo), un sistema de IA que "permite el uso de herramientas automatizadas para producir objetivos a un ritmo rápido, que funciona mejorando el material de inteligencia ". Habsora, utilizado por primera vez en 2021 durante la operación "Guardián de los Muros", genera, mediante el análisis de datos, objetivos de ataque a un ritmo muy superior al de los analistas humanos, cuyo papel pasa a ser el de confirmar lo que determina el algoritmo. Este software es un ejemplo concreto de las "nuevas herramientas tecnológicas con efectos mortíferos" mencionadas por Schwab hace casi una década, cuando predijo que "las armas autónomas, capaces de identificar objetivos y decidir si abrir fuego sin intervención humana, serán cada vez más fáciles de producir, desafiando las prácticas militares tradicionales ".
PredPol, Matrix, Jupiter y Habsora comparten una matriz común: un algoritmo que genera objetivos considerados prescindibles. Si el software utilizado por el ejército israelí para luchar contra Hamás predice la muerte de civiles, los dispositivos en poder de la policía occidental implican una correspondencia entre minorías y delincuencia. En un paradigma de guerra global, podemos ver cómo la inteligencia artificial se utiliza de diferentes maneras pero con el mismo fin: el control, la represión, el saqueo colonial. Hasta ahora, en "nuestras" ciudades inteligentes, el conflicto ha adoptado la forma de juegos de guerra, pero en Hebrón -como en toda Palestina- la vanguardia tecnológica del gobierno israelí ha adoptado una forma concreta extremadamente cruel. Atribuir a la máquina la capacidad de tomar decisiones autónomas tiene consecuencias distópicas: mientras que la voluntad de dominar la vida se realiza más fácilmente, la responsabilidad individual parece desmaterializarse: a medida que el algoritmo adquiere características antropomórficas, los individuos pierden humanidad.
Extraido de https://t.me/Terraillibertat |
This work is in the public domain |
|
|
