La Unión Europea está considerando propuestas controvertidas para escanear masivamente comunicaciones privadas en aplicaciones de mensajería cifradas en busca de pornografía infantil.
Según la legislación propuesta, las fotos, videos y URL enviados en aplicaciones populares como WhatsApp y Signal serían escaneados por un algoritmo basado en inteligencia artificial contra una base de datos gubernamental de material que se sabe que es abusivo.
El Consejo de la UE, uno de los dos órganos legislativos del bloque, votará el jueves la legislación, conocida popularmente como Chat Control 2.0.
Si son aprobadas por el Consejo, que representa a los gobiernos de los 27 estados miembros del bloque, las propuestas pasarán a la siguiente etapa legislativa y a negociaciones sobre los términos exactos de la ley.
Si bien los funcionarios de la UE dicen que Chat Control 2.0 ayudará a prevenir la explotación sexual infantil, las plataformas de mensajería cifrada y los defensores de la privacidad se han opuesto ferozmente a las propuestas, comparándolas con la vigilancia masiva de 1984 de George Orwell.
¿Por qué son tan controvertidos los planes de la UE?
Los críticos argumentan que Chat Control 2.0 es incompatible con el cifrado de extremo a extremo, que garantiza que los mensajes sólo puedan ser leídos por el remitente y el destinatario.
Si bien el régimen propuesto de “moderación de carga” escanearía los mensajes antes de enviarlos, los críticos han criticado las medidas como una “puerta trasera” con otro nombre que dejaría las comunicaciones de todos vulnerables a posibles ataques o interferencias de terceros.
“Podemos llamarlo puerta trasera, puerta de entrada o ‘moderación de carga’. Pero como quiera que lo llamemos, cada uno de estos enfoques crea una vulnerabilidad que puede ser explotada por piratas informáticos y estados nacionales hostiles, eliminando la protección de las matemáticas irrompibles y colocando en su lugar una vulnerabilidad de alto valor”, dijo Meredith Whittaker, presidenta de Signal. , dijo en un comunicado esta semana.
Los opositores también argumentan que las propuestas darían un enorme poder a las empresas privadas, muchas de ellas con sede en Estados Unidos, para participar en la vigilancia masiva de los ciudadanos europeos.
Una vez que exista una puerta trasera, podría usarse para buscar algo más que pornografía infantil, según Matthew Green, experto en criptografía aplicada de la Universidad Johns Hopkins.
“La gente piensa que Chat Control trata sobre delitos específicos. No, esto no es lo que está en juego. Lo que se ha tomado es una decisión arquitectónica sobre cómo funcionan los sistemas de mensajería privada: si se aprueba, por ley estos sistemas estarán cableados para vigilancia masiva. Esto se puede utilizar para cualquier propósito”, dijo Green en una publicación en X.
El miembro del Parlamento Europeo Patrick Breyer, del Partido Pirata Alemán, comparó las propuestas con agregar software espía gubernamental a todos los dispositivos de la UE.
“Estamos al borde de un régimen de vigilancia tan extremo como el que vemos en cualquier otro lugar del mundo libre. Ni siquiera Rusia y China han logrado meternos micrófonos en los bolsillos como pretende hacer la UE”, dijo Breyer en un comunicado.
¿Quién apoya la ley?
Las propuestas para escanear masivamente comunicaciones privadas en busca de pornografía infantil fueron presentadas por primera vez por la comisaria sueca de Asuntos Internos, Ylva Johansson, en 2022.
Bélgica, actual jefe del Consejo, propuso la última versión de la legislación como un compromiso después de que propuestas más invasivas fueran rechazadas por el Parlamento Europeo.
Según la última versión, los escaneos se limitarían a fotos, videos y URL, y los usuarios tendrían que dar su consentimiento para el escaneo.
Cualquier persona que no haya dado su consentimiento no podrá subir ni compartir fotos y vídeos.
Los partidarios dicen que las propuestas son necesarias para combatir el flagelo de la explotación infantil, que según los funcionarios se ve facilitada por plataformas cifradas y la aparición de software de generación de imágenes basado en inteligencia artificial.
En 2022, el Centro Nacional para Niños Desaparecidos y Explotados de EE. UU. dijo que el 68% de los 32 millones de casos récord de material de explotación infantil reportados por proveedores de servicios provinieron de “servicios de chat, mensajería o correo electrónico” dentro de la UE.
La Internet Watch Foundation, con sede en el Reino Unido, informó resultados similares, identificando a la UE como la fuente de dos tercios del material abusivo.
Las agencias policiales y de inteligencia a menudo han expresado su preocupación por el hecho de que los delincuentes utilicen aplicaciones de mensajería cifradas para evitar ser detectados.
Telegram y Signal han sido utilizados por grupos armados que van desde ISIL (ISIS) hasta Oath Keepers.
Según documentos filtrados obtenidos por el medio de comunicación francés Contexte, las agencias de inteligencia, los ejércitos, la policía y algunos ministerios de la UE están exentos de las medidas.
¿Quién se opone a la ley?
Entre los Estados miembros de la UE, según Breyer, sólo Alemania, Luxemburgo, Países Bajos, Austria y Polonia han adoptado una posición clara en contra de las propuestas, mientras que Italia, Finlandia, Suecia, Grecia y Portugal, entre otros, aún no han dejado clara su posición. .
Eurodiputados individuales de países como Alemania, Luxemburgo, Países Bajos y Austria también han expresado su preocupación, algunos de ellos argumentando que la vigilancia sólo debería dirigirse a personas específicas basándose en una causa probable determinada por un juez.
En noviembre, el Parlamento Europeo, que debe aprobar la mayoría de las leyes de la UE, votó en contra del “monitoreo indiscriminado de los chats” a favor de una vigilancia selectiva.
Las empresas tecnológicas y los grupos de derechos digitales que se oponen a las propuestas incluyen a Mozilla, Signal, Proton, Electronic Frontier Foundation, European Digital Rights, Internet Freedom Foundation y el Consejo Irlandés para las Libertades Civiles.
El miércoles, el denunciante de la Agencia de Seguridad Nacional (NSA), Edward Snowden, describió las propuestas como una “medida aterradora de vigilancia masiva”.
¿Cómo funcionaría Chat Control 2.0 en la práctica?
Incluso si Chat Control 2.0 sigue adelante, los expertos dicen que la versión actual de la ley respaldada por Bélgica sería muy difícil, si no imposible, de aplicar con cifrado de extremo a extremo.
En el Reino Unido, que aprobó un proyecto de ley de seguridad en línea con un tema similar, el gobierno admitió que aún no existe la tecnología para escanear mensajes cifrados sin comprometer la seguridad general.
Plataformas tecnológicas como Signal y WhatsApp, que habían amenazado con retirarse del Reino Unido, consideraron esto una victoria parcial.
Los críticos también argumentan que apuntar a las aplicaciones de mensajería será ineficaz para detener la pornografía infantil dada la existencia de redes privadas y la web oscura.
Los algoritmos basados en inteligencia artificial también han demostrado ser propensos a cometer errores, lo que aumenta la posibilidad de que personas inocentes sean denunciadas ante las autoridades.
El New York Times informó en 2022 que la herramienta de inteligencia artificial de Google para la detección de material abusivo marcó incorrectamente a un padre ama de casa en San Francisco después de que envió una foto del pene de su hijo al médico, lo que provocó una investigación policial y la terminación de su relación. . Cuentas de Google.
