Proyecto de ley sobre seguridad en línea: ¿una Internet más limpia a qué precio?

Desde la propuesta del proyecto de ley de seguridad en línea, se han celebrado debates dentro y fuera de Westminster sobre sus diversos contenidos. Dan Raywood analiza su estado actual.

Han pasado alrededor de dos años desde la primer borrador Se presentó un proyecto de ley propuesto por el entonces Primer Ministro del Reino Unido, Boris Johnson, para regular mejor el contenido en línea.

Con la intención principal de controlar el contenido dañino y ofensivo, el Proyecto de Ley de Seguridad en Línea sigue el Libro Blanco sobre Daños en Línea de 2019 para abordar el contenido dañino y el contenido que perjudica a los usuarios individuales. Este caso ha sido especialmente frecuente en el Reino Unido tras el sonado caso de molly russell, una joven de 14 años que se quitó la vida en 2017 después de ver contenido sobre suicidio y autolesiones en línea.

La intención del proyecto de ley es crear un deber de diligencia para los sitios web y plataformas en línea y exigirles que tomen medidas contra contenidos tanto ilegales como legales pero dañinos, con multas de hasta £18 millones o el 10% de la facturación anual, lo que sea mayor. , a quienes no cumplan.

Por qué la controversia

Considerándolo todo, esto suena razonablemente aceptable. Su intención es limpiar Internet y proteger mejor a las personas vulnerables de contenidos potencialmente dañinos y ofensivos, entonces, ¿por qué ha causado tanta controversia?

Bueno, por un lado, esta es una propuesta de una herramienta para que los adultos tengan un mayor control sobre los tipos de contenido que ven y con quién interactúan en línea, y ayudar a reducir la probabilidad de que se encuentren con ciertos tipos de contenido que se establecerán. en el proyecto de ley. El proyecto de ley ya protegerá a los niños para que no vean este contenido.

Por otra parte, a esto se le ha llamado intento de frenar contenido generalmente acordado para causar daño, aunque no sea ilegal.

Si bien el Reino Unido tiene leyes que prohíben el discurso de odio y las amenazas, el proyecto de ley dejará en manos de Ofcom la determinación de aclarar si las grandes plataformas tecnológicas cumplen adecuadamente con su deber de diligencia realizando evaluaciones de riesgos y explicando cómo mitigan el riesgo.

El artículo 19 de la Organización de Derechos Humanos dice en su blog sobre el proyecto de ley que la “externalización” de las decisiones sobre ilegalidad requerirá que las empresas evalúen y decidan si el discurso de sus usuarios es legal o no.

"Esto es profundamente problemático ya que sólo las autoridades judiciales independientes deberían tener el poder de tomar tal determinación", dice. "Además de las preocupaciones legítimas de subcontratar las decisiones sobre la legalidad del discurso de los usuarios a actores privados, observamos que, en la mayoría de los casos, estas evaluaciones son extremadamente complejas y dependen del contexto y, por lo tanto, deben ser realizadas por personas capacitadas".

En última instancia, esto plantea dudas sobre quién determina qué es ilegal y qué no, ya que las plataformas en línea implementan sistemas de moderación algorítmica, como la comparación automática de hash y herramientas de aprendizaje automático predictivo, para llevar a cabo la moderación del contenido. Debido a la falta de sofisticación a la hora de distinguir de manera fiable el contenido legal del ilegal, “rutinariamente identifican el contenido como ilegal y eliminan grandes cantidades de contenido legítimo”.

Rompiendo el cifrado de extremo a extremo: el enigma de la privacidad de los datos

El otro punto conflictivo del proyecto de ley de seguridad en línea han sido las declaraciones sobre romper el cifrado de extremo a extremo (E2E) o al menos tener acceso a las conversaciones que tienen lugar a través de estas aplicaciones seguras.

El debate sobre las 'puertas traseras' en aplicaciones como WhatsApp y Signal no es nuevo. Los predecesores de Boris Johnson, como David Cameron, estaban discutiendo este concepto a mediados de la década pasada. Sin embargo, esto ahora podría incluirse en un proyecto de ley del gobierno y, para algunas organizaciones, ha demostrado ser el principal tema de conversación.

Según el artículo 19, la sección 103(2)(b) permitirá a Ofcom tener poderes para ordenar a un proveedor de un servicio de usuario a usuario que utilice "tecnología acreditada" para identificar contenido de explotación y abuso sexual infantil (CESA), ya sea que dicho contenido se comunica de forma pública o privada.

El artículo 19 afirma: “El hecho de que el proyecto de ley no haga ninguna distinción significativa entre los requisitos de las plataformas públicas y los servicios de mensajería privados significa que existe un riesgo real de que ofrecer cifrado de extremo a extremo constituya una violación del proyecto de ley. "

Comunicaciones seguras bajo amenaza

El uso de comunicaciones seguras ha sido bien citado, con grupos de derechos humanos, periodistas, denunciantes, víctimas de abuso doméstico e individuos de grupos minoritarios, todos usuarios habituales de empresas como WhatsApp, Signal y Telegram, que se pronunciaron sobre el proyecto de ley. decir Preferirían ser bloqueados en el Reino Unido antes que socavar su tecnología. Incluso podrían dejar de prestar servicios en el Reino Unido si el proyecto de ley les exigiera escanear mensajes.

Un informe de políticas de Open Rights Group afirma que Ofcom podría obligar a las plataformas de chat a utilizar tecnología de moderación de contenido acreditada por el gobierno. Si bien el proyecto de ley no dice nada sobre la implementación precisa, generalmente se entiende que se refiere a una forma de escaneo del lado del cliente, donde el software residiría en los teléfonos inteligentes de los usuarios.

Dra. Monica Horten, responsable de políticas para la libertad de expresión en la Grupo de derechos abiertos, dijo: “Por lo tanto, estamos analizando medidas que resultarán en una vigilancia masiva de los servicios de comunicaciones utilizados por más de dos tercios de la población del Reino Unido para mensajes privados, incluidas videollamadas y llamadas de voz. Interferirán con la privacidad y la libertad de expresión de los ciudadanos del Reino Unido”.

Horten afirma: "Se está pidiendo al Parlamento que legisle sobre medidas desproporcionadamente intrusivas, que afectan nuestra privacidad y libertad de expresión, sin ninguna información específica sobre el impacto ni en los usuarios ni en los proveedores". Las personas y las empresas tienen derecho a saber cuáles son las medidas y cómo pueden actuar para evitar sanciones antes de que el proyecto de ley avance.

Lograr la privacidad de los datos y la seguridad en línea: ¿quién tiene las respuestas?

Sin lugar a dudas, la implementación del proyecto de ley de seguridad en línea ha sido complicada: muchos argumentan que una Internet mejor, libre de material ofensivo, es algo bueno. Es la forma en que se están desplegando estos factores lo que causa tanta preocupación, ya que, por un lado, la NSPCC pide "medidas efectivas" contra el material abusivo y pidió a Meta (la empresa matriz de WhatsApp y Facebook) que suspenda sus planes de pausar el cifrado E2E de los servicios de mensajería de Facebook e Instagram, pero también afirmó que "el proyecto de ley de seguridad en línea debe verse como una oportunidad". alentar a las empresas a invertir en soluciones tecnológicas de cifrado de extremo a extremo que protejan la privacidad de los adultos y mantengan seguros a los niños”. Entonces, ¿algún término medio que no afecte la privacidad de los usuarios y que no insista en romper la tecnología de cifrado pero que aún funcione para la seguridad en línea?

Por supuesto, el debate sobre la privacidad es el más ruidoso y las organizaciones de derechos humanos han liderado la oposición a romper el cifrado E2E. Aún así, los defensores del proyecto de ley afirmarán que esas plataformas son las más utilizadas para intercambiar ese material de abuso.

Determinar el final y quién se sienta en el lado derecho es problemático. Desde que se presentó por primera vez, el proyecto de ley ha provocado nuevas discusiones y ha continuado otros debates, y será interesante ver cómo se resuelve y concluye.