Mientras la Unión Europea se prepara para las próximas elecciones, enfrenta el enorme desafío de salvaguardar sus procesos democráticos contra las amenazas generalizadas de la desinformación y la manipulación digital. Su firme respuesta, respaldada por la Ley de Servicios Digitales (DSA), ha sido publicar nuevas pautas estrictas para plataformas en línea de gran tamaño (VLOP) diseñadas para evitar que las falsedades se vuelvan virales.

El propio DSA no solo subraya el compromiso de la UE de proteger la integridad electoral, sino que también sienta un precedente sobre cómo las democracias pueden responder a los desafíos digitales de nuestro tiempo, garantizando que los pilares del compromiso democrático sigan siendo fuertes e incorruptos.

El problema de la desinformación

La desinformación en la era digital presenta una profunda amenaza no solo a la santidad de las elecciones sino también al tejido de la sociedad y la integridad empresarial. Erosiona la confianza pública en las instituciones, alimenta la inestabilidad política y puede provocar importantes daños financieros y de reputación a las empresas atrapadas en el fuego cruzado. El impacto empresarial es particularmente severo; La desinformación y la desinformación pueden distorsionar el comportamiento de los consumidores, perturbar los mercados y dar lugar a un costoso escrutinio regulatorio.

Los incidentes recientes ilustran las consecuencias de gran alcance de las falsedades digitales no controladas. Por ejemplo, durante las elecciones presidenciales estadounidenses de 2016, extendido Se desplegaron campañas de desinformación, en particular con noticias inventadas que se compartieron en plataformas de redes sociales para influir en las percepciones de los votantes. El infame Escándalo de Cambridge Analytica destacó cómo los datos personales podrían explotarse para influir en las decisiones de los votantes, demostrando el potencial de las plataformas digitales para influir en los resultados políticos. Luego, durante la pandemia de COVID-19, las noticias falsas sobre el virus y las vacunas provocaron crisis de salud pública e interrumpieron los esfuerzos de respuesta en varios países.

En este panorama volátil, tanto las empresas como los gobiernos están lidiando con el desafío de distinguir la verdad de la falsedad, mientras se esfuerzan por mantener un nivel de transparencia y confiabilidad en sus comunicaciones. Si no se controlan, las falsedades en línea no sólo amenazan los procesos democráticos sino que también podrían comprometer el panorama competitivo al socavar las prácticas comerciales justas y la confianza de los consumidores.

El enfoque regulatorio de la UE

La Ley de Servicios Digitales (DSA) representa el marco estratégico de la UE para regular el espacio digital, con un fuerte énfasis en combatir la información errónea y la desinformación y asegurar los procesos democráticos. Esta medida legislativa apunta a los VLOP, que son conductos cruciales de información durante tiempos electorales.

La Ley de Servicios Digitales de la UE define los VLOP como aquellos servicios digitales que llegan al menos a 45 millones de usuarios dentro del bloque, lo que representa aproximadamente el 10% de la población. Esta categorización se dirige a las plataformas que tienen el mayor alcance e influencia, lo que requiere una supervisión regulatoria más estricta para mitigar los riesgos y los impactos de la difusión de información errónea a gran escala. Al centrarse en estas plataformas, la DSA garantiza que las fuentes primarias de contenido e interacción digitales cumplan con estándares más altos de responsabilidad y transparencia.

La DSA exige que estas plataformas implementen medidas más rigurosas para gestionar y moderar el contenido, mejorar la transparencia en torno a los procesos algorítmicos y garantizar que la publicidad política esté claramente etiquetada para evitar influencias ocultas.

Las nuevas regulaciones bajo la DSA específicamente orientadas a asegurar las elecciones requieren que estas plataformas aborden rápidamente las amenazas de información errónea y desinformación y sean más responsables en sus prácticas de moderación de contenido. También se espera que las plataformas proporcionen a los usuarios un mayor control sobre el contenido que ven, lo que podría frenar la difusión de noticias falsas.

Los VLOP deberán asegurarse de que todos los anuncios políticos en sus plataformas y los deepfakes de IA estén claramente etiquetados. Y crear equipos dedicados a monitorear posibles narrativas de noticias falsas en algunos países de la UE. Los algoritmos deben promover contenidos diversos y debería haber procesos de emergencia establecidos para cuando aparezcan deepfakes de líderes políticos, según se informa, dijo la Comisión Europea. El incumplimiento podría dar lugar a multas de hasta el 6% de la facturación anual global.

Thomas Richards, consultor principal de seguridad de Synopsys Software Integrity Group, cree que el DSA podría reducir significativamente la información errónea si los VLOP lo implementan de manera efectiva.

“Si los VLOP pueden implementar bien las directrices de la DSA, creo que la prevalencia de información errónea disminuirá. Creará un juego del gato y el ratón... pero en general, creo que la gente lo verá menos”, le dice a ISMS.online.

Adam Marrè, CISO de Arctic Wolf, añade que el enfoque de la DSA en la transparencia y la rendición de cuentas podría alterar fundamentalmente la forma en que se gestiona la información errónea.

"Las directrices establecen mecanismos sólidos de rendición de cuentas... Si se ejecuta de manera efectiva, este fuerte mecanismo de aplicación es crucial para garantizar que las plataformas cumplan con sus compromisos y responsabilidades", le dice a ISMS.online.

Desafíos y aplicación de la ley

Hacer cumplir la DSA plantea varios desafíos prácticos, especialmente en los ámbitos de detección, precisión y escala. La gran cantidad de datos gestionados por los VLOP requiere el uso de sistemas automatizados, principalmente IA, para monitorear y controlar la información errónea. Sin embargo, como señala Richards, "identificar y eliminar contenido con precisión será el mayor obstáculo a superar". Depender de la IA para la detección puede dar lugar a imprecisiones y censura inadvertida, lo que podría permitir que se cuele desinformación o, por el contrario, penalizar indebidamente el contenido legítimo.

Además, la naturaleza dinámica de las tácticas de desinformación significa que tan pronto como se desarrollan nuevos métodos de detección, los actores maliciosos idean nuevas estrategias para eludirlos. Richards sostiene que quienes difunden desinformación están constantemente desarrollando técnicas para “evitar o engañar a los mecanismos de detección haciéndoles pensar que el contenido no debe eliminarse”.

Hannah Baumgaertner, jefa de investigación de inteligencia de Silobreaker, señala que las elecciones que se están celebrando este año en Taiwán se han visto empañadas por campañas de desinformación.

“Además, es probable que la actual campaña Doppelganger vinculada a Rusia gire su atención hacia el Reino Unido”, le dice a ISMS.online.

Durante el referéndum sobre el Brexit, varias plataformas vieron un aumento de artículos engañosos y estadísticas manipuladas diseñadas para influir en la opinión pública. De manera similar, se han utilizado cuentas de bots automatizadas para amplificar el contenido divisivo, lo que demuestra cómo las estrategias de desinformación se perfeccionan continuamente para explotar los nuevos avances tecnológicos. Estos ejemplos resaltan la incesante evolución de las tácticas de noticias falsas, lo que hace que la aplicación de la ley sea un desafío complejo y dinámico.

Implicaciones comerciales más amplias

El aumento de los deepfakes y el engaño digital introduce nuevas vulnerabilidades que las empresas deben abordar en sus estrategias de gestión de riesgos. A medida que estas tecnologías se vuelven más sofisticadas, aumenta el potencial de uso indebido para manipular la percepción pública y dañar la integridad de la reputación.

A partir de los principios más amplios descritos en la DSA, las empresas pueden mejorar su resiliencia implementando procesos de verificación rigurosos y medidas de transparencia. Al integrar tecnologías de detección avanzadas y establecer protocolos claros para gestionar las amenazas digitales, las empresas pueden protegerse mejor contra los efectos desestabilizadores de la desinformación. Además, al promover la transparencia y la rendición de cuentas, las empresas no sólo pueden cumplir con las regulaciones emergentes sino también generar confianza con sus partes interesadas, reforzando así su posición en el mercado.

Estableciendo un punto de referencia global

La DSA marca un compromiso sólido para combatir la información errónea y la desinformación, estableciendo un punto de referencia global sobre cómo las democracias pueden proteger la integridad electoral en la era digital. Al hacer cumplir directrices estrictas en las principales plataformas en línea, la UE no sólo pretende disminuir la difusión de información falsa sino también fortalecer los principios fundamentales de la democracia.

Estos esfuerzos son fundamentales para mantener la salud de la economía digital, donde la confianza y la transparencia desempeñan papeles fundamentales. De cara al futuro, la adaptación y aplicación continua de dichas regulaciones será clave para preservar tanto los procesos democráticos como la integridad del mercado digital.

En este contexto, las empresas enfrentan sus propias batallas contra los deepfakes y el engaño digital. Estas tecnologías plantean serias amenazas a la integridad y seguridad corporativas, lo que requiere sistemas sólidos de gestión de seguridad de la información (SGSI) para mejorar la concientización, establecer protocolos de detección y desarrollar estrategias efectivas de respuesta a incidentes. A medida que los deepfakes se vuelven más sofisticados, adelantarse a estas amenazas es esencial para mantener las operaciones corporativas y la confianza del público.