Este artículo está escrito por Clare Welch, licenciada en Administración de Medios y Comunicaciones por la London School of Economics and Political Science, especializada en ética de la IA y las causas y efectos socioeconómicos de las campañas de desinformación. Para más información como esta, consulte nuestra fuente de noticias digital del gobierno .
"La verdad rara vez es pura y nunca es simple". - Oscar Wilde, La importancia de ser sincero
Imagínese esto: se está desplazando causalmente por su feed de Facebook y se encuentra con un video del CEO de Facebook, Mark Zuckerberg .
En él, dice "quien controla los datos controla el futuro". Naturalmente, a la luz del escándalo de Cambridge Analytica, está alarmado por su aparente proclamación sincera. Cuestionas la veracidad de este video; seguramente el director ejecutivo de una de las compañías más poderosas del mundo no se sentiría tan descortés con su sed de poder.
- ¿Quieres escribir para nosotros? Echa un vistazo a la guía de Apolitical para contribuyentes
Pero parece que el verdadero Zuckerberg en el video, tiene los mismos gestos que Zuckerberg, habla en el mismo tono vagamente robótico que Zuckerberg. Entonces, como dice el viejo adagio, si camina como un pato y habla como un pato ...
Sin embargo, en este caso, el pato no es un pato.
¿Qué es un deepfake?
El video de Zuckerberg que circulaba por Internet en junio no era, de hecho, un video de Zuckerberg; Fue una falsificación profunda.
Creado por un grupo de artistas que utilizan el aprendizaje automático, el video se publicó inicialmente en Instagram (que es propiedad de Facebook) antes de ser marcado por dos de los socios de verificación de datos de Facebook.
Ver esta publicación en Instagram
Una publicación compartida por Bill Posters (@bill_posters_uk) en 7 de junio de 2019 a las 7:15 a.m. PDT
El video de Zuckerberg siguió de cerca a otro video viral manipulado , el de la presidenta de la Cámara de Representantes de los Estados Unidos, Nancy Pelosi, que parecía insultar su discurso. En ambos casos, el material de audio y video falsificado se extendió ampliamente antes de ser marcado por la plataforma host. Mientras que los verificadores de hechos de terceros y otros comentaristas de Internet fueron notablemente más rápidos para identificar estos videos como falsas las respuestas variadas e inconsistentes de Facebook , y de otras plataformas de redes sociales representa solo la punta del iceberg cuando se trata del problema de la falsificación profunda.
Deepfakes son imágenes y videos de apariencia realista alterados para retratar a alguien haciendo o diciendo algo que nunca sucedió.
Se han convertido en una especie de palabra de moda desde que surgieron en 2017. Un acrónimo de "aprendizaje profundo" y "falso", las falsificaciones profundas utilizan pares de algoritmos llamados redes neuronales para crear " redes adversas generativas " o "GAN", que enfrentan pares de redes neuronales una contra la otra. Ambos algoritmos aprenden unos de otros, uno genera contenido modelado a partir de datos de origen y el otro trata de detectar el contenido artificial, lo que resulta en contenido de audio y visual falso muy realista.
¿Qué sucede cuando cae en las manos equivocadas?
Aunque la tecnología original existe desde 2017, cuando se utilizó por primera vez para insertar los rostros de las personas en la pornografía sin su conocimiento o consentimiento, la capacidad de la IA necesaria para crear falsificaciones de aspecto realista ha avanzado rápidamente. Por ejemplo, los investigadores de Stanford crearon un algoritmo en la primavera de 2019 que permite a los editores de video modificar videos como si estuvieras usando un procesador de texto.
Si bien la mayoría de los proyectos actuales, como el de Stanford, tienen usos intencionales benignos, como agilizar la edición de películas en la postproducción, el mismo aprendizaje automático que permitió estos estudios ahora también está ampliamente disponible para cualquier persona con conexión a Internet y curiosidad por probar Los límites de lo que es posible.
Las aplicaciones más nefastas de GAN pueden conducir a programas como DeepNude , una aplicación de deepfake que permitió a los usuarios crear imágenes desnudas realistas de mujeres en treinta segundos. Un sistema de IA que genera la publicación de textos falsos fue emparejado por sus creadores porque su imitación de la escritura humana era tan plausible que era casi imposible diferenciar sus resultados exitosos de las noticias reales, las revisiones de productos e incluso los tweets.
las falsificaciones profundas amenazan la integridad de las elecciones en todas partes
En agosto, la agencia policial de la Unión Europea, Europol, denunció el primer delito cibernético cometido con IA ; los delincuentes estafaron a una empresa de energía con sede en el Reino Unido con casi € 200,000 EUR ($ 219,200) utilizando un programa que imitaba casi perfectamente la voz de un director ejecutivo.
Dada la proliferación de la tecnología deepfake, no es de extrañar que los responsables políticos de todo el mundo se hayan dado cuenta de los peligros que representa para la sociedad.
Aunque la desinformación difundida a través de la manipulación de imágenes y videos ha sido un desafío para los gobiernos durante décadas, las falsificaciones profundas son una amenaza posiblemente más maligna. La mayoría de las personas confían en lo que ven o escuchan más de lo que leen por la simple razón de que les permite juzgar lo que observan como si fueran testigos oculares de primera mano del evento.
¿Cómo damos sentido a nuestra situación actual?
La importancia de los teléfonos inteligentes y el intercambio instantáneo en las redes sociales han hecho que los videos y los clips de sonido sean más comunes que nunca, y a menudo son lo primero que las personas encuentran cuando ocurre un gran evento de noticias. Por lo tanto, las falsificaciones profundas amenazan los hechos básicos de la realidad compartida, la base de cualquier sistema de gobierno que funcione.
Además, los deepfakes plantean graves amenazas a las libertades fundamentales; reproducir la imagen de alguien sin su conocimiento o consentimiento, especialmente su voz y sus gestos, amenaza la personalidad de uno. El auge de la llamada "porno de venganza" y otros usos de la inteligencia artificial falsa para el chantaje ya afecta a muchas mujeres, sin mencionar el potencial de ese tipo de chantaje para fines políticos. Por otro lado, la tecnología también se utiliza como una expresión artística o crítica del poder, como fue el caso de los videos falsos de Zuckerberg de junio.
Una buena formulación de políticas puede proteger tanto a la sociedad contemporánea como a las generaciones futuras de los abusos de las nuevas tecnologías.
Abundan las preguntas sobre cómo proteger mejor los derechos individuales de expresión y, al mismo tiempo, proteger el derecho de la sociedad a un sistema de información libre y preciso. La calidad, la resistencia a la detección y la accesibilidad de la tecnología deepfake no solo a las agencias de inteligencia sino a otros actores no estatales y civiles ponen en peligro la estabilidad de la sociedad.
A escala global, los malos actores pueden usar esta tecnología para representar a más o menos a cualquiera que esté lanzando cosas inflamatorias y para desacreditar a los oponentes o incitar a la violencia. A nivel nacional, las falsificaciones profundas amenazan la integridad de las elecciones en todas partes.
A través de las redes sociales, las personas a menudo retuitean o comparten información que ven de otros sin molestarse en verificar si es cierta, especialmente si es información negativa o nueva. Tanto la industria como los formuladores de políticas coinciden en que es necesario establecer un nuevo paradigma, pero las propuestas actuales solo raspan la superficie de minimizar la amenaza potencial de las falsificaciones profundas.
El simple hecho de marcar un video como falso probablemente no detendrá el efecto de un falso falso destinado a difundir la desinformación; Si las personas están expuestas una y otra vez a información falsa, es probable que lo crean. Esto también se llama efecto de verdad ilusorio , y a menudo ocurre con contenido manipulado o sintético, ya que las personas solo recuerdan que han visto la información falsa antes, no que supieran que era falsa. Tampoco es necesario que todo el contenido falso sea marcado con agua como una medida sostenible, ya que hacer cumplir dicha legislación sería casi imposible a través de las fronteras estatales.
¿Qué puede hacer el gobierno?
Sin embargo, no toda la esperanza se pierde.
Si bien el estado actual del panorama global de los medios, junto con la falta de estándares coherentes para la regulación de contenido en plataformas en diferentes jurisdicciones, pinta una imagen sombría del potencial para una regulación sostenible de falsificación profunda, hay medidas que todos los gobiernos pueden y deben tomar para allanar el camino para un nuevo régimen de gobernanza.
Primero, la alfabetización mediática debe ser una prioridad para todos los ciudadanos, independientemente de su edad. Una educación adecuada sobre cómo se difunde la información falsa y una conciencia más general de lo que constituye un daño en línea no solo ayudará a los ciudadanos a identificar falsificaciones, sino que también los ayudará a identificar información engañosa en otros lugares de Internet.
Segundo, los gobiernos deberían reconsiderar sus leyes de difamación, fraude y apropiación indebida de similitudes. Esto ayudaría a definir qué es una falsificación profunda maliciosa y protegería mejor a los ciudadanos comunes de ser víctimas de la tecnología en desarrollo.
En tercer lugar, los gobiernos deberían asociarse más estrechamente con la industria para invertir en soluciones técnicas mejores y más flexibles que ayuden a identificar las falsificaciones profundas con fines de moderación. Una mejor identificación de deepfakes ayudaría a las plataformas de redes sociales a crear políticas más uniformes con respecto a los deepfakes y ayudaría a proteger el derecho a la expresión de las personas sin permitir que prolifere el contenido dañino.
Finalmente, los gobiernos deben establecer pautas de transparencia en cuanto a cómo y cuándo el propio gobierno utiliza tecnología deepfake. Así como los ciudadanos tienen derecho a ser protegidos de las campañas de desinformación extranjeras, también tienen derecho a saber cuándo y cómo su propio gobierno está implementando el aprendizaje automático.
No importa cuánto lo deseemos, las falsificaciones profundas solo se volverán más comunes. En este momento, puede parecer que aislar a las sociedades de las consecuencias negativas de los avances en inteligencia artificial es imposible (o, al menos, improbable). Sin embargo, debemos reconocer que los desafíos planteados por los deepfakes son similares a los desafíos que nosotros, como sociedad, hemos superado en el pasado.
Una buena formulación de políticas puede proteger tanto a la sociedad contemporánea como a las generaciones futuras de los abusos de las nuevas tecnologías. - Clare Welch
(Crédito de la imagen: Anthony Quintano // Wikimedia Commons)
Inicia sesión o regístrate para continuar la conversación