DeepFake

deepfake

DeepFake

Dos palabras deep, fake – profundo, falso -; translate deepfake: ultrafalso.

La rebellion de las masas 3.0

Este concepto simple introducido en las redes sociales con el apoyo SEO adecuado de #hashtags imágenes virales y el marketing de influencers comprados a peso. Se ha convertido en un medio para la manipulación de las personas en la intimidad de móviles, tablets, los diversos gadgets. El resultado final es un vídeo real, aunque falso.

Manipulación de consumo, ideas políticas, opiniones, conductas, lo que surja todo vale si se obtiene beneficio.

En otoño de 2017, un usuario anónimo de Reddit con el nick de Deepfakes publicó varios vídeos pornográficos en Reddit siendo prohibidos inmediatamente por sitios como el mismo Reddit, Twitter y Pornhub. En ellos se habían manipulado los rostros de varias actrices, Natalie Portman o Emma Watson, para que encajaran en cuerpos de actrices porno.

A mediados de abril del 2018 el actor y director Jordan Peele publicó un vídeo con la falsificación de un discurso del presidente Barack Obama para dar foco a las consecuencias que esta tecnologías pude tener.

¿Cómo distinguir entre lo real y de lo falso?

La mayor parte de las veces los deepfakes no son muy elaborados, no son buenos, esto les da marchamo de veracidad debido a la realidad bizarra que presentan. Lo que antes requería de cientos de horas de edición, con equipos y profesionales expertos trabajando en ello, ahora un aficionado con un software gratuito en pocas horas logra un resultado aceptable.

El problema es que las herramientas que los detectan tampoco son muy buenas, la mayor parte de las empresas dedicadas a detectar deepfakes, son asi mismo distribuidores interesados de noticias que por supuesto moldean a su gusto.

Deep Fake Detection Challenge algoritmo de detección ganador de un desafío liderado por Facebook podría detectar dos tercios de los videos manipulados. No es demasiado fiable un 65% de acierto. En España son conocidas las agencias Maldita Hemeroteca, Newtral.

Deepfake Detection Challenge de Facebook, en colaboración con Microsoft, Amazon Web Services y Partnership on AI , se ejecutó a través de Kaggle , una plataforma para codificar concursos que es propiedad de Google.

Utilizaron una librería de videos de intercambio de caras: 100,000 clips falsos, creados por Facebook con actores pagados, en los que los participantes probaron sus algoritmos de detección. El proyecto atrajo a más de 2,000 participantes de la industria y la academia, y generó más de 35,000 modelos de detección de deepfake.

Los deepfakes utilizan los algoritmos RGAs del cual dos modelos de aprendizaje automático son presentados con objetivos antagónicos que utilizan la inteligencia artificial para injertar digitalmente la cara de una persona en otra persona, haciendo que parezca que esa persona hizo y dijo cosas que nunca hizo. Por ahora, la mayoría de los deepfakes resultan raros y algunos se han utilizado en publicidad.

Es fácil realizar deepfakes con programas de click&cut sobre algoritmos de IA, disponibles en versiones básicas de forma gratuita con un registro.

Un algoritmo detector de deepfakes puede ser entrenado pero otro algoritmo que generador de deepfakes puede ser entrenado también para evitar la detección.
Facebook ya utiliza la tecnología para detectar automáticamente deepfakes, pero se niegan a decir cuántos videos falsos se han marcado y borrado.

El problema es que los deepfakes se han convertido en una herramienta muy potente para la desinformación política, el discurso de odio o el acoso, propagándose viralmente en plataformas como Facebook, Instagram, Twitter sin contar Telegram, WhatsApp.

Hany Farid, profesor de la Universidad de Berkeley, especialista en análisis de imagen digital, piensa que crear un detector deepfakes efectivo es más difícil de lo que sugiere Mark Zuckerberg. Surgen nuevas técnicas y un distribuidor malicioso de deepfakes podría trabajar para evitar a un detector concreto.

Farid cuestiona el interés del proyecto de Facebook, y Zuckerberg parece reacio a controlar el contenido que los usuarios cargan, con declaraciones tan cuestionables:

No somos los árbitros de la verdad, ¿por qué estamos haciendo esto?

Un respuesta posible: Poder y dinero.
Las cosas simples funcionan.