Deepfakes explicó la IA que está haciendo videos falsos demasiado convincentes

Ver es creer. Bueno, al menos ese fue el caso antes de que nos dimos cuenta de que las personas podían hacer videos para propulsar engaños y reescribir la historia. Si bien hemos encontrado formas de desacreditar la mayoría de las imágenes de engaño, hay un desarrollo tecnológico que está ganando ritmo con tanta rapidez que pronto ya no sabremos cómo decir qué es real y qué es falso..

Deepfakes cambia todo lo que pensamos posible en términos de videos documentados. Aquí está todo lo que necesitas saber sobre ellos ...

Que son los Deepfakes?

El término deepfakes proviene de una combinación de las palabras “aprendizaje profundo” y “falsificaciones”. Esto se debe a que el software de inteligencia artificial entrenado en la síntesis de imágenes y videos crea estos videos. Esta IA puede superponer la cara de un sujeto (la fuente) en un video de otro (el objetivo). Las formas más avanzadas de la tecnología pueden sintetizar un modelo completamente nuevo de una persona utilizando los gestos faciales de la fuente y las imágenes o videos del sujeto que desean personificar..

La tecnología puede hacer modelos faciales basados ​​en datos visuales limitados, como una imagen. Sin embargo, cuantos más datos tenga que trabajar la AI, más realista será el resultado..

Esta es la razón por la que los políticos y las celebridades son objetivos tan fáciles de realizar, ya que hay tanta información visual disponible en línea que el software puede usar. Dado que el software deepfake está disponible en plataformas de código abierto, las personas en Internet están continuamente refinando y desarrollando el trabajo de otros..

Los orígenes de Deepfake AI Technology

La tecnología detrás de Deepfakes fue desarrollada para una multitud de propósitos. Al igual que Photoshop, el software tiene usos profesionales, de entretenimiento y de aficionados. Y al igual que Photoshop, a pesar de que el creador no tiene intenciones maliciosas para crear el software, esto no ha impedido que las personas lo usen con fines maliciosos..

La tecnología de intercambio de caras se utilizó principalmente en la industria del cine. Uno de los casos más famosos es en la película 2016 Rogue One: A Star Wars Story. En la película, los cineastas utilizaron tecnología de síntesis de video y de intercambio de caras para recrear al personaje Grand Moff Tarkin. Una versión más joven de la princesa Leia también fue creada en la película. En ambos casos, los modelos de los rostros de los actores originales se superponían a los actores suplentes..

Las aplicaciones como Snapchat también utilizan la tecnología de intercambio de caras para crear filtros divertidos para los usuarios. Los desarrolladores detrás de estas aplicaciones refinan continuamente la detección de rostros y el seguimiento para aplicar estos filtros de manera más efectiva.

Mientras tanto, otros han desarrollado herramientas de síntesis de video para crear hologramas con fines educativos. Por ejemplo, un proyecto desarrolló un software de síntesis facial y de video para que el testimonio de los sobrevivientes del Holocausto pudiera presentarse como hologramas interactivos en un museo..

¿Por qué los Deepfakes están poniendo nerviosa a la gente?

Cuando la gente se dio cuenta de que los estafadores y las personas que jugaban bromas utilizaban Photoshop para crear imágenes falsas, tuvimos que ser más escépticos acerca de lo que consideramos una prueba. Afortunadamente, había muchas formas de detectar si una imagen era falsa, incluso a simple vista..

Además de esto, la creación de una imagen documentada y convincente en Photoshop es relativamente laboriosa. No solo cualquiera puede pegar dos imágenes y hacerlas parecer realistas.

Pero los deepfakes son diferentes. Aprendizaje automático hace la vida más fácil 4 Algoritmos de aprendizaje automático que dan forma a tu vida 4 Algoritmos de aprendizaje automático que dan forma a tu vida Es posible que no te des cuenta, pero el aprendizaje automático ya está a tu alrededor y puede ejercer un grado sorprendente de influencia en tu vida. No me crees Te sorprenderías. Lea más, pero en este caso, hace que la falsificación sea mucho más fácil. En primer lugar, el software está disponible de forma amplia y gratuita. FakeApp, por ejemplo, es una opción popular para crear deepfakes. No necesitas habilidades avanzadas para aplicar un cambio de rostro, el software lo hará por ti.

Dado que la inteligencia artificial y el aprendizaje profundo ayudan a crear errores profundos, la tecnología también mejora y se vuelve más convincente a un ritmo alarmante. No pasará mucho tiempo antes de que estas ediciones no sean visibles a simple vista..

En un mundo lleno de noticias falsas, convencer a los falsificadores puede ser una fuerza caótica contra lo que creemos que es verdad..

El aumento de los errores profundos también se está produciendo en un momento en que la síntesis de voz de AI también está avanzando rápidamente. AI no solo puede generar videos falsos, sino que también puede generar modelos de voz para personas.

Esto significa que no necesitarías un imitador para que parezca que un político está haciendo una declaración indignante. Puedes entrenar a AI para imitar su voz..

Las consecuencias de Deepfakes

La gente ya usa deepfakes para propósitos maliciosos. La gente a menudo usaba FakeApp para crear videos falsos de actrices famosas comprometidas con contenido para adultos.

Gal Gadot, Daisy Ridley y Emma Watson son solo algunas de las actrices a las que apuntan los videos de adultos falsos. Estos hechos profundos cambian los rostros de las actrices por videos de estrellas de cine adultas..

Si bien varias plataformas y ciertos sitios web para adultos han prohibido este tipo de videos, cada día aparecen más. De hecho, algunos sitios web crean específicamente videos famosos de adultos basados ​​en las solicitudes de los usuarios..

En la mayoría de los países, todavía no hay leyes que traten este tipo de contenido, lo que dificulta el control.

Si bien aún estamos lejos de la distopía gobernada por la desinformación y la evidencia de video falsa que vemos en películas como The Running Man, ya estamos muy familiarizados con los efectos de las noticias falsas What Fake News y How Is Spread So ¿Con rapidez? ¿Qué son las noticias falsas y cómo se difunden tan rápidamente? Las noticias falsas están plagando Internet y la peor parte es que la mayoría de las personas no pueden reconocerlo cuando lo ven. Lee mas .

Deepfakes puede ser una herramienta poderosa para difundir información errónea. Nadie ha sido encuadrado por un crimen ni ha fingido su muerte con errores profundos, pero ¿qué sucede cuando resulta difícil saber qué videos son realmente reales??

Las consecuencias de los errores profundos utilizados con fines políticos son dobles. En primer lugar, hace que las noticias falsas sean mucho más fáciles de difundir. Los videos son más probables que el texto o las imágenes para convencer a las personas de que algo ficticio realmente sucedió.

La gente ya cree en los titulares de sitios web falsos sin evidencia que respalde su historia. De repente, las historias falsas tendrán “evidencia” Mostrar a los políticos que confiesan haber cometido delitos o que hacen declaraciones escandalosas..

Por otro lado, las fallas profundas también podrían envalentonar a los políticos cuando esquivan la responsabilidad. Siempre pueden decir fácilmente que una grabación de audio o video es realmente una imitación profunda..

¿Cómo estamos luchando Deepfakes?

Mientras que muchas compañías de tecnología se están tomando su tiempo para reinar en fallas profundas, una variedad de personas están desarrollando herramientas para combatir videos falsos maliciosos. AI puede combatir a los piratas cibernéticos y la ciberdelincuencia Cómo la inteligencia artificial combatirá a los hackers modernos y la ciberdelincuencia Cómo la inteligencia artificial combatirá a los hackers modernos y la ciberdelincuencia Con una escasez de talento en la ciberseguridad y una epidemia de ciberdelincuencia, ¿cómo pueden las empresas combatir a los piratas informáticos? Con inteligencia artificial! Leer más, pero también es útil para detectar alteraciones en los videos..

La Fundación AI creó un complemento del navegador llamado Reality Defender para ayudar a detectar el contenido en línea de deepfake. Otro complemento, SurfSafe, también realiza verificaciones similares. Ambas herramientas tienen como objetivo ayudar a los usuarios de Internet a distinguir los hechos de la ficción..

Los sitios web de verificación de datos como Snopes también se expandieron para llamar videos grabados. Pero todavía no tienen las herramientas para detectar automáticamente fallas..

Incluso el Departamento de Defensa de EE. UU. Invirtió en software para detectar fallas profundas. Después de todo, ¿qué pasaría si un video convincente de un líder mundial apareciera en línea, declarando la guerra o el lanzamiento de un misil contra otro país? Los gobiernos necesitan herramientas para verificar rápidamente la legitimidad de un video.

Consecuencias involuntarias del aprendizaje automático

No hay duda de que la tecnología AI y el aprendizaje profundo de la máquina mejoran nuestras vidas de muchas maneras. Pero la tecnología también tiene consecuencias imprevistas..

Si bien la mala información es un obstáculo importante para los algoritmos de aprendizaje automático, el elemento humano también desempeña un papel. Es difícil predecir cómo las personas pueden usar cierta tecnología con fines maliciosos. Puede encontrar más información sobre el aprendizaje automático y los errores del pasado en nuestra guía de algoritmos de aprendizaje automático y por qué funcionan mal. ¿Qué son los algoritmos de aprendizaje automático? Así es como funcionan ¿Qué son los algoritmos de aprendizaje automático? A continuación le explicamos cómo funcionan Los algoritmos de aprendizaje automático están diseñados para hacer la vida más fácil y mejorar los sistemas, pero pueden salir mal con malas consecuencias. Lee mas .

Explorar más sobre: ​​Inteligencia artificial, Deepfakes, Hoaxes.