Los gigantes tecnológicos chinos Huawei y Alibaba están solicitando permisos para el uso de deepfakes. Estas marcas han presentado solicitudes a la Administración del Ciberespacio de China, el regulador del ciberespacio del país. Según Reuters, la CAC ha recibido alrededor de 110 solicitudes de productos capaces de generar deepfakes. En diciembre de 2022, la CAC estableció reglas para el uso de esta tecnología, y ahora estas marcas buscan obtener permisos para cumplir con estas reglas.
Contenido:
¿Qué son los deepfakes?
Los deepfakes son medios sintéticos creados con inteligencia artificial que pueden engañar de manera convincente. Pueden ser imágenes, archivos de audio o videos falsos generados mediante aprendizaje profundo, una forma avanzada de aprendizaje automático. Los deepfakes se crean utilizando una estructura de red neuronal llamada codificador automático, que consta de un codificador y un decodificador. El codificador comprime la imagen original, el audio o el video en una representación más pequeña, mientras que el decodificador intenta restaurar el contenido original a partir de la versión comprimida.
Los deepfakes se utilizan en diversos ámbitos, como el arte, el entretenimiento y la propaganda política. Sin embargo, también pueden representar riesgos significativos, como extorsión, daño a la reputación y problemas legales. A pesar de la seria amenaza que representan, en su mayoría son legales y las fuerzas del orden tienen poca jurisdicción sobre ellos, a menos que violen leyes existentes como la pornografía infantil, la difamación o el discurso de odio.
La falta de leyes contra los deepfakes se debe a que la mayoría de las personas desconocen esta nueva tecnología y sus peligros. En la mayoría de los casos, las víctimas no tienen protección legal. Los deepfakes pueden ser utilizados para propagar noticias falsas y engañar al público.
¿Por qué Huawei y Alibaba buscan permisos para deepfakes?
Huawei y Alibaba están solicitando permisos para deepfakes para cumplir con las reglas establecidas por la CAC. Estas reglas requieren que las marcas etiqueten claramente todo el contenido generado con deepfakes. El incumplimiento de estas reglas puede resultar en multas y otras sanciones.
Además de Huawei y Alibaba, otras empresas tecnológicas chinas como Tencent, Baidu y ByteDance también han solicitado aprobación de la CAC para desarrollar tecnología de deepfake. Estas marcas buscan desarrollar esta tecnología para diferentes propósitos, incluyendo entretenimiento, publicidad y educación. A continuación, se presentan algunas razones por las que estas empresas necesitan la aprobación de la CAC:
Razones
1. Si estas marcas no obtienen la aprobación de la CAC, podrían enfrentar un escrutinio serio y posibles prohibiciones o multas según las leyes establecidas por el regulador.
2. Estas marcas están tratando de mejorar su tecnología de deepfake y desean poner sus innovaciones a disposición del público. Para lograrlo, necesitan obtener permisos antes de seguir desarrollando la tecnología.
3. Las marcas como Alibaba pueden utilizar deepfakes en marketing para crear contenido realista y atractivo. Por ejemplo, Alibaba ya ha utilizado esta tecnología para crear un influencer virtual llamado Xiaobao. Obtener permisos de deepfake les permitiría ampliar el uso de esta tecnología en marketing.
4. Huawei y otras marcas pueden utilizar deepfakes para crear efectos especiales realistas en películas y programas de televisión. Obtener permisos les permitiría utilizar esta tecnología en sus productos de entretenimiento.
5. Las empresas pueden utilizar deepfakes para crear simulaciones realistas para capacitación y pruebas de seguridad. Obtener permisos les permitiría utilizar esta tecnología en sus productos de seguridad.
Figuras públicas y deepfakes
Los deepfakes se han utilizado con diversos fines, principalmente para entretenimiento y parodia. Sin embargo, a medida que la tecnología mejora y se vuelve más accesible, algunas personas han abusado de ella. A continuación, se presentan algunos ejemplos notables de deepfakes de figuras públicas con el objetivo de difundir noticias falsas:
1. Morgan Freeman:
Uno de los deepfakes más sorprendentemente convincentes es el de Morgan Freeman. El video fue compartido por primera vez por un canal de YouTube llamado deepfake Diep. El video, que en realidad no es Morgan Freeman, se volvió viral y generó preocupaciones sobre el uso de la tecnología. Fue creado por un experto en inteligencia artificial llamado Bob de Jong, quien trabajaba para SingularityNET. Este video demuestra cómo se puede utilizar la tecnología deepfake para crear videos falsos convincentes de personas diciendo o haciendo cosas que nunca hicieron.
2. Mark Zuckerberg:
En un video manipulado, Mark Zuckerberg de Facebook elogia la recopilación de datos de personas. El video falso fue creado por los artistas Bill Posters y Daniel Howe. Utilizaron inteligencia artificial para manipular el rostro de Mark y hacerlo parecer como si hubiera dicho algo que en realidad no dijo. La voz de Zuckerberg también fue reemplazada por la de un actor. El video muestra a Mark en un discurso siniestro sobre el poder de Facebook. A pesar de lo realista que parece, el video es falso.
3. Barack Obama:
Barack Obama ha sido objeto de varios videos deepfake, incluido un anuncio de servicio público de Jordan Peele en 2018. Peele utilizó deepfake para simular el rostro y la voz de Obama. En el video, Obama advierte sobre los peligros de las noticias falsas.
Otras figuras públicas conocidas también han sido víctimas de deepfakes, como el primer ministro belga, Donald Trump y Dalí.
Conclusión
Huawei y Alibaba están solicitando permisos para deepfakes para cumplir con las reglas establecidas por la CAC. Otras empresas tecnológicas chinas también buscan obtener aprobación para desarrollar tecnología de deepfake. Los deepfakes representan un problema creciente, ya que pueden utilizarse para difundir noticias falsas y son difíciles de detectar.
La creciente influencia de los deepfakes: Debatido por Huawei, Alibaba y la CAC
Los deepfakes han emergido como una preocupación creciente en la era digital, y su expansión ha llegado a los titanes tecnológicos como Huawei y Alibaba, generando un intenso debate en la Comisión de Asuntos Cibernéticos (CAC). Estas empresas se encuentran en el centro de la discusión, ya que su capacidad de utilizar esta tecnología plantea serias interrogantes sobre la autenticidad y la confianza en el mundo digital.
A medida que los deepfakes se vuelven más sofisticados y accesibles, la necesidad de abordar su impacto se vuelve urgente. Las implicaciones potenciales en áreas como la política, la seguridad y la privacidad son motivo de preocupación. Es esencial que los actores relevantes, incluidas las empresas tecnológicas y los organismos reguladores, trabajen juntos para establecer un marco que garantice la transparencia y proteja a los usuarios de los peligros que conlleva esta tecnología.
