Y no solo en el ámbito del entretenimiento, sino también en la arena política, donde las "deepfakes" - imágenes o videos falsos creados con IA - representan un nuevo campo de batalla.
Recientemente, un "deepfake" del expresidente Donald Trump generó polémica al ser compartido en redes sociales y alcanzar más de 143 millones de reproducciones. Este incidente, junto con otras campañas de influencia en plataformas como X (antes Twitter) que utilizan IA para generar comentarios falsos, ha generado una alerta en la comunidad científica y política.
Ante este panorama, Yahoo News, un portal digital con más de 190 millones de visitas mensuales, ha decidido tomar medidas para combatir la propagación de imágenes manipuladas. En alianza con McAfee, la compañía ha implementado tecnología de detección de "deepfakes" que analiza las imágenes y detecta posibles alteraciones. Esta medida, explica Matt Sanchez, presidente de Yahoo Home Ecosystem, busca anticiparse a una problemática que, si bien aún no es generalizada, presenta un riesgo potencial para la credibilidad de la información.
La detección de "deepfakes" no es una tarea sencilla. Como explica Steve Grobman, director de tecnología de McAfee, la tecnología de IA utilizada para crear estas imágenes está en constante evolución, haciendo cada vez más difícil distinguirlas de las reales. Sin embargo, los expertos confían en que la tecnología de detección también avanza a un ritmo similar, permitiendo identificar las alteraciones con mayor precisión.
El problema se agrava cuando se consideran las implicaciones de los "deepfakes" en la política. Si bien algunos expertos consideran que las campañas de desinformación basadas en "deepfakes" son fáciles de desmentir, otros, como Daniel Kang, profesor de Ciencias de la Computación en la Universidad de Illinois Urbana-Champaign, advierten que un atacante con recursos y motivaciones suficientes puede crear "deepfakes" casi indistinguibles de la realidad.
En este contexto, la lucha contra las "deepfakes" se presenta como una carrera armamentista entre aquellos que buscan generarlas y aquellos que buscan detectarlas. El futuro de la información, y de la propia realidad, dependerá de la capacidad de identificar y combatir las "deepfakes" para mantener un espacio digital confiable y veraz.
Facebook
Whatsapp
Linkedin
Pinterest
Xavier Rivera Martinez
el 23/10/2024 11:44 AM.
