Meta se prepara para el año electoral

CDMX

El creciente desarrollo de las inteligencias artificiales generativas plantea un desafío a la seguridad de cualquier gobierno y estado. En entrevista, Nick Clegg, presidente de Asuntos Globales en Meta, señaló que la compañía reconoce que debe hacer su mejor esfuerzo para proporcionar seguridad y transparencia en sus plataformas.

“Se habla mucho de los peligros de la IA generativa, lo cual es comprensible. Pero a menudo la gente no aprecia que esta tecnología es una espada, no solo un escudo. Es una forma muy efectiva para que las plataformas importantes identifiquen, degraden, eliminen o etiqueten contenido malicioso”.

Clegg ejemplificó su punto con la disminución del discurso de odio en Facebook. De acuerdo con él, este tipo de contenido disminuyó aproximadamente un 60% en los últimos dos años.

“Esta es en gran parte la razón por la que hemos sido capaces de reducir la prevalencia del lenguaje que incita al odio en Facebook a solo 0.01-0.02% (tercer trimestre de 2023). En otras palabras, por cada 10 mil visualizaciones de contenido, pensamos que solo una o dos contendrán lenguaje que incita al odio”, precisó.

IA en la lucha contra la desinformaciónClegg reveló que Meta está implementando un programa de entrenamiento para sus modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés), basado en los estándares de conducta de la comunidad, con el fin de permitir que estos modelos puedan identificar de manera efectiva si algún contenido viola las políticas de la plataforma.

Este enfoque, según el directivo, tiene un doble beneficio. En primer lugar, acelera significativamente el proceso de identificación de contenido problemático, lo que a su vez libera tiempo valioso para que los moderadores humanos se centren en abordar fragmentos o casos extremos.

Además, Clegg destacó que los LLM son imparciales respecto a si el contenido ha sido generado por IA o es de origen humano. Esta neutralidad garantiza que el proceso de arbitraje con relación al cumplimiento de las políticas de contenido de Meta sea equitativo y efectivo.

“Nuestra IA identificará el contenido independientemente de su origen, y lo abordaremos de la misma manera sin importar su procedencia”.

El líder de Meta también planteó una perspectiva sobre cómo las nuevas herramientas y avances en la IA pueden ayudar a combatir la desinformación. Sugirió que el desafío podría no radicar tanto en la naturaleza del contenido, sino en la cantidad.

¿Pueden estas herramientas manejar eficazmente el potencial aumento en el volumen de información problemática? Esta pregunta motiva los esfuerzos de Meta en la mejora de la capacidad de sus IA.

En su búsqueda por garantizar la seguridad y la integridad en sus plataformas, Clegg explicó que Meta ha invertido más de 20 mil millones de dólares desde 2016 y cuenta con un equipo de 40 mil personas dedicadas a este fin.

“Siempre habrá innovaciones de los actores maliciosos, pero tenemos los mejores equipos que pueden usar esas tecnologías para obtener los mejores resultados”, argumentó.

Hace unas semanas, los líderes globales se congregaron en el World Economic Forum para deliberar sobre los riesgos y oportunidades presentados por la IA. En este contexto, Meta hizo hincapié en la necesidad de fomentar el desarrollo responsable de la tecnología en 2024, año en el que diversas naciones, incluyendo México, llevarán a cabo elecciones cruciales.

Con relación al reciente anuncio de Meta de etiquetar las imágenes generadas por IA en sus plataformas, Clegg enfatizó la importancia de mantener un equilibrio entre el progreso y la vigilancia.

Hizo hincapié en que Meta es uno de los principales impulsores de la innovación tecnológica y está comprometida en brindar a los usuarios la máxima transparencia, al permitirles discernir entre contenido sintético y contenido auténtico.

“El progreso y la vigilancia tienen que coexistir. Meta es uno de los mayores innovadores tanto en tecnología como en intentar brindar a los usuarios la máxima transparencia”, observó.

Ante la pregunta expresa de si Meta ahora cambiará las prioridades del metaverso por preocuparse en las IA generativas, Clegg no dudó en su respuesta.

“Uno realmente no puede existir sin el otro. Un aumento en realidad virtual no es realmente posible sin usar las últimas tecnologías de IA; están vinculadas umbilicalmente (…) Creo que la integración de herramientas de IA con nuestro visual hardware y la realidad aumentada solo se va a acelerar”, concluyó.

---