Todas las tecnologías en auge tienen un lado bueno y un lado malo. Normalmente permiten a las personas hacer más cosas, más rápido y con mejores resultados, mejorando nuestro estilo de vida. Sin embargo, siempre habrá alguien que encuentre la manera de usar la tecnología para hacer el mal, y la inteligencia artificial no es una excepción.

Con el aumento de contenido falso y desinformación generada por inteligencia artificial, las empresas tecnológicas están listas para asegurarnos que tienen todo bajo control. Sin embargo, a pesar de lo mucho que hemos avanzado con la inteligencia artificial en los últimos años, aún no estamos listos para la próxima ola de noticias falsas generadas por inteligencia artificial.

Nuestras tecnologías actuales de detección de IA proporcionan resultados tardíos

El daño ya estará hecho.

En una reciente entrevista conla NBC al CEO de Microsoft, Satya Nadella (a través deWindows Central), afirmó que estamos listos para luchar contra la desinformación generada por IA. Para respaldar esto, cita tecnologías como la detección de deepfakes, los identificadores de contenido y la adición de marcas de agua ocultas al contenido generado por IA. En teoría, esta es una gran herramienta para tener en la guerra contra la desinformación; podemos identificar fácilmente qué medios son reales y cuáles han sido creados por un agente malicioso.

El problema es que estos medios viajan rápidamente. Con todas las formas en que las imágenes y los videos pueden viajar por Internet, podrían estar en manos de decenas de miles de personas mucho antes de que alguien con tecnologías de verificación de inteligencia artificial los detecte. Es fantástico que tengamos la tecnología para identificar cuándo aparecen en línea estas imágenes generadas por inteligencia artificial, pero si ya se han propagado y han causado daños, ¿en qué medida frenarán la marea?

Relacionado

¿Qué es un generador de imágenes de IA y cómo funciona?

Los generadores de imágenes con inteligencia artificial han generado mucho revuelo últimamente, pero pueden resultar difíciles de entender. Aquí encontrará todo lo que necesita saber sobre ellos.

Publicaciones

Peor aún, ¿qué sucede si la tecnología de detección de IA no logra identificar el contenido generado por IA? Si la gente supone que un escaneo positivo significa que los medios definitivamente fueron creados por inteligencia artificial, puede llevar a la gente a creer que un escaneo negativo marca a los medios como indudablemente reales. Y si los vendedores de desinformación logran burlar estos sistemas de detección, pueden crear un falso negativo y hacer que la gente vuelva a creer que los medios falsos son reales.

Los medios de comunicación basados ​​en IA se están volviendo muy convincentes

Ya no puedes simplemente mirar las manos.

Fuente: Google

¿Recuerdas cuando se incendió la Torre Eiffel? Mucha gente se preocupó por cómo iban a reaccionar las cosas en París. El problema es que todos los medios que rodearon el evento fueron generados por inteligencia artificial y la verdadera Torre Eiffel seguía en pie.

Sin embargo, el contenido era tan convincente que hizo creer a la gente que París se estaba cayendo. Había muy pocas anomalías de IA en la imagen y, si la vieras mientras navegabas por Twitter, pensarías que se trataba de una fotografía de un evento real.

Casi al mismo tiempo que la imagen circulaba en línea, la gente de New Hampshire recibía llamadas telefónicas de Joe Biden. Les decía a las personas que no debían votar por él durante las primarias y que "guardaran sus votos para noviembre", cuando se celebraban las elecciones principales. Era algo extraño que dijera, pero con el poder de la imitación de voz por inteligencia artificial, dos compañías telefónicas podían hacerle decir lo que quisieran y luego hacer que leyera su guión a miles de personas a través de llamadas automáticas.

La tecnología de inteligencia artificial está llegando a un punto en el que no resulta inmediatamente obvio que los medios creados son falsos. Aún hay agujeros en la armadura, por lo que un observador con buen ojo o buen oído puede detectar e identificar un medio falso. Sin embargo, a medida que la tecnología mejore, será mucho más difícil para la persona promedio distinguir la ficción de la realidad, lo que creará una enorme vía para la propagación de la desinformación.

Las herramientas de IA están disponibles para que todos las utilicen

No hace falta ser un genio para crear desinformación

Tal vez todo esto sería manejable si la desinformación basada en IA solo pudiera ser generada por expertos técnicos. Pero a medida quelas personas hacen cosas más asombrosas con la IA, las herramientas que el público tiene a su disposición se vuelven más poderosas y las computadoras con IA se vuelven más accesibles, cualquiera puede crear desinformación si lo desea. Esto hace que sea difícil detener el flujo, ya que las personas inundan Internet con medios engañosos y a veces condenatorios para manchar la reputación de alguien.

Relacionado

Las mejores PC con IA en 2025

Con la incorporación de una NPU integrada, estas PC llevarán sus aplicaciones de IA al siguiente nivel de eficiencia.

Publicaciones

Serán unos años difíciles para identificar la desinformación sobre IA

Ya sea para proteger a alguien de acusaciones falsas o para mantener los eventos políticos importantes libres de mentiras, no estamos preparados para una ola de desinformación generada por IA. Es fácil para cualquiera crear una imagen creíble generada por IA para engañar a otros, y nuestras tecnologías actuales para identificar y etiquetar el contenido como creado artificialmente son demasiado lentas para evitar la propagación.

Existe la posibilidad de que simplemente tengamos que esperar hasta que esto pase; de ​​la misma manera que Photoshop nos hizo escépticos sobre las imágenes que vemos en Internet, tal vez tengamos que volvernos insensibles a la idea de que las cosas que vemos y oímos pueden haber sido creadas por una computadora para engañarnos y hacernos realizar una acción específica.