Instagram quiere diferenciar personas reales de personajes generados por IA

Instagram ha anunciado un cambio en su política para los perfiles protagonizados por personas generadas mediante inteligencia artificial. La plataforma empezará a utilizar una etiqueta denominada «AI-generated profile» para indicar claramente cuándo la persona que aparece en un perfil ha sido creada o modificada de forma sustancial mediante IA.

La medida responde al aumento de cuentas que parecen pertenecer a personas reales, aunque en realidad utilizan personajes completamente artificiales. Estas cuentas pueden publicar fotografías, vídeos e historias y mantener conversaciones con otros usuarios, creando una apariencia de autenticidad que puede resultar difícil de detectar.

Instagram considera que los usuarios deberían saber cuándo están interactuando con un perfil cuya persona protagonista no existe realmente.

Las cuentas que no informen podrán perder alcance

El nuevo sistema introduce una consecuencia importante para los creadores que no indiquen correctamente el uso de IA. Instagram podrá reducir el alcance de los perfiles que utilicen personas generadas artificialmente sin informar de ello.

Por el contrario, utilizar la etiqueta correspondiente no supondrá automáticamente una penalización. La compañía quiere que los creadores puedan utilizar personajes generados por IA siempre que exista transparencia sobre su naturaleza.

La medida no se aplicará a cualquier contenido creado con inteligencia artificial. Utilizar IA para mejorar una fotografía, corregir una imagen, escribir un texto o crear pequeños elementos gráficos no implica necesariamente que el perfil tenga que utilizar la nueva etiqueta.

Los influencers virtuales están creciendo

El cambio llega cuando los llamados influencers virtuales están adquiriendo una presencia cada vez mayor en las redes sociales. Algunos perfiles utilizan personajes generados completamente por ordenador y pueden acumular grandes cantidades de seguidores.

El problema es que algunas cuentas no explican claramente que la persona que aparece en las fotografías es artificial. Esto puede generar confusión entre los usuarios y facilitar determinadas prácticas de publicidad engañosa, suplantación o manipulación.

Instagram quiere establecer una diferencia más clara entre un creador humano que utiliza herramientas de IA y un perfil cuya identidad visual está construida completamente mediante inteligencia artificial.

La transparencia será cada vez más importante

La nueva política forma parte de un cambio más amplio en las redes sociales. A medida que los modelos generativos son capaces de crear rostros, voces, vídeos y fotografías cada vez más realistas, distinguir entre contenido humano y artificial resulta más complicado.

Las plataformas están empezando a introducir etiquetas, sistemas de detección y mecanismos de identificación para proporcionar más información a los usuarios.

Instagram apuesta ahora por una solución sencilla: informar claramente cuando una cuenta está protagonizada por una persona generada mediante IA y reducir la visibilidad de quienes intenten ocultarlo. La medida puede convertirse en un precedente para otras plataformas a medida que aumente el número de identidades digitales artificiales.