Meta Implementará Sanciones por No Revelar el Uso de IA Generativa en Imágenes

Meta ha anunciado planes para implementar nuevas normativas en torno al contenido generado por inteligencia artificial (IA) en sus plataformas, incluidas Facebook, Instagram y Threads. Según un comunicado en el blog de la empresa, publicado el 6 de febrero, se aplicarán etiquetas visibles a los contenidos identificados como generados por IA, basándose en metadatos u otras marcas de agua intencionales.

La nueva estrategia de Meta permitirá a los usuarios de sus plataformas marcar contenidos que sospechen han sido generados por IA pero no etiquetados como tales. Este enfoque refleja prácticas anteriores de moderación de contenidos de la compañía, permitiendo una moderación colaborativa a gran escala.

Para asegurar la transparencia y la autenticidad en el ecosistema digital, Meta exigirá a los creadores etiquetar su propio trabajo como generado por IA, donde sea aplicable. El incumplimiento de estas directrices podría conllevar sanciones. La empresa enfatiza que el uso de herramientas integradas para la creación de contenido generativo automáticamente etiqueta y marca con agua estos contenidos, dejando clara su procedencia.

Meta también está trabajando con otras empresas líderes en tecnología y medios, como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock, en consorcios para desarrollar métodos eficaces para detectar marcas de agua invisibles y otras señales en contenidos generados por IA. Aunque estas iniciativas están avanzando, actualmente se concentran más en imágenes que en audio o vídeo, lo que supone un desafío para la detección de contenido generado por IA, incluyendo tecnologías deepfake, a gran escala.

La empresa reconoce las limitaciones actuales en la detección de audio y vídeo generados por IA y se compromete a seguir investigando y colaborando con la industria para mejorar las capacidades de detección y moderación de contenidos generados por IA.

Este movimiento por parte de Meta es un paso hacia la creación de un entorno digital más seguro y transparente, donde los usuarios pueden estar informados sobre la naturaleza de los contenidos que consumen. La medida no solo busca proteger a los usuarios de desinformación y contenido manipulado, sino también fomentar la responsabilidad entre los creadores al compartir contenido generado por IA en las plataformas de Meta.