A raíz de todos los avances en inteligencia artificial (IA), cada vez es más difícil diferenciar lo que es real de lo que no. Por eso, muchas empresas están tomando medidas para proteger a los usuarios frente a la información que consumen. Siguiendo esta línea, TikTok es la primera red social que etiqueta el contenido generado con IA de manera automática.
Pero… ¿por qué lo hace? ¿Es fiable este sistema? ¿Y qué pasa si ahora mismo estoy usando la IA para crear contenido? Te lo contamos todo en este post.
Imagen de Unsplash
Tabla de contenidos
¿Por qué TikTok pone la etiqueta de “contenido generado con IA” en algunos vídeos?
La entrada del contenido hecho por IA en redes sociales y plataformas es caldo de cultivo para la desinformación. Cosas como las fake news o la falta de claridad están a la orden del día, así que TikTok quiere hacer las cosas más transparentes y seguras posibles para sus usuarios.
Según palabras de TikTok, “La IA ofrece increíbles oportunidades creativas, sin embargo, puede confundir o engañar a los espectadores si no son conscientes de que el contenido se ha generado o editado con IA. Etiquetar el contenido ayuda a solucionar este problema, ya que deja claro al público cuando el contenido ha sido alterado o modificado significativamente por la tecnología de IA”.
Cómo se ponen estas etiquetas
TikTok ha lanzado dos formas de etiquetar el contenido generado con IA: una opción manual y otra automática.
- Etiqueta manual: Los creadores tienen la opción de etiquetar manualmente el contenido que hayan creado con IA, especialmente si incluye imágenes, audios o vídeos que parezcan realistas.
- Etiqueta automática: TikTok ha implementado en mayo de 2024 un sistema automático que detecta si un vídeo ha sido hecho con IA y lo etiqueta por sí mismo. Los filtros y efectos de TikTok que usan IA también llevan la etiqueta “IA” en el nombre, y los creadores de esos efectos están obligados a hacer lo mismo.
El sistema automático va mejorando con el tiempo, así que es posible que al principio no detecte todo el contenido generado por IA de inmediato. También se planea usar marcas de agua, de forma que, aunque descargues el contenido de TikTok y lo subas a otra plataforma, la etiqueta de que fue hecho con IA siga presente.
Sin embargo, TikTok solo puede etiquetar contenido de IA de forma automática si está hecho con herramientas que pertenezcan a la coalición C2PA, que incluye grandes empresas de IA como Microsoft, OpenAI, Google o Adobe.
Imagen de TikTok
Casos en los que hay que etiquetar el contenido hecho con IA en TikTok
TikTok no tiene nada en contra del contenido generado con IA, solo quiere que todo sea transparente de cara el usuario. Por esto, ha estipulado una serie de requisitos que indican cuándo se debe usar la etiqueta de “contenido generado con IA”:
- Si has editado significativamente un vídeo o imagen usando IA, partiendo de contenido real.
- Si el contenido muestra personas haciendo algo que en realidad no hicieron (como bailar, cuando no lo hicieron).
- Si se ha modificado la voz o la apariencia de alguien usando IA (como en el caso de los deepfakes o intercambios de rostro).
- Si el contenido ha sido creado con IA y parece muy realista (en cuanto a imágenes, audio o vídeo).
¡OJO! Hay que tener en cuenta que el contenido generado con IA tiene que seguir las mismas normas que el contenido normal en TikTok, por lo que si se publica un contenido que la plataforma considera prohibido, se eliminará el vídeo y pueden llegar a suspender la cuenta del usuario responsable si es algo reincidente.
¿Qué contenido está prohibido en TikTok?
TikTok tiene reglas muy claras sobre el tipo de contenido que está prohibido en su plataforma, ya sea generado por IA o no. Estas prohibiciones forman parte de sus Normas de la Comunidad y buscan garantizar la seguridad y el bienestar de todos los usuarios:
- Contenido violento y gráfico que muestre violencia explícita.
- Conductas de odio y discriminación, y tampoco se permiten insultos, estereotipos o amenazas contra grupos o individuos.
- Acoso, bullying, ciberacoso y cualquier comportamiento que intimide o humille a otras personas, lo que incluye comentarios crueles y bromas pesadas.
- Contenido que promueva las autolesiones y trastornos alimentarios
- Desinformación y noticias falsas: La plataforma elimina el contenido que difunda información falsa o engañosa, especialmente si está relacionado con temas como elecciones o emergencias de salud pública. Esto está intrínsicamente relacionado con el uso de herramientas de IA.
- Contenido sexualmente explícito y desnudos.
- Explotación de menores.
- Consumo de drogas y sustancias ilegales, así como el abuso de medicamentos recetados.
- Armas y actividades ilegales.
- Contenido engañoso o spam, como estafas y fraudes o intentos de robar información personal.
- Comportamiento peligroso o desafíos arriesgados.
Imagen de Unsplash
Cómo etiquetar el contenido generado con IA en TikTok: paso a paso
Si vas a subir un video hecho con IA y quieres etiquetarlo de manera correcta, sigue estos pasos antes de publicarlo:
- Ve a «Publicación» y selecciona «Más opciones».
- Activa la opción de «Contenido generado por IA».
- Publica el video.
¡Y listo! Es importante que tengas en cuenta que, una vez publicado con la etiqueta, ya no podrás cambiarla. Por esto es fundamental planificar una buena gestión de redes sociales, ya que saber ciertos conceptos nos puede ahorrar muchos quebraderos de cabeza.
¿Otras redes sociales también diferenciarán de manera clara el contenido hecho con IA?
Otras redes sociales también están empezando a implementar etiquetas para identificar contenido generado por IA, con enfoques similares a los de TikTok, pero cada una con sus particularidades.
Meta (Facebook, Instagram y Threads)
Meta también empezó a etiquetar el contenido generado con IA en sus plataformas, incluyendo Facebook, Instagram y Threads. Desde principios de 2024, ya han estado etiquetando imágenes creadas con su propia herramienta, Meta AI, con la etiqueta «Imagined with AI». Además, están trabajando para identificar contenido creado fuera de sus propias plataformas.
Han lanzado herramientas que permiten a los usuarios etiquetar manualmente vídeos y audios que hayan sido generados o modificados por IA, especialmente en casos de contenido muy realista, como deepfakes. Además, Meta planea ser más estricta y aplicar penalizaciones a quienes no etiqueten este tipo de contenido cuando sea necesario.
Imagen de Envato
Snapchat
Snapchat ha comenzado a etiquetar contenido generado por IA, pero hasta ahora solo para aquellos vídeos, imágenes o efectos que se crean directamente con sus propias herramientas. Esto quiere decir que si el contenido viene de otras plataformas o es creado con herramientas externas de IA, Snapchat no lo etiqueta automáticamente. Este enfoque limita su capacidad para identificar contenido IA creado fuera de sus propias funciones.
X (Twitter para todos, no nos engañemos)
La plataforma del pajarito azul también ha tomado medidas para lidiar con la desinformación y el contenido manipulado por IA. Aunque no cuenta con un sistema de etiquetado automático tan avanzado como el de TikTok o Meta, han implementado una función llamada «Notas de la comunidad», que permite a los usuarios señalar si un contenido es falso o engañoso, incluyendo contenido generado por IA.
No tiene un etiquetado automático específico para la IA en sí, sino que depende más de la comunidad para marcar estos problemas.
En el caso de LinkedIn, a pesar del uso creciente de IA para generar artículos o imágenes, hasta ahora no han hecho un anuncio concreto sobre la implementación de etiquetas para este tipo de contenido. La plataforma sigue sin pronunciarse oficialmente sobre si adoptará un enfoque similar al de TikTok o Meta.
En resumen, muchas redes sociales están empezando a implementar sistemas de etiquetado para contenido generado por IA, aunque cada una lo está haciendo a su propio ritmo y con distintos niveles de precisión. Mientras que Meta y TikTok están a la cabeza en términos de etiquetas automáticas, otras plataformas como Snapchat y X se están quedando atrás en cuanto a la detección externa de IA. Sigue las redes sociales de nuestra agencia de marketing digital y entérate de las últimas novedades del sector.
