Las mujeres son las que más están expuestas, porque usan parte de sus transmisiones para hacer los montajes.
Una actualización de los términos y condiciones de Twitch indica que se eliminará todo contenido pornográfico hecho con tecnología deep fake, la cual imita la apariencia física de una persona.
A partir de ahora, toda cuenta que sea utilizada como un medio para exponer públicamente cualquier tipo de fotografías, videos u otro tipo de archivos digitales que pueda incluirse en la categoría “porno deep fake”, serán eliminadas definitivamente de la plataforma.
Pese a que no es común este tipo de problemáticas, las mujeres que crean contenido en la plataforma se ven expuestas a que otros utilicen sus imágenes sin consentimiento para crear este tipo de contenido sexual.
Modificación en la terminología de Twitch
La medida tomada por la plataforma streaming consiste también en actualizar los términos utilizados para referirse a este tipo de publicaciones y así evitar interpretaciones ambiguas.
Twitch modificó sus términos y condiciones para identificar y castigar a quienes creen o comparten imágenes o videos sexuales usando tecnología deep fake.
Luego de consultar a expertos en la materia, se decidió utilizar el término “imágenes sintéticas de explotación no consentidas” o “NCEI sintético” para referirse a imágenes o videos similares. Esto derivó en el cambio de dos políticas de seguridad en la página:
– En el apartado “Violencia Sexual y Explotación”, Twitch afirmó que “será más claro que promover, crear o compartir NCEI sintético puede resultar en la suspensión indefinida de la cuenta” de forma inmediata luego de la primera ofensa de este tipo.
– En la sección “Desnudos Adultos” se incluirá el NCEI sintético como una de las formas de vulnerar esta política, por lo que “mostrar brevemente, aunque sea para expresar la desaprobación o indignación con la creación de este contenido será motivo de remoción del video de la plataforma y tendrá como resultado una sanción”.
El por qué del cambio se debe a que, aunque el NCEI sintético ya era contenido prohibido en las políticas de Twitch antes de la modificación, usar la terminología adecuada ayudará a reconocer estos casos y darles la sanción correspondiente a los creadores o usuarios que comparten estas publicaciones.
Twitch incluirá el término “NCEI sintético” en sus políticas de uso de la plataforma para evitar la difusión de contenido pornográfico con tecnología deep fake.
Por otro lado, la aplicación indicó que aún cuando tiene el control sobre el contenido que se comparte en las transmisiones, la idea de estos cambios es ayudar a los creadores a protegerse de este tipo de publicaciones y responder rápidamente ante ellas en cualquier tipo de contexto, motivo por el que también se dispusieron algunos recursos adicionales para dirigidos al reporte y eliminación de este tipo de imágenes o videos.
Si bien el contenido deep fake que tenga elementos sexuales estará completamente prohibido, Twitch también reconoce que no todas las publicaciones que usen esta tecnología serán sancionables.
“Este tema está en nuestro radar y siempre estamos monitoreando comportamientos emergentes para que nuestras políticas se mantengan relevantes”, aseguró la plataforma.
La aplicación de estos cambios en todas las transiciones en vivo de la plataforma se producirá a partir del 14 de marzo de 2023 y se informará a los creadores de contenido sobre posibles cambios adicionales a esta u otras políticas de seguridad con la finalidad de mejorar la experiencia de los usuarios.