by China está tomando medidas enérgicas contra las falsificaciones profundas en casa mientras se beneficia de ellas en el extranjero.
Las aplicaciones deepfake de desarrolladores con sede en China se han descargado millones de veces en los Estados Unidos y siguen disponibles en las tiendas de aplicaciones incluso después de que China instituyó este año leyes estrictas que regulan los videos deepfake en su propia Internet.
Las aplicaciones permiten a los desarrolladores chinos aprovechar los datos y los dólares que aporta el mercado tecnológico estadounidense, en gran medida no regulado, mientras que los legisladores estadounidenses se han centrado en otros objetivos, como TikTok. Esta revisión no se ha extendido a otras aplicaciones basadas en China, como los mercados en línea de Shein y Temu, que son populares en los Estados Unidos y otras partes del mundo.
Los deepfakes son medios manipulados, a menudo creados con tecnología de inteligencia artificial, en los que se han alterado rostros, apariencias y voces. La tecnología ha mejorado en los últimos años y se ha utilizado para crear videos virales, algunos para advertir sobre la capacidad de la tecnología para crear información errónea.
Pero más que nada, la tecnología deepfake ha impulsado una economía en línea centrada en la creación de pornografía falsa. Sensity, una empresa con sede en Ámsterdam que detecta y monitorea medios sintéticos impulsados por IA para industrias como la banca y la tecnología financiera, descubrió que el 96 % de los deepfakes son sexualmente explícitos y presentan a mujeres que no han dado su consentimiento para su creación.
Una revisión de NBC News de aplicaciones deepfake gratuitas en Apple App Store y Google Play Store encontró más de 17 aplicaciones deepfake disponibles para descargar de empresas de todo el mundo, incluidas Rusia, Ucrania, Reino Unido, EE. UU., Italia y China.
Algunas de las aplicaciones revisadas por NBC News, como FaceApp con sede en Chipre y Facee con sede en China, no ofrecen funciones que permitan la producción de videos pornográficos. Estas aplicaciones son para editar imágenes de rostros con filtros prefabricados.. Pero otras aplicaciones comercializan específicamente sus habilidades para crear pornografía deepfake no consensuada.
Una de las aplicaciones con sede en China, FaceMagic, está publicando anuncios sexualmente explícitos que dicen «Crea videos porno falsos en un segundo» en el sitio web de videos porno falsos más popular, según una revisión de los anuncios realizada por NBC News. Se ha descargado más de 2,4 millones de veces desde mayo de 2021, según datos de Apptopia, una empresa que rastrea el mercado de aplicaciones.
Otra aplicación deepfake con sede en China, FaceMega, se eliminó recientemente de las tiendas de aplicaciones de Apple y Google después de que NBC News descubriera que estaba publicando más de 260 anuncios de Facebook que mostraban la imagen de Emma Watson de una manera sexualmente sugerente.
Es casi seguro que estas aplicaciones irían en contra de Las nuevas reglas chinas sobre deepfakes, que entró en vigor en enero. Las reglas prohíben la creación de deepfakes sin el consentimiento de las personas cuyas semejanzas están siendo manipuladas, y exigen marcar los deepfakes como generados por IA.
Estados Unidos no tiene tales leyes federales, aunque algunos estados imponen sanciones civiles por la creación de pornografía no consentida y falsificaciones profundas que representan información política errónea. Algunos activistas de la privacidad han presionado por nuevas reglas sobre las falsificaciones profundas, pero la mayoría de los políticos se han centrado en cambio en TikTok.
«De la misma manera que estamos muy atrasados en la regulación de la privacidad, creo que todavía estamos en las primeras etapas para determinar qué regulación deberíamos tener sobre las falsificaciones profundas», dijo Samir Jain, director de políticas del Centro. por la Democracia y la Tecnología, una organización sin fines de lucro que defiende los derechos digitales y la libertad de expresión.
Las preocupaciones sobre el acceso extranjero a los datos de los usuarios de EE. UU. a través de aplicaciones se han unido en los últimos años en torno a China y TikTok. Los críticos de TikTok han argumentado que representa una amenaza de seguridad particularmente apremiante porque China podría obligarlo a divulgar datos sobre sus usuarios estadounidenses.
El CEO de TikTok, Shou Zi Chew, dijo en una audiencia en el Congreso el mes pasado que ByteDance, la empresa matriz china de TikTok, es una empresa privada y no está controlada por el gobierno chino.
“TikTok nunca ha compartido ni recibido ninguna solicitud para compartir datos de usuarios de EE. UU. con el gobierno chino”, dijo en declaraciones preparadas. «TikTok tampoco cumpliría con tal solicitud si alguna vez se hiciera».
China, que dice que «se opondrá firmemente» a cualquier venta forzada de TikTok a Estados Unidos, dice que se toma muy en serio la privacidad y la seguridad de los datos y que Estados Unidos no ha proporcionado pruebas de que TikTok amenace su seguridad nacional.
“El gobierno chino nunca ha pedido y nunca le pedirá a ninguna empresa o individuo que recopile o proporcione datos, información o inteligencia ubicados en el extranjero en violación de las leyes locales”, dijo el mes pasado el portavoz del Ministerio de Relaciones Exteriores, Mao Ning.
Una solicitud de comentarios enviada a la Embajada de China en los Estados Unidos no recibió respuesta.
Otros países han tomado amplias medidas para abordar los problemas de privacidad de datos, así como las preocupaciones sobre la propagación de deepfakes. La Unión Europea tiene estrictas reglas de privacidad que ha impuesto a muchas grandes empresas tecnológicas, incluidas Amazon, Meta y Google. La UE también ha creado reglas para obligar a las grandes plataformas tecnológicas a limitar la propagación de deepfakes.
Ninguno ha ido tan lejos como China con sus recientes reglas de deepfake.
«China, como centro de desarrollo de la IA, busca cada vez más exportar su propia visión de lo que significa la gobernanza de la IA», dijo Michael Karanicolas, director ejecutivo del Instituto de Leyes y Políticas Tecnológicas de la UCLA. “A pesar de toda la atención sobre las aplicaciones chinas que perturban la economía de EE. UU., China dice que necesitamos reglas al respecto”.
Mary Anne Franks, profesora de derecho y presidenta de Cyber Civil Rights Initiative, un grupo sin fines de lucro que lucha contra la pornografía no consentida, dijo que el modelo comercial de casi todas las aplicaciones que operan en los Estados Unidos implica la venta de datos de usuario y que estas vulnerabilidades legales se superponen con el área gris legal que permite que prospere la economía de las falsificaciones profundas.
Los sitios web de pornografía deepfake son un fenómeno de crecimiento reciente, con un interés de búsqueda históricamente alto a principios de este año.
“Si los poderes fácticos hubieran prestado atención a esta crisis y hubieran previsto que algún día la tecnología no sería rudimentaria ni se destacaría, no estaríamos en esta posición”, dijo Franks.
Franks dijo que hay quejas legítimas sobre TikTok, como las hay para muchas otras aplicaciones. Las aplicaciones de Deepfake también recopilan datos de los usuarios, que pueden compartirse y venderse a cualquier persona.
Esta información, sin embargo, no es particularmente difícil de encontrar. Y prohibir TikTok no cambiaría mucho.
“Si China está interesada en esta información, puede comprarla libremente en el mercado secundario”, dijo Karanicolas. «Puede prohibir una aplicación, pero eso realmente no afecta el problema más grande».
