El Ministerio Público Fiscal y el Gobierno de la Ciudad Autónoma de Buenos Aires firmaron un convenio para controlar los servicios de clonación de voz y rostro a través de herramientas de IA.
El Ministerio Público Fiscal (MPF) y el Gobierno de la Ciudad Autónoma de Buenos Aires (GCBA) firmaron un acuerdo para implementar mecanismos de regulación y control sobre los servicios de clonación de voz y rostro disponibles en plataformas web. Esta medida, que busca proteger la privacidad y los datos personales de los habitantes de la Ciudad, también pretende prevenir el uso de estas tecnologías para la comisión de delitos como estafas, robo de identidad y la creación de imágenes adulteradas sin consentimiento.
La necesidad de establecer estos controles surgió de un estudio realizado por la Unidad Fiscal Especializada en Litigios Complejos, dirigida por Marcela Monti, que investigó cómo operan las plataformas de clonación. El análisis reveló que la mayoría de estos servicios presentan términos y condiciones poco claros, permiten su uso a menores de edad y no cuentan con las medidas de seguridad adecuadas para evitar actividades ilícitas. Según el informe, la proliferación de estas plataformas ha facilitado la realización de fraudes y la producción de contenido alterado sin el consentimiento de las personas afectadas, lo que plantea riesgos tanto para los adultos como para los menores.
“Este acuerdo es fundamental para regular el uso de estas tecnologías que están a disposición de cualquiera en internet. El impacto de la clonación de voces y rostros puede ser devastador, especialmente en el caso de los menores de edad que están expuestos a la circulación de contenido manipulado, como fotos y videos con voces y rostros falsificados”, expresó Marcela Monti, fiscal a cargo de la investigación. En este sentido, la fiscal resaltó que, con el convenio, se lograron avances significativos, como el bloqueo de 11 páginas web que operaban de forma irregular, poniendo en riesgo la privacidad de los usuarios.
En tanto, el GCBA se comprometió a establecer un canal de comunicación para que cualquier ciudadano pueda denunciar la existencia de plataformas no reguladas que ofrezcan servicios de clonación. Además, el Gobierno de la Ciudad implementará campañas de concientización para informar a la población sobre los riesgos y consecuencias del uso de aplicaciones basadas en Inteligencia Artificial, especialmente aquellas relacionadas con la clonación de imágenes y voces. “Este tipo de regulaciones son esenciales para proteger a los ciudadanos de posibles abusos y para garantizar que las herramientas de IA se usen de manera responsable”, señaló un portavoz del GCBA.
Además de los riesgos asociados con los delitos, este acuerdo también busca abordar la preocupación creciente de los padres y educadores sobre el impacto de estas tecnologías en las escuelas. La clonación de voces y rostros puede ser utilizada entre los estudiantes para crear contenido falso que circula rápidamente a través de las redes sociales, afectando la reputación y la seguridad de los niños y adolescentes.
(172)
