INTELIGENCIA ARTIFICIAL: HABRÁ CONTROLES PARA LAS PLATAFORMAS QUE OFREZCAN SERVICIOS DE CLONACIÓN DE VOZ Y ROSTRO

La medida busca proteger la intimidad y datos personales de los habitantes de la Ciudad, y prevenir que las herramientas de clonación de voz y rostro con IA sean usadas para cometer  delitos como estafas, robos de identidad o  producción de imágenes adulteradas.

La necesidad de promover mecanismos de control y regulación de los servicios de IA surgió a partir de un estudio realizado por el equipo de la  Unidad Fiscal Especializada en Litigios Complejos, a cargo de Marcela Monti, que investigó sobre el funcionamiento de las páginas web que ofrecen servicios de clonación  y  observó que la mayoría tienen términos y condiciones vagos, que permiten el uso a menores de edad y que no adoptan las medidas de seguridad pertinentes para prevenir delitos como estafas o producción de imágenes alteradas sin consentimiento, entre otros. 

Con este convenio, el MPF Ciudad logró que el GCBA realice acciones concretas de regulación y control para abordar esta problemática, que también afecta a menores de edad en muchas escuelas, por la producción y circulación entre los alumnos de fotos y videos con voces y rostros clonados. 

Además, con la firma del convenio, la fiscal Monti logró el bloqueo de 11 páginas web que permitían usos irregulares.  Por su parte, el GCBA se comprometió a establecer un canal de comunicación para que cualquier ciudadano pueda denunciar la existencia de estas plataformas sin regulaciones y a realizar campañas de concientización sobre los riesgos y consecuencias del uso de las aplicaciones de IA.