Redes sociales e IA: el nuevo campo de batalla por la privacidad de los menores

Hoy, prácticamente todos tienen redes sociales, incluso los menores de edad. Sin embargo, no todo el contenido que circula en estas plataformas resulta apropiado o constructivo para ellos. Según un estudio del Pew Research Center, el 44% de los padres considera que las redes sociales son una de las principales influencias negativas en la vida de sus hijos.

En este marco, Meta, la empresa dueña de Instagram, lanzó el año pasado las “Teen Accounts” (en español, “Cuentas de Adolescentes”). Estas cuentas buscan apoyar a los padres y diseñan una experiencia que incluye ciertas limitaciones en relación con quiénes pueden contactar a los usuarios más jóvenes, el contenido que ven y el tiempo que pasan en línea. Además, los menores de 16 años necesitan la aprobación de sus padres para hacer cualquier cambio de configuración.

David Regairaz, abogado especialista en ciberseguridad, protección de datos e inteligencia artificial, aseguró a LA NACION que la navegación por el entorno digital lleva consigo una serie de riesgos que van desde ínfimos y aceptables hasta graves e inaceptables. Particularmente, Meta pretende evitar que personas menores de edad puedan acceder a contenido inapropiado, lo que, en caso de materializarse, puede afectar su crecimiento y su estado psicoemocional, entre otras consecuencias negativas.

Además, puede evitar que adultos pretendan hacerse pasar por menores de edad para comunicarse con otros menores, lo que podría derivar en delitos de gravedad, como puede ser el grooming o el ciberabuso, entre otros. Asimismo, la implementación de Teen Accounts permite que los padres ejerzan un control parental sobre sus hijos, enumeró el especialista. Lo cual representa un desafío en un mundo donde el acceso está tan facilitado.

Pero obviar estas restricciones puede ser fácil: en vez de poner su fecha de cumpleaños verdadera, los adolescentes cambian el año para simular ser más grandes y acceder a una cuenta de Instagram sin restricciones. Por esto, Meta anunció la incorporación de la inteligencia artificial para encontrar cuentas que sospechan que pueden pertenecer a un usuario más joven, aunque tengan un año de nacimiento adulto. “Estamos tomando medidas adicionales para asegurar que la mayor cantidad de adolescentes estén dentro de las configuraciones que aprobamos”, explicó el comunicado oficial de la empresa.

Meta lleva ya un tiempo utilizando la inteligencia artificial para determinar los rangos de edad de sus usuarios, pero también confiesa que es uno de los desafíos más grandes que tiene. Por eso, buscan que la tecnología que ahora van a implementar sea lo más precisa posible. En el caso de que haya una equivocación, el usuario va a tener la posibilidad de contactar a soporte y cambiar la configuración.

Alejandro Dutto, director de ingeniería de seguridad para Tenable América Latina y el Caribe, explicó a LA NACION que la inteligencia artificial puede apoyar la detección de menores mediante análisis de imágenes y video para estimar edad aparente, procesamiento de lenguaje natural y modelos de comportamiento que analizan horarios, contenido y tipo de interacción. También, según el especialista, puede incluir verificación biométrica voluntaria.

Pero la implementación de la inteligencia artificial presenta riesgos. Por un lado, Dutto planteó que la nueva tecnología puede tener una precisión limitada y puede confundirse con imágenes de otros. Por otro lado, muchas cargas de trabajo de IA en la nube presentan errores de configuración con privilegios mal gestionados. “La IA debe usarse dentro de sistemas que combinen supervisión humana, verificación voluntaria y políticas claras. No es una solución mágica. Debe aplicarse con responsabilidad”, afirmó.

También presenta desafíos éticos y legales relacionados directamente con la privacidad y el consentimiento. Regairaz señaló que el objetivo de Meta es acertado, pero aclaró que no siempre el fin justifica los medios. “Para implementar este tipo de sistemas se debe tener especial cuidado y consideración sobre los derechos en juego que pueden entrar en colisión para poder brindar un servicio que proporcionalmente los cuide”, planteó.

En este contexto, Regairaz aseguró que muchos de los efectos de la incorporación de la inteligencia artificial para chequear las identidades dependerán de la normativa de aplicación según el lugar donde se esté utilizando la plataforma. En la Argentina, por ejemplo, las normas de privacidad y protección de datos son pocas y antiguas, lo que permite un avance de las empresas sobre estos derechos sin estar violando normas, según confesó Regairaz.

“Uno de los límites más importantes es el del derecho a la privacidad y la protección de datos personales, que, cuando se trata de menores de edad, implica una necesidad de implementar medidas de seguridad más robustas debido a la sensibilidad”, aseguró Regairaz. Para superar este complejo, el experto propuso que una manera efectiva puede ser la realización de una Evaluación de Impacto de Datos Personales previo a implementar los sistemas de IA, con el objetivo de identificar los riesgos asociados, planificar su gestión y las medidas de mitigación que se estimen necesarias para que no se agravie la privacidad.

“En un ecosistema digital cada vez más complejo y apoyado en servicios de IA en la nube, es crucial no heredar configuraciones predeterminadas inseguras ni subestimar los riesgos que provienen de terceros”, reflexionó Dutto. “La seguridad de los menores no puede depender únicamente de la tecnología: requiere también conciencia, educación y controles bien implementados por parte de los adultos y de las organizaciones donde cada una de las partes desarrolla a diario su vida”, agregó.