Meta utilizará inteligencia artificial para determinar si un menor de edad proporciona información falsa al crear una cuenta en Instagram.
La compañía Meta, fundada por Mark Zuckerberg y responsable de la red social Instagram, está implementando nuevas herramientas basadas en inteligencia artificial como parte de su esfuerzo por proteger a los adolescentes en su plataforma.
De acuerdo con un comunicado en su blog oficial, estas funciones están diseñadas para identificar si un menor de edad está brindando datos incorrectos al establecer su perfil, con la finalidad de garantizar que los jóvenes usuarios interactúen en un ambiente seguro y apropiado para su edad.
La inteligencia artificial desarrollada por Meta examina diversas señales para discernir si el usuario es adolescente o adulto. Entre estas señales se encuentran la fecha de creación de la cuenta, los patrones de interacción con los contenidos y otros datos relevantes sobre la actividad del usuario en la plataforma.
El sistema estudiará los patrones de comportamiento del perfil. Adicionalmente, la empresa ha creado conjuntos de datos específicos para entrenar y evaluar el desempeño de su modelo, utilizando publicaciones revisadas por humanos, como aquéllas relacionadas con cumpleaños.
Este enfoque permite a Meta optimizar su sistema de clasificación y elevar su precisión antes de su implementación en diferentes naciones, considerando las variaciones culturales y de comportamiento.
Un aspecto destacado de esta iniciativa es que, en determinadas situaciones, la inteligencia artificial de Meta podrá ejecutar configuraciones manuales que realicen los usuarios y aplicar automáticamente restricciones asociadas a las cuentas de adolescentes.
Esto implica que si el sistema determina que un perfil corresponde a un menor, ajustará la configuración de la cuenta para cumplir con las medidas de seguridad diseñadas específicamente para ese grupo de edad.
Las cuentas de adolescentes en Instagram tienen varias limitaciones predefinidas. Por defecto, los perfiles son privados, lo que significa que solo las personas aprobadas por el usuario pueden acceder a su contenido.
De igual manera, los usuarios desconocidos no pueden enviarles mensajes directos y el contenido visible en su feed está restringido para evitar su exposición a material inapropiado. Según ha explicado Meta, estas medidas buscan mitigar los riesgos asociados al uso de redes sociales por parte de menores.
Además, Meta ha ampliado recientemente las restricciones para adolescentes en determinadas funciones específicas de Instagram. Entre las actualizaciones más relevantes se encuentra la limitación del acceso a Instagram Live, la herramienta de transmisión en vivo de la plataforma, aplicable a menores de 16 años.
A partir de ahora, los jóvenes menores de 16 años deberán contar con el consentimiento de sus progenitores o tutores para llevar a cabo transmisiones en vivo. Además, se ha mejorado la protección en los mensajes directos, incorporando una función que borra automáticamente imágenes explícitas, como desnudos, compartidas a través de esta herramienta.
Esta función, que ya existía previamente, ahora requerirá autorización parental para ser desactivada. Estas acciones evidencian la intención de Meta de crear un entorno más seguro para los adolescentes, especialmente en un momento en que las redes sociales son cada vez más utilizadas por niños y adolescentes.
La empresa ha comunicado a través de sus canales oficiales que su meta es asegurar que los jóvenes puedan disfrutar de la plataforma sin enfrentarse a riesgos innecesarios.
Meta también tiene la intención de implementar estas medidas de manera global. (Foto: REUTERS/Yves Herman/File Photo) Antes de la implementación de estas herramientas de inteligencia artificial en todo el mundo, Meta está realizando pruebas en distintos países para evaluar su efectividad y hacer los ajustes pertinentes.
Según la empresa, este enfoque permite personalizar el sistema según las características culturales y comportamentales de cada región, lo cual es fundamental para asegurar su precisión y efectividad.
El desarrollo de estas herramientas ha requerido un exhaustivo proceso de evaluación. Meta ha empleado revisores humanos para etiquetar publicaciones anónimas, como aquellos mensajes sobre cumpleaños, con el objetivo de entrenar y probar el modelo de inteligencia artificial.
Este método ha permitido a la empresa detectar patrones y señales que contribuyen a clasificar con mayor acierto las cuentas de adolescentes, reduciendo así los riesgos.