Facebook ha anunciado que ha desarrollado una inteligencia artificial que ayudará a los moderadores a identificar memes ofensivos publicados por los usuarios.
En la actualidad, las redes sociales se han tomado en serio la supervisión de los contenidos publicados por los usuarios para prevenir insultos y humillaciones. El pasado mes de abril, Facebook reveló sus normas secretas para censurar publicaciones, de forma que cualquier persona puede consultar qué está permitido y qué no en la plataforma.
Así, de acuerdo con las normas comunitarias de Facebook, están prohibidas conductas violentas o comportamientos criminales de cualquier índole; fomentar el suicidio o las autolesiones, los desnudos y la explotación sexual, el bullying o el acoso; también se prohíben comportamientos que atenten contra la integridad y la autenticidad, y se exige el respeto a la propiedad intelectual; además, no se permite la publicación de contenido cuestionable, como discursos de odio o incitación al odio, violencia o contenido cruel e insensible.
Para prevenir este tipo de comportamientos, Facebook cuenta con una plantilla de moderadores humanos, que son los que se encargan de revisar los contenidos denunciados por otras personas y supervisar que los usuarios cumplen con las normas comunitarias.
No obstante, teniendo en cuenta los millones de contenidos que se comparten en Facebook cada día, no resulta tarea fácil detectar aquellos que violan los términos y condiciones. Y es aquí donde entra Rosetta, la IA que Facebook ha creado para identificar memes, fotos y vídeos ofensivos de manera automática e inteligente.
Rosetta es capaz de extraer el texto de más de mil millones de imágenes publicadas en Facebook e Instagram, en una gran variedad de idiomas, diariamente y en tiempo real. Después, lo introduce en un modelo entrenado para entender el texto y la imagen como un conjunto, y así puede saber si se trata de un contenido inofensivo o si viola las normas comunitarias. Una gran ayuda para que la plataforma pueda evitar que se compartan publicaciones inadecuadas.