Rosetta: la IA de Facebook para detectar lenguaje ofensivo en memes

Share Button

Rosetta, como se ha bautizado al sistema, es capaz de interpretar varios lenguajes y enfocar su atención en ciertas zonas de la imagen.

Rosetta: la IA de Facebook para detectar lenguaje ofensivo en memes

Facebook continúa realizando ciertos movimientos para mejorar su imagen después de todos los escándalos relacionados con la privacidad de la información. La red social comandada por Mark Zuckerberg también se ha mostrado preocupada por temas referentes al lenguaje ofensivo y discursos de odio que se presentan en la plataforma diariamente. Por ello han invertido esfuerzos en crear una inteligencia artificialcapaz de leer e interpretar el texto de las imágenes, concretamente en los memes.

Aquellas personas que utilizan ese tipo de lenguaje saben muy bien que los memes son un medio bastante efectivo para atraer la atención de las personas. Lo anterior se estaba volviendo un verdadero problema para Facebook, ya que resultaba imposible estar verificando todas las imágenes que se comparten diariamente para detectar contenido escrito que vaya en contra de las políticas de la compañía. La inteligencia artificial permitirá ser más eficientes en este proceso sin requerir la intervención constante de humanos.

Rosetta, como han bautizado a la IA, es un sistema de machine learning que puede extraer el texto de billones de imágenes y vídeos diariamente para detectar el lenguaje inapropiado. La diferencia de lenguas no será un problema para la inteligencia artificial, puesto que puede leer sin contratiempos varios idiomas.

¿Cómo trabaja Rosetta?

Primeramente, Rosetta ya sabe en qué zonas de las imágenes se puede agregar el texto para solo enfocarse en analizar esta región. Lo anterior ha sido posible gracias a una versión mejorada de la tecnología de reconocimiento óptico de caracteres (ORC). En el caso de los memes, el texto suele aparecer en la parte superior e inferior de la imagen, así que la inteligencia artificial se dirigirá directamente a estos sectores para extraer cualquier texto encontrado.

Posteriormente, el sistema utilizará una red neuronal para transcribir y analizar el textohasta lograr un veredicto. Como ya se mencionó anteriormente, Rosetta no se detiene cuando se encuentra con un idioma distinto al inglés, incluso tiene la capacidad de interpretar el árabe y el hindi.

En estos momentos Facebook ya está utilizando Rosetta para analizar las imágenes que se suben a la red social. No es la única plataforma beneficiada, Instagram también está usando la inteligencia artificial con el mismo fin, detectar el lenguaje inapropiado. Por supuesto, Rosetta sigue teniendo un margen de mejora, pero los de Menlo Park mencionan que continúan trabajando para aumentar las capacidades de su sistema, incluyendo la incorporación de más idiomas.

 

Share Button
Top