El uso de texto plano para publicar actualizaciones de estado y difundir mensajes de odio puede ser recogido fácilmente por los sistemas diseñados para escanear y filtrar el texto, por lo que no es un sistema muy útil si quieres saltarte las protecciones de Facebook y difundir mensajes negativos. Sin embargo, cuando este texto se coloca en memes, imágenes y videos, se vuelve un poco complicado, sobre todo porque uno puede cambiar fácilmente un video o imagen por uno nuevo con otro texto existente. Además, hasta ahora los logaritmos de Facebook y su inteligencia artificial no eran capaces de descifrar los textos incrustados en imágenes, pero parece que la cosa va a cambiar.

Facebook

Este es uno de los desafíos que se ha enfrentado Facebook y para ello han creado una nueva inteligencia artificial a la que han decidido llamar Rosetta. Según Facebook, “extrae texto de más de mil millones de imágenes públicas de Facebook e Instagram y marcos de video (en una amplia variedad de idiomas), diariamente y en tiempo real, y lo ingresa en un modelo de reconocimiento de texto que ha sido entrenado en clasificadores para comprender el contexto del texto y la imagen juntos,” como puedes ver en la imagen de arriba que muestra cómo se descompone el meme.

Facebook sigue luchando contra los mensajes de odio en su plataforma

En cuanto al uso que planea darle Facebook a su nueva inteligencia artificial, Rosetta, la compañía señala cómo se puede usar para detectar el discurso de odio, especialmente cuando se aplica en diferentes usos y en diferentes idiomas. También señalan cómo se puede utilizar para mejorar la precisión de la clasificación en las fotos en el News Feed para ayudar a mejorar el contenido personalizado.

Facebook también menciona cómo aún hay áreas que se pueden mejorar, como el uso de video. Una tecnología así, además, también podría ser aplicada en el futuro para que la plataforma sea más accesible a personas con discapacidades, ya que si la IA puede descifrar lo escrito en una imagen también podría ser pasado por un software de dictado por voz.

Dejar respuesta

Please enter your comment!
Please enter your name here