Facebook y Twitter definen que las publicaciones con contenido de odio es una violación de sus políticas, pero afirman también que puede ser difícil identificar quién se involucra en los discursos de odio que tienen fines buenos y quienes no.
Twitter fue criticado esta semana por bloquear la cuenta de una revista satírica alemana luego de hacer parodias con comentarios antimusulmanes.
Emily Crose, analista y hacker de la NSA, quien también fue moderadora de Reddit, quedó consternada por los manifestantes neonazis en Charlottesville, Virgina, especialmente porque una de las personas que sufrio ante estos ataques fue una amiga cercana.
Debido a esto, Crose desarrolló una tecnología llamada Nemisis, que con inteligencia artificial identifica a los nacionalistas blancos escaneando las imágenes y videos que se publican.
Nemisis busca los símbolos que utilizan los grupos para identificarse, llamadas «silbatos de perro», que pueden incluir banderas neo confederadas.
El objetivo de la experta es ayudar a educar a las personas, y mostrarles a las redes sociales cómo pueden encontrar supremacistas blancos e «imponer cierta decencia en sus propias plataformas», dijo a Lorenzo Franceschi-Bicchierai, de Motherboard.
De igual forma, explicó a Business Insider que la idea de la tecnología no provenía directamente de su trabajo en la NSA.
«Lo que hice por Nemisis lo tuve que aprender completamente sola», dijo.
Crose utilizó TensorFlow para poder entrenar su aplicación para detectar imágenes, esta es una popular tecnología de desarrollo de Inteligencia Artificial gratuita y de código abierto creada por Google.
«En la actualidad trabajo en el sistema beta para desarrollar un sistema que luego se pueda ejecutar en una interfaz con Twitter», agregó Crose.
Con esto, la ex analista espera utilizar las redes sociales para buscar supremacistas blancos.
«Si puedo hacer esto como persona con pocos recursos, @TwitterSafety debería poder hacerlo fácilmente. La pregunta es, ¿Por qué no lo han hecho?» agregó.
Hace un mes, Twitter demostró que estaba tomando en serio este tipo de problemas, la red social comenzó a suspender las cuentas el 18 de diciembre mediante un acto denominado como #twitterpurge.
