Herramientas automáticas para detectar trolls: ¿quién vigila al vigilante?

La primera generación de blogueros nació en la década de 1990. Entonces no había intermediarios entre autores y lectores, y todo era tan nuevo y excitante que se imponía una suerte de netiqueta. Todavía no existían los trolls, al menos no como especie.

Más tarde, WordPress y otras plataformas generalizaron los blogs. Ahora todo el mundo podía mantener un blog en cinco minutos, y con ello nació una nueva estirpe de comentaristas: los que solo te escribían para spamear o trollear.

Plataformas comerciales como Tumblr o WordPress gestionan los comentarios a través de compañías externas como Disqus. A su vez, Disqus colabora con otra compañía llamada Impermium, que detecta automáticamente si hay spam en un comentario.

Sin embargo, el siguiente paso consiste en detectar también a los trolls, tal y como explica Evgeny Morozov en su libro La locura del solucionismo tecnológico:

la compañía dice haber desarrollado una tecnología para “identificar no solo el spam o los enlaces maliciosos, sino todo tipo de contenido dañino (como violencia, racismo, irreverencia flagrante o incitación al odio), que permite a los propietarios actuar contra ellos en tiempo real, antes de que llegue a los lectores”. Asegura tener 300.000 páginas web como clientes (lo cual no es tan sorprendente si está incorporada a herramientas externas de uso extendido como Disqus).

Vigilar al vigilante

El problema de esta herramienta es: “¿quién vigila al vigilante?” Es decir, una sola empresa decide sobre millones de comentarios cuáles se tildan de aceptables o inaceptables, en una especie de pesadilla distópica orwelliana a lo Gran Hermano.

En lo que a intermediarios respecta, se trata de algo impactante: una sola compañía californiana decide qué se considera incitación al odio o irreverencia en muchos de los sitios más populares del mundo sin que nadie examine si sus propios algoritmos son sesgados o demasiado conservadores.

También se ha desarrollado un algoritmo para atrapar comentarios típicamente de troll. Y esto solo es el principio de.

Este tipo de herramientas pueden constituir una criba importante para mantener limpio un blog, pero también, quizá, es una forma de suprimir la naturalidad, la espontaneidad e incluso el caos que nacen de las interacciones en libertad que siempre ha caracterizado a un blog. Frente a ello, de momento, parece que la mejor postura es la que mantenemos con un Gremlin: no darles de comer, y menos a partir de las 12:00 pm (o sí, a veces).