Microsoft ha creado un sistema automatizado para detectar pederastas online

Microsoft ha creado un sistema automatizado para detectar depredadores sexuales que intentan seducir a los niños a través de internet. La herramienta, cuyo nombre en código es Proyecto Artemis, está diseñada para detectar patrones de comunicación en las conversaciones.

En función de ello, el sistema asigna una calificación para la probabilidad de que uno de los participantes esté tratando de abusar del otro. Las empresas que implementen el sistema pueden establecer un puntaje (por ejemplo, 8 de 10) por encima del cual las conversaciones marcadas se envían a un moderador humano para su revisión.

Protección infantil automatizada

La herramienta está disponible de forma gratuita para las empresas que ofrecen funciones de chat en línea, a través de una organización sin fines de lucro llamada Thorn, que desarrolla productos tecnológicos para defender a los niños del abuso sexual. Además de resultar una herramienta preventiva y muy práctica, este sistema también proporcionaría a los expertos en protección infantil más información sobre cómo operan los pedófilos a través de internet.

Microsoft no ha explicado con detalle qué patrones o palabras hacen saltar las alarmas de su sistema, ya que esto podría hacer que los depredadores sexuales ajustaran su comportamiento para tratar de enmascarar sus actividades.

Con todo, el sistema también comporta riesgos: es probable que arroje muchos falsos positivos, ya que los sistemas automatizados aún no son muy duchos a la hora de comprender el significado y el contexto del lenguaje. Eso significa que las compañías de redes sociales necesitarán invertir en más moderadores humanos si realmente están comprometidas a abordar el problema.

El sistema también supone que los mensajes no están encriptados y que los usuarios dan su consentimiento para que se lean sus comunicaciones privadas, lo cual también comporta otro obstáculo extra.

A partir del 10 de enero de 2020, el licenciamiento y la adopción de la técnica serán llevadas por Thorn. Las compañías y los servicios que quieran probar y adoptar la técnica pueden contactar a Thorn de manera directa en antigrooming@thorn.org.