Perspective, IA para plantar cara a los trolls

Pocos países han aupado más internet que Estados Unidos. Su penetración en la sociedad, en las costumbres de los ciudadanos, es enorme. Por una parte, Silicon Valley y sus empresas retroalimentan la digitalización de una sociedad en parte menos temerosa que otras a las nuevas tecnologías. Por otra, la regulación permite la creación de nuevos modelos de negocio sin la supervisión de otras áreas económicas. Sin embargo, ser el conejillo de indias tiene un precio: un estudio del Instituto de Investigación Data Society sobre acoso y abuso en internet revela que casi la mitad de los usuarios estadounidenses ha sufrido acoso; que tres cuartas partes ha sido testigo de ese acoso y que tres de cada diez se autocensuran a la hora de opinar por miedo a las consecuencias.

Google, el ojo que todo lo ve en internet ha decidido tomar medidas en el asunto -igual que prometió combatir las noticias falsas que tantas consecuencias han tenido en 2016- y lanzó el pasado jueves Perspective. Se trata de una herramienta de inteligencia artificial diseñada para identificar los comentarios tóxicos de los “trolls” de la red para eliminarlos y excluir a esos usuarios de la conversación.

Jigsaw, la filial de Alphabet que ha desarrollado el software y que antes respondía al nombre de Google Ideas, busca que en internet “se puedan volver a entablar conversaciones y debates interesantes”. Un código abierto -buscan potenciar a todas las plataformas en la red- que busca hacer de internet un entorno más seguro. Cualquier editor o desarrollador de contenido podrá usarlo para controlar qué se puede decir y qué no en su web.

Además, Perspective se ha creado con varios niveles de exigencia para que cada titular de una web pueda decidir qué hacer con la información que recibe: se pueden marcar los comentarios para que se moderen uno a uno y que se decida si entran o no en la conversación; que la propia persona que escribe los comentarios pueda ver en tiempo real el nivel de “toxicidad” de su reseña o que se clasifiquen de forma automática los comentarios en base a ese mismo criterio.

Su funcionamiento es sencillo en teoría. Un conjunto de personas han clasificado comentarios que consideran tóxicos porque incluyen faltas de respeto, insultos, amenazas o palabras malsonantes. Después, la IA se ha encargado de analizar de forma autónoma miles de comentarios en la red y, para saber si son tóxicos o no los ha comparado con los de su base de datos. Un entrenamiento con el que Perspective ha ganado capacidad ante palabras y frases. El último paso fue su lanzamiento a la web para que sea empleado por quien quiera. Además, cuanto más se implante más aprenderá.

Su mejor baza es el machine learning de Google que tiene la capacidad de analizar datos y crea patrones a partir de los mismos. Cuanto más se usa más aprende. Y en esta fase de aprendizaje serán tan importante los moderadores como los propios usuarios que podrán enseñarle al sistema qué es un comentario tóxico y qué no.

Aunque de momento solo esta disponible en inglés, la empresa ha explicado que pronto estará disponible en otros idiomas. Será fundamental la colaboración de editores y plataformas de otros países (no angloparlantes) para que se pueda crear un modelo efectivo como ocurrió en su momento con el inglés y el medio The New York Times, que ya tiene un equipo humano que se encarga de moderar los 11.000 comentarios diarios de su web. Eso ha provocado que solo se pueda comentar en el 10% de los artículos de su web. Perspective, gracias a su algoritmo permitirá que su trabajo sea más eficaz y sencillo.

Aunque hay empresas como Twitter y Mozilla que tienen en marcha iniciativas similares, la de Google -por potencial y herramientas- parece la más capaz de sobrevivir y de convertirse en estándar en internet.

Publicado por

Gaizka Manero López

Nacido en 1982 en Portugalete, Bizkaia, soy doctor en "Periodismo, Comunicación y Memoria en la era digital" por la Universidad del País Vasco.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos necesarios están marcados *


*

Puedes usar las siguientes etiquetas y atributos HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>