El oscuro secreto de los moderadores de contenido

Se sabe que se hacen cerca de 3 billones de búsquedas por día, lo que significan 90 billones al mes y 1,1 trillones dentro de Google. Las redes sociales, por otro lado, son después de Google, el servicio online más popular; dentro de ellas se comparten fotos, videos y se envían y reciben mensajes.

Según el  portal de estadísticas Statista, las redes sociales más populares a nivel mundial son: Facebook, WhatsApp, YouTube, Facebook Messenger, Instagram, Snapchat y Twitter. Dentro de cada una de ellas se comparten miles y millones de fotos por segundo, ¿No me crees?

WhatsApp tiene alrededor de 100 millones de llamadas de audio y más de 42,000 de mensajes de texto son enviados entre fotos y gifs animados.

En Facebook se suben más de 300 millones de fotografías al día y, en un minuto, en se publican más de 510,000 comentarios, se actualizan más de 290,000 estados y se suben más de 136,000 fotografías.

En el caso de Instagram se suben más de 40,000 millones de fotografías y 95 millones de fotos y vídeos compartidos al día.

Twitter tiene alrededor de 328 millones de usuarios activos y se envían mas de 500 millones de tuits, además se sabe que hay mas 23,000 bots que cuentan con cuentas falsas.

En Youtube se suben más de 100 horas de vídeo cada minuto, lo que se traduce en que cada mes más de mil millones de personas, o casi 1 de cada 2 internautas, acuden a YouTube a informarse, o pasar un rato de ocio.

Todo ese tráfico de contenido al principio nació sin límites y entre sus paredes virtuales se subía contenido inapropiado al alcance de un solo click. De manera que para detener todo el contenido violento o pornográfico se establecieron normas de comportamiento y se pusieron filtros para todo el contenido audiovisual que se sube.

Hoy en día estos mismo filtros se han reforzado con IA y es casi imposible que se escape algo de violencia o pornografía dentro de los muros de Facebook.

Sin embargo, aun no se puede decir que la IA (Inteligencia Artificial) sea del todo fidedigna, y para que los filtros de seguridad sean 100% confiables, es necesario que sean confirmadas por ojos humanos, por lo que se necesita de un grupo de personas que tomen acción como escudos humanos de internet para leer, escuchar y mirar todo lo que el resto del mundo no quiere ver.

Los porteros de Internet

A estos individuos que revisan el contenido en redes se les conoce como moderadores de contenido, donde su trabajo es eliminar los vídeos, fotos y mensajes que son considerados como contenido traumático. Ellos son los encargados de revisar los mas de 500,000 comentarios y cerca de 150,000 fotos que se llegan a publicar solo en Facebook.

Estos moderadores los hay en todo el mundo y cada empresa tecnológica o plataforma digital cuenta con su propio ejercito de policías.

Pero este tipo de trabajo en la mayoría de las ocasiones viene con muy mala paga y con abuso de fuerza laboral, ya que todos ellos están obligados a filtrar el 98% de contenido violento por día.

Sin embargo, lo peor de este trabajo es que sus empleados todos los días están expuestos a violencia gráfica y explotación infantil que en su mayoría vienen en imágenes o videos que están obligados a ver y oír.

Los trabajadores han denunciado que la mayoría no dura mucho tiempo porque comienza a presentar estrés postraumático y afecciones psicológicas relacionadas.

[Te podría interesar: ‘Athlete A, el documental sobre el abuso sexual a las gimnastas de US Gymnastics’]

 ‘Speagle’, es un moderador que llegó a filtrar cerca de 100 a 200 publicaciones por día, el menciona que cuando estuvo como moderador de contenido le toco ver videos donde veía gente arrojar cachorros a un rio, un grupo de jóvenes aplastar a un gato, personas jugar con fetos humanos, pornografía infantil en video y fotos, y un gran etc. 

La cantidad de violencia que filtraba todo los días llegó a causarle secuelas emocionales y ha propiciarle el solo dormir dos o tres horas por noche, ya que frecuentemente tenía pesadillas que lo hacían despertar sudando frío y llorando.

Jake Swearingen, es otro ex empleado que se dio cuenta que los que llegan a sobrevivir en el trabajo, terminan deshumanizados y haciendo chistes fuera de lugar.

«En mi tercer día, me topé con el vídeo de una decapitación» y al comunicarlo en voz alta, un compañero más experimentado respondió: «Oh, ¿cuál de ellos». En ese momento, decidió dejarlo porque «no quería echar la vista atrás y ver que me había inmunizado tanto como para hacer chistes o ironizar sobre las cosas horribles que estaban sufriendo estas personas».

Es gracias a estos porteros de internet que nosotros no nos encontramos con pornografía o violencia gráfica al abrir nuestro Facebook o scrollear las fotos de Instagram.

Pero no queda en duda que se necesita urgentemente que la IA avance más rápido para que sea ella la que haga este trabajo y no personas que por un salario mínimo terminen arriesgando su salud mental y hasta su vida.

Aquí te dejamos un test interactivo más suavizado de cómo es trabajar como moderador de la red social, en donde deberás elegir si lo que ves es un contenido problemático que debe ser borrado porque viola alguna de las leyes de Facebook o simplemente dejarse pasar.

Asimismo te compartimos el documental llamado ‘The Cleaners’, que se centra en los moderadores de contenido de Filipinas que se encargan de eliminar todo el contenido violento, perturbador, polémico y controvertido del internet, ya que sin ellos la red sería un caos.