Facebook ha creado un monstruo que no puede domar

Nota del editor: Alex Krasodomski-Jones es un investigador del Centro para el Análisis de las Redes Sociales en el think tank Demos en Londres. Su principal interés de investigación es el extremismo político y su reflejo en las redes. Las opiniones expresadas aquí son de su propia responsabilidad.

(CNN) -- La semana pasada, dos hombres y dos mujeres fueron arrestados y ahora enfrentan cargos por crímenes de odio y secuestro contra un chico en Chicago. La ciudad es muy conocida por esta clase de crímenes, pero la diferencia es que esta vez la acción fue transmitida en vivo a miles de personas en el mundo a través de Facebook.

Durante al menos media hora, Brittany Covington filmó cuando su hermana y sus amigos atacaron y torturaron al chico, transmitiendo el asalto a través de la muy anunciada aplicación Live de Facebook.

Como era de esperarse, el video se volvió viral. Muchos cuestionaron por qué Facebook se tomó tanto tiempo para eliminarlo, otros cuestionaron la respuesta de la policía, mientras que otros simplemente se sorprendieron y se molestaron. Como video horroroso y brutal, es, no obstante, la última barbaridad en una tradición digital bien establecida.

La violencia y la muerte han sido una materia prima de internet durante décadas. Sitios web como Rotten, Ogrish y Bestgore emergieron en los noventa y en la década de los 2000, archivando imágenes de accidentes, autopsias y videos de ejecuciones.

El manto se ha pasado recientemente a LiveLeak, un sitio web británico iniciado por el mismo equipo de Ogrish, que alberga videos gráficos de violaciones, asesinatos y muertes. A partir de julio del 2016, Alexa lo clasifica como uno de los primeros sitios web en el mundo, con millones de visitantes al día y millones de dólares en ingresos.

A pesar de la popularidad de LiveLeak, es justo decir que este tipo de contenido, por lo general, se escondió en las esquinas de la web. Y hay razones para decir que aún sigue siendo así.
Grandes compañías de internet, como Google y Facebook, han llevado a cabo una campaña implacable para sanear la experiencia de navegar por la web. Para muchos de sus cientos de millones de usuarios, los sitios de estas empresas constituyen casi la totalidad de su experiencia web, y el mantenerlos 'limpios' es vital para mantenerse a la vanguardia.

Esto no es poca cosa, especialmente cuando la gran mayoría del esfuerzo llevado a cabo para moderar los miles de millones de mensajes que fluyen a través de sus plataformas es manual. Confiar en los usuarios para que informen sobre una parte del contenido es la norma, complementada por un ejército de administradores subcontratados. La sombría realidad del que seguramente es uno de los peores trabajos en internet es mostrada de forma fehaciente en este artículo de Wired.

Mientras el número de usuarios de internet ha subido de millones a billones, el número de sitios web en los que probablemente gaste su tiempo tiende posiblemente a caer.

Los años noventa y la década del 2000 vieron una explosión en el número y variedad de sitios, pero en los últimos 10 años se ha visto una consolidación del tiempo que pasamos en línea en torno a Facebook, Google y Microsoft. Añade a esto un cambio en la expectativa del usuario y tienes una receta para el desastre: donde alguna vez era absolutamente aceptable publicar una respuesta en un foro y esperar a que un administrador lo aprobara, esto es casi que impensable para la mayoría de las personas en el 2017. El impacto en el valor de las acciones de Facebook, por no mencionar el debate libre y abierto que el sitio consagra de la moderación ("espera, estamos revisando si la foto que has intentado publicar está bien") sería absolutamente catastrófico.

Facebook Live es el último ejemplo de este giro hacia tirar abajo las barreras y filtros entre tú y la audiencia. El video en vivo, transmitido con un clic, se emite a una audiencia de millones de personas sin ninguna esperanza de que el contenido sea revisado antes de que llegue a los globos oculares responsables de miles de millones de libras de ingresos de Facebook.

Los desafíos de luchar contra los filtros son bien conocidos. A raíz del asesinato de un presentador de televisión en Estados Unidos en vivo al aire, tanto Facebook como Twitter estuvieron en el ojo de la polémica por reproducir automáticamente el video.

Lo mismo se dijo tras el reciente asesinato del embajador ruso en Turquía, a quien le dispararon en vivo en televisión. Sus últimos momentos se compartieron una y otra vez por los usuarios de Facebook y Twitter, y así mismo pasa cada vez que ISIS publica alguno de sus horrendos videos. Cualquiera que se conecte con alguien que comparta estos videos podría haber estado deslizándose en su línea de tiempo o canal de noticias y, de repente, encontrarlos, con lo que se incumple con la promesa de una experiencia de navegación amigable y segura.

No es sólo la violencia real o fantástica. Los extremistas islámicos y la extrema derecha también operan en las principales plataformas de medios sociales. A medida que los usuarios de la web se concentran cada vez más en un pequeño puñado de sitios, hacemos clic hombro a hombro con el tipos de personas que comparten la clase contenido que no esperábamos ni queríamos en nuestras vidas.

He aquí una contradicción. Por un lado, los gobiernos y los comentaristas están pidiendo que las empresas de redes sociales asuman una mayor responsabilidad por el contenido de sus sitios, pero por el otro, estas empresas están adoptando el cambio tecnológico que hace que la publicación sea más rápida, el público más grande y la administración más difícil.

Si este patrón continúa, podemos esperar más barbaridades semejantes al video de Chicago, y menos paciencia de los gobiernos que ya están dispuestos a pasar la pelota en cuanto a la gobernanza de internet. Las principales plataformas de redes sociales no ganan nada al alojar esta clase de contenido, por supuesto, pero la verdad es que están construyendo bestias que no pueden domar. Está claro que el 2017 será un año muy ocupado para sus equipos creadores de políticas.