Facebook ya usa IA para evitar que veas contenido dañino

facebook moderacion ia

Facebook es una de las compañías que más se ha mostrado a favor de usar la Inteligencia Artificial para realizar el trabajo de los humanos, al menos en el ámbito digital. Ahora, la empresa de Mark Zuckerberg ha reafirmado esta idea, anunciando que una de sus IA de ahora en adelante se encargará de ordenar por prioridad el contenido marcado (o denunciado) para que el grupo de revisores humanos de Facebook pueda moderar más rápido las publicaciones.

Así funciona la moderación de contenido en Facebook, con Inteligencia Artificial

Facebook

Para entender un poco mejor esta noticia, hay que comprender cómo Facebook modera el contenido de su plataforma. Pues bien, las publicaciones en Facebook que podrían violar las reglas de la compañía (ya sea por spam, discursos de odio o contenido que glorifica la violencia) son marcadas por un bot de la plataforma o por los propios usuarios que las denuncian. La gran mayoría de estas publicaciones marcadas son revisadas por empleados de Facebook cuyo trabajo es decidir si el contenido incumple o no las políticas de la compañía.

Si el revisor detecta un incumplimiento de las reglas, toma la siguiente decisión que pasa por simplemente borrar la publicación o borrarla y además bloquear la cuenta. En los últimos años, Facebook ha contratado hasta 15000 personas en todo el mundo para que realicen este trabajo. Dicho sea de paso, aunque esto parece una buena noticia, no lo es del todo pues muchos revisores de Facebook terminan con traumas graves a raíz de esta ardua tarea.

Volviendo al tema, los revisores de Facebook hasta hace poco revisaban toda esa ola de publicaciones marcadas que llegan a la plataforma a diario de manera cronológica, lidiando con ellas en el orden en que se reportaban. El problema de esta metodología es que tarda mucho en eliminar aquellas publicaciones que son más “dañinas” que otras y que deberían ser moderadas con prioridad para evitar polémicas.

El trabajo de la IA de Facebook es ordenar por prioridad las publicaciones a revisar

facebook

Facebook ahora utiliza una Inteligencia Artificial que se encarga de decirle a los revisores humanos cuáles son las publicaciones que deberían revisar en primer lugar. ¿Cuál son los criterios que usa la IA de Facebook para priorizar el contenido marcado? Básicamente son tres: viralidad, severidad y probabilidad de que rompan las reglas. Por ejemplo, si un contenido que posiblemente rompe las reglas tiene muchas visitas y “me gusta”, ten por seguro que se enviará al primer lugar de la fila de revisión por encima de los que no tienen tanto alcance.

De igual forma, se prioriza la moderación de contenido en base a la severidad. Así pues, las publicaciones con contenido de terrorismo, explotación infantil o autolesiones se revisan primero que aquellas marcadas por spam, violaciones de los derechos de autor o cosas no traumáticas. De hecho, Facebook ha dicho que ellos revisan el contenido que involucra daños en el mundo real por encima de todo.

Por ahora, la IA de Facebook no puede revisar por sí sola el contenido debido a su incapacidad de comprender el contexto de muchas situaciones. Aun así, es una gran noticia que Facebook esté trabajando en eliminar el contenido dañino de su plataforma lo más rápido posible.

Fuente | The Verge