¿Son los algoritmos el futuro de la moderación de contenido?

Los algoritmos son un conocimiento de programa de software vital con muchas promesas en muchas áreas de nuestras vidas digitales. Sin embargo, ¿ tienen alguna tarea en la moderación del material del contenido del sitio web ?

Eso es una faceta de un diálogo que tuve con Wired.com autor Brian Barrett (Twitter: @brbarrett) por su artículo sobre una nueva marca algoritmo que está diseñado para detectar la desnudez en imágenes .

Después de que me estaba pedido si WebPurify usaría un algoritmo de este tipo con nuestras empresas que ayudan web sitio de los propietarios de las casas conservan sus sitios web liberan de indecente o no deseada de material de contenido , mi respuesta fue “ que podríamos positivamente tenemos un interés ” – si el algoritmo era infalible.

Sin embargo , estamos a una buena distancia de eso.

¿Qué es un algoritmo?

Como forma de fondo, un algoritmo es un “ algoritmo que exactamente define una secuencia de operaciones.” Un programa de PC puede tener varios algoritmos para tareas particulares con pautas o procesos que deben procesarse en un orden particular .

Los algoritmos funcionan bien para procesar la nómina o renderizar páginas web, sin embargo , ahora están comenzando a usarse en nuevos métodos donde los fundamentos no son tan claros. Estos propósitos , que recuerdan a los filtros de correo electrónico no deseado, presentan que, no obstante, hay mucho trabajo por hacer en este espacio .

El artículo de Wired.com estaba a punto de una organización conocida como Algorithmia que está ahora haciendo un intento a cabo un nuevo algoritmo para detectar la desnudez en imágenes . En la corporativa ‘s sitio web (isitnude.com) los clientes pueden enviar una fotografía y ver si el algoritmo puede adivinar si la fotografía es una clasificación G-o peor.

¿Funciona? Aquí ‘s el escritor Es abstracta de su experimentación con la ubicación :

Se va , además, tomar adicional que simplemente puesta a punto para el algoritmo para llegar a ser blindado, e incluso con ligereza bronceada. Lo hará posiblemente ‘t sino reconocer particulares persona físico componentes ,
por ejemplo , que los medios de que una imagen de alguien que está totalmente revestido aparte de , correctamente , los componentes que más necesidad vestido, probablemente lo haríano obstante obtener por medio de .
Y dado que se basa principalmente en la carne, en cualquier otro caso, las fotos inofensivas de la costa posiblemente se descubran marcadas. ¿Un hipo bastante mayor ? Como resultado del algoritmo
depende de los poros y el reconocimiento del tono de la piel , es impotente en oposición a las imágenes en blanco y negro .

Incluso cuando el algoritmo fue 100% eficaz en la detección de la desnudez, no hay manera de que para saber si es o no su echar un vistazo a un fragmento de obra o de una ofensiva fotografía .

Uno de los muchos detalles que hago en el artículo es que la desnudez es sólo una pequeña parte de lo que echar un vistazo a nuestro contenido de material de servicio de moderación. Violencia, crímenes de odio, parafernalia de drogas, alcohol, intimidación: todas estas son áreas de contenido que deben filtrarse y son bastante más  complicadas que la desnudez. Aquí es una instancia fácil que di de la complejidad:

“La violencia es difícil . Incluso nos ponemos tan detallados como ‘la violencia en un deporte que no es un deporte violento’ es violencia, pero cuando se trata de boxeo, que es un deporte violento, lo permitimos ”.

Entonces, ¿son los algoritmos el camino a seguir para la moderación del material de contenido ?

Efectivamente , ya aprovechar al máximo extremadamente eficientes algoritmos con nuestros filtros profanidad opciones y estamos muy emocionados por la perspectiva de ellos ayudar a nuestros estancia de imagen de moderación y de moderación de vídeo grupos en algún momento . Sin embargo , siempre será necesario que la inteligencia humana interceda y haga juicios con matices adicionales . Es por eso que ahora tenemos un equipo completo de profesionales para asegurarnos de que el material de contenido publicado en los sitios web de los compradores seatodo el tiempo libre de imágenes , películas y contenido textual no deseados .

 

Leave a Reply

Your email address will not be published. Required fields are marked *