Header Ads Widget

Ticker

6/recent/ticker-posts

Exclusiva: Twitter recurre a la automatización para moderar los contenidos ante el aumento del discurso nocivo

 Twitter, propiedad de Elon Musk, está recurriendo en gran medida a la automatización para moderar los contenidos, eliminando ciertas revisiones manuales y favoreciendo las restricciones de distribución en lugar de eliminar directamente ciertos discursos.

 twitter content moderation: Twitter executive says moving fast on  moderation, as harmful content surges - The Economic Times

 Twitter también está restringiendo más agresivamente los hashtags propensos al abuso y los resultados de las búsquedas en áreas que incluyen la explotación infantil, sin tener en cuenta los impactos potenciales en los "usos benignos" de esos términos, dijo la vicepresidenta de Producto de Confianza y Seguridad de Twitter, Ella Irwin.

"Lo más importante que ha cambiado es que el equipo está plenamente capacitado para actuar con rapidez y ser lo más agresivo posible", dijo Irwin el jueves, en la primera entrevista que un ejecutivo de Twitter ha concedido desde la adquisición de la empresa de medios sociales por parte de Musk a finales de octubre.

 Sus comentarios se producen mientras los investigadores informan de un aumento de la incitación al odio en el servicio de redes sociales, después de que Musk anunciara una amnistía para las cuentas suspendidas bajo la anterior dirección de la compañía que no habían infringido la ley ni habían realizado "spam atroz."
Últimas actualizaciones

    Uber y Aurora ampliarán las operaciones de camiones de autoconducción en Texas para hacer frente a las prisas navideñas.


   Twitter's Top Executive Says Moving Fast on Moderation, as Harmful Content  Increases

  Los probadores de juegos de Activision Blizzard votan para formar un sindicato
    El criptointercambio Gemini intenta recuperar 900 millones de dólares del criptoprestamista Genesis, según Financial Times.


    Un juez estadounidense desestima la acusación contra la directora financiera de Huawei que tensó las relaciones entre Estados Unidos y China

La compañía se ha enfrentado a preguntas puntuales sobre su capacidad y voluntad de moderar el contenido dañino e ilegal desde que Musk recortó la mitad de la plantilla de Twitter y lanzó un ultimátum para trabajar muchas horas que supuso la pérdida de cientos de empleados más.

Y los anunciantes, la principal fuente de ingresos de Twitter, han huido de la plataforma por la preocupación sobre la seguridad de las marcas.

El viernes, Musk prometió "un refuerzo significativo de la moderación de contenidos y la protección de la libertad de expresión" en una reunión con el presidente de Francia, Emmanuel Macron.

Irwin dijo que Musk alentó al equipo a preocuparse menos por cómo sus acciones afectarían el crecimiento de los usuarios o los ingresos, diciendo que la seguridad era la principal prioridad de la compañía. "Él enfatiza eso todos los días, múltiples veces al día", dijo.

Twitter Under Elon Musk Leaning on Automation to Moderate Content Against Hate  Speech | Technology News

El enfoque de la seguridad descrito por Irwin refleja, al menos en parte, una aceleración de los cambios que ya se estaban planeando desde el año pasado en torno a la gestión de Twitter de las conductas de odio y otras infracciones de las políticas, según antiguos empleados familiarizados con ese trabajo.

Uno de los enfoques, plasmado en el mantra de la industria "libertad de expresión, no libertad de alcance", consiste en dejar en el aire ciertos tuits que infringen las políticas de la empresa, pero impedir que aparezcan en lugares como la línea de tiempo de inicio y las búsquedas.

Twitter lleva mucho tiempo desplegando este tipo de herramientas de "filtrado de visibilidad" en torno a la desinformación y ya las había incorporado a su política oficial de conducta de odio antes de la adquisición de Musk. Este enfoque permite una mayor libertad de expresión, al tiempo que reduce los posibles daños asociados a los contenidos abusivos virales.

El número de tuits con contenido de odio en Twitter aumentó considerablemente en la semana anterior a que Musk tuiteara el 23 de noviembre que las impresiones, o las visualizaciones, del discurso de odio estaban disminuyendo, según el Center for Countering Digital Hate (Centro para la lucha contra el odio digital), en un ejemplo de los investigadores que señalan la prevalencia de dicho contenido, mientras Musk pregona una reducción de la visibilidad.

 Los tuits que contenían palabras anti-negras esa semana triplicaron el número visto en el mes anterior a la toma de posesión de Musk, mientras que los tuits que contenían un insulto gay aumentaron un 31%, según los investigadores.


MÁS RIESGOS, MOVERSE RÁPIDO

Irwin, que se incorporó a la empresa en junio y que anteriormente desempeñó funciones de seguridad en otras empresas como Amazon.com y Google, rechazó las sugerencias de que Twitter no tenía los recursos o la voluntad de proteger la plataforma.

Dijo que los despidos no afectaron de forma significativa a los empleados a tiempo completo o a los contratistas que trabajan en lo que la compañía denominó sus divisiones de "Salud", incluyendo en "áreas críticas" como la seguridad infantil y la moderación de contenidos.

Twitter executive says moving fast on moderation, as harmful content surges  | Deccan Herald

Dos fuentes familiarizadas con los recortes dijeron que más del 50% de la unidad de ingeniería de Salud fue despedida. Irwin no respondió inmediatamente a una solicitud de comentarios sobre esta afirmación, pero anteriormente negó que el equipo de Health se viera gravemente afectado por los despidos.

Añadió que el número de personas que trabajaban en la seguridad infantil no había cambiado desde la adquisición, y que el director de producto del equipo seguía allí. Irwin dijo que Twitter cubrió algunos puestos de las personas que abandonaron la empresa, aunque se negó a proporcionar cifras específicas sobre el alcance de la rotación.

Dijo que Musk estaba centrado en utilizar más la automatización, argumentando que la compañía había errado en el pasado en el uso de revisiones humanas de contenido dañino que requerían mucho tiempo y trabajo.

"Ha animado al equipo a tomar más riesgos, a moverse rápido, a conseguir que la plataforma sea segura", dijo.

En cuanto a la seguridad de los niños, por ejemplo, Irwin dijo que Twitter ha pasado a retirar automáticamente los tuits denunciados por figuras de confianza con un historial de señalización precisa de publicaciones dañinas.

Carolina Christofoletti, investigadora de inteligencia de amenazas en TRM Labs, especializada en material de abuso sexual infantil, dijo que ha notado que Twitter ha retirado recientemente algunos contenidos tan rápido como 30 segundos después de haberlos reportado, sin acusar recibo de su reporte o confirmación de su decisión.

En la entrevista del jueves, Irwin dijo que Twitter retiró unas 44.000 cuentas implicadas en violaciones de la seguridad infantil, en colaboración con el grupo de ciberseguridad Ghost Data.

Twitter también está restringiendo los hashtags y los resultados de búsqueda frecuentemente asociados con el abuso, como los destinados a buscar pornografía "adolescente". Las preocupaciones anteriores sobre el impacto de tales restricciones en los usos permitidos de los términos han desaparecido, dijo.

El uso de "reporteros de confianza" era "algo que habíamos discutido en el pasado en Twitter, pero había algunas dudas y, francamente, algún retraso", dijo Irwin.

"Creo que ahora tenemos la capacidad de avanzar en ese sentido", dijo.

Publicar un comentario

0 Comentarios