Illustrazione del brand del social community statunitense Instagram sullo schermo di un pill.
Kirill Kudryavtsev | Afp | Immagini Getty
Meta si è scusato giovedì e ha affermato di aver corretto un “errore” che ha portato alcuni utenti di Instagram a segnalare un’ondata di contenuti violenti ed espliciti consigliati sulla loro pagina personale “Reels”.
“Abbiamo corretto un errore che faceva sì che alcuni utenti vedessero nel loro feed Instagram Reels contenuti che non avrebbero dovuto essere consigliati. Ci scusiamo per l’errore”, ha detto un portavoce di Meta in una dichiarazione condivisa con CNBC.
La dichiarazione arriva dopo che un certo numero di utenti di Instagram si sono rivolti a varie piattaforme di social media per esprimere preoccupazione per un recente afflusso di consigli sui contenuti violenti e “non sicuri per il lavoro”.
Alcuni utenti hanno affermato di aver visto tali contenuti, anche con il “Controllo dei contenuti sensibili” di Instagram abilitato al livello di moderazione più alto.
Secondo Meta political’azienda si impegna a proteggere gli utenti da immagini inquietanti e rimuove contenuti particolarmente violenti o espliciti.
I contenuti vietati possono includere “video che raffigurano smembramenti, interiora visibili o corpi carbonizzati”, nonché “commenti sadici nei confronti di immagini che descrivono la sofferenza di esseri umani e animali”.
Tuttavia, Meta afferma che consente alcuni contenuti grafici se aiutano gli utenti a condannare e sensibilizzare su questioni importanti come violazioni dei diritti umani, conflitti armati o atti di terrorismo. Tali contenuti potrebbero presentare limitazioni, advert esempio etichette di avviso.
Mercoledì sera negli Stati Uniti, la CNBC ha potuto visualizzare diversi put up su Instagram che sembravano mostrare cadaveri, ferite grafiche e aggressioni violente. I put up erano etichettati come “Contenuti sensibili”.
Secondo il sito internet di Meta, utilizza tecnologia interna e un team di oltre 15.000 revisori per aiutare a individuare immagini inquietanti.
La tecnologia, che embrace strumenti di intelligenza artificiale e machine learningaiuta a dare priorità ai put up e a rimuovere “la stragrande maggioranza dei contenuti in violazione” prima ancora che gli utenti li segnalino, afferma il sito internet.
Inoltre, Meta lavora per evitare consigliare contenuti sulle sue piattaforme che potrebbe essere “di bassa qualità, discutibile, sensibile o inappropriato per gli spettatori più giovani”, aggiunge.
Cambiare la politica
L’errore con Instagram Reels, tuttavia, arriva dopo che Meta ha annunciato l’intenzione di aggiornare le sue politiche di moderazione nel tentativo di promuovere meglio la libertà di espressione.
Nell’a dichiarazione pubblicato il 7 gennaio, la società ha affermato che cambierà il modo in cui applica alcune delle sue regole sui contenuti al superb di ridurre gli errori che hanno portato alla censura degli utenti.
Meta ha affermato che ciò embrace lo spostamento dei suoi sistemi automatizzati dalla scansione di “tutte le violazioni delle politiche” a un focus su “violazioni illegali e di alta gravità, come terrorismo, sfruttamento sessuale minorile, droga, frode e truffe”. Per le violazioni delle politiche meno gravi, la società ha aggiunto che farà affidamento sugli utenti per segnalare problemi prima di agire.
Nel frattempo, Meta ha affermato che i suoi sistemi stavano retrocedendo troppi contenuti sulla base delle previsioni che “potrebbero” violare gli normal e che period in procinto di “eliminare la maggior parte di queste retrocessioni”.
L’amministratore delegato Mark Zuckerberg anche annunciato che la società consentirebbe più contenuti politici e modificherebbe il suo programma di verifica dei fatti di terze parti con un modello di “Neighborhood Notes”, simile al sistema sulla piattaforma X di Elon Musk.
Le mosse sono state ampiamente viste come uno sforzo di Zuckerberg per ricucire i legami con il presidente degli Stati Uniti Donald Trump, che in passato ha criticato le politiche di moderazione di Meta.
Secondo a Meta portavoce su Xl’amministratore delegato ha visitato la Casa Bianca all’inizio di questo mese “per discutere di come Meta possa aiutare l’amministrazione a difendere e far avanzare la management tecnologica americana all’estero”.
Nell’ambito di un’ondata di licenziamenti tecnologici nel 2022 e 2023, Meta ha tagliato 21.000 dipendenti, quasi un quarto della sua forza lavoro, il che ha influito su gran parte della sua integrità civica e dei workforce di fiducia e sicurezza.
