NEW YORK (WSI) – Le immagini di una donna buttata già dalle scale. E un messaggio agghiacciante: «Cosi la prossima volta impari a non restare incinta». A fianco la pubblicità delle patatine «Pringle». Non ci vuole molto, facendo ricerche su Facebook, per imbattersi in qualche pagina che esalta la violenza contro le donne, incita alla discriminazione razziale o diffonde l’odio verso i gay.
Adesso il «social network» di Mark Zuckerberg dice basta: ammette che i suoi sistemi automatici di rimozione del materiale «proibito», efficacissimi quando si tratta di far sparire foto di un seno femminile anche se si tratta di una donna che allatta o di immagini mediche della rimozione di un cancro, servono a poco contro quello che in America viene definito hate crime , crimini basati sull’odio. E promette di correre ai ripari.
Una crisi di coscienza? Non proprio: non è da ieri che su Facebook si invita allo stupro. E da anni sull’azienda californiana piovono le proteste delle organizzazioni ebraiche, di quelle dei musulmani, delle associazioni dei gay e delle lesbiche, di migliaia di donne.
Ma non è questo che ha mosso Facebook né la denuncia del Movimento italiani genitori che ha deciso di trascinare l’azienda Usa davanti al tribunale di Roma per omesso controllo nel caso di Carolina, la ragazza che si è suicidata pochi giorni fa dopo la pubblicazione sulla rete sociale dei video girati durante una festa tra ragazzi. Fin qui Facebook, pur cercando di migliorare le sue misure di sicurezza e introducendo salvaguardie aggiuntive per i ragazzi fra i 13 e i 17 anni, ha sempre sostenuto che la sua responsabilità è limitata: i suoi pochi «moderatori» non possono tenere a bada una comunità che ormai conta più di un miliardo di utenti. Insomma, tocca a loro adottare misure di protezione, evitando di esporsi troppo e introducendo forme di autocontrollo.
La linea della società della Silicon Valley è però cambiata repentinamente l’altra sera, quando l’azienda ha ammesso che i suo sistema di sorveglianza non funziona e si è impegnata ad agire a cinque diversi livelli per migliorarlo. Più dei principi e dell’etica ha potuto il portafoglio: Facebook si è mossa quando è partita una massiccia campagna di organizzazioni femministe americane che ha spinto alcuni grandi inserzionisti a ritirare la loro pubblicità dal «social network» fino a quando non avranno la garanzia che i loro messaggi non compariranno in pagine nelle quali si incita alla violenza o alla discriminazione.
A dire «basta» a pagine dai titoli come «Violenta la tua amica solo per ridere» sono state varie organizzazioni come Wam (Women, Action and the Media) e attiviste molte seguite come Laura Bates e Soraya Chemaly. Tra le prime società a rispondere ai loro appelli ritirando la pubblicità da Facebook, la Nissan auto e Nationwide, una società inglese di costruzioni. Altri, come American Express, Dove (cosmetici) e Zappos, pur non interrompendo i rapporti col «social network», hanno avvertito che lo faranno se le cose non cambiano rapidamente.
È comprensibile, visto che questa pubblicità «personalizzata», spesso indirizzata verso un target di maschi adulti, rischia di finire a fianco dei messaggi violenti. Ma, nonostante la promessa di Facebook di intervenire con un nuovo ciclo di addestramento del proprio personale, aumentando il numero di controllori e «moderatori», filtrando con più attenzione e severità le pagine che vengono immesse nel «network», non è detto che le cose cambino davvero.
I sistemi di controllo automatico faticano a fare una selezione sulla base delle immagini, se non ci sono nudità evidenti. Anche cancellare pagine sulla base del linguaggio usato è problematico: in America il diritto a esprimersi liberamente è tutelato dalla Costituzione anche i casi estremi, purché non vengano violati delle leggi. L’ hate speech , la diffusione dell’odio, può quindi essere legalmente censurato, mentre molto più controversi sono gli interventi nei casi di uso di quelli che vengono definiti «linguaggi crudeli o insensibili».
Coi giovani che nei sondaggi già sostegno di rimanere su Facebook solo perché ci stanno tutti, ma di essere stufi delle battaglie a colpi di « like » e dell’invasione di adulti in rete, la società, poi, probabilmente teme di perdere utenti se si spinge troppo in là nel sostituire la trasgressione col politically correct.
Copyright © Corriere della Sera. All rights reserved
