L’intelligenza artificiale di Facebook vieta erroneamente gli annunci per le aziende in difficoltà

L’imprenditrice di New York Ruth Harrigan vende solitamente i suoi prodotti a base di miele e cera d’api nei negozi di souvenir. Ma con Covid-19 che ha messo in pausa il turismo, è stata quasi interamente dipendente dagli annunci di Facebook per aumentare le vendite online. L’11 novembre, questa nuova ancora di salvezza finanziaria è stata bruscamente interrotta quando la società di social media ha bloccato il suo account pubblicitario HoneyGramz per aver violato le sue politiche. Non riusciva a immaginare che cosa i suoi minuscoli doni pieni di miele avrebbero innescato il problema.

Gli amici hanno detto a Harrigan di aspettare solo un paio di giorni e il problema potrebbe risolversi da solo. Ha aspettato, fino a quando ha perso circa $ 5.000 di entrate.

“Stavo diventando un po ‘ansiosa pensando,’ Oh mio Dio, il Black Friday è dietro l’angolo, la maggior parte delle mie vendite per l’anno avviene a novembre e dicembre e basta”, ha spiegato. “Ho detto, ‘Se rimango fermo per un periodo più lungo di questo, mi paralizzerei.'”

Harrigan è uno dei milioni di inserzionisti di piccole imprese che si sono affidati a Facebook Inc. perché il coronavirus ha chiuso molti canali di vendita al dettaglio tradizionali. Il gigante dei social media ha fornito nuove opportunità di vendita a questi imprenditori, ma li ha anche esposti al software di moderazione dei contenuti che funziona male, opzioni limitate per l’assistenza clienti e mancanza di trasparenza su come risolvere i problemi.

I moderatori umani di Facebook si sono concentrati sulle elezioni e sulla disinformazione del Covid-19 quest’anno, quindi la società si è appoggiata maggiormente agli algoritmi di intelligenza artificiale per monitorare altre aree della piattaforma. Ciò ha lasciato molte piccole imprese intrappolate nei filtri automatizzati di Facebook, incapaci di fare pubblicità attraverso il servizio e frustrate perché non sanno perché.

Lo stesso fine settimana l’account di Harrigan è andato giù, Ivonne Sanchez, che gestisce una clinica di trucco permanente a Ottawa, ha scoperto che anche i suoi annunci erano stati bloccati, perché ciò che Facebook ha detto era una “violazione delle norme”. La sua attività, che ha dovuto chiudere tra marzo e giugno a causa della pandemia, faceva affidamento su Facebook per riprendersi finanziariamente. L’account è stato ripristinato il giorno successivo senza spiegazioni, ma “nel mezzo di una stagione di acquisti cruciale, ci ha lasciato scossi”, ha detto. “Questa esperienza ci rende molto nervosi all’idea di investire dollari in un sistema apparentemente gestito da un bot.”

“È appena esploso. Di recente hanno attivato l’intelligenza artificiale – qualcuno ha cambiato qualcosa – e all’improvviso tutti sono stati chiusi. ” – Justin Brooke, fondatore di Adskills.com

Anche se un account pubblicitario viene ripristinato, le aziende perdono slancio cruciale. L’algoritmo pubblicitario di Facebook impiega un paio di settimane per capire quali utenti potrebbero essere interessati a un annuncio, per perfezionare il targeting. Jessica Grossman, amministratore delegato della società di marketing digitale In Social , ha affermato che quando i suoi clienti vengono colpiti, la parte più difficile è dire loro che le loro campagne devono ricominciare da capo e che i loro soldi non andranno così lontano.

“Facebook quasi non si rende conto dell’impatto del proprio algoritmo e di cosa ciò significhi”, ha detto Grossman. Non sembrava esserci alcuna logica nei divieti di account imposti ai clienti di In Social, ha aggiunto. Una società di distributori automatici di pizza , una società di bottiglie d’acqua riutilizzabili , un servizio di consegna di caffè , un business coach e un’azienda di tessitura dei capelli sono state tutte sospese.

“Sappiamo che può essere frustrante sperimentare qualsiasi tipo di interruzione dell’attività, soprattutto in un momento così critico dell’anno”, ha affermato Facebook in una nota. “Sebbene offriamo supporto gratuito a tutte le aziende, lavoriamo regolarmente per migliorare i nostri strumenti e sistemi e per rendere il supporto che offriamo più facile da usare e accedere. Ci scusiamo per gli eventuali disagi causati da recenti interruzioni. “

Errori di automazione

Facebook ripristina migliaia di post dopo averli scambiati per incitamento all’odio

Fonte: rapporti sull’applicazione degli standard della comunità di Facebook

Nota: Facebook ripristina i contenuti che rimuove in modo errato o quando le circostanze cambiano.

Facebook spesso sollecita il suo impegno per le piccole imprese, poiché difende la sua presa sempre più ampia sul loro futuro economico. In una recente chiamata sugli utili , il CEO Mark Zuckerberg ha affermato che questo è un “obiettivo principale” che è “più importante ora che mai” poiché Covid-19 sposta il commercio online. Durante un boicottaggio pubblicitario di luglio da parte di grandi marchi, le entrate di Facebook sono ancora cresciute, sostenute da piccole imprese che si precipitano online per cercare di sopravvivere. La società ha aggiunto quest’anno più strumenti per le piccole imprese da vendere direttamente ai clienti attraverso il suo sito, sperando che anche questi negozi virtuali diventino inserzionisti .

Ma mentre gli imprenditori concordano sul fatto che Facebook è un’ancora di salvezza durante la pandemia, dicono che è anche un partner inaffidabile. Il divieto di Facebook sugli annunci politici durante le elezioni negli Stati Uniti, ad esempio, ha colpito le aziende che non hanno alcun legame con la politica, come un’azienda che vende braccialetti a beneficio dei rifugiati. Una società di semi è stata anche bloccata per aver condiviso una foto delle cipolle di Walla Walla – che erano ” apertamente sessuali “, secondo l’intelligenza artificiale di Facebook.

Le politiche dell’azienda contro le criptovalute spesso intrappolano gli annunci di un’azienda di tetti solari, Human SOLR , perché alcuni degli acronimi utilizzati dall’azienda sono simili ai token di criptovaluta. Dopo che il problema è stato risolto, gli annunci di Human SOLR sono stati nuovamente vietati per l’utilizzo di frasi come “vedi se il tuo tetto è idoneo”. Il software di Facebook ha intuito che la società vendeva prodotti finanziari, che sono più regolamentati. Dopo un numero sufficiente di flag sull’account, Brett Lee, che gestisce l’attività, ha rinunciato agli annunci di Facebook. “La mia attività è a un punto morto”, ha detto Lee, con sede a St. George, Utah. “Le vite dei miei dipendenti sono a un punto morto.”

Secondo il proprietario George Fourkas, GFP Delivered, un’azienda di produzione con sede a Chicago che pubblicizzava un modo in cui le persone potevano evitare il negozio di alimentari durante il Covid-19, ha chiuso i suoi annunci su Facebook per due mesi senza una chiara spiegazione. Ha detto che è stato in grado di risolvere il problema solo dopo aver contattato i vecchi amici del college che lavorano su Facebook.

Yaniv Gershom , co-fondatore della società di marketing digitale 4AM Media, ha affermato di aver dovuto tagliare 12 posti di lavoro in parte a causa dei divieti dell’account pubblicitario di Facebook, che sono durati quasi sei mesi. “Non ti danno alcun feedback”, ha aggiunto. “Le uniche persone che stanno bene sono gli enormi spendaccioni che ottengono un rappresentante di Facebook che può aumentare i problemi e scoprire cosa c’è che non va”.

In alcuni casi, l’impatto sul business è difficile da quantificare. Matt Snow, co-fondatore di un’azienda di abbigliamento chiamata Boredwalk , ha affermato che i sistemi automatizzati di Facebook hanno inavvertitamente segnalato il 40% del catalogo di prodotti della sua azienda come non sicuro alla fine del mese scorso. Ciò ha lasciato Snow che puntava i prodotti sbagliati ai potenziali clienti. Alla fine ha notato e risolto rapidamente il problema con un responsabile delle vendite di Facebook, ma Snow non sa per quanto tempo i prodotti sono stati vietati, o anche quali altri articoli venivano pubblicizzati al loro posto. “Facebook è una scatola molto nera su tutte le loro macchinazioni interne”, ha detto.

Facebook ha automatizzato la moderazione dei contenuti per anni, una transizione che evidenzia in un rapporto trimestrale che descrive in dettaglio la quantità di contenuti rimossi dall’azienda. In categorie più sfumate come “incitamento all’odio”, Facebook ha rimosso automaticamente quasi il 95% dei post in violazione nel terzo trimestre, rispetto al solo 53% di due anni fa.

Ma quell’aumento arriva con più correzioni. Facebook ha rimosso 22 milioni di post per incitamento all’odio nel terzo trimestre, più di 3 volte rispetto all’anno precedente. Il numero di post che ha successivamente ripristinato è aumentato del 40%.

Anche fare appello a queste decisioni spesso automatizzate è diventato molto più difficile. “A causa di una temporanea riduzione della nostra capacità di revisione a causa del Covid-19, non potevamo sempre offrire ai nostri utenti la possibilità di presentare ricorso”, ha scritto Facebook nel suo rapporto del terzo trimestre.

Gli inserzionisti sono stati particolarmente colpiti da queste decisioni automatizzate negli ultimi mesi. “È appena esploso. Recentemente hanno scoperto l’intelligenza artificiale – qualcuno ha cambiato qualcosa – e all’improvviso tutti hanno chiuso “, ha detto Justin Brooke, fondatore di Adskills.com, che insegna alle aziende come fare marketing su Facebook. “Cosa faranno queste piccole imprese? Hanno famiglie da sfamare “.

Uno degli annunci di Facebook di Brooke ha un piccolo disclaimer scritto che dice che non era aperto a coloro che cercavano di vendere contenuti per adulti. Questo è stato segnalato e rimosso. La spiegazione automatizzata di Facebook? Il post non ha seguito gli standard della comunità dell’azienda su “nudità / attività sessuale”.

La reazione eccessiva da parte dell’IA di Facebook è un effetto collaterale della società che si assume maggiori responsabilità per i contenuti sulla sua piattaforma, secondo Guy Rosen, vice presidente dell’integrità di Facebook. “Man mano che intraprendiamo più azioni, rimuoviamo più contenuti, ci sono più opportunità anche per coloro che sono in errore”, ha detto durante una recente conferenza stampa.

Questo è ciò che è stato detto a Harrigan di HoneyGramz che è successo al suo account. Alla fine è diventata abbastanza disperata per i nomi di Google dei dipendenti di Facebook che potrebbero aiutare. Ha trovato Rob Leathern, il direttore dei prodotti pubblicitari dell’azienda, e gli ha inviato un messaggio su Twitter. Miracolosamente, ha risposto. Poche ore dopo, Facebook ha inviato un’e-mail per ripristinare il suo account.

“Hanno appena detto che l’hanno spento per errore”, ha detto Harrigan. “Non mi hanno dato alcun feedback. Hanno semplicemente resettato l’intera cosa come se non fosse mai successo. “

Ma Harrigan non dimenticherà. Ha stampato l’e-mail e l’ha appuntata sulla lavagna del suo ufficio. “E ‘stato davvero, davvero spaventoso”, ha detto.