Il mese scorso Dan Pritchett, Principal Software Engineer di Google Maps ha pubblicato un articolo sul blog ufficiale di Google, spiegando come Google  nel 2020 si è impegnato a contrastare le recensioni fasulle e altri abusi e illustrando i risultati ottenuti.

Dal 2010 Google accetta i contenuti inviati dagli utenti e da allora più di 970 milioni di persone hanno aggiornato Google Maps pubblicando recensioni, foto, valutazioni e informazioni come indirizzi e orari di apertura.
Questi contributi consentono a Google Maps di restare aggiornato e sono importantissimi per fornire informazioni utili e affidabili alle persone.

Purtroppo esistono anche "utenti cattivi" che, per diversi motivi, provano a pubblicare contenuti inappropriati.

Come Google individua gli "utenti cattivi"

Gli utenti cattivi cercano di fuorviare le persone con diverse tecniche: da recensioni false che criticano senza fondamenti un'azienda a valutazioni non autentiche che aumentano la reputazione di un luogo.

Google non descrive pubblicamente in quali modi contrasta i contenuti falsi per evitare che i truffatori possano trarre indicazioni su come aggirare i sistemi di verifica e approvazione.

Il grosso lavoro è fatto da algoritmi di apprendimento automatico che analizzano milioni di contributi giornalieri. Questi algoritmi rilevano e rimuovono i contenuti che violano le norme e scansionano anche segnali di attività anormale degli utenti. Ad esempio, possono rilevare se un nuovo account Google Maps aperto in una determinata città lascia improvvisamente recensioni negative o valutazioni a 1 stella su attività molto distanti. Il contenuto che viola le norme viene rimosso dai modelli automatizzati o contrassegnato per un'ulteriore revisione, insieme all'account utente.

Sono presenti anche migliaia di operatori e analisti qualificati che aiutano con le valutazioni dei contenuti che potrebbero essere difficili per gli algoritmi, come la comprensione delle recensioni nello slang locale.

Chi sono gli "utenti cattivi" e come possono essere fermati?

Le protezioni e il team di verifica sono in grado di riconoscere due tipi di "utenti cattivi": i truffatori di contenuti e i vandali di contenuti.

I truffatori sono motivati ​​dal denaro e cercano di ingannare le persone con recensioni false per attirare clienti o inserzioni false per generare lead. Per scoraggiarli, Google rimuove preventivamente le opportunità per loro di trarre profitto da contenuti falsi.
Grazie a un migliore rilevamento dell'attività della click farm, è sempre più difficile pubblicare contenuti falsi a basso costo, il che alla fine rende più difficile per una click farm vendere recensioni e guadagnare.

Poi ci sono i vandali di contenuto, che possono essere motivati ​​da eventi sociali e politici o semplicemente vogliono lasciare il segno online. Ad esempio, pubblicano recensioni false o modificano i nomi dei luoghi per inviare un messaggio e aggiungono foto fuori tema come scherzi.

Il vandalismo sui contenuti può essere più difficile da affrontare poiché spesso è casuale. Ad esempio, un adolescente che pubblica una foto fuori tema nella scheda della sua scuola su Maps per scherzo o qualcuno che ha lasciato parolacce in una recensione senza senso.

Ostacolare i vandali di contenuto si riduce all'anticipazione e alla reazione rapida. Man mano che i luoghi diventano più inclini al vandalismo, Google adegua le difese. Ad esempio, l'anno scorso gli algoritmi sono stati tempestivamente aggiornati per bloccare preventivamente le recensioni razziste non appena si è potuta osservare la xenofobia anti-cinese associata a COVID-19. Inoltre, per evitare la diffusione di informazioni errate relative alle elezioni, è stata limitata la possibilità per le persone di modificare i numeri di telefono, gli indirizzi e altre informazioni per luoghi come i siti di voto.

I progressi di Google Maps nella lotta ai contenuti indesiderati

Con l'aiuto di persone e tecnologie che monitorano da vicino Maps 24 ore su 24, 7 giorni su 7, solo nel 2020 Google ha intrapreso le seguenti azioni per garantire contenuti affidabili su Google Maps:

• Bloccato o rimosso 55 milioni di recensioni che violano le norme e quasi 3 milioni di profili aziendali falsi.
  
  
• Raccolto più di 960.000 recensioni e più di 300.000 profili aziendali segnalati dagli utenti di Google Maps.
  
  
• Esaminato e rimosso più di 160 milioni di foto e 3,5 milioni di video che violavano le nostre norme o erano di bassa qualità.
  
  
• Disabilitato più di 610.000 account utente dopo aver rilevato e indagato su comportamenti sospetti o che violano le norme.
  
  
• Bloccato più di 3 milioni di tentativi da parte di malintenzionati di verificare i profili aziendali su Google che non appartenevano a loro.