Toloka, ecco cosa c’è dietro la macchina della repressione di Putin

“Ci sono molte cose che i computer non sanno fare, ma che agli umani riescono benissimo”. Addestrare le macchine a farle è il compito di Toloka. Una piattaforma digitale che ingaggia lavoratori temporanei a basso costo “per far avanzare le tecnologie di cui ti servi ogni giorno”. Compiti semplici da eseguire quando si desidera. Basta uno smartphone, una connessione a internet e del tempo libero. Classificare immagini, identificare oggetti, creare testi, analizzarne il tono emotivo, trascrivere o registrare audio, ma anche attività offline come raccogliere informazioni su esercizi commerciali, controllare l'esposizione dei prodotti sugli scaffali o monitorare l’andamento dei prezzi: queste sono alcune delle cose che un toloker - l'utente della app di gig economy digitale - può essere chiamato a fare.

Ma tra i compiti da svolgere, ce ne sono altri non proprio in linea con il codice etico “rispettoso di privacy e dati personali” millantato dall’app. Tra il 2019 e il 2023, come riportato da TBIJ, Toloka (registrata come tre società separate nei Paesi Bassi, Svizzera e Russia, tutte filiali del colosso tecnologico russo Yandex NV, anch’esso con sede nei Paesi Bassi) ha reclutato lavoratori per le russe Tevian e NTechLab per migliorare i loro software di identificazione, alla base dei pervasivi sistemi di videosorveglianza voluti dal Cremlino. I due programmi di riconoscimento facciale necessitano, infatti, di immensi database di immagini per allenarsi a etichettare e individuare, in modo automatico, i modelli nella geometria dei volti.

In una classica attività di raccolta dati, NTechLab ha richiesto a persone di etnia "afro, latina, asiatica" provenienti da India, Turchia, Pakistan e Bangladesh di farsi dei selfie, offrendo 0,50 dollari per cinque scatti. Questo, perché i set di dati esistenti sono più spostati “verso il bianco” e i software di riconoscimento facciale, di conseguenza, hanno prestazioni inferiori su volti non bianchi, su cui hanno ancora bisogno di essere “allenati”.

La società tech, controllata dal conglomerato russo della difesa statale Rostec, ha anche ingaggiato toloker per “disegnare rettangoli su dei corpi umani” presenti in alcune foto scattate da una telecamera a circuito chiuso di una palestra in Russia, in cui si vedono giovani ragazze in body sdraiate sul pavimento durante quella che sembra una lezione di ballo.

Al di là della possibile violazione dei diritti dei soggetti ritratti, a sollevare interrogativi è il fine per cui vengono utilizzate le immagini svendute online per pochi soldi. I dati raccolti da OVD-Info rilevano che, nel 2022, 141 persone sono state arrestate preventivamente sfruttando il sistema di riconoscimento facciale, che ha avuto poi un picco di utilizzo subito dopo la morte di Navalny, con 19 casi di arresto nel solo mese di marzo 2024 (tutti dopo aver partecipato al funerale del dissidente russo). Nel luglio 2023 NTechLab è stata sanzionata dall’Unione Europea per aver contribuito tramite il suo programma di identificazione alla cattura arbitraria di disertori e oppositori russi alla guerra in Ucraina.

Non solo. Secondo i documenti rivelati tramite Kremlin Leaks, l’ufficio presidenziale di Putin si vorrebbe servire proprio del software di NTechLab, che sfrutta i potenti chip della statunitense Nvidia, in un progetto top secret per un "Centro di elaborazione dei flussi video", che sincronizzerà tutte le telecamere regionali esistenti, implementando su scala nazionale la macchina di sorveglianza e repressione del dissenso messa a punto nella capitale.

E per riuscirci entro il 2026, il Cremlino avrebbe stanziato 11,2 miliardi di rubli (oltre 111 milioni di euro). La sede operativa del sistema verrà ospitata presso GlavNIVTS: il principale centro di ricerca e dati dell'amministrazione presidenziale, guidato da ex personale dell'intelligence. Da lì, poi, partirebbe un massiccio apparato di sorveglianza basato sull’intelligenza artificiale in grado, grazie alle centinaia di migliaia di telecamere disseminate negli spazi pubblici, di tracciare i cittadini in tempo reale, registrando ogni loro singolo movimento.