Algoritmi e salute mentale: siamo davvero liberi di scegliere cosa vedere online?

L’universo digitale offre numerose opportunità per la connessione e l’intrattenimento; tuttavia rappresenta anche un insieme complesso di ripercussioni inattese sul benessere psicologico degli individui. In questo contesto intricante emergono preminenti gli algoritmi di raccomandazione, strumenti impercettibili che modificano continuamente la nostra interazione con il web—dai social network ai servizi video on demand. Mentre tali algoritmi possono facilitare un’esperienza utente più coesa attraverso l’ampia varietà dei contenuti disponibili, suscitano al contempo dubbi significativi circa il loro impatto sulla salute mentale degli utenti; questo è particolarmente evidente riguardo all’esposizione a materiali potenzialmente dannosi dal punto di vista dell’ansia o della depressione.

Studi recenti e nuove disposizioni legislative provenienti dall’Europa stanno finalmente facendo chiarezza su queste questioni spinose; ciò incita le maggiori compagnie del settore tecnologico verso una rinnovata trasparenza e responsabilità. In aggiunta a ciò, l’incessante crescita delle reti sociali digitali insieme alla loro penetrazione nei dibattiti pubblici ha attirato in modo significativo l’attenzione dei regolatori sulle strutture operative sottostanti questi sistemi complessi.

Nel cuore di questa discussione si colloca il Digital Services Act (DSA), una normativa che aspira a trasformare il web in un luogo più sicuro e meno opaco. Il DSA impone alle piattaforme digitali, in particolare quelle di grandi dimensioni (le cosiddette VLOPs e VLOSEs, che superano i 45 milioni di utenti attivi), di valutare e mitigare i rischi derivanti dall’utilizzo dei loro algoritmi. Un aspetto particolarmente preoccupante riguarda l’impatto su minori e individui vulnerabili, che possono essere spinti verso comportamenti pericolosi o esposti a contenuti dannosi per il loro benessere psicologico.

La Commissione Europea, con la richiesta di informazioni avanzata a colossi come YouTube, TikTok e Snapchat nell’ottobre 2023, ha evidenziato la gravità di queste preoccupazioni. Le richieste riguardano specificamente i parametri utilizzati dagli algoritmi per suggerire contenuti e il loro potenziale ruolo nell’amplificare i rischi sistemici. Le piattaforme sono state chiamate a rispondere entro il 15 novembre 2023, con la possibilità di sanzioni significative in caso di omissioni o informazioni fuorvianti.

Il caso Mediaset Infinity: un approccio “fatto in casa” e le sue implicazioni

Anche le piattaforme di streaming, come Mediaset Infinity, sono parte integrante di questo ecosistema digitale e, pur non rientrando tra le VLOPs indagate dalla Commissione UE, utilizzano algoritmi di raccomandazione per proporre contenuti agli utenti. L’esperienza di Mediaset, rivelata nel febbraio 2023, evidenzia una scelta interessante e potenzialmente innovativa: quella di sviluppare un sistema di raccomandazione proprietario, anziché affidarsi a soluzioni esterne. Come dichiarato dal direttore marketing strategico di Mediaset, Federico Di Chio, l’intento è stato quello di “mettere mano” all’algoritmo, portando all’interno dell’azienda nuove professionalità, dai data scientist ai team editoriali, con lo scopo di affinare il sistema e ridurre il tempo di ricerca dei contenuti per gli utenti.

Il funzionamento di questo algoritmo proprietario si basa su un vasto database contenente quasi 19.000 schede di contenuti, descritte in maniera granulare per permettere molteplici opzioni di personalizzazione. L’algoritmo effettua un “matching” dei metadati basandosi su temi e parole chiave, ma la selezione viene poi “aggiustata” dall’intervento umano della redazione, in un tentativo di migliorare ulteriormente il processo di selezione.
Questa scelta di Mediaset di gestire internamente il proprio algoritmo, se da un lato offre un maggiore controllo sulla personalizzazione dell’esperienza utente, dall’altro solleva interrogativi sulla responsabilità intrinseca di tale sistema. Nel contesto del DSA, che nel febbraio 2024 ha esteso la sua applicazione anche alle piattaforme con meno di 45 milioni di utenti attivi, la trasparenza sui parametri degli algoritmi diventa un requisito fondamentale.

Algoritmi e salute mentale: un nesso sempre più evidente

Il legame fra una fruizione intensa delle piattaforme digitali e il conseguente aumento delle problematiche attinenti alla salute mentale – con particolare riferimento a ansia e depressione – rappresenta un argomento d’importanza crescente nel panorama contemporaneo; esso alimenta un incessante dibattito accademico supportato da innumerevoli indagini. Anche se non sempre si riesce a chiarire in modo incontrovertibile la relazione causale diretta fra queste variabili, la connessione manifestata risulta ormai notevole e inquietante.

Secondo le statistiche fornite dall’ISTAT, si evince che più del 40% dei bambini appartenenti alla fascia d’età compresa fra sei e dieci anni accede quotidianamente a Internet; inoltre, una percentuale superiore al 90%, relativa ai ragazzi dai dodici ai diciassette anni, compie tale operazione su base regolare. Sorprendente appare altresì il dato secondo cui oltre uno su tre nella fascia degli undici-tredici anni detiene almeno uno spazio virtuale sui social network; pratica frequentemente accompagnata dalla diffusione volontaria dell’utilizzo di informazioni errate riguardanti le proprie età anagrafiche con lo scopo esplicito di evitare vincoli normativi.

Un’indagine recente condotta dal governo britannico ha messo in luce come gli algoritmi delle piattaforme social tendano a potenziare testi caratterizzati da messaggi misogini o volti all’oggettificazione femminile. Infatti, è emerso con chiarezza che il meccanismo utilizzato da TikTok presenta vulnerabilità capaci di esporre le fasce giovanili a materiali dannosi per la loro psiche – quali istigazioni all’autolesionismo o processi di radicalizzazione ideologica. Questi algoritmi, che non solo analizzano le attività passate degli utenti, ma anche le preferenze di visualizzazione, contribuiscono a un “rabbit hole effect”, spingendo gli utenti verso contenuti più estremi e fuorvianti.

L’uso dei social media per oltre tre ore al giorno è stato associato, in uno studio condotto negli Stati Uniti su oltre 6.000 adolescenti, a un maggiore rischio di problemi di salute mentale. L’influenza degli algoritmi è qui un fattore chiave: sono progettati per massimizzare l’engagement, proponendo incessantemente contenuti che attraggono e coinvolgono, spesso basandosi su meccanismi di rilascio di dopamina che possono creare una vera e propria dipendenza.

La Società Italiana di Pediatria ha più volte raccomandato di limitare l’esposizione ai dispositivi digitali per i bambini sotto i 2 anni e di ridurla a meno di un’ora al giorno per i bambini tra i 2 e i 5 anni. Le bolle informative create dagli algoritmi, dove gli utenti sono esposti solo a contenuti che confermano le loro convinzioni, possono favorire la polarizzazione e la diffusione di disinformazione, esacerbando sentimenti di ansia e impotenza di fronte a notizie di crisi globali.

Un futuro consapevole per la navigazione digitale

In un’era dove la nostra vita è sempre più intessuta di interazioni digitali, l’imperativo di una navigazione più consapevole e sicura diventa impellente. L’introduzione del DSA in Europa e il dibattito globale sull’IA Act, che pur classificando i sistemi di raccomandazione come “a rischio limitato”, testimoniano una crescente consapevolezza dei pericoli.

Il messaggio dell’UE è inequivocabile: i giganti tecnologici non sono più liberi di operare senza considerare le implicazioni sociali dei loro algoritmi. La comprensione del funzionamento degli algoritmi di raccomandazione, spesso percepiti come “scatole nere”, riveste un’importanza cruciale e immediata, poiché tali sistemi esercitano un’influenza notevole sulla vita degli utenti, e decifrarne la logica è indispensabile per mitigarne i risvolti negativi.

Le aziende fornitrici di piattaforme digitali devono abbandonare l’idea che la conformità normativa sia un mero onere, bensì abbracciarla come una componente essenziale per un percorso di innovazione sostenibile. Investire in procedure di governance interna e audit periodici sugli algoritmi di raccomandazione è cruciale per prevenire la manipolazione cognitiva, la diffusione di disinformazione e la formazione di bolle informative.

È evidente che, sebbene i social media possano offrire anche risorse positive, come reti di supporto, il loro design algoritmico richiede una vigilanza costante e proattiva per mitigarne i rischi. Siamo davvero i navigatori liberi che crediamo di essere, o siamo piuttosto passeggeri su navi che, pur promettendoci destinazioni meravigliose, seguono rotte prestabilite da bussole invisibili?

Forse è tempo di riprendere in mano il timone della nostra esperienza digitale, non solo per noi stessi, ma per le generazioni a venire.