In un mondo sempre più dominato dalla tecnologia, l’Intelligenza Artificiale sta diventando una presenza costante nelle nostre vite. Ma mentre alcuni celebrano i progressi, altri lanciano allarmi preoccupanti. Jacob Coxon, ex ricercatore di Anthropic ha deciso di lasciare l’azienda perché convinto che la corsa all’IA stia procedendo troppo velocemente, mettendo a rischio il futuro dell’umanità.
La sua preoccupazione principale riguarda la possibilità che sistemi sempre più potenti e autonomi possano sfuggire al controllo umano. Coxon, che ha lavorato anche per OpenAI accusa i grandi laboratori di giocare d’azzardo con il futuro dell’umanità. Ma mentre Silicon Valley discute di super-intelligenza, una rivoluzione più silenziosa e inquietante è già in atto: l’IA sta smettendo di essere solo uno strumento per diventare una presenza costante nelle nostre vite.
La solitudine e il mercato dei chatbot
Nel 2025, l’Organizzazione mondiale della sanità ha stimato che una persona su sei nel mondo sperimenta la solitudine, con un’incidenza ancora maggiore tra adolescenti e giovani adulti. Secondo l’OMS la solitudine sarebbe associata a circa 871mila morti ogni anno. In questo contesto, i chatbot stanno emergendo come una soluzione per colmare questo vuoto emotivo.
Uno studio pubblicato ad agosto su Nature Human Behaviour condotto su 1.131 adulti americani che utilizzano Character.AI ha rilevato che gli utenti con reti sociali più ristrette erano più propensi a utilizzare il chatbot come compagnia. Tuttavia, l’uso orientato alla companionship risultava associato a un benessere inferiore, soprattutto quando le conversazioni diventavano intense e molto personali.
Le reazioni emotive agli aggiornamenti dei chatbot
Un altro studio ha analizzato le reazioni degli utenti di Replika e il passaggio di ChatGPT a GPT-5. I ricercatori hanno osservato autentiche reazioni di perdita quando aggiornamenti decisi dalle aziende modificavano il comportamento del chatbot. In alcuni casi, gli utenti descrivevano il rapporto con l’IA con livelli di vicinanza superiori a quelli riferiti per comuni relazioni umane.
L’allarme di Evan Hubinger
Evan Hubinger, responsabile dell’Alignment Science di Anthropic ha formulato un’inquietante stima: c’è una probabilità superiore al 10% che nel prossimo decennio l’Intelligenza Artificiale possa arrivare a uccidere tutti gli esseri umani. Hubinger ha scritto su X che crede davvero, sinceramente, che l’IA potrebbe uccidere tutti gli esseri umani.
Hubinger ha precisato che il suo allarme non riguarda direttamente i sistemi attualmente disponibili, ma la possibilità che emerga una superintelligenza attraverso un processo di auto-miglioramento ricorsivo. Questo sviluppo, secondo Hubinger, starebbe procedendo più rapidamente di quanto previsto. Il problema dell’alignment ovvero l’allineamento dell’IA agli obiettivi umani, rimane uno dei nodi centrali del dibattito sulla sicurezza dell’Intelligenza Artificiale.
La presa di posizione di Hubinger assume particolare rilievo perché proviene dall’interno di Anthropic un’azienda che sostiene di aver posto la sicurezza e il controllo dei sistemi avanzati al centro della propria strategia di ricerca. La sua dichiarazione arriva dopo le dimissioni di Jacob Coxon, che ha accusato le aziende impegnate nello sviluppo dell’IA di correre verso una superintelligenza capace di auto-migliorarsi senza disporre di garanzie sufficienti sulla sua sicurezza.
