La notizia è certa e confermata da fonti molto ben accreditate: papa Leone è fortemente impegnato nella scrittura della sua prima enciclica sull’inquietante tema dell’Intelligenza Artificiale (IA) Agentica (e naturalmente in prospettiva dell’IA generale). È facile immaginare che la sfida si giochi soprattutto sul piano teologico-filosofico. Anche se quasi tutti fissano l’attenzione sui piani tecnico-scientifici ed economico-sociali, che sono certamente rilevanti, ma non fondamentali.
Anche Papa Francesco aveva avviato una riflessione profonda sul tema. Il 14 gennaio 2025 la Santa Sede pubblicava la Nota Antiqua et Nova dei Dicasteri della Dottrina della Fede e della Cultura e l’Educazione, proprio sul rapporto tra intelligenza artificiale e intelligenza umana. Un documento che prima ancora di dare risposte dice che questo è il tempo di farsi delle domande.
Ma cosa significa “IA agentica”, quella sulla quale Papa Leone riflette e intende intervenire? L’IA-agentica è una forma avanzata di intelligenza artificiale incentrata sull’autonomia nel processo decisionale e nell’azione. A differenza dell’IA tradizionale, che risponde principalmente ai comandi o analizza i dati, l’IA agentica può fissare obiettivi, pianificare ed eseguire attività, con un intervento umano minimo e anche assente. Questa tecnologia emergente ha il potenziale per rivoluzionare vari settori automatizzando processi complessi e ottimizzando i flussi di lavoro, ma anche di agire “in libertà”. È di fatto un ciclo continuo di percezione, pianificazione, azione e riflessione. Raccoglie informazioni
dall’ambiente circostante e da diverse fonti, come sensori, database e interfacce (testi, immagini…). Tutto ciò che in qualche modo aiuta a comprendere la situazione. Poi analizza i dati raccolti per comprendere il contesto, identificare le informazioni pertinenti e formulare potenziali soluzioni. Una volta raccolte le informazioni sviluppa un piano. Fatto il piano passa all’azione (esecuzione di attività, l’assunzione di decisioni o l’interazione con altri sistemi). Sulle cose fatte apprende e migliora, imparando dagli errori. È la nuova frontiera dell’intelligenza artificiale che passa da una semplice generazione di contenuti all’azione autonoma.
I pericoli nell’uso di IA agentica sono evidenti, poiché può prendere decisioni che hanno un impatto significativo sulla vita delle persone. Ciò può includere la gestione di potenziali “errori” o “pregiudizi” nei dati o negli algoritmi, che potrebbero portare a risultati ingiusti o discriminatori.
Ad esempio, se IA è utilizzata come strumento di guerra, chi determinerà chi sono i veri nemici?
Magari i bambini, potenziali nemici di domani?
L’IA Agentica solleva problemi etici legati alla sua autonomia, tra cui il vuoto di responsabilità in caso di errori, la mancanza di trasparenza, la amplificazione di pregiudizi nei dati e rischi di sicurezza per azioni impreviste.
La priorità etica è garantire il controllo umano e l’allineamento ai valori umani.
