Abbiamo più volte parlato delle potenzialità dell’intelligenza artificiale che, in un futuro, potrebbe contribuire a snellire, semplificare e rendere più efficienti le Operations.
L’approccio che generalmente viene adottato oggi è quello informativo: si utilizza l’intelligenza artificiale per acquisire informazioni e supportare le decisioni.
Tuttavia, come spiega bene questo articolo di McKinsey segnalato da Alessandro Pepe, (Why agents are the next frontier of generative AI), la prossima frontiera è quella degli “agenti”, soprattutto nel settore finanziario, che fanno leva sull’AI per eseguire attività operative.
I punti salienti dell’articolo sono:
- Evoluzione dell’IA Generativa: La tecnologia sta passando da strumenti basati sulla conoscenza a sistemi di “agenti” che possono eseguire flussi di lavoro complessi.
- I sistemi di “Agenti”: Questi sistemi possono pianificare azioni, utilizzare strumenti online, collaborare e migliorare le loro prestazioni, agendo come colleghi virtuali qualificati.
- Applicazioni Potenziali: Gli “agenti” possono automatizzare casi d’uso complessi in vari settori, come la preparazione di memorie di rischio creditizio, la modernizzazione di software legacy e la gestione di campagne di marketing online.
- Sfide e Opportunità: Sebbene la tecnologia sia ancora agli inizi, gli investimenti stanno crescendo rapidamente. Le aziende devono prepararsi per l’integrazione di questi sistemi.
Abbiamo quindi a disposizione una squadra di agenti, chiamiamoli “007”, che non raccolgono solo informazioni, ma che hanno anche la “licenza di eseguire”, quanto meno le attività a basso valore aggiunto. E’ un passo significativo che va attentamente gestito e governato. Per questo motivo è necessario che gli “007” vengano correttamente addestrati, presidiando alcuni rischi:
- Privacy e Utilizzo dei Dati: Gli agenti AI richiedono grandi quantità di dati per funzionare efficacemente. Garantire la privacy e la sicurezza di questi dati è cruciale per evitare violazioni e abusi.
- Pregiudizi e Inclusività: Gli algoritmi di AI possono riflettere i pregiudizi presenti nei dati di addestramento. Questo può portare a decisioni discriminatorie e non inclusive.
- Allucinazioni: Gli agenti AI possono generare risposte errate o fuorvianti, note come “allucinazioni”. Questo è particolarmente problematico in contesti critici come la sanità o la finanza.
- Interpretabilità: Spesso è difficile comprendere come un agente AI arriva a una determinata decisione. Questa mancanza di trasparenza può ostacolare la fiducia e l’adozione della tecnologia.
- Sicurezza: Gli agenti AI possono essere vulnerabili a attacchi informatici. Garantire la sicurezza dei sistemi AI è essenziale per prevenire manipolazioni e danni.
- Etica: L’uso di agenti AI in contesti sensibili, come le decisioni militari o diplomatiche, solleva questioni etiche significative. È importante valutare attentamente i rischi e le implicazioni morali prima di implementare tali tecnologie.
E’ utile avere una squadra di agenti che fa il lavoro operativo, ma, come spesso succede nei film, è fondamentale evitare una deriva nei comportamenti che porterebbe a conseguenze disastrose.
Maurizio Petronzi
OPScogito 