L’Intelligenza Artificiale e il vincolo umano: perché la sicurezza parte dai programmatori.
L' evoluzione dell'Intelligenza Artificiale prosegue a ritmi vertiginosi, ma di fronte a tanto entusiasmo è doveroso soffermarsi su alcuni nodi critici legati alla sua reale affidabilità e sicurezza. Per quanto un'IA possa sembrare avanzata, allo stato attuale presenta limiti strutturali evidenti: non possiede una reale consapevolezza dei propri errori, non impara da essi in modo autonomo nel senso profondo del termine e non è in grado di interrompere da sola procedure potenzialmente invasive o dannose quando qualcosa non va. Senza questi meccanismi di autoverifica e di segnalazione immediata ai propri sviluppatori, l'impiego dell'IA in ambiti critici o complessi comporta rischi notevoli. Il pericolo non risiede tanto nella "macchina" in sé, quanto nella possibilità che errori strategici o manipolazioni della realtà vengano amplificati senza alcun controllo interno. È qui che entra in gioco il ruolo insostituibile dei programmatori e dei ricercatori....
