AI Act, cinque rischi nell’uso dell’IA per valutare talenti

AI Act, cinque criticità nell’uso dell’intelligenza artificiale per la valutazione delle competenze

L’entrata in vigore dell’AI Act dell’Unione Europea impone alle organizzazioni di garantire la piena conformità dei sistemi di intelligenza artificiale impiegati nei processi di selezione, promozione e valutazione del personale. Il regolamento classifica questi sistemi come “ad alto rischio”, introducendo obblighi tecnici, di governance e di supervisione che stanno già modificando l’approccio delle aziende all’utilizzo dell’IA nelle decisioni lavorative. A intervenire sul tema è BTS, società di consulenza globale specializzata in strategia, leadership e trasformazione aziendale, che ha individuato cinque pratiche a rischio diffuse nelle organizzazioni.

Le sanzioni previste per le pratiche non conformi sono severe: si arriva fino a 35 milioni di euro o al 7% del fatturato globale annuo nel caso di pratiche vietate, mentre per le violazioni relative agli obblighi aggiuntivi le penali possono raggiungere i 15 milioni di euro o il 3% del fatturato.

“L’EU AI Act segna un punto di svolta per tutte le organizzazioni che utilizzano l’IA per la gestione delle risorse umane. A quasi due anni dall’entrata in vigore del regolamento molte aziende adottano sistemi di IA classificati ‘ad alto rischio’, privilegiandoli rispetto alla supervisione umana, senza tracciabilità e ignorando completamente i rischi che certi sistemi rappresentano alla luce del nuovo quadro regolatorio”, afferma Francesco Fanelli, Managing Director e VP Italia di BTS.

Le cinque aree di rischio individuate da BTS

Sulla base dei requisiti dell’AI Act e degli standard professionali del settore, BTS ha identificato cinque “red flag” che le aziende dovrebbero verificare con attenzione nei propri sistemi e fornitori di intelligenza artificiale.

1. Intuire emozioni, stress o sincerità tramite video o voce

L’AI Act vieta espressamente qualsiasi tecnica che tenti di valutare emozioni, onestà, stress, stabilità emotiva o tratti della personalità attraverso la voce, il volto o dati biometrici. Il divieto nasce dall’evidenza scientifica secondo cui queste valutazioni risultano spesso imprecise e distorte, con il rischio concreto di generare decisioni ingiuste a danno dell’equità e dell’inclusione.

«Le aziende che ricorrono a queste pratiche si espongono a pesanti sanzioni economiche, per non parlare dei gravi rischi reputazionali e delle controversie legali derivanti dalla discriminazione sul lavoro. Inoltre, queste tecniche possono generare sfiducia tra i dipendenti e i candidati, con ripercussioni sull’employer branding e sulla capacità di attrarre talenti», dichiara Fanelli.

2. Automatizzare le decisioni senza un’effettiva supervisione umana

Rientrano nella zona di rischio anche i sistemi che filtrano i candidati, assegnano punteggi o prendono decisioni senza un controllo umano reale. L’AI Act richiede infatti una supervisione attiva, con la possibilità concreta di rivedere, correggere e convalidare i risultati prodotti dalla tecnologia.

L’assenza di una revisione effettiva aumenta il rischio di errori sistematici, pregiudizi involontari e decisioni ingiuste, con conseguenze dirette sulla diversità e sulle pari opportunità all’interno dell’organizzazione. Secondo BTS, la supervisione umana rappresenta anche un elemento chiave per soddisfare i requisiti delle verifiche normative.

3. Utilizzo di dati storici che alimentano pregiudizi o discriminazioni

I dataset storici, se non sottoposti a revisione rigorosa, rischiano di replicare disuguaglianze preesistenti, discriminando in base a genere, età, etnia o livello di istruzione. L’AI Act richiede analisi continue dei dati per dimostrarne la rappresentatività rispetto a tutti i gruppi demografici rilevanti.

Questo comporta l’esecuzione di analisi dell’impatto avverso e test sui pregiudizi prima dell’implementazione di qualsiasi sistema di intelligenza artificiale. Ignorare questo passaggio può invalidare i risultati dei sistemi e innescare controversie legali oltre a danni reputazionali, sia nei processi di selezione che in quelli di promozione, retrocessione o mobilità interna.

4. Assenza di tracciabilità, log e documentazione tecnica completa

Le organizzazioni devono conservare registri completi delle decisioni, metriche di accuratezza, parametri di robustezza e documentazione tecnica che spieghi il funzionamento dei modelli e la generazione dei risultati. L’assenza di tracciabilità ostacola le attività di audit e la possibilità di rilevare errori o bias, oltre a rendere difficile giustificare le decisioni davanti alle autorità di regolamentazione o ai tribunali.

Una documentazione dettagliata facilita inoltre il miglioramento continuo dei sistemi e permette alle aziende di adattarsi con maggiore agilità ai cambiamenti del quadro normativo.

5. Utilizzo di strumenti privi di chiari presupposti di validità o pertinenza con il ruolo

L’AI Act e gli standard professionali come il SIOP richiedono che ogni sistema di IA sia supportato da evidenze tecniche che dimostrino la capacità di misurare competenze effettivamente rilevanti per la posizione ricoperta. Ciò include studi di validità, analisi di correlazione con le prestazioni lavorative e coerenza dei risultati.

L’impiego di strumenti privi di queste evidenze mette a rischio la conformità legale e compromette la qualità dei processi decisionali, con la possibilità di generare errori nelle assunzioni o nelle promozioni. La validazione scientifica garantisce che l’IA contribuisca a decisioni giuste, obiettive e coerenti con gli obiettivi strategici dell’organizzazione.

Un’opportunità strategica oltre la conformità normativa

“L’implementazione responsabile dell’IA nella gestione del talento non è solo una questione di conformità normativa: è un’opportunità strategica per migliorare la qualità delle decisioni, minimizzare i pregiudizi e rafforzare la fiducia interna ed esterna. Le organizzazioni che sapranno identificare e mitigare queste cinque red flag saranno meglio posizionate per sfruttare l’IA in modo etico, efficiente e coerente con i propri obiettivi di business, evitando rischi regolatori e consolidando il proprio employer branding”, conclude Fanelli.