Come l’Europa ha deciso di regolamentare e classificare i sistemi basati sull’intelligenza artificiale, in base al rischio, in particolare per il settore del recruiting.
Nella prima parte di questo approfondimento sull’AI Act abbiamo parlato degli obiettivi, dei livelli di rischio e dei limiti stabiliti per l’utilizzo di tecnologie potenziate con ‘Intelligenza Artificiale in diversi settori.
Ora, ci concentreremo sui software di HR per comprendere meglio le implicazioni specifiche di questa regolamentazione nell’ambito del recruiting. Analizzeremo cosa prevede l’AI Act per questo settore e come valutare la scelta di una soluzione conforme alle nuove direttive europee sull’IA.
Cosa prevede l’AI Act per il settore del recruiting
Con l’approvazione dell’AI Act da parte del Parlamento Europeo, i software di recruiting entrano ufficialmente nella categoria ad alto rischio di conformità.
In particolare, l’ambito delle Risorse Umane viene trattato tra i punti dell’Allegato 3, all’articolo 6, paragrafo 2: Lavoro, gestione dei lavoratori e accesso al lavoro autonomo.
In questo allegato sono definiti ad alto rischio:
- Sistemi di IA destinati ad essere utilizzati per il reclutamento o la selezione di persone fisiche, in particolare per inserire annunci di lavoro mirati, per analizzare e filtrare le domande di lavoro e per valutare i candidati;
- Sistemi di IA destinati a essere utilizzati per prendere decisioni che influiscono sulle condizioni dei rapporti di lavoro, sulla promozione o sulla cessazione dei rapporti contrattuali di lavoro, per assegnare compiti in base al comportamento individuale o a tratti o caratteristiche personali o per monitorare e valutare le prestazioni e il comportamento di persone in tali relazioni.
Software di recruiting: come gestire il livello di rischio elevato?
Come abbiamo visto, secondo le disposizioni della nuova legge, sono considerate ad alto rischio tutte quelle tecnologie che svolgono compiti che possono influenzare le decisioni umane o profilare persone fisiche.
Indubbiamente, questa classificazione ha implicazioni significative per le aziende che utilizzano ormai da anni sistemi evoluti nella gestione delle risorse umane.
Ad esempio, l’utilizzo di software che eseguono solo compiti procedurali (come screening di curriculum vitae e candidati, segreteria e pianificazione, onboarding e formazione, analisi dei dati HR, gestione dei benefici) che intervengono per migliorare un processo o i risultati di valutazioni e decisioni umane precedenti, oppure che svolgono compiti preparatori alle attività svolte da persone in carne e ossa.
Tutte queste opzioni sono considerate a rischio minore.
Per garantire la conformità con le nuove direttive europee sull’intelligenza artificiale, quindi, è fondamentale adottare misure specifiche e consapevoli.
I fattori chiave che rendono un software HR conforme all’AI Act
Per valutare se i software HR che si utilizzano (o si è propensi ad utilizzare) sono conformi all’AI Act proposto dall’Unione Europea, è importante considerare diversi aspetti:
1. Trasparenza
I software HR dovrebbero essere trasparenti rispetto al modo in cui funzionano e alle decisioni che prendono. È necessario assicurarsi che sia possibile spiegare in modo chiaro e comprensibile il funzionamento degli algoritmi utilizzati per prendere decisioni in merito alle risorse umane.
2. Responsabilità
Verificare se i software HR tengono conto dei principi di responsabilità, cioè se sono progettati per garantire che le decisioni prese siano etiche, giuste e non discriminatorie. Inoltre, è importante stabilire chi è responsabile delle decisioni prese dal software e se è possibile contestarle o chiedere spiegazioni in caso di errori.
3. Supervisione e controllo
È fondamentale accertarsi che i software HR siano soggetti a un adeguato monitoraggio e controllo da parte di operatori e professionisti umani, in modo da poter intervenire in caso di eventuali problemi, errori o bias per correggerli.
4. Protezione dei dati
Infine, i software HR devono rispettare le normative sulla protezione dei dati personali, essere conformi al GDPR, e garantire la privacy e la sicurezza dei dati che vengono inseriti nel sistema.
Gli obblighi imposti dall’AI Act a chi opera con tecnologie ad alto rischio
I fattori che abbiamo indicato nel paragrafo precedente e che delineano la conformità o meno di un software HR, rispecchiano quelli che nell’AI Act sono stati identificati come obblighi che sia i fornitori sia gli utilizzatori di sistemi di AI ad alto rischio devono rispettare.
E nello specifico sono stati suddivisi in questo modo:
Obblighi del fornitore
> Sistema di gestione per minimizzare i rischi per gli utilizzatori e le persone coinvolte.
> Requisiti per un’IA affidabile, che includono la qualità e la gestione dei dati, la documentazione e la tracciabilità, la trasparenza e le informazioni per gli utilizzatori, la supervisione umana, l’accuratezza e la cybersecurity.
> Valutazione della conformità, che deve essere dimostrata prima di mettere il prodotto sul mercato.
> Sistema di gestione della qualità, per garantire la qualità del prodotto.
> Registrazione del sistema di AI nel database base indicato dall’UE.
> Monitoraggio e segnalazione di eventuali incidenti gravi una volta che il sistema è sul mercato.
> Nominare un fornitore autorizzato per chi opera al di fuori dell’Unione Europea.
- Obblighi dell’utilizzatore
> Seguire le istruzioni d’uso in caso di sistemi ad alto rischio
> Garantire la supervisione umana, assegnando personale competente, formato e autorizzato.
> Monitorare i rischi e segnalare problemi e incidenti al fornitore o al distributore.
> Registrare l’uso del sistema nell’UE presso le autorità competenti.
> Informare i lavoratori sui sistemi di AI utilizzati.
> Fornire spiegazioni agli individui soggetti a decisioni dell’AI
> Valutare l’impatto sui Diritti Fondamentali se necessario.
Si può ancora usare l’AI per il recruiting?
Dopo aver analizzato e approfondito quanto disposto dall’AI Act per il recruiting e più in generale per il settore HR è arrivato il momento di rispondere a una domanda cruciale: ma quindi l’Intelligenza Artificiale è ammessa nella selezione e nella gestione del personale?
La risposta è sì, ma con alcune importanti condizioni.
L’AI nel recruiting è ammessa, ma deve essere utilizzata in conformità con le nuove normative stabilite dall’AI Act. Questa legge infatti, finalmente, fornisce una guida chiara e precisa su come dovrebbero essere sviluppati e utilizzati i software, proteggendo gli utilizzatori finali e colmando le lacune di una precedente mancanza di regolamentazione.
Prima dell’introduzione dell’AI Act, l’uso dell’Intelligenza Artificiale nel recruiting poteva essere invasivo e poco chiaro, sollevando dubbi sulla correttezza etica e sull’impatto sui diritti dei candidati e dei dipendenti.
Ora, invece, è possibile utilizzare tecnologie avanzate per la selezione e la gestione del personale nel rispetto di tutte le persone coinvolte.
È fondamentale, però, fare attenzione a chi scegliamo come fornitore di soluzioni HR basate sull’IA ed è altrettanto importante informarsi e valutare attentamente le opzioni disponibili, scegliendo partner affidabili e trasparenti che dimostrino di essere conformi alle normative europee.
Vuoi implementare l’AI nei tuoi processi di selezione? Richiedi oggi stesso una demo.
Le informazioni contenute in questo articolo sono basate sui dati presentati durante il webinar “The European Artificial Intelligence Act”,del 25 marzo 2024, organizzato dalla Commissione Europea e condotto da Miriam D’arrigo, Legal and Policy Officer, DG CNECT A2, AI Policy Development and Coordination.
