L’AI Act (Regolamento UE 2024/1689) è il primo quadro normativo europeo dedicato all’intelligenza artificiale e introduce un approccio basato sul livello di rischio associato ai diversi sistemi e casi d’uso.
Il regolamento è entrato in vigore il 1° agosto 2024, ma le sue disposizioni sono diventate applicabili progressivamente: il 2 febbraio 2025 sono diventate applicabili le disposizioni relative, tra le altre, alle pratiche di IA vietate e all’alfabetizzazione in materia di IA; dal 2 agosto 2025 si applicano ulteriori disposizioni, comprese quelle relative ai modelli di IA per finalità generali; dal 2 agosto 2026 diventano applicabili la maggior parte delle restanti disposizioni, tra cui gli obblighi di trasparenza dell’Articolo 50, particolarmente rilevanti per i sistemi di IA che interagiscono direttamente con clienti e utenti.
Per i call center, questo significa che l’utilizzo di voicebot, assistenti conversazionali, sistemi di speech analytics e strumenti di IA per l’analisi o la valutazione delle attività degli operatori deve essere esaminato alla luce della specifica finalità e del livello di rischio del sistema.
In questa guida analizziamo i principali aspetti dell’AI Act che riguardano il settore, distinguendo ciò che è vietato, ciò che è soggetto a specifici obblighi e ciò che può essere utilizzato nel rispetto delle condizioni previste dalla normativa.
AI Act e call center: perché è importante
Per comprendere l’impatto dell’AI Act sui call center è utile partire da un principio fondamentale: non tutti i sistemi di IA presentano lo stesso livello di rischio.
Cosa significa livello di rischio nel testo legislativo? Indica una categoria giuridica precisa: sistemi di IA che, per la loro finalità d’uso, possono comportare un rischio significativo per la salute, la sicurezza o i diritti fondamentali delle persone.
Il regolamento distingue diverse categorie di utilizzo e prevede, a seconda dei casi:
- pratiche di IA vietate;
- sistemi soggetti a requisiti specifici perché considerati ad alto rischio;
- sistemi soggetti a obblighi di trasparenza;
- altri sistemi per i quali non sono previsti gli stessi requisiti specifici.
Questo significa che non è corretto affermare genericamente che “l’AI Act vieta l’utilizzo dell’IA nei call center”.
Al contrario, il regolamento consente numerosi utilizzi dell’intelligenza artificiale, ma stabilisce regole differenti in funzione dell’applicazione concreta.
Per un call center, le aree che meritano maggiore attenzione sono principalmente tre:
- IA che interagisce direttamente con il cliente
- IA che analizza le conversazioni
- IA utilizzata per monitorare o valutare gli operatori
A queste si aggiungono gli obblighi relativi all’alfabetizzazione in materia di IA e, quando si utilizzano sistemi ad alto rischio, ulteriori requisiti organizzativi e tecnici.
1. Voicebot e assistenti vocali: il cliente deve sapere quando parla con l’IA
Uno dei riferimenti più importanti per il settore dei contact center è l’Articolo 50 dell’AI Act, relativo agli obblighi di trasparenza.
Il paragrafo 1 stabilisce che i sistemi di IA destinati a interagire direttamente con le persone fisiche devono essere progettati in modo che le persone interessate siano informate del fatto che stanno interagendo con un sistema di IA, salvo il caso in cui ciò sia già evidente.
La Commissione europea ha successivamente chiarito che l’obbligo riguarda, tra gli altri, sistemi interattivi come chatbot e agenti IA e che l’informazione deve essere fornita fin dall’inizio della prima interazione, in modo chiaro e distinguibile.
Cosa significa per un call center?
Immaginiamo un’azienda che utilizza un voicebot per effettuare chiamate outbound.
Il sistema può:
- avviare la telefonata;
- presentare un’offerta;
- raccogliere informazioni;
- rispondere alle domande;
- qualificare un lead;
- trasferire la conversazione a un operatore.
Il punto centrale non è vietare questo utilizzo. Il punto è garantire trasparenza sull’identità del soggetto con cui la persona sta interagendo.
Un’interazione potrebbe quindi iniziare, per esempio, comunicando chiaramente che si tratta di un assistente virtuale. L’obiettivo della norma è consentire alla persona di comprendere la natura dell’interazione e di calibrare di conseguenza il livello di fiducia che ripone nel sistema.
Attenzione: non basta dire “è automatico”
La Commissione europea ha precisato che l’obbligo riguarda i sistemi progettati per un vero scambio bidirezionale diretto tra IA e persona.
Sono invece fuori da questo specifico obbligo i sistemi che operano esclusivamente in background, senza un’interazione diretta con la persona, per esempio attraverso comunicazioni macchina-macchina.
Questo porta a una distinzione importante per i call center: un sistema che supporta l’operatore non è automaticamente equiparabile a un voicebot che parla direttamente con il cliente. La finalità e le modalità di utilizzo devono essere valutate caso per caso.
Esempio pratico: come deve comportarsi un voicebot in una chiamata outbound?
Immaginiamo un call center che utilizza un voicebot basato sull’intelligenza artificiale per contattare automaticamente i prospect di una campagna commerciale.
Il voicebot avvia la telefonata, presenta l’azienda, pone alcune domande per qualificare il contatto e, se necessario, trasferisce la chiamata a un operatore.
In questo scenario, il punto da verificare è molto concreto: la persona chiamata sa fin dall’inizio che sta interagendo con un sistema di IA?
Una modalità coerente con l’obbligo di trasparenza previsto dall’Articolo 50 consiste, per esempio, nell’aprire la conversazione con un’informazione chiara:
«Buongiorno, sono l’assistente virtuale di [azienda]. La contatto per…»
In questo modo, la natura artificiale dell’interlocutore viene dichiarata all’inizio dell’interazione, anziché lasciare al destinatario l’impressione di parlare con un operatore umano.
2. Analisi delle chiamate: l’AI Act non vieta lo speech analytics
Uno degli equivoci più frequenti quando si parla di IA e call center riguarda l’analisi delle telefonate.
Un sistema può utilizzare l’intelligenza artificiale per:
- trascrivere una conversazione;
- classificare l’esito della chiamata;
- individuare determinate parole o informazioni;
- verificare il rispetto di uno script;
- estrarre informazioni dalla conversazione;
- supportare il controllo qualità;
- generare un riepilogo della telefonata.
L’AI Act non stabilisce un divieto generale dell’analisi automatica delle conversazioni.
Non è l’uso dell’IA in sé a determinare gli obblighi previsti dall’AI Act. Conta come viene utilizzata. Bisogna quindi capire cosa fa concretamente il sistema, perché viene utilizzato e cosa succede in base ai risultati che produce.
Ad esempio, usare l’IA per capire se un cliente è soddisfatto dopo una telefonata è diverso dall’utilizzarla per valutare un operatore e prendere decisioni sul suo rapporto di lavoro. La tecnologia può essere la stessa, ma l’utilizzo può comportare regole e obblighi diversi.
Esempio 1: analizzare una telefonata non significa necessariamente valutare una persona
Supponiamo che un sistema analizzi una chiamata e rilevi:
“È stata presentata l’offerta?”
“È stato comunicato il prezzo?”
“È stato seguito lo script previsto?”
Si tratta di un utilizzo diverso rispetto a un sistema che conclude:
“Questo operatore ha una performance insufficiente.”
Nel secondo caso entra in gioco un’altra area particolarmente importante dell’AI Act: l’utilizzo dell’IA nell’ambito dell’occupazione e della gestione dei lavoratori.
Esempio 2: l’IA analizza il sentiment delle chiamate
Immaginiamo un call center che utilizza un sistema di speech analytics con sentiment analysis per analizzare le conversazioni tra operatori e clienti.
Durante o al termine della chiamata, l’IA può analizzare il contenuto della conversazione e classificare il sentiment espresso dal cliente, ad esempio identificando una conversazione come positiva, neutra o negativa. Può inoltre rilevare segnali linguistici che indicano insoddisfazione, criticità o un’esperienza negativa.
Per esempio, al termine di una telefonata il sistema potrebbe segnalare:
Sentiment: negativo – cliente insoddisfatto
Questo tipo di analisi può essere utilizzato dal call center per individuare più rapidamente le conversazioni problematiche, intercettare eventuali criticità nel customer journey, migliorare il controllo qualità e dare priorità alle chiamate che richiedono un intervento.
Cosa succede se il sentiment riguarda l’operatore?
Qui è necessario fare una distinzione importante.
Analizzare ciò che il cliente esprime durante la conversazione non equivale necessariamente a utilizzare l’IA per inferire le emozioni dell’operatore.
È diverso, per esempio, che il sistema segnali:
«Il cliente esprime insoddisfazione»
rispetto a:
«L’operatore appare stressato/frustrato durante la chiamata».
Nel secondo caso l’IA sta cercando di dedurre lo stato emotivo della persona a partire dai segnali rilevati nella conversazione. Quando questa inferenza riguarda una persona nell’ambito del luogo di lavoro, entra in gioco l’Articolo 5, paragrafo 1, lettera f), dell’AI Act, che vieta l’utilizzo di sistemi di IA destinati a inferire le emozioni delle persone fisiche sul luogo di lavoro, salvo le eccezioni previste dalla norma.
Cosa deve verificare il call center?
Prima di utilizzare una soluzione di sentiment analysis è quindi importante definire con precisione chi viene analizzato e per quale finalità:
- Sentiment del cliente: il sistema analizza ciò che emerge dalla conversazione per individuare, ad esempio, soddisfazione o insoddisfazione.
- Sentiment dell’operatore: il sistema cerca di dedurre lo stato emotivo del lavoratore dalla sua voce o dal suo comportamento.
- Utilizzo del risultato: bisogna inoltre verificare se l’analisi viene utilizzata esclusivamente per il controllo qualità oppure se contribuisce alla valutazione delle performance dell’operatore.
Questa distinzione è fondamentale perché “analizzare il sentiment di una conversazione” non significa automaticamente “inferire le emozioni di un lavoratore”. È necessario valutare concretamente cosa analizza il sistema, quali inferenze produce e come vengono utilizzati i risultati.
In pratica: prima di adottare uno strumento di sentiment analysis, un call center dovrebbe verificare non solo che cosa è in grado di rilevare l’IA, ma soprattutto su chi vengono effettuate le inferenze, quali dati vengono utilizzati e quale decisione o processo viene influenzato dal risultato.
3. Quando l’IA monitora e valuta gli operatori
L’AI Act dedica particolare attenzione all’utilizzo dell’IA nell’ambito del lavoro. L’Allegato III, punto 4, lettera b) include tra i sistemi ad alto rischio quelli destinati, tra le altre finalità, a monitorare e valutare le prestazioni e il comportamento delle persone nell’ambito dei rapporti di lavoro.
Cosa significa per un call center?
Utilizzare l’IA per analizzare le performance degli operatori non è di per sé vietato. Anzi, può essere uno strumento utile per capire cosa non funziona e individuare le aree su cui intervenire.
Per esempio, un sistema può analizzare le chiamate e rilevare una bassa conversione o difficoltà nella gestione delle obiezioni. Il responsabile può utilizzare queste informazioni per fare coaching, formazione e migliorare le performance.
La questione diventa più delicata quando i risultati prodotti dall’IA vengono utilizzati per monitorare e valutare sistematicamente il lavoratore o per prendere decisioni che incidono sul suo rapporto di lavoro. In questi casi è necessario verificare se il sistema rientra nella categoria dei sistemi ad alto rischio prevista dall’AI Act e quali obblighi ne derivano.
In pratica: l’AI Act non impedisce a un call center di misurare le performance o di intervenire quando un operatore non raggiunge i risultati attesi. È importante, però, distinguere l’IA utilizzata come strumento di supporto al miglioramento dall’IA utilizzata come strumento per prendere decisioni sul lavoratore.
4. Riconoscimento delle emozioni: il punto più delicato per i call center
Tra le disposizioni dell’AI Act ce n’è una particolarmente importante per chi gestisce un contact center.
L’Articolo 5, paragrafo 1, lettera f) vieta l’immissione sul mercato, la messa in servizio o l’utilizzo di sistemi di IA destinati a inferire le emozioni di una persona fisica nell’ambito del luogo di lavoro, salvo l’eccezione prevista per motivi medici o di sicurezza.
Cosa significa “inferire le emozioni”?
Inferire significa dedurre uno stato emotivo a partire da determinati segnali.
Per esempio, un sistema potrebbe analizzare la voce dell’operatore e cercare di stabilire che:
- è stressato;
- è arrabbiato;
- è frustrato;
- è demotivato;
- è soddisfatto.
In questo caso non si sta semplicemente registrando ciò che l’operatore ha detto.
È l’intelligenza artificiale che deduce un’emozione a partire dai dati analizzati. Questo tipo di utilizzo che l’Articolo 5, lettera f), vieta nell’ambito del luogo di lavoro, salvo le eccezioni previste.
5. L’AI Act richiede anche alfabetizzazione sull’intelligenza artificiale
L’utilizzo dell’IA non riguarda soltanto il software.
L’Articolo 4 dell’AI Act prevede che fornitori e deployer adottino misure per sostenere lo sviluppo dell’alfabetizzazione in materia di IA del personale e delle altre persone che utilizzano o gestiscono sistemi di IA per loro conto.
Le misure devono tenere conto, tra gli altri aspetti, delle conoscenze tecniche, dell’esperienza, dell’istruzione, della formazione e del contesto in cui il sistema viene utilizzato.
Per un call center questo significa che l’introduzione dell’IA dovrebbe essere accompagnata anche da una corretta preparazione delle persone che lavorano con questi strumenti.
Un operatore dovrebbe sapere, per esempio:
- quale funzione svolge il sistema;
- quali sono i suoi limiti;
- come utilizzare correttamente gli output;
- quando è necessario un intervento umano;
- quali informazioni possono essere trattate;
- quali procedure aziendali devono essere rispettate.
L’obiettivo non è trasformare ogni operatore in un esperto di intelligenza artificiale, ma assicurarsi che chi utilizza questi strumenti abbia competenze adeguate al contesto e al livello di utilizzo.
Esempio pratico: cosa può fare un call center manager?
L’AI literacy non significa organizzare un corso tecnico sull’intelligenza artificiale. Significa semplicemente assicurarsi che le persone che utilizzano strumenti di IA sappiano come usarli correttamente e quali sono i loro limiti.
Un call center manager può quindi fornire al proprio team indicazioni pratiche sull’utilizzo degli strumenti adottati, spiegando a cosa servono, come interpretarli e quando è necessario verificare i risultati prodotti dall’IA.
L’obiettivo è permettere agli operatori di utilizzare la tecnologia in modo consapevole e responsabile, senza che sia necessario conoscere il funzionamento tecnico degli algoritmi.
6. AI Act e GDPR: due normative diverse che devono essere considerate insieme
L’AI Act non sostituisce il GDPR. Quando un call center utilizza strumenti di IA che trattano dati personali, deve quindi rispettare entrambe le normative.
Pensiamo, ad esempio, a un sistema che utilizza l’IA per trascrivere e analizzare le telefonate: oltre alle regole previste dall’AI Act, il call center deve verificare anche come vengono raccolti, utilizzati e conservati i dati personali presenti nelle conversazioni. Puoi approfondire la tematica GDPR e telemarketing qui.
In pratica: prima di introdurre uno strumento di IA, il call center deve considerare non solo cosa può fare la tecnologia, ma anche quali dati tratta e come vengono gestiti.
In sintesi
Per i call center, l’AI Act introduce soprattutto una nuova esigenza: governare l’intelligenza artificiale in modo consapevole e trasparente.
I quattro riferimenti da tenere maggiormente presenti sono:
Articolo 50 → trasparenza quando l’IA interagisce direttamente con le persone.
Articolo 5, paragrafo 1, lettera f) → divieto di inferire le emozioni delle persone nel luogo di lavoro, salvo le eccezioni previste.
Allegato III, punto 4 → particolare attenzione ai sistemi utilizzati nell’occupazione per monitorare e valutare prestazioni e comportamento dei lavoratori.
Articolo 4 → alfabetizzazione in materia di IA per le persone che utilizzano o gestiscono questi sistemi.
L’elemento centrale, però, rimane uno: non è l’etichetta “intelligenza artificiale” a determinare da sola gli obblighi applicabili, ma il concreto utilizzo del sistema, la sua finalità e il contesto in cui opera.
Per questo motivo, l’approccio corretto per un call center non è rinunciare all’IA, ma mappare i diversi casi d’uso, identificarne i rischi e adottare le misure previste dalla normativa applicabile.
L’AI Act diventa così non soltanto un vincolo normativo, ma anche un riferimento per progettare un’adozione dell’intelligenza artificiale più trasparente, controllabile e sostenibile nel settore del contact center.
Richiedi adesso la tua DEMO e scopri come aumentare le vendite
