Le cadre
L’AI Act (règlement (UE) 2024/1689) s’applique progressivement depuis 2024. Il fixe des obligations selon le niveau de risque de chaque usage.
Un agent conversationnel qui relance des débiteurs n’est pas un cas à part : il s’ajoute aux règles qui encadrent déjà le recouvrement et la protection des données. Le bon réflexe est de traiter l’AI Act comme une couche supplémentaire, pas comme un remplacement.
Dire que l’on est une IA
Le règlement prévoit une obligation de transparence pour les systèmes d’IA qui interagissent avec des personnes : celles-ci doivent savoir qu’elles échangent avec une IA, sauf si c’est évident. Pour un agent de recouvrement, la façon la plus simple de respecter ce principe est de l’annoncer dès le premier échange : « Je suis l’assistant virtuel de… ».
Concrètement, l’annonce doit figurer dans chaque script, sur chaque canal (voix, email, SMS, RCS), et sa présence doit pouvoir être vérifiée a posteriori.
Garder un humain dans la boucle
Le recouvrement touche des personnes parfois en difficulté. Indépendamment de la classification du système, un dispositif responsable prévoit :
- la possibilité pour la personne de demander un interlocuteur humain ;
- le passage automatique à un conseiller quand des signaux de fragilité apparaissent ;
- des règles que l’agent ne peut pas dépasser : plafonds d’échéancier, plages horaires, fréquences de contact ;
- une validation humaine des scripts et de chaque changement de règle.
Selon l’usage, des obligations plus lourdes peuvent s’appliquer. Le règlement range par exemple parmi les usages à haut risque l’évaluation de la solvabilité des personnes physiques. Si votre dispositif prend ce type de décision, l’analyse doit être faite avec votre service juridique.
Pouvoir tout retracer
La traçabilité est ce qui permet de démontrer, après coup, que les règles ont été respectées. Pour un agent de recouvrement, cela veut dire conserver pour chaque échange :
- l’enregistrement ou le texte de l’échange, sa transcription et son résumé ;
- la règle appliquée et sa version ;
- l’approbateur de cette règle et la date de son entrée en vigueur ;
- le résultat : promesse, paiement, contestation, transfert.
Les données personnelles
L’AI Act ne remplace pas le RGPD. Le créancier reste en général responsable du traitement ; le prestataire qui opère l’agent agit comme sous-traitant au sens de l’article 28, sur ses instructions. Les points à vérifier sont connus : lieu d’hébergement, durées de conservation, usage des données (notamment l’absence d’entraînement de modèles sur les données clients), sécurité et sous-traitants.
La liste à préparer
- Annonce IA présente dans tous les scripts et sur tous les canaux.
- Possibilité de parler à un humain, et règles d’escalade écrites.
- Plafonds, plages horaires et fréquences validés et versionnés.
- Journal d’audit exportable : échange, règle, version, approbateur.
- Contrat de sous-traitance RGPD, hébergement et durées de conservation.
- Analyse juridique du niveau de risque de votre usage.
Chez Voxfit, ces éléments sont intégrés par conception : annonce IA, escalade vers un conseiller, règles versionnées avec approbateur, hébergement dans l’Union européenne et aucun entraînement de modèle sur les données clients.