Préambule
Cette charte décrit l'usage de systèmes d'intelligence artificielle dans le service Assist. Elle est établie au regard du règlement européen sur l'intelligence artificielle (AI Act, règlement UE 2024/1689) et des recommandations de la CNIL sur les systèmes d'IA.
Elle s'adresse autant à nos clients qu'aux personnes qui les appellent, et elle est volontairement écrite sans jargon.
L'agent annonce dès sa première phrase qu'il est un assistant automatique. Cette annonce n'est pas un réglage : elle est intégrée au composeur d'invite et aucun client ne peut la retirer. Nous avons perdu des prospects sur ce point. Nous n'avons pas changé d'avis.
01Ce que fait le système
Nature du système
Assist repose sur un modèle de langage vocal temps réel. Il transcrit la parole, produit une réponse et la synthétise en voix, en continu. Il n'apprend pas de vos conversations : le modèle est figé, et son comportement dépend uniquement des instructions écrites par le client et des outils qu'il a activés.
Ce qu'il peut déclencher
Onze actions au maximum, et seulement celles que le client a activées : consulter des disponibilités, poser, déplacer ou annuler un rendez-vous, retrouver une fiche contact, envoyer un message court, transférer l'appel, prendre un message, qualifier un besoin, inscrire en liste d'opposition, terminer l'appel. Il ne dispose d'aucun autre moyen d'agir : pas d'accès libre au web, pas d'exécution de code, pas d'envoi de courriel arbitraire.
02Classification du risque
Au sens de l'AI Act, Assist relève des systèmes à risque limité, soumis à des obligations de transparence (article 50) et non à celles des systèmes à haut risque de l'annexe III.
Cette qualification repose sur trois constats :
- le système n'évalue pas des personnes physiques — il ne produit ni score de crédit, ni évaluation de candidature, ni notation de comportement ;
- il ne prend aucune décision produisant des effets juridiques — poser un rendez-vous n'en est pas une, et toute décision engageante reste transférée à un humain ;
- il n'est pas utilisé dans un domaine listé à l'annexe III (emploi, éducation, services essentiels, justice, migration, biométrie).
Une limite à connaître : si un client configurait son agent pour trier des candidatures à l'embauche ou pour évaluer l'éligibilité à une prestation sociale, l'usage basculerait en haut risque et lui imposerait des obligations que nous ne prenons pas en charge. Les CGU interdisent donc ces usages.
03Garde-fous techniques
- Annonce d'assistant automatique et d'enregistrement, injectée en tête de conversation, non désactivable.
- Capacités cloisonnées : un outil désactivé n'est pas exposé au modèle. Il lui est invisible, donc impossible à promettre.
- Fenêtres d'appel légales vérifiées avant chaque appel sortant et non au lancement de la campagne — une campagne lancée à 19 h 50 s'arrête d'elle-même à 20 h.
- Liste d'opposition non désactivable : « ne me rappelez plus » déclenche une inscription immédiate et définitive.
- Durée maximale d'appel paramétrable, avec fin d'appel automatique — un modèle qui boucle ne peut pas retenir quelqu'un indéfiniment.
- Transfert vers un humain sur conditions décrites en français par le client, prioritaire sur toute autre action.
04Ce que le système ne sait pas bien faire
Nous publions cette liste parce qu'un fournisseur qui n'en publie pas n'a pas mesuré son système, ou ne veut pas le dire. Elle est mise à jour à chaque évolution du modèle.
- Les appels à trois voix — l'agent perd le fil quand deux personnes parlent en même temps de son côté.
- Les lignes très dégradées combinées à un accent marqué : le taux d'incompréhension monte nettement, et l'agent transfère plutôt que d'insister.
- Les demandes à trois sujets dans une seule phrase — il en traite un ou deux, rarement les trois.
- Le second degré et l'ironie, qu'il prend au premier degré.
- Les montants et références alphanumériques longues dictés rapidement : il fait répéter, ce qui allonge l'appel.
Ces limites sont mesurées chaque semaine sur cent appels réécoutés par une personne. La note qualité correspondante est publiée sur la page produit.
05Données et entraînement
Aucune conversation traitée par Assist ne sert à entraîner, affiner ou évaluer un modèle, ni chez nous ni chez nos prestataires. Cette interdiction figure dans chacun de nos contrats de sous-traitance et constitue un motif de rupture immédiate. Nous avons renoncé à deux fournisseurs techniquement supérieurs sur ce seul point.
Le détail des flux et des localisations figure dans la politique de confidentialité et à l'annexe 1 du DPA.
06Supervision humaine
Chaque appel est enregistré, transcrit et consultable par le client. Cent appels par semaine sont réécoutés par une personne de notre équipe, qui attribue la note qualité publiée. Tout comportement anormal signalé par un client est examiné manuellement sous vingt-quatre heures ouvrées.
Le client conserve à tout moment la possibilité de désactiver son agent depuis son espace, avec effet immédiat sur les appels suivants.