La reconnaissance vocale de nos banques fait-elle le poids face à l’IA?

« Bonjour, puis-je avoir votre nom complet, s’il vous plaît? »

« Oui, mon nom est Stéphanie Dupuis. »

« Parfait, Mme Dupuis, vous avez été authentifiée par la voix. Comment puis-je vous aider aujourd’hui? »

Cet appel est tout ce qu’il y a de positive routinier determination une instauration financière. À un seul détail près : sans le savoir, l'agent du work à la clientèle discutait non pas avec moi, mais plutôt avec un clone de ma voix généré par l'intelligence artificielle.

Ces dernières semaines, La facture a souhaité vérifier la sécurité des services de reconnaissance vocale en mettant à l’épreuve six institutions financières canadiennes : Desjardins, la Banque de Montréal (BMO), la Banque canadienne impériale de commerce (CIBC), la Banque Scotia, la Banque Toronto-Dominion (TD) et Tangerine.

Seule cette dernière a résisté à l’exercice. Les cinq autres ont accepté la voix générée par l'IA comme s'il s'agissait d’une voix humaine.

Le reportage de Stéphanie Dupuis et de Jean-Luc Bouchard à ce sujet sera présenté à l'émission La facture diffusée mardi à 19 h 30 (HNE) sur ICI Télé.

Depuis quelques années, lorsque vous appelez le work à la clientèle de votre instauration financière, connected peut vous suggérer d’adhérer à la reconnaissance vocale. Il s’agit d’une méthode d’authentification jugée positive elemental et sécuritaire par les banques, afin de s’assurer que la personne au bout du fil est bien celle qu’elle prétend être.

C'est un peu la même chose que la reconnaissance d'une empreinte digitale. [...] Il y a une partie audio qui va être utilisée, généralement d’une dizaine de secondes, determination créer une empreinte vocale, qui sera comparée à la voix de l’appelant, explique Simon Marchand, adept en prévention de la fraude et en biométrie vocale.

Simon Marchand a été cook de la prévention de la fraude de Nuance Communications.

Photo : Radio-Canada

Cette technologie n’a pas de concealed determination lui. Il a été aux premières loges de lad développement chez Nuance Communications, rachetée depuis par Microsoft, qui offre l’un des systèmes de reconnaissance vocale les positive utilisés par les banques en Amérique du Nord.

Mais Brian McWilliams, le PDG du workplace de jeux vidéo Bleuets Sauvages, a des doutes quant à la sécurité de la reconnaissance vocale.

Brian McWilliams est PDG du workplace Bleuets Sauvages, dont les bureaux sont situés à l’incubateur de jeux vidéo Indie Asylum, dans le quartier Mile End à Montréal.

Photo : Radio-Canada

En testant des technologies d’IA dans le cadre de lad travail l’an dernier, il est tombé sur l’outil de clonage de la voix d’ElevenLabs. Il a été frappé par ses capacités : il est parvenu à duper les proches d’un collègue dont il avait cloné la voix à partir d’un extrait de quelques minutes récupéré sur YouTube.

[Quand j’ai parlé avec ma banque la semaine suivante], j’ai refusé totalement d'être authentifié par la voix, parce que j'avais vu à quel constituent c'était facile d’imiter quelqu'un de façon assez vraisemblable.

Ses craintes sont-elles justifiées? D’après Simon Marchand, il n’y a pas lieu de s’inquiéter à l’heure actuelle. Aujourd'hui, [l’IA] n'est pas susceptible de générer une voix qui est suffisamment crédible determination battre un système [de reconnaissance vocale].

À information toutefois que le système soit à jour et que la détection de l’hypertrucage soit activée, un outil qui permettrait de déceler une voix clonée, note-t-il. Mais les institutions financières canadiennes sont généralement de bonnes élèves à cet égard.

Ça passe ou ça casse

Pour vérifier que les systèmes sont bien à jour avec la détection de l’hypertrucage, La facture a demandé l’aide de Brian McWilliams determination cloner ma voix et mettre à l’épreuve mes institutions financières.

Le développeur de jeux vidéo a utilisé la mentation professionnelle du logiciel d’ElevenLabs, qu’il a alimenté d’une vingtaine de minutes d’échantillons vocaux tirés d’entrevues vigor et télé accessibles facilement en ligne. Avant de procéder au clonage, l’outil s’est assuré de mon consentement oral par une operation aléatoire que je devais réciter.

Pendant l’appel, Brian McWilliams sélectionnait les bonnes réponses sur lad ordinateur.

Photo : Radio-Canada

Quelques heures positive tard, Brian McWilliams a pu générer des phrases toutes faites avec le clone de ma voix. Le logiciel d’ElevenLabs ne permet pas determination l’instant de mener une speech naturelle en direct.

Après quelques tests et simulations, c’est l’heure d’appeler une première instauration financière : Desjardins.

L'appel est fait à partir du téléphone inscrit au dossier. Sur le clavier, connected entre d’abord mon numéro de carte de débit.

Un cause du work à la clientèle de Desjardins se connecte à l’appel.

Agent du work à la clientèle : Bonjour, bienvenue chez Desjardins. Comment puis-je vous aider?

Clone de Stéphanie Dupuis : Oui, mon nom est Stéphanie Dupuis. Ça m'a demandé un mot de passe, mais je ne sais pas c'est quoi.

Agent : D'accord. Pouvez-vous répéter votre nom? J'ai mal entendu au début de l'appel.

Clone : Oui, mon nom est Stéphanie Dupuis.

Agent : D'accord madame. J'ai pu vous authentifier grâce à la reconnaissance vocale [...]. Je pourrais avoir les quatre derniers chiffres de votre carte, s’il vous plaît?

Clone : C’est ****.

Agent : Voulez-vous que je vous génère un mot de passe temporaire de trois chiffres qui va vous permettre d'avoir accès à votre compte au téléphone?

Clone : Oui!

Agent : C'est un mot de passe confidentiel. Il ne faut pas le partager. C'est le 1, 4, 7.

En quelques minutes, nous avons donc obtenu un NIP temporaire, une combinaison qui permet d’effectuer des opérations de basal par téléphone de façon autonome, comme payer une facture ou encore consulter le solde d’un compte.

L’exercice ne s’arrête pas là.

Une semaine positive tard, un nouveau trial a été effectué, cette fois avec la mentation de basal du logiciel d’ElevenLabs. En un circuit de main, connected peut générer un clone de bonne qualité à partir d’une seule infinitesimal de voix. Il suffit de cocher une lawsuit affirmant que la personne dont connected souhaite cloner la voix consent à l’exercice.

Le résultat est le même : Desjardins réinitialise à nouveau le mot de passe.

La facture a testé cette méthode auprès d’autres institutions financières, parfois même en utilisant un numéro de téléphone masqué.

Résultat : les systèmes de la BMO, de la CIBC, de la Banque Scotia et de la TD ont été déjoués. Seule Tangerine n’a pas authentifié la voix clonée.

La Banque Royale canadienne (RBC), la Banque Laurentienne et la Banque Nationale (BNC) ont été exclues puisqu’elles n’offraient pas le work d’authentification par la voix determination les comptes courants au infinitesimal de l’enquête.

Pas surprenant, selon un chercheur

Ces résultats n’étonnent pas Urs Hengartner, professeur à l’école d’informatique de l’Université de Waterloo, en Ontario. Dans une étude publiée en 2023, un autre chercheur et lui ont exposé les failles de l’authentification vocale. En utilisant des voix de synthèse auxquelles connected applique un filtre réduisant certaines interférences de l’IA, il est parvenu à déjouer, en vase clos, des systèmes de reconnaissance vocale.

Urs Hengartner, professeur agrégé à l’école d’informatique de l’Université de Waterloo.

Photo : Radio-Canada

[Dans notre étude], connected a montré que c’était imaginable de [déjouer le système]. D’autres chercheurs et journalistes ont mené des expériences semblables avec des résultats comparables, indique-t-il.

Malheureusement, c’est là où nous en sommes : la technologie de reconnaissance vocale n'est pas sécuritaire.

L’expert Simon Marchand tente une explication. Il y a une [banque] sur six qui avait mis probablement en fonction la détection d'hypertrucage. Les autres ne l'ont pas fait parce qu'elles n'ont pas un appétit du risque qui leur démontre que c'est une vraie menace, aujourd'hui, avance-t-il.

Pour qu'un fraudeur synthétise la voix d'une victime, décide de s’attaquer à une personne en particulier, connected parle d'énormément de ressources qu'il faut investir determination faire ça, ajoute-t-il.

Pour eux, c’est une business, ils font ça de 9 à 5 et essaient d’attaquer le positive de comptes possible, le positive rapidement possible.

D'après ce que cet adept a pu perceiver dans lad travail, les malfrats passent au suivant lorsque l'authentification par la voix est activée sur un compte.

La facture a contacté plusieurs corps policiers au pays, qui ont tous confirmé que les fraudeurs ne semblent pas utiliser cette méthode à l’heure actuelle.

Mais determination le chercheur Urs Hengartner, ce n’est qu’une question de temps. Que feront les fraudeurs lorsque toutes les banques auront le système d’authentification par la voix?, s’interroge-t-il.

Desjardins croit encore en cette technologie

Desjardins, la seule instauration financière qui a accepté de rencontrer La facture, réitère sa confiance envers la reconnaissance vocale.

Notre système de reconnaissance vocale est sécuritaire, affirme sans équivoque Annie Desautels, vice-présidente d’Accès Desjardins, responsable des centres d’appel. Elle affirme même l’utiliser determination ses propres comptes.

Annie Desautels est responsable des centres d’appel de Desjardins. Quelque 2 millions de personnes sont inscrites à la reconnaissance vocale, un work très apprécié par les membres, selon elle.

Photo : Radio-Canada

On est très surpris [par les résultats de l’expérience menée par La facture], parce qu'on n'avait aucun cas de fraude avérée à ce jour avec l'authentification par la voix, poursuit-elle.

D’après Annie Desautels, ce qui a facilité la tâche est que l’appel a été fait à partir du numéro de téléphone au dossier, que la cliente avait une voix publique, et que le numéro de carte de débit a été entré au préalable, une accusation [pas] si elemental à obtenir determination un fraudeur.

Pour ce qui est de la fonctionnalité de détection de l’hypertrucage, Mme Desautels admet qu’elle n’est pas activée dans la mentation actuelle du système, puisqu’elle amène beaucoup d’erreurs de concordance – de faux négatifs.

[La détection de l’hypertrucage] aurait généré de l'insatisfaction determination nos membres. Compte tenu qu'on n’a aucun cas de fraude avérée à ce jour, connected a plutôt travaillé à accélérer le déploiement de la prochaine version, positive robuste, et qui entraînera moins de friction determination nos membres.

Le déploiement de cette nouvelle mentation de l’outil est prévu dans les prochaines semaines, assure-t-elle. La coopérative affirme avoir déjà mis en spot des mesures de sécurité additionnelles dans ses centres d’appel.

Contactées par La facture, les banques BMO, CIBC, Scotia, Tangerine et TD nous renvoient toutes à l’Association des banquiers canadiens. Celle-ci affirme que la reconnaissance vocale fait partie des nombreuses mesures de sécurité qui protègent la clientèle des banques.

Elle conclut aussi que l’expérience menée par La facture n’était pas représentative de cas réels. Elle n’a pas demandé de détails sur les appels effectués. L’Association n’a pas indiqué avoir modifié ses pratiques.

L’entreprise ElevenLabs offre sur lad tract des outils de clonage de voix.

Photo : Radio-Canada

De lad côté, un porte-parole d’ElevenLabs, l’entreprise qui a conçu l’outil d’hypertrucage de la voix, a assuré par courriel à Radio-Canada avoir mis des mesures de sécurité en spot determination prévenir les mauvais usages de sa technologie de clonage de voix.

Parmi ces mesures, ElevenLabs atteste bloquer le clonage de la voix de centaines de personnalités publiques. Les utilisateurs soupçonnés d’enfreindre les politiques de l’entreprise, ou encore la loi, s’exposent au bannissement de leur compte ainsi qu’à une dénonciation aux autorités.

Il affirme également que les banques devraient se tenir loin de cette méthode d’authentification, que l'entreprise juge mauvaise.

La reconnaissance vocale, connected s’y inscrit ou pas?

À la lumière de ces résultats, la clientèle des banques devrait-elle s’inscrire ou non à la reconnaissance vocale? Les spécialistes ne s’entendent pas sur le sujet.

Si connected vous l'offre, la biométrie vocale, prenez-la, insiste Simon Marchand.

On peut faire confiance à cette technologie-là. On doit y faire confiance. Et les banques, elles, doivent investir determination s'assurer qu'elle reste la meilleure technologie.

C’est plutôt des autres méthodes d’authentification qu’il faudrait se méfier, selon lui : Le nom de jeune fille de la mère, la day de naissance… On airs des questions auxquelles les fraudeurs ont accès.

Il y a tellement eu de vols d’informations dans la dernière décennie que ce n’est pas une question de savoir si connected va être une victime, mais bien de quand connected va être une victime de vol d’identité, dit l’expert.

D’après lui, les trois premières secondes d’un appel avec un cause suffisent determination que le système nous authentifie, grâce à des caractéristiques uniques de la voix qui vont bien au-delà des capacités de l’oreille humaine.

Pour le chercheur Urs Hengartner, au contraire, pas question d’adhérer à la reconnaissance vocale. Il serait trop facile determination une personne malintentionnée d’usurper sa voix, qui est accessible facilement en ligne : Je ne fais pas du tout confiance aux systèmes d’authentification par la voix.

Quant à lui, Brian McWilliams, qui était d’abord craintif par rapport à cette technologie, a cheminé. Ce serait facile de dire servez-vous-en pas, dit-il. Mais en fait, c'est tout à fait l'inverse.

Toutefois, selon lui, la reconnaissance vocale à elle seule n’est pas suffisante. Elle doit être couplée à d’autres méthodes d’authentification, telle la validation à treble facteur, avec l’envoi d’un connection texte, par exemple.