Discussion :

[Jade Emy]

La FCC va déclarer illégales les voix générées par l'IA dans les appels automatisés, cette décision intervient après qu'un faux appel de Joe Biden a été envoyé à certains électeurs du New Hampshire.

La FCC criminalise la plupart des appels automatisés (robocalls) générés par l'IA en vertu des législations en vigueur. Cette décision intervient après qu'un faux appel téléphonique de Biden a été envoyé à certains électeurs du New Hampshire.

La Commission fédérale des communications des États-Unis (FCC) s'apprête à criminaliser explicitement les appels téléphoniques non sollicités qui utilisent des voix générées par l'intelligence artificielle, a annoncé l'agence. Cette annonce fait suite à un faux message, créé à l'aide de l'intelligence artificielle pour imiter la voix du président Joe Biden, qui demandait aux habitants du New Hampshire de ne pas voter lors des élections primaires de l'État.

La proposition interdirait ce type d'appels automatiques en vertu du Telephone Consumer Protection Act (TCPA), une loi de 1991 qui réglemente les appels politiques et commerciaux automatisés effectués sans le consentement des destinataires.

La TCPA a été utilisée dans le cadre de plusieurs poursuites judiciaires très médiatisées pour des appels illégaux. L'année dernière, la FCC a infligé une amende de 5 millions de dollars à des militants conservateurs qui s'étaient arrangés pour que des électeurs noirs reçoivent des appels leur disant faussement que leur vote pourrait les exposer à des agents de recouvrement et à des services de police en 2020. La FCC a infligé une amende de 300 millions de dollars à une société qui avait diffusé des publicités sur les garanties automobiles.

Un porte-parole de la FCC a déclaré que la commission, composée de cinq membres, devrait voter et adopter cette modification dans les semaines à venir. Cette modification permettra notamment aux procureurs généraux des États d'intenter des actions en justice contre les spammeurs qui utilisent l'IA, a précisé le porte-parole. Le bureau du procureur général du New Hampshire a annoncé l'ouverture d'une enquête sur le faux appel de M. Biden.

"Le clonage vocal et les images générés par l'IA sèment déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes", a déclaré Jessica Rosenworcel, présidente de la FCC, dans un communiqué envoyé par courriel. "Quelle que soit la célébrité ou l'homme politique que vous préférez, ou quelle que soit votre relation avec vos proches lorsqu'ils appellent à l'aide, il est possible que nous soyons tous la cible de ces faux appels", a-t-elle ajouté.

Kathy Stokes, directrice des programmes de prévention des fraudes à l'AARP, anciennement l'Association américaine des retraités, s'est félicitée de la décision de la FCC, affirmant que les appels automatisés basés sur l'IA trompent régulièrement les personnes âgées. "Dans ce pays, la fraude n'est plus considérée comme un crime, ce qui s'explique par le fait que nous avons une réaction instinctive qui consiste à blâmer la victime parce qu'elle ne sait pas quelque chose", a déclaré Mme Stokes. "Nous ne pouvons pas nous en sortir par l'éducation", a-t-elle ajouté.

Voici le communiqué envoyé par courriel de la FCC :

La présidente de la FCC rend illégaux les robocalls (appels automatisés) générés par la voix artificielle

La présidente de la FCC, Jessica Rosenworcel, a proposé aujourd'hui que la FCC reconnaisse que les appels effectués avec des voix générées par l'IA sont des voix "artificielles" au sens de la loi sur la protection des consommateurs par téléphone (TCPA), ce qui rendrait illégale la technologie de clonage de voix utilisée dans les escroqueries courantes par appels téléphoniques automatisés (robocalls) visant les consommateurs. L'augmentation de ce type d'appels s'est accélérée au cours des dernières années, car cette technologie permet désormais d'induire les consommateurs en erreur en imitant les voix de célébrités, de candidats politiques et de membres de la famille proche. En prenant cette mesure, la FCC fournira de nouveaux outils aux procureurs généraux des États à travers le pays pour poursuivre les mauvais acteurs à l'origine de ces appels téléphoniques frauduleux et les tenir pour responsables en vertu de la loi.

"Le clonage vocal et les images générés par l'IA sèment déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes. Quelle que soit la célébrité ou le politicien que vous préférez, ou quelle que soit votre relation avec vos proches lorsqu'ils appellent à l'aide, il est possible que nous soyons tous la cible de ces faux appels", a déclaré Jessica Rosenworcel, présidente de la FCC. "C'est pourquoi la FCC prend des mesures pour reconnaître cette technologie émergente comme illégale au regard de la législation en vigueur, donnant ainsi à nos partenaires des bureaux des procureurs généraux des États à travers le pays de nouveaux outils qu'ils peuvent utiliser pour réprimer ces escroqueries et protéger les consommateurs".

En novembre, la FCC a lancé un avis d'enquête afin de constituer un dossier sur la manière dont l'agence peut lutter contre les appels illégaux et sur la manière dont l'IA pourrait être impliquée. L'agence a posé des questions sur la manière dont l'IA pourrait être utilisée pour les escroqueries résultant d'appels indésirables, en imitant la voix de personnes que nous connaissons, et sur la question de savoir si cette technologie devrait faire l'objet d'une surveillance en vertu de la TCPA. De même, la FCC s'est interrogée sur la manière dont l'IA peut nous aider à reconnaître les schémas afin que nous transformions cette technologie en une force du bien capable de reconnaître les appels illégaux avant même qu'ils n'atteignent les consommateurs au téléphone.

La loi sur la protection des consommateurs par téléphone (Telephone Consumer Protection Act) est la principale loi utilisée par la FCC pour limiter les appels indésirables. Elle restreint les appels de télémarketing et l'utilisation de systèmes de composition automatique de numéros de téléphone et de messages vocaux artificiels ou préenregistrés. En vertu des règles de la FCC, les télévendeurs sont également tenus d'obtenir le consentement écrit exprès des consommateurs avant d'effectuer des appels téléphoniques non sollicités. Si elle est adoptée, cette décision déclaratoire garantira que les appels vocaux générés par l'IA sont également soumis à ces mêmes normes.

Au début du mois, Michelle A. Henry, procureur général de Pennsylvanie, a pris la tête d'une coalition de 26 procureurs généraux d'État, soit plus de la moitié des procureurs généraux du pays, qui soutiennent cette approche. En prenant cette mesure, la FCC s'appuie sur ses travaux visant à établir des partenariats avec les organismes chargés de l'application de la loi dans les États du pays afin d'identifier et d'éliminer les appels illégaux de type "robocalls". La FCC a conclu un protocole d'accord avec 48 procureurs généraux d'État afin de collaborer à la lutte contre les appels téléphoniques non sollicités.

"Mon bureau est favorable à la réglementation de l'utilisation de l'intelligence artificielle dans les robocalls dans le cadre de la législation existante, afin de protéger les consommateurs contre les tactiques de marketing intentionnellement trompeuses et manipulatrices", a déclaré Michelle Henry, procureur général de Pennsylvanie. "Nous félicitons la présidente Rosenworcel d'avoir pris en compte notre contribution et d'avoir pris cette mesure opportune pour garantir aux consommateurs la possibilité de donner leur consentement écrit préalable avant de recevoir des appels où la technologie de l'intelligence artificielle fait office d'agent en chair et en os."

Source : Communiqué par courriel de la FCC

Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous que cette approche de la FCC est crédible ou pertinente ?

Voir aussi :

Les nouveaux outils de clonage de voix par l'IA ajoutent "de l'huile sur le feu" de la désinformation. Une voix de Joe Biden générée par l'IA prononce un discours "hilarant" sur l'état de l'Union

Des milliers de personnes arnaquées par des voix d'IA imitant des proches en cas d'urgence. 11 millions de dollars ont été volés par le biais de ces escroqueries par téléphone en 2022

Cybercriminalité : comment un fumeur de cannabis de 35 ans à l'origine de 10 millions d'appels frauduleux a fait fortune. Le site iSpoof.cc a permis aux cybercriminels de voler 100 M£

[Anthony]

La FCC juge illégales les voix générées par l'IA dans les robocalls : "De mauvais acteurs les utilisent pour extorquer des membres de la famille, imiter des célébrités et désinformer les électeurs"

La Commission fédérale des communications (FCC) a interdit ce jeudi 9 février les appels téléphoniques robotisés (robocalls) contenant des voix générées par l'intelligence artificielle, une décision qui envoie un message clair : l'exploitation de cette technologie pour escroquer les gens et induire les électeurs en erreur ne sera pas tolérée.

Cette décision unanime vise les appels téléphoniques robotisés réalisés à l'aide d'outils de clonage vocal par intelligence artificielle, en vertu de la loi sur la protection des consommateurs de services téléphoniques (Telephone Consumer Protection Act), une loi de 1991 qui restreint les appels indésirables utilisant des messages vocaux artificiels et préenregistrés.

L'annonce de l'action entreprise par la Commission est présentée ci-dessous :

La FCC rend illégales les voix générées par l'intelligence artificielle dans les robocalls
Les procureurs des États disposent désormais de nouveaux outils pour lutter contre les escroqueries au clonage vocal

WASHINGTON, le 8 février 2024 - La Commission fédérale des communications a annoncé aujourd'hui l'adoption à l'unanimité d'une décision déclaratoire reconnaissant que les appels effectués avec des voix générées par l'IA sont "artificiels" au sens de la loi sur la protection des consommateurs par téléphone (TCPA). Cette décision, qui prend effet immédiatement, rend illégale la technologie de clonage de la voix utilisée dans les escroqueries de type "robocall" qui ciblent les consommateurs. Les procureurs généraux des États du pays disposeront ainsi de nouveaux outils pour poursuivre les malfaiteurs à l'origine de ces appels téléphoniques frauduleux.

"Les mauvais acteurs utilisent des voix générées par l'IA dans des appels téléphoniques non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous mettons en garde les fraudeurs qui se cachent derrière ces robocalls", a déclaré Jessica Rosenworcel, présidente de la FCC. "Les procureurs généraux des États disposeront désormais de nouveaux outils pour réprimer ces escroqueries et veiller à ce que le public soit protégé contre la fraude et la désinformation."

L'augmentation de ce type d'appels s'est accélérée au cours des dernières années, car cette technologie permet désormais de confondre les consommateurs avec des informations erronées en imitant les voix de célébrités, de candidats politiques et de membres de la famille proche. Alors que les procureurs généraux des États peuvent actuellement cibler le résultat d'un appel vocal non désiré généré par l'IA, comme l'escroquerie ou la fraude qu'ils cherchent à perpétrer, cette mesure rend désormais illégal le fait d'utiliser l'IA pour générer la voix de ces appels téléphoniques, élargissant ainsi les voies légales par lesquelles les organismes chargés de l'application de la loi dans les États peuvent tenir ces auteurs pour responsables en vertu de la loi.

En novembre 2023, la FCC a lancé un avis d'enquête afin de constituer un dossier sur la manière dont l'agence peut lutter contre les appels téléphoniques illégaux et sur la manière dont l'IA pourrait être impliquée. L'agence a posé des questions sur la manière dont l'IA pourrait être utilisée pour des escroqueries résultant d'appels indésirables, en imitant la voix de personnes que nous connaissons, et sur la question de savoir si cette technologie devrait faire l'objet d'une surveillance en vertu de la TCPA. De même, la FCC s'est interrogée sur la manière dont l'IA peut nous aider à reconnaître les schémas afin que nous transformions cette technologie en une force du bien capable de reconnaître les appels illégaux avant même qu'ils n'atteignent les consommateurs au téléphone.

La loi sur la protection des consommateurs de services téléphoniques (Telephone Consumer Protection Act) est la principale loi utilisée par la FCC pour limiter les appels indésirables. Elle restreint les appels de télémarketing et l'utilisation de systèmes de composition automatique de numéros de téléphone et de messages vocaux artificiels ou préenregistrés. En vertu des règles de la FCC, les télévendeurs sont également tenus d'obtenir le consentement écrit exprès et préalable des consommateurs avant d'effectuer des appels robotisés. Cette décision déclaratoire garantit que les voix générées par l'IA dans les appels sont également soumises à ces mêmes normes.

La TCPA confère à la FCC le pouvoir d'infliger des amendes aux auteurs d'appels téléphoniques non sollicités. La Commission peut également prendre des mesures pour bloquer les appels des opérateurs téléphoniques qui facilitent les appels illégaux. En outre, la TCPA permet aux consommateurs individuels ou à une organisation d'intenter une action en justice contre les auteurs de robocalls. Enfin, les procureurs généraux des États disposent de leurs propres outils d'application, qui peuvent être liés aux définitions des "robocalls" en vertu de la TCPA.

Une coalition de 26 procureurs généraux d'État, soit plus de la moitié des procureurs généraux du pays, a récemment écrit à la FCC pour soutenir cette approche. En prenant cette mesure, la FCC s'appuie sur ses travaux visant à établir des partenariats avec les organismes chargés de l'application de la loi dans les États du pays afin d'identifier et d'éliminer les appels téléphoniques illégaux. Ces partenariats peuvent fournir des ressources essentielles pour monter des dossiers et coordonner les efforts afin de protéger les consommateurs et les entreprises dans tout le pays. La FCC offre aux États partenaires non seulement l'expertise de son personnel chargé de l'application de la loi, mais aussi des ressources et des recours importants pour soutenir les enquêtes des États.

La FCC a conclu un protocole d'accord avec 48 procureurs généraux d'État afin de collaborer à la lutte contre les appels téléphoniques non sollicités.

Source : "FCC makes AI-generated voices in robocalls illegal" (Commission fédérale des communications)

Et vous ?

Que pensez-vous de cette mesure prise par la FCC ? Trouvez-vous cette initiative pertinente et justifiée ?

Voir aussi :

La FCC va déclarer illégales les voix générées par l'IA dans les appels automatisés, cette décision intervient après qu'un faux appel de Joe Biden a été envoyé à certains électeurs du New Hampshire

Les nouveaux outils de clonage de voix par l'IA ajoutent "de l'huile sur le feu" de la désinformation, une voix de Joe Biden générée par l'IA prononce un discours "hilarant" sur l'état de l'Union