Vers les premières régulations de l’IA générative ?

Lorsque les réglementations liées à l’intelligence artificielle générative entreront en vigueur, votre entreprise sera-t-elle prête ? Découvrez les projets de réglementations sur l’IA générative et les analyses du directeur des politiques publiques de Salesforce. 

1. Les États-Unis et l’Union européenne réfléchissent à une régulation de l’IA générative

L’IA générative défraie la chronique, et vous vous demandez comment en tirer parti dans votre entreprise. Bien que cette technologie puisse augmenter la productivité des employés, elle soulève des questions importantes de sûreté. Les dirigeants d’entreprise font part de leurs préoccupations concernant l’impact potentiel de l’IA et ses dangers pour la société, et certains appellent à une réglementation de l’IA générative.

Les points clés

• La Maison Blanche a déclaré qu’elle soutiendrait la législation relative à l’IA après avoir rencontré des PDG d’entreprises technologiques.
• Les leaders du secteur de l’IA mettent en garde contre la menace existentielle potentielle de cette technologie pour l’humanité si elle n’est pas maîtrisée.
• Google collabore avec l’UE pour concevoir un « pacte sur l’IA » afin de mettre en place des règles volontaires en attendant que les législateurs élaborent des réglementations officielles.
• L’UE envisage de rétablir d’anciennes lois pour répondre aux préoccupations en matière de confidentialité et de sécurité liées à l’IA générative.
   

2. Une petite histoire des réglementations sur l’IA générative

Les préoccupations liées à l’intelligence artificielle (IA) remontent à plusieurs années, lorsque les discussions portaient surles pertes d’emploi possibles, l’inégalité, les préjugés, les problèmes de sécurité, etc. Face à la croissance rapide de l’IA générative suite au lancement de ChatGPT auprès du grand public en novembre 2022, de nouveaux signaux d’alarme ont été tirés :

• Questions relatives à la confidentialité et à l’extraction de données : les entreprises doivent faire preuve de transparence quant à la source de leurs données et à la manière dont elles les utilisent.
• Préoccupations relatives aux droits d’auteur : alors que les outils d’IAG extraient des données provenant de vastes sources, le risque de plagiat augmente.
• Désinformation : de fausses informations pourraient se propager plus rapidement grâce aux chatbots d’IA, qui ont déjà inventé des histoires totalement inexactes que l’on a appelées « hallucinations ».
• Vérification de l’identité : ce que vous lisez est-il créé par un humain ou un chatbot ? Il est nécessaire de vérifier les articles, les messages sur les réseaux sociaux, les œuvres d’art et bien d’autrees choses encore.
• Protection de l’enfance : un appel a été lancé pour que les enfants et les adolescents soient protégés contre les contenus alarmants générés par l’IA sur les réseaux sociaux.

Tout cela a incité les régulateurs du monde entier à se renseigner sur la manière dont les outils d’IA générative recueillent des données et produisent des résultats, et sur la manière dont les entreprises forment l’IA. Les pays d’Europe ont rapidement appliqué le Règlement général sur la protection des données (RGPD), qui régit toutes les entreprises exerçant leur activité au sein de l’UE. Il s’agit de l’un des cadres juridiques les plus robustes au monde en matière de confidentialité. Les États-Unis ne disposent pas de réglementation globale similaire en matière de confidentialité. Cela pourrait changer, au vu de la demande de davantage de réglementation en matière d’IA générative.

« Il s’agit en grande partie des mêmes préoccupations que celles que le secteur technologique a connu précédemment », explique Danielle Gilliam-Moore. « À l’heure actuelle, les efforts de réglementation, y compris les recherches, semblent se concentrer sur la confidentialité, la modération du contenu et les droits d’auteur. Une grande partie de ces questions sont déjà abordées dans la réglementation, et les régulateurs essaient donc de s’assurer que cette dernière est adaptée à l’IA générative. »

3. Quels éléments les entreprises doivent-elles prendre en compte ?

Les entreprises s’interrogent sur l’impact de ces outils sur leurs activités. Il ne s’agit pas seulement de savoir de quoi la technologie est capable, mais aussi de comprendre le rôle que la réglementation jouera dans la manière dont les entreprises l’utiliseront. D’où proviennent les données ? Comment sont-elles utilisées ? Les clients sont-ils protégés ? Existe-t-il une transparence ?

Quel que soit votre implantation ou votre marché, assurez-vous de parler à des spécialistes de la propriété intellectuelle, de la protection des données, qui peuvent vous guider dans votre processus.

« Pour démarrer, il est toujours recommandé de consulter des conseillers de confiance », explique Danielle Gilliam-Moore. « L’innovation se produit à une vitesse incroyable.
Les conversations d’aujourd’hui pourraient donc devenir obsolètes dans les six prochains mois. »

Les régulateurs s’inquiètent de la manière dont les entreprises collectent les données et dont ces informations sont transmises aux utilisateurs. La mise en œuvre d’une politique d’utilisation acceptable, c’est-à-dire un accord entre deux ou plusieurs personnes décrivant l’utilisation appropriée de l’accès de l’IA générative à un réseau d’entreprise ou à Internet, peut contribuer à garantir le respect des règles. En outre, il est important de montrer la provenance des données, une piste documentée qui peut prouver l’origine des données et leur emplacement actuel.

4. Comment les petites entreprises peuvent-elles rester en conformité ?

Les grandes entreprises ont souvent les moyens d’investir dans la recherche et le développement liés à la technologie, surtout lorsqu’il s’agit de rester en conformité. Les petites entreprises peuvent manquer des ressources nécessaires pour leur due diligence, c’est pourquoi il est important qu’elles posent les bonnes questions aux fournisseurs et aux partenaires technologiques de leur écosystème.

Même si Salesforce prend des mesures pour développer une IA générative de confiance pour ses clients, ces derniers travaillent également avec d’autres fournisseurs et sociétés de traitement. Ils doivent rester conscients des risques potentiels et ne pas accorder une confiance aveugle à leurs partenaires. Selon Danielle Gilliam-Moore, les petites entreprises devraient notamment poser les questions suivantes :

• Êtes-vous conforme au RGPD ? 
• Êtes-vous conforme aux normes spécifiques de protection des données (certification Hébergeur de Données de Santé) ou à toute autre loi régissant votre secteur d’activité ?
• Disposez-vous d’une politique d’utilisation acceptable ?
• Quelles sont vos certifications ? 
• Quelles sont vos pratiques en matière de données ? 
• Disposez-vous de politiques qui tentent de régir le déploiement de cette technologie ?

« Si vous êtes une petite entreprise, vous devrez peut-être vous en remettre à la diligence de vos fournisseurs de services tiers », indique Danielle Gilliam-Moore. « Examinez leurs protocoles de confidentialité, leurs procédures de sécurité ainsi que ce qu’ils identifient comme des préjudices et des protections. Il faut être très attentif à cela. »

5. Ce que votre entreprise peut faire dès à présent

• Évaluez les IA génératives disponibles sur le marché et trouvez les plus intéressantes pour votre entreprise ;
• Demandez-vous si vous devez développer votre propre modèle de langage ou vous procurer celui d’un tiers
• Soyez conscient des risques éventuels.

« Il est important de savoir comment déployer l’IA générative et d’être conscient de ses inconvénients », révèle Danielle Gilliam-Moore.

« Il s’agit en grande partie des mêmes préoccupations que celles que le secteur technologique a connu précédemment », explique Danielle Gilliam-Moore. « À l’heure actuelle, les efforts de réglementation, y compris les recherches, semblent se concentrer sur la confidentialité, la modération du contenu et les droits d’auteur. Une grande partie de ces questions sont déjà abordées dans la réglementation, et les régulateurs essaient donc de s’assurer que cette dernière est adaptée à l’IA générative. »