L’intelligence artificielle ouvre des possibilités extraordinaires pour les entreprises créatives. 🤩

• Génération d’images;
• production de contenus;
• automatisation;
• développement de produits.

Les occasions se multiplient!

Mais lorsque la technologie est utilisée à mauvais escient, qui assume les conséquences? 🤔

• L’utilisateur qui a donné les instructions?
• L’entreprise qui a développé l’outil?
• Celle qui l’a intégré à ses activités?

La réponse risque de déplaire à ceux qui pensent pouvoir se réfugier derrière leurs conditions d’utilisation. 😳

Ce n’est pas parce que vous n’avez pas appuyé sur le bouton que vous n’êtes pas responsable.

Une entreprise qui développe, commercialise ou déploie un système d’IA ne peut pas automatiquement se dégager de ses responsabilités en invoquant les agissements de ses utilisateurs. Lorsqu’une technologie permet de traiter des renseignements personnels, les obligations de protection de la vie privée continuent de s’appliquer, même lorsque l’utilisation qui en est faite n’était pas celle envisagée au départ.

Et c’est précisément là que les choses deviennent intéressantes.

Prévoir les dérapages fait aussi partie du développement.

Vous développez un outil capable de générer des images réalistes, de reproduire des voix ou de manipuler des contenus? Il ne suffit pas de vous assurer qu’il fonctionne comme prévu. Vous devez également vous demander comment il pourrait être détourné de sa fonction initiale.

• Usurpation d’identité;
• Utilisation non autorisée de renseignements personnels;
• Création de contenus préjudiciables.

Ce sont certains risques suffisamment prévisibles pour devoir être pris en compte dès la conception. Attendre qu’un incident survienne avant d’installer des garde-fous peut s’avérer une stratégie particulièrement coûteuse.

Le consentement n’est pas une formalité qu’on règle en petits caractères.

L’utilisation de renseignements personnels dans un système d’IA soulève des questions qui dépassent largement les conditions générales acceptées par ses utilisateurs. Les personnes dont les images, les voix ou les renseignements sont exploités n’ont pas nécessairement consenti à ces utilisations.

Et même lorsqu’un consentement est obtenu, cela ne signifie pas que toutes les utilisations deviennent automatiquement acceptables. Les finalités poursuivies doivent elles-mêmes être appropriées.

Une politique sur l’IA, c’est bien. Des mécanismes qui fonctionnent, c’est mieux.

Pour les entreprises qui développent ou intègrent ces technologies, la gestion des risques doit se traduire concrètement : évaluation des utilisations possibles, mesures de protection, encadrement des employés, contrôle des accès et mécanismes permettant de réagir rapidement lorsqu’un problème survient.

Ces mesures doivent aussi évoluer avec la technologie. Un outil relativement inoffensif aujourd’hui pourrait présenter des risques autrement plus importants après l’ajout de nouvelles fonctionnalités.

Nous croyons que l’innovation et la gestion des risques doivent avancer ensemble. Développer une technologie, c’est aussi réfléchir aux conséquences de son utilisation, prévoir les responsabilités de chacun et mettre en place les protections nécessaires. 👍

Parce que lorsque votre IA dérape, expliquer que ce n’était pas prévu risque de ne pas suffire.

L’intelligence est peut-être artificielle. La responsabilité, elle, ne l’est pas.

Photo par Zach M