SINGAPOUR : Les “étiquettes de nutrition” pour les chatbots d’intelligence artificielle générative (GenAI) pourraient bientôt devenir courantes, avec l’introduction de lignes directrices volontaires par Singapour ce lundi.
Ces nouvelles recommandations encouragent les entreprises à inclure des fiches d’information pour leurs chatbots GenAI, qui pourraient prendre diverses formes, telles qu’une page d’information dédiée ou un document de divulgation.
“À l’instar d’une étiquette nutritionnelle ou d’une notice médicale, cela offre aux utilisateurs un point de référence unique pour trouver des informations essentielles concernant le chatbot qu’ils utilisent,” a déclaré l’Autorité de développement des médias et de l’informatique (IMDA) dans un communiqué.
Parmi les applications de GenAI, les chatbots sont les plus couramment rencontrés, a précisé Josephine Teo, ministre du Développement numérique et de l’Information, lors du Singapore Data Festival.
Les utilisateurs de l’application peuvent ne pas connaître ses limitations ni ce qu’il advient de leurs données, a-t-elle ajouté, soulignant que ces informations existent souvent déjà, mais sont éparpillées dans les conditions de service et les avis de confidentialité.
“L’étiquette ne nous dit pas tout. Elle indique les essentiels, comme à quoi sert le ‘médicament’, comment l’utiliser, quelle quantité est recommandée, quels effets secondaires surveiller et quand ne pas l’utiliser,” a détaillé Mme Teo.
“Nous commençons avec un cadre volontaire et nous l’affinerons avec les retours du secteur à mesure que les pratiques évolueront.”
Ces fiches d’information doivent être pertinentes, accessibles et opportunes, a ajouté l’IMDA. Elles devraient répondre aux questions que se posent réellement les utilisateurs – ce que le chatbot peut et ne peut pas faire, sa fiabilité et sa sécurité, la manière dont leurs données sont traitées ainsi que les moyens de signaler des problèmes.
Les informations doivent être rédigées dans un langage clair, faciles à rechercher et à naviguer, et tenues à jour.
“À mesure que les chatbots GenAI s’ancrent dans la vie quotidienne, la transparence devient essentielle, car elle permet aux utilisateurs de comprendre ce que ces applications peuvent et ne peuvent pas faire, ainsi que la gestion des risques clés,” a noté l’IMDA.
Bien que les lignes directrices soient volontaires, plusieurs organisations ont indiqué leur intention de s’y référer pour renforcer les pratiques de transparence de leurs chatbots. Le secteur public se veut exemplaire, avec des agences telles que la National Library Board et le Health Promotion Board prévoyant d’adopter ces recommandations.
Des entreprises comme DBS, Google, Meta, OCBC et Singapore Airlines entendraient également appliquer ces lignes directrices pour améliorer la transparence de leurs chatbots.
UTILISER LES DONNÉES POUR DÉVELOPPER GENAI
La ministre Teo a également annoncé de nouvelles lignes directrices concernant la collecte et l’utilisation responsable des données personnelles pour le développement de GenAI.
“Prenons par exemple une équipe de service client souhaitant améliorer un modèle GenAI à l’aide d’enregistrements d’appels pour répondre rapidement et avec précision aux demandes des clients. Nous avons tous été informés que l’appel pouvait être enregistré à des fins de qualité et d’amélioration,” a-t-elle expliqué.
“Mais nous savons également que ces enregistrements peuvent contenir des données personnelles, comme nos noms, nos adresses, nos détails de facturation,” a-t-elle poursuivi. “Quelles obligations ces équipes ont-elles vis-à-vis des clients avant d’utiliser leurs données pour la formation de modèles?”
Alors que de nombreuses organisations intègrent de plus en plus GenAI dans leur fonctionnement, l’IMDA souligne l’importance de clarifier l’application de la Loi sur la protection des données personnelles – en particulier en ce qui concerne l’extraction de données et la réutilisation de données initialement collectées à des fins autres que GenAI.
Les organisations souhaitant développer des modèles GenAI peuvent extraire des données personnelles publiques sans consentement, selon l’IMDA. Toutefois, si ces données se trouvent derrière des barrières numériques telles que des paywalls, un consentement s’avère nécessaire.
Les organisations doivent toujours obtenir le consentement préalable au traitement des données personnelles et en informer les individus sur la raison de cette collecte. Les nouvelles lignes directrices précisent que ces notifications doivent désormais signaler spécifiquement lorsque des données personnelles sont utilisées pour le développement de GenAI.
Les organisations doivent également indiquer quelles données seront utilisées, dans quel but et comment les individus peuvent refuser ou retirer leur consentement.
Dans l’exemple du service client, Mme Teo a mentionné que l’entreprise pourrait mettre à jour sa politique de confidentialité pour indiquer que les appels enregistrés avec des clients ayant donné leur accord seraient utilisés pour entraîner et améliorer les modèles d’IA.
Elle a recommandé de mettre à jour les scripts de demande de consentement des employés.
De nombreuses organisations fournissent déjà des avis similaires en matière d’IA. Les lignes directrices vont plus loin en couvrant les rôles et responsabilités des parties prenantes dans la chaîne de valeur de l’IA.
“Avec une plus grande clarté sur l’application des exigences existantes à GenAI, les entreprises pourront concevoir de meilleurs processus avec les protections appropriées.”
Les individus peuvent également demander à accéder ou à rectifier leurs données personnelles, même après leur utilisation pour développer un modèle GenAI, comme le stipulent les lignes directrices. L’IMDA reconnaît que cela peut être difficile compte tenu de l’échelle des données et recommande aux organisations d’adopter des pratiques rigoureuses.
Points importants à retenir
- Les nouvelles lignes directrices à Singapour introduisent des fiches d’information pour les chatbots GenAI.
- Ces fiches ont pour but de clarifier les capacités et les limitations des chatbots pour les utilisateurs.
- Les données personnelles doivent être collectées et utilisées de manière responsable dans le développement de GenAI.
- Il est essentiel que les utilisateurs aient un accès facile aux informations concernant leurs données.
- Les organisations doivent obtenir le consentement éclairé des utilisateurs avant d’utiliser leurs données pour l’IA.
Dans cette ère numérique où l’intelligence artificielle prend une place prépondérante, nous devons non seulement adapter nos pratiques à la technologie, mais également veiller à ce que l’éthique et la transparence demeurent au cœur de toutes les initiatives. L’avenir des interactions avec les chatbots repose sur notre capacité à établir des normes claires et à respecter les droits des utilisateurs. Au fond, sommes-nous vraiment prêts à prendre cette responsabilité collective ?
