SINGAPOUR : Des “étiquettes nutritionnelles” pour les services d’intelligence artificielle pourraient aider les utilisateurs à mieux comprendre le fonctionnement de ces systèmes, à condition qu’elles soient conçues de manière claire, régulièrement mises à jour et soutenues par l’industrie, selon des experts interrogés par CNA.
Cette idée, évoquée le mois dernier par la ministre du Développement numérique et de l’Information, Josephine Teo, est actuellement “activement explorée” par le gouvernement dans le cadre d’efforts plus larges visant à renforcer la confiance et la sécurité dans l’espace numérique.
Bien que ces étiquettes aient le potentiel d’améliorer la transparence, le professeur Simon Chesterman, qui dirige la gouvernance et la politique de l’IA à l’Institut de l’IA de l’Université nationale de Singapour, a souligné que des étiquettes mal conçues risquent de devenir un simple “exercice de conformité”, qui ne fera qu’alourdir les responsabilités des développeurs sérieux tout en étant ignoré par le reste des utilisateurs.
Pour être efficaces, ces étiquettes devraient expliquer ce que le système est censé faire, sur quelles données il repose, ses principales limitations, la fréquence de ses mises à jour et qui est responsable en cas de problème.
« Pour les outils destinés aux consommateurs, le point essentiel est de ne pas créer une illusion de précision, mais d’aider les utilisateurs à comprendre quand ils peuvent faire confiance aux résultats et quand ils doivent faire preuve de prudence, » a-t-il ajouté.
Dans la même veine, le professeur Bo An, responsable de la division IA au Collège de l’informatique et des sciences des données de l’Université Technologique de Nanyang (NTU), a mis en garde contre le fait que les étiquettes doivent trouver un équilibre entre clarté et détails.
« Si elles sont trop vagues, trop longues ou considérées comme un simple exercice de conformité, la plupart des utilisateurs les ignoreront, » a affirmé le professeur An.
Motorola Solutions, qui a introduit des “étiquettes nutritionnelles IA” dans ses technologies de sécurité en juillet dernier, a déclaré qu’elle a abordé le problème potentiel de la surcharge d’informations en adoptant une approche par couches. Les étiquettes offrent un résumé “rapide” pour une compréhension générale tout en fournissant des informations plus détaillées via des liens, a indiqué Jehan Wickramasuriya, vice-président senior de la recherche et développement en IA chez Motorola Solutions.
Points importants à retenir
- Les étiquettes nutritionnelles pour l’IA pourraient renforcer la transparence, si elles sont bien conçues.
- Une bonne étiquette doit expliquer les fonctionnalités, les données utilisées et les limitations d’un système IA.
- La mise à jour régulière des informations est primordiale pour maintenir la confiance des utilisateurs.
- Les étiquettes doivent équilibrer clarté et détail pour éviter d’être négligées.
- La responsabilité en cas de défaillance doit être clairement définie.
À travers cette initiative, il est intéressant de réfléchir à notre approche face à l’innovation technologique. Je suis convaincue que ces étiquettes peuvent véritablement faciliter la compréhension des systèmes d’IA, mais leur efficacité dépend de notre capacité collective à les concevoir de manière pertinente. Dans un monde où l’information est omniprésente, la confiance ne peut se construire que si nous sommes en mesure de discerner le bon grain de l’ivraie. Nous avons tous un rôle à jouer pour encourager cette transparence essentielle.
