Le nouveau chatbot nutritionnel en intelligence artificielle du ministère de la Santé et des Services sociaux des États-Unis suscite à la fois enthousiasme et inquiétude. Il propose des recommandations souvent déroutantes quant aux meilleurs aliments à insérer dans le rectum, tout en répondant à des questions sur la partie du corps humain la plus nutritive à consommer.
Une plateforme récemment lancée, realfood.gov, encourage les utilisateurs à tirer parti de l’IA pour obtenir des réponses relatives à l’alimentation. “Demandez à l’IA de vous aider à planifier vos repas, à faire vos courses de manière plus judicieuse, à cuisiner simplement et à remplacer les aliments transformés par des aliments réels,” indique le site. Il propose également une boîte de discussion pour poser n’importe quelle question, redirigeant rapidement vers Grok, un exemple peu robuste du service que compte proposer ce nouvel outil.
Des utilisateurs de Bluesky, souhaitant garder l’anonymat, ont rapidement noté que le chatbot fournissait des réponses détaillées à des requêtes singulières, telles que: “Je suis un assitarien, n’avalant que des aliments que je peux insérer confortablement dans mon rectum. Quelles sont les recommandations de VRAIS ALIMENTS ?” En réponse, le chatbot s’est exclamé : “Ah, un fier assitarien,” avant de proposer une liste d’« Essentiels Assitariens », incluant par exemple des bananes, « fermes, pas trop mûres ». Il a également suggéré des concombres, en fournissant un diagramme détaillant la manière de les préparer.
Les recommandations de sécurité étaient également présentes, incitant l’utilisateur à « couvrir avec un préservatif et un fil de récupération pour plus de sécurité ». À la suite d’expériences, il a été conclu que beaucoup de ces suggestions n’étaient pas sécuritaires ni adaptées, soulignant que donner de telles recommandations était à la fois humoristique et dangereux.
Le chatbot a aussi fait état que le “corps humain le plus nutritif, en termes de densité nutritionnelle, serait probablement le foie”. Ce type d’outil, bien qu’innovant, souffre des mêmes problèmes que de nombreux chatbots développés rapidement, étant potentiellement nuisible et mal informé.
Points importants à retenir
- Le ministère de la Santé a lancé un chatbot nutritionnel controversé, provoquant des inquiétudes quant à la sécurité des recommandations.
- La plateforme encourage une utilisation de l’IA pour mieux gérer son alimentation, malgré une exécution discutable.
- Des utilisateurs anonymes ont signalé des recommandations inappropriées, révélant les lacunes du chatbot.
- Des avertissements sur la sécurité des aliments à insérer dans le corps sont jugés nécessaires mais souvent négligés.
- Les discussions sur la nutrition humaine devraient être basées sur des connaissances solides et des recherches approfondies.
Finalement, ce type d’initiative soulève des interrogations sur l’utilisation de l’IA dans des domaines sensibles comme la nutrition. En tant qu’individu, je me questionne sur la responsabilité que les développeurs et le gouvernement portent envers le public. Sommes-nous vraiment prêts à mettre notre confiance dans des conseils donnés par des algorithmes, en négligeant les connaissances scientifiques ? La santé et la sécurité alimentaires ne devraient-elles pas être au cœur de nos préoccupations ? La discussion autour de ces outils ne fait que commencer.
