Health in ChatGPT fonctionne en se connectant à l’application Apple Health, déjà utilisée par des millions d’utilisateurs pour suivre leur activité physique, leur sommeil, leurs médicaments et bien d’autres informations personnelles. Cette connexion permettrait à ChatGPT de disposer d’un contexte plus riche lors de ses conversations sur la santé, lui permettant ainsi de formuler des réponses plus personnalisées. OpenAI souligne que les données connectées – comme les résultats de laboratoire, les traitements antérieurs, les activités physiques ou le sommeil – seraient prises en compte pour contextualiser les demandes des utilisateurs. L’entreprise affirme également qu’elle n’utilisera pas ces données pour l’entraînement de ses modèles ni pour la diffusion de publicités ciblées. Cependant, cette promesse d’anonymisation ne suffit pas à apaiser les inquiétudes légitimes.
La situation est d’autant plus délicate que ChatGPT a récemment été impliqué dans une affaire judiciaire. Un homme du Florida accuse le chatbot d’avoir lui-même fourni des recommandations médicales dangereuses, qui auraient aggravé son emphysème pulmonaire et l’auraient dissuadue de consulter un médecin. Cet incident, qui s’est produit juste quelques jours avant le lancement de “Health in ChatGPT”, met en lumière la fragilité de la confiance que l’on peut accorder à une IA lorsqu’il s’agit de sujets aussi sensibles que la santé. Il est crucial de se rappeler que les chatbots sont des algorithmes, dépourvus d’empathie et de jugement clinique. Ils ne peuvent pas remplacer l’expertise d’un professionnel de santé.
