Poser des questions de santé à une IA: une bonne idée?
Un usage fréquent
Les IA sont considérées comme des bibliothèques, mais elles se nourrissent en pratique de contenus fréquents et d’opinions. Il y a autant d’opinions que d’usagers en pratique et les sites, forums, fils de discussion promouvant, de bonne foi ou pas, des fake médecines sont très nombreux.
Une série de requêtes par la revue médicale indépendante Prescrire ramène des résultats inquiétants
Intelligence artificielle : manque d’esprit critique
L’intelligence artificielle (IA) fait de plus en plus parler d’elle, est de plus en plus utilisée, et fait rêver certains. Elle est aussi critiquée, notamment
La plupart des applications questionnées sur des sujets de santé “ont produit des informations fausses mais convaincantes, notamment en inventant des témoignages de médecins et de patients.”
L’IA reste utile
L’IA peut organiser et résumer des informations de façon très puissante, mais vous ne pouvez pas lui faire confiance pour vous fournir ces informations en premier lieu. Comme pour tout sujet, vous n’êtes en sécurité que si vous le maîtrisez par avance ce qui permet de repérer les hallucinations (dont les fausses références d’allure très convaincante ! ). Les IA “spécialisées en santé” et entraînées spécifiquement sur ces sujets seront sans doute plus fiables à l’avenir (il existe des outils de transcription et de synthèse de consultation médicale très fiables sous réserve de relecture, type Nabla) mais n’accordez aucune confiance à une IA généraliste sur un sujet que vous ne maîtrisez pas de bout en bout (mention spéciale à Deep se#k dans mon expérience personnelle, mais pas que)
