IA - L’OMS appelle à l’encadrement stricte des chatbots dans la médecine
Face à l’engouement pour les grands modèles de langage multimodaux (LMM), l’OMS a publié ce jeudi 18 janvier 2024 un rapport détaillé. Il comprend plus de 40 recommandations pour encadrer strictement le développement et l’utilisation des technologies d’IA dans le domaine médical et sanitaire.
Des chatbots d’IA aux capacités proches de l’humain mais pas infaillibles
Les LMM comme ChatGPT sont entraînés sur d’immenses bases de données de textes, leur permettant de générer automatiquement de nouveaux textes de manière cohérente sur presque n’importe quel sujet. Ils peuvent comprendre des questions complexes, chercher des informations pertinentes et formuler des réponses articulées.
Certains modèles d’IA récents montrent même des capacités de raisonnement avancées. Par exemple, le chatbot Claude développé par Anthropic peut refuser de fournir des réponses dangereuses en matière de santé et reconnaître les limites de ses connaissances.
Mais ces chatbots ne disposent pas réellement d’une compréhension profonde du language et du monde. Leurs réponses peuvent contenir des informations fausses ou dangereuses, en particulier sur des sujets sensibles comme la santé. Le risque de biais algorithmique est également élevé.
Ces limites de l’IA ne sont pas toujours évidentes pour les utilisateurs, d’où l’importance d’encadrer strictement l’usage des LMM dans le domaine médical selon l’OMS.
Des applications prometteuses pour améliorer les diagnostics et la relation patient
Malgré les risques, l’usage responsable des chatbots d’IA pourrait offrir des bénéfices significatifs pour la santé publique.
L’OMS identifie plusieurs applications potentielles des LMM en santé :
- Répondre à des questions écrites de patients pour les orienter vers les bons interlocuteurs, traitements et services de santé
- Fournir des informations personnalisées aux patients sur leur état de santé et leur traitement
- Analyser les données médicales d’un patient pour aider au diagnostic de maladies
- Générer des simulations de patients réalistes pour la formation des professionnels de santé
- Automatiser des tâches administratives chronophages pour permettre aux médecins de se concentrer sur les soins
Certains hôpitaux et startups expérimentent déjà des chatbots d’IA pour des usages bien encadrés comme la prise de rendez-vous ou le dépistage de certains troubles.
Mais l’OMS met en garde contre les dangers d’une adoption précipitée sans cadre éthique et réglementaire adéquat.
Grâce à ces recommandations, l’OMS espère tracer la voie vers le développement de modèles de langage d’IA à la fois utiles et éthiques dans le domaine de la santé. L’enjeu est de tirer parti du potentiel des chatbots pour améliorer l’accessibilité des soins, la relation patient, la formation des professionnels de santé et l’avancée des connaissances médicales. Mais la sécurité et le bien-être des patients doivent rester la priorité absolue. D’où l’importance d’une régulation proactive et d’une évaluation continue des risques selon l’OMS.
Maximisez votre expérience Cointribune avec notre programme 'Read to Earn' ! Pour chaque article que vous lisez, gagnez des points et accédez à des récompenses exclusives. Inscrivez-vous dès maintenant et commencez à cumuler des avantages.
Le monde évolue et l'adaptation est la meilleure arme pour survivre dans cet univers ondoyant. Community manager crypto à la base, je m'intéresse à tout ce qui touche de près ou de loin à la blockchain et ses dérivés. Dans l'optique de partager mon expérience et de faire connaître un domaine qui me passionne, rien de mieux que de rédiger des articles informatifs et décontractés à la fois.
Les propos et opinions exprimés dans cet article n'engagent que leur auteur, et ne doivent pas être considérés comme des conseils en investissement. Effectuez vos propres recherches avant toute décision d'investissement.