FitToFly
Retour à l'accueil

Conception responsable

Les dispositifs médicaux utilisant l'intelligence artificielle introduisent des risques spécifiques liés aux facteurs humains : interprétation des résultats, calibration de la confiance, érosion des compétences cliniques.

FitToFly est conçu pour adresser explicitement ces risques, en alignement avec les recommandations publiées dans NEJM AI (Mathias et al., mars 2026) et le guide HAS/CNIL sur le bon usage des systèmes d'IA en contexte de soins (février 2026).

R1

Erreur d'interprétation

Le risque

L'utilisateur perçoit l'information mais en comprend mal la signification. Risque amplifié par les sorties probabilistes de l'IA et les interfaces qui orientent l'attention.

Notre réponse

Le texte réglementaire source est affiché en permanence à côté de la synthèse. Le médecin vérifie en continu — la transparence est le mode par défaut, pas l'exception.

R2

Calibration de la confiance

Le risque

L'utilisateur accorde à l'IA un niveau de confiance supérieur ou inférieur à sa fiabilité réelle. Les scores de confiance élevés peuvent donner une fausse impression de certitude.

Notre réponse

FitToFly n'affiche pas de score de confiance trompeur. Un indicateur de certitude explicite signale quand la réponse repose sur des sources solides et quand elle atteint les limites du corpus.

R3

Biais d'automation

Le risque

L'utilisateur accepte les recommandations de l'IA sans les vérifier, même quand des indices suggèrent une erreur.

Notre réponse

FitToFly présente la réglementation applicable — il ne recommande jamais de décision d'aptitude. La décision reste exclusivement sous la responsabilité du médecin examinateur.

R4

Érosion des compétences

Le risque

L'utilisation prolongée d'une assistance automatisée peut éroder les compétences cliniques du médecin, notamment sa capacité à raisonner sans aide.

Notre réponse

L'EHR fonctionne intégralement sans IA. Le dossier médical, l'examen, la décision d'aptitude et le certificat ne dépendent d'aucun modèle de langage. L'IA est un complément, pas un prérequis.

R5

Technostress et friction

Le risque

L'IA peut ajouter de la charge cognitive au lieu de la réduire : alertes excessives, responsabilités floues, logique évolutive sous pression temporelle.

Notre réponse

L'interface sépare clairement les 5 étapes de la consultation (formulaire, synthèse, examen, décision, analyse). Chaque étape a un périmètre défini. Les outils IA sont accessibles en panneau latéral, jamais imposés.

R6

Dérive d'indication

Le risque

L'outil est utilisé en dehors de son périmètre prévu : populations non validées, contextes cliniques non couverts.

Notre réponse

Les arbres décisionnels couvrent 18 pathologies identifiées. Les questions hors corpus reçoivent un refus structuré — l'outil signale explicitement ce qu'il ne sait pas, sans fabrication.

R7

Erreur liée aux mises à jour

Le risque

Les mises à jour de l'IA (seuils, libellés, logique) peuvent modifier le comportement de l'outil sans que l'utilisateur en soit conscient.

Notre réponse

Les arbres décisionnels sont versionnés et validés par extraction déterministe contre le texte EASA. Chaque mise à jour réglementaire est tracée et documentée.

Comment fonctionne l'assistant réglementaire

Pourquoi ne pas simplement poser la question à ChatGPT ou à un autre assistant généraliste ? Parce qu'un modèle de langage généraliste répond à partir de ce qu'il a appris pendant son entraînement — un corpus massif mais figé, sans garantie de couverture ni de version pour la réglementation EASA. Il peut produire une réponse convaincante mais inexacte, mélanger des versions de textes, ou inventer une référence qui n'existe pas.

L'approche RAG — Retrieval-Augmented Generation

FitToFly utilise une architecture appelée RAG : avant de formuler sa réponse, le système recherche d'abord les passages pertinents dans une base documentaire vérifiée, puis le modèle de langage rédige sa synthèse uniquement à partir de ces passages.

Étape 1

Recherche

La question du médecin est comparée à l'ensemble du corpus réglementaire. Les sections les plus pertinentes sont identifiées et extraites intégralement.

Étape 2

Synthèse

Le modèle de langage rédige une réponse structurée en s'appuyant exclusivement sur les textes récupérés. Il ne peut pas inventer une source.

Étape 3

Vérification

Le texte source est affiché en parallèle de la synthèse. Le médecin peut vérifier chaque affirmation en un coup d'œil.

Ce que cela change concrètement

•
Sources traçables — Chaque réponse cite la référence exacte (ex : AMC1 MED.B.010(a))
•
Corpus à jour — Quand la réglementation change, on met à jour la base — pas le modèle
•
Refus structuré — Si la question dépasse le corpus, l'outil le signale au lieu d'inventer
•
Hiérarchie normative — Regulation, AMC, GM, Vademecum DGAC : chaque source est identifiée par son niveau

En résumé : un assistant généraliste sait beaucoup de choses sur beaucoup de sujets, mais ne peut pas garantir qu'il cite le bon article, la bonne version, ou la bonne classe. FitToFly ne sait que ce qui est dans son corpus vérifié — et c'est précisément ce qui le rend fiable pour un usage en consultation.

Vos données

Ce que nous faisons — et ne faisons pas — avec vos données

•
Aucune vente de données — Vos données médicales ne sont ni vendues, ni partagées, ni monétisées
•
Pseudonymisation — Les appels au modèle de langage ne contiennent aucune donnée patient identifiable
•
Hébergement HDS — Infrastructure certifiée pour les données de santé, conforme au référentiel en vigueur
•
Chiffrement — Les données sensibles sont chiffrées au repos et en transit

À terme, les données anonymisées et agrégées issues de la pratique pourraient contribuer à la recherche en médecine aéronautique — exclusivement dans le cadre légal prévu par la stratégie nationale sur l'utilisation secondaire des données de santé (CNS, juillet 2025) et le règlement européen sur l'Espace Européen des Données de Santé (EEDS). Aucune utilisation secondaire ne sera effectuée sans consentement explicite et sans validation par les instances compétentes.

Transparence fournisseur

HAIP AI Vendor Disclosure Framework

FitToFly adhère au HAIP AI Vendor Disclosure Framework (Health AI Partnership, Duke Institute for Health Innovation, publié dans NEJM AI en avril 2026), un cadre de transparence structuré autour de 5 domaines.

•
Capacités et usage prévu — EHR aéromédical avec RAG réglementaire — aide à la décision, pas de décision automatisée
•
Performance et conformité — Recall RAG 97-98%, Non-Device CDS, CERTAINTY indicator, 300+ tests
•
Data stewardship — HDS, pseudonymisation, pas de réutilisation pour l'entraînement, données propriété du médecin
•
Intégration — Application web standalone, export FHIR R4 planifié, aucune installation requise
•
Cycle de vie — Golden set à chaque mise à jour, feedback intégré, compound learning

Le dossier complet de disclosure est disponible sur demande (contact@fittofly.io).

Références

  • Mathias R, Schmitt A, Campos M, et al. “Evaluation of Human Factors–Related Risks in AI-Enabled Medical Devices — A Practical Guide.” NEJM AI 2026;3(4). DOI: 10.1056/AIpc2501297
  • HAS / CNIL. “Bon usage des systèmes d'intelligence artificielle en contexte de soins.” Guide publié le 16 février 2026.
  • Règlement européen sur l'intelligence artificielle (EU AI Act), 2024. Chapitres III et IV — Systèmes d'IA à haut risque.
  • Conseil du Numérique en Santé. Feuille de route du numérique en santé 2023-2027. État d'avancement, décembre 2025 — Priorité 18 : utilisation secondaire des données de santé.
  • Kpodzro S, Kim JY, Hasan A, et al. “A Collaborative Best Practice Guide for Promoting AI Vendor Transparency in Health Care — The HAIP AI Vendor Disclosure Framework.” NEJM AI 2026;3(5). DOI: 10.1056/AIp2500985

Cette page reflète notre engagement de transparence sur la conception de FitToFly. Pour toute question, contactez-nous à contact@fittofly.io.