Journal Le fabricant refuse de libérer l'appareil : bientôt un mort ?

Posté par  . Licence CC By‑SA.
Étiquettes :
39
4
avr.
2024

Hier soir, la télévision publique suisse a diffusé un reportage portant sur le problème des systèmes privateurs en matière de santé. Je vais citer le résumé, pour planter le décor :

Il ne dort plus, il meurt à petit feu à cause de lʹalarme stridente de son dispositif cardiaque qui stimule son ventricule gauche. Cette machine sonne jour et nuit et tout le monde se renvoie la balle, le fabricant, la justice et les tribunaux. Enquête sur ces implants qui sont mis sur le marché sans règles de sécurité adéquates.

Le patient en question a un dispositif cardiaque qui fonctionne très bien, l'utilisateur ne devrait pas s'en plaindre. Seul petit soucis, le dispositif intègre un système de supervision qui n'est pas réglable, résultat : toutes les deux minutes, une alarme se déclenche pour indiquer le dépassement d'un seuil. Les médecins sont d'accord pour valider que le corps fonctionne parfaitement bien et que seul le réglage est à revoir afin de pouvoir prendre en compte la valeur inhabituellement basse qui est normale pour ce patient.

Le problème est que le système est privateur : les chirurgiens cardiologues n'ont pas la possibilité de régler le seuil, celui-ci est fixé en dur dans l'algorithme et son implémentation qui ne sont donc modifiables que par le fabricant.

Coincé dans cette situation, nous nous retrouvons avec une personne dont le manque de sommeil (source de problèmes cardiovasculaires) et le bouleversement de la vie sociale (source d'idées suicidaires) réduisent l'espérance de vie ! Pour le moment aucune solution n'est proposée, et ça sonne fort toutes les deux minutes…

  • # RTS

    Posté par  (Mastodon) . Évalué à 10 (+16/-1).

    Un reportage tourné pour et par la RTS, par des employés de la RTS, mais la RTS prétends ne pas disposer des droits pour sa diffusion alors que c'est elle qui les décide?

    RTS

    Il n'y a pas que les implants cardiaques qui rendent fou manifestement.

    Meh.

    • [^] # Re: RTS

      Posté par  . Évalué à 10 (+10/-0).

      Ce n'est pas que du contenu brut, la production doit faire appel à des éléments couverts par le droit d'auteur pour lesquels elle n'a une licence que pour la Suisse (exemple : musique, banque d'image, extraits d'autres contenus). Si tout était sous licence libre ça simplifierait les choses.

      Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr

      • [^] # Re: RTS

        Posté par  (Mastodon) . Évalué à 10 (+9/-1).

        Tu as probablement raison, mais ça n'empêche pas que c'est complètement con. Comme les éditeurs de jeux qui ne négocient une licence d'utilisation de musique que pour un nombre d'années fixé, lesdites musiques étant supprimées des jeux sur les boutiques en ligne xbox/playstation une fois le nombre d'année supprimé.

        • [^] # Re: RTS

          Posté par  (site web personnel, Mastodon) . Évalué à 10 (+10/-0).

          Comme les éditeurs de jeux qui ne négocient une licence d'utilisation de musique que pour un nombre d'années fixé, lesdites musiques étant supprimées des jeux sur les boutiques en ligne xbox/playstation une fois le nombre d'année supprimé.

          Ça c’est la théorie ; la pratique, c’est qu’il est fréquent que le jeu soit rendu inaccessible une fois la licence musicale expirée. Oui, c’est complètement con.

          La connaissance libre : https://zestedesavoir.com

          • [^] # Re: RTS

            Posté par  (site web personnel) . Évalué à 10 (+8/-0). Dernière modification le 04 avril 2024 à 13:30.

            « Oui, c’est complètement con[…] »

            … de penser avoir acheté un tel jeu, alors qu'il s'agissait en fait d'un contrat de location à durée limitée ; mais on avait juste oublié de vous prévenir. C'est ballot.

            « IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace

  • # Solution

    Posté par  (site web personnel) . Évalué à 10 (+20/-1).

    Le fabricant pourrait vendre des implants intra auriculaires qui filtrent ou annulent le son de l'alarme. Tout le monde serait content.

    Adhérer à l'April, ça vous tente ?

    • [^] # Re: Solution

      Posté par  . Évalué à 5 (+4/-0).

      Content ce n'est pas le mot.
      Le problème c'est que le son passe par les os et tout le corps. Même avec un casque anti-bruit, cela ne change rien, le son vient de son cœur.

  • # Privateur c'est différent de personnalisable

    Posté par  (site web personnel) . Évalué à 10 (+26/-2).

    Le problème est que le système est privateur : les chirurgiens cardiologues n'ont pas la possibilité de régler le seuil, celui-ci est fixé en dur dans l'algorithme et son implémentation qui ne sont donc modifiables que par le fabricant.

    Je trouve qu'il y a un amalgame dans le podcast comme ton journal entre privateur au sens définition du LL et personnalisable. Pourtant la bonne raison du problème est donnée par le podcast : la règlementation.

    On peut faire un logiciel proprio qui offre accès à beaucoup de paramètres librement et facilement tout comme on peut faire un logiciel libre et un produit ouvert qui finalement est difficile à personnaliser. L'accès au code source ne garantie pas que le code permet de simplement changer des valeurs internes depuis l'extérieur, ni de mettre à jour le logiciel sur la machine (même si la machine est openhardware).

    Le réel soucis ils le disent : il y a une règlementation, pour que le produit puisse être utilisé dans un pays dans ce contexte il doit être certifié et changer le produit peut remettre en cause cette certification. De plus il faut aussi s'assurer que l'utilisateur ou les médecins ou une personne malveillante ne puisse pas abuser de certaines options pour mettre en danger la vie des patients. Donc le fabricant est frileux, ce n'est pas facile car s'ils changent un truc il faut potentiellement le certifier à nouveau (cher et complexe) et cela prendra de toute façon du temps.

    La règlementation est rigide, il y a de bonnes raisons à cela aussi, ce qu'il faudrait c'est sans doute que la règlementation impose (si ce n'est pas déjà fait) certaines possibilités pour éviter des cas problématiques comme ça par design (genre désactivation d'une alarme pour plusieurs heures, mise à jour toujours possible, accès à certains paramètres non vitaux directement mais utiles pour les médecins comme la configuration des alarmes). On pourrait rêver de libérer aussi les composants logiciels comme matériels mais dans le fond sans les mesures précédentes cela n'empêcherait pas des problèmes de conception qui rendent cela tout aussi pénible malgré la liberté légale de jouer avec.

    • [^] # Re: Privateur c'est différent de personnalisable

      Posté par  . Évalué à 6 (+7/-3).

      il y a un amalgame dans le podcast comme ton journal entre privateur au sens définition du LL et personnalisable

      Au contraire, on insiste pour appuyer sur le vrai problème, si on ajoutait une variable personnalisable : ça ne réglerait que ce problème précis, alors qu'il existe un problème de fond parce que ce n'est pas libre

      Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr

      • [^] # Re: Privateur c'est différent de personnalisable

        Posté par  (site web personnel) . Évalué à 10 (+13/-1).

        Admettons que le logiciel soit libre, ça changerait quoi ?

        Il faudra peut être changer le code source à la main pour le permettre car cette option est inscrite en dur dans le code ou qu'il n'y a pas d'outil distant pour changer ce paramètre pour le médecin ou l'utilisateur. Ce n'est pas à la portée de tous, que ce soit du patient comme du médecin.

        Puis une fois le code source est modifié, il faut pouvoir installer cette nouvelle version :

        • Le dispositif le permet-il matériellement ?
        • Est-ce qu'il y a des protections matérielles qui rendent obligatoire une signature par l'entreprise au préalable ?
        • En cas d'accident avec la nouvelle version perso qui est le responsable ?

        Bref, ce n'est pas trivial, le mettre sous licence libre ne règle absolument pas par magie le problème. Car la licence libre n'empêche pas certains verrouillages ou des problèmes de conception qui rendent ces modifications inopérantes ou difficiles.

        • [^] # Re: Privateur c'est différent de personnalisable

          Posté par  . Évalué à 5 (+6/-3).

          Ce n'est pas parce que ce n'est pas suffisant que ce n'est pas nécessaire…

          Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr

          • [^] # Re: Privateur c'est différent de personnalisable

            Posté par  (site web personnel) . Évalué à 10 (+10/-1).

            Je ne dis pas le contraire, mais c'est orthogonal.

            Je suis pour du code libre et même openhardware dans ce contexte, mais l'exiger ne règlerait pas magiquement le sort de ce patient qui vit une situation difficile. Ce qui l'intéresse c'est que ce problème soit résolu et cela aurait pu être évité avec du code fermé et peut être résolu en gardant le code fermé tout en prévenant d'autres problèmes dans le même temps en donnant des outils et possibilités de configuration plus poussées.

      • [^] # Re: Privateur c'est différent de personnalisable

        Posté par  . Évalué à 9 (+9/-3).

        alors qu'il existe un problème de fond parce que ce n'est pas libre

        Libre de hacker un dispositif cardiaque?

        Je pense que personne doté d'un minimum de conscience n'aurait l'idée de faire une telle chose. Les alarmes ont été fixées par le fabriquant et le dispositif a été certifié avec ces seuils exacts. Bien sûr, le fabriquant aurait pu envisager plus de réglages, mais ça aurait peut-être rendu la certification plus complexe. La responsabilité légale de celui qui s'amuse à changer le moindre bit du logiciel embarqué dans ce genre de dispositif est écrasante, même avec l'accord du patient.

        J'imagine les médecins qui branchent le machin en USB en disant "alors, regardons, on va décompiler le truc, ah bah voila, on change le bit truc machin, et on reflashe; on va vous garder 2h en observation quand même" :-)

        Le logiciel aurait été libre que ça n'aurait rien changé. La version modifiée n'aurait pas été certifiée, le changement aurait probablement été équivalent à implanter un dispositif non-certifié; le fabriquant se serait dédouané, et le médecin qui aurait accepté la combine risque la radiation. La seule interprétation correcte ce cette situation est que les médecins ont fait une erreur en implantant un dispositif qui n'est pas adapté à ce patient, sans faire aucune hypothèse sur la nature de l'incompatibilité (matérielle ou logicielle).

        • [^] # Re: Privateur c'est différent de personnalisable

          Posté par  . Évalué à 5 (+5/-1).

          D'autant que rien ne dit que le code est bien conçu, en séparant les fonctions critiques nécessitant une compétence soft+cardiologie des fonctions périphériques telles que les remontées d'alarmes.

          Faisons le parallèle avec le calculateur certifié d'un Boeing. Malgré les tristes événements des dernières années, donner la possibilité à un programmeur externe de modifier lui-même le calculateur (via ouverture du code, accessibilité aux chaînes de production, de test et de flashage) améliorerait-il la situation ?

          Dans le cas du dispositif cardiaque, il s'agit d'abord pour moi d'un problème de spécification (manque un débrayage/paramétrage de l'alarme) ou de certification dans un contexte trop restreint par rapport à l'emploi réel.

        • [^] # Re: Privateur c'est différent de personnalisable

          Posté par  (site web personnel) . Évalué à 3 (+2/-1).

          ah, toi tu réussis à faire le choix entre un logiciel / matériel en fin de vie et un patient dans la même situation :-)

          o_O

        • [^] # Re: Privateur c'est différent de personnalisable

          Posté par  (site web personnel) . Évalué à 7 (+5/-1).

          Il faut arrêter avec cette histoire de certification : j'ai des logiciels en prod plus critique que celui qui est mentionné ici et quand il y a un bug, aucune certification n'interdit de le corriger et même si c'était interdit, on corrigerait quand même, car les conséquences d'une perte de certification (toute théorique, car un auditeur se conterait d'une remarque) sont négligeables par rapport aux enjeux.

          Le post ci-dessus est une grosse connerie, ne le lisez pas sérieusement.

  • # Validation des équipements médicaux

    Posté par  (site web personnel) . Évalué à 10 (+10/-0).

    Malheureusement, l'accès aux codes sources ne serait pas suffisant.

    Je pense que c'est également le cas en Suisse, mais en France, la validation d'un logiciel médical est longue est complexe.

    On ne peut pas flasher la dernière release de la CI en prod :) Et la moindre correction peut prendre un temps fou à arriver.

    On pourrait dire que le logiciel qui a été validé est trop restrictif ou que ses alarmes n'ont pas été détectée comme étant un risque. Mais, à mon avis, ça rendrait la production de logiciel médicaux encore plus complexe.

    En attendant que la législation s’assouplisse pour pouvoir mettre à jour le logiciel de ce pauvre Mr, j’espère qu'il trouvera quelqu'un pour remplacer le buzzer de son appareil par une LED :/

    • [^] # Re: Validation des équipements médicaux

      Posté par  . Évalué à 3 (+2/-0).

      En attendant que la législation s’assouplisse pour pouvoir mettre à jour le logiciel de ce pauvre Mr, j’espère qu'il trouvera quelqu'un pour remplacer le buzzer de son appareil par une LED :/

      Une modification matérielle d'un dispositif médical, il y a des chances pour que ce soit la même galère…. s'il fait la manip lui-même, peut-être…

    • [^] # Re: Validation des équipements médicaux

      Posté par  . Évalué à 7 (+6/-1).

      Faire une modification pour un cas précis n'implique de modifier tous les autres appareils et ceux à venir, ce pour quoi il serait nécessaire de refaire certifier. Il est possible de contourner le protocole certifié pour un cas unique (du moment que c'est fait dans le cadre de la recherche et qu'on respecte l'éthique)

      Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr

      • [^] # Re: Validation des équipements médicaux

        Posté par  (site web personnel) . Évalué à 3 (+2/-1).

        Tu insinues que modifier l'appareil (code, config ou hardware) pour une seule personne ne nécessite pas de (re)certification ?

        Je sais pas d'ou tu sors ça, mais c'est complètement faux. En cas de pépin, bonjour pour aller prouver devant un tribunal que ton changement non certifié n'est pas responsable. En tout cas, le fabricant va pouvoir se dédouaner en 5s montre en main.

        https://link-society.com - https://kubirds.com

        • [^] # Re: Validation des équipements médicaux

          Posté par  (Mastodon) . Évalué à 9 (+7/-0).

          Je sais pas d'ou tu sors ça, mais c'est complètement faux.

          Je bosse depuis 20 ans dans l'avionique, et heureusement qu'on peut modifier un paramètre sans re-certifier un équipement !

          Oui mais ça, ça s'anticipe dès le début : ce que tu as certifié, c'est pas un équipement avec une config précise, ce que tu as certifié c'est un équipement configurable (dans une certaine plage bien évidemment). Tu as certifié que les configurations autorisées restent dans le cadre du bon fonctionnement de l'équipement.

          En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

          • [^] # Re: Validation des équipements médicaux

            Posté par  (site web personnel) . Évalué à 6 (+4/-1).

            Oui enfin rappelons le contexte ici : le dispositif ne semble pas pouvoir configurer la valeur de déclenchement de l'alarme ou les paramètres de l'alarme (ou du moins pas dans les plages souhaitées), sinon le constructeur ou les médecins auraient déjà effectués les changements nécessaires.

            Donc effectivement les changements nécessaires ici nécessiteraient probablement un nouveau cycle de validation.

            • [^] # Re: Validation des équipements médicaux

              Posté par  (site web personnel) . Évalué à 5 (+4/-1).

              Oui enfin rappelons le contexte

              un mec se prend la tête avec un équipement présentant des défaillances évidentes et il faudrait encore plus se prendre la tête pour soi-disant contourner des solutions évidentes ?
              bah, le choix est vite fait àmha : ce ne sont sans doute pas les certifications obtenues qui vont lui sauver la vie :/

              Donc effectivement les changements nécessaires ici nécessiteraient probablement un nouveau cycle de validation.

              si ça prend 2 ans, qui sera responsable de son choix ? (vu l'abandon de responsabilité du fabricant)

            • [^] # Re: Validation des équipements médicaux

              Posté par  (site web personnel, Mastodon) . Évalué à 8 (+5/-0).

              Oui enfin rappelons le contexte ici : le dispositif ne semble pas pouvoir configurer la valeur de déclenchement de l'alarme ou les paramètres de l'alarme (ou du moins pas dans les plages souhaitées), sinon le constructeur ou les médecins auraient déjà effectués les changements nécessaires.

              Oui enfin rappelons le contexte ici : le mec, il a (depuis 9 mois) une alarme stridente reliée à son corps qui sonne toutes les 2 minutes, l'empêche de dormir et est comparable à une torture (comme l'explique un médecin spécialiste du sommeil dans l'émission).

              Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]

              • [^] # Re: Validation des équipements médicaux

                Posté par  (site web personnel) . Évalué à 3 (+3/-3).

                Oui, et cela ne change pas ce que je dis.

                Le soucis ici c'est qu'il y a plusieurs lois et règlements qui sont en conflit car le produit a été manifestement mal conçu. La voie normale est de corriger cette conception (si c'est possible par ailleurs, car on n'en sait rien). Cela implique une revalidation du matériel et logiciel ce qui est long, sans doute trop long pour ce patient.

                Il faudrait donc idéalement contraindre le fabricant de pouvoir délivrer un correctif rapide pour lui quitte à ce que cela ne soit pas certifié car la souffrance actuelle est trop importante. Mais cela pose la question de l'assurance en cas de problèmes d'où le fait que spontanément l'entreprise ne le fait pas. Pour moi il devrait y avoir moyen d'avoir une contrainte judiciaire rapide pour régler ce problème et inciter le fabriquant à travailler avec le patient pour résoudre ce problème rapidement. Décision judiciaire qui pourrait clarifier la responsabilité en cas de problèmes pour savoir qui paye quoi selon les circonstances.

                Car par ailleurs on ignore si le dispositif tel qu'installé entre dans le cadre de sa validation et de son développement (si le patient a les critères pour recevoir en théorie ce dispositif en temps normal).

                Après reste à régler le problème de long terme : la certification doit probablement être assortie de certaines garanties pour régler certains paramètres "non vitaux" mais ayant un impact sur la vie du patient comme des alarmes. De même qu'avoir la possibilité de mettre à jour le logiciel (on ignore si c'est possible dans le cas présent). Il devrait sans doute avoir un dispositif légal pour régler ce genre de soucis voués à se reproduire : un patient a un problème X avec un dispositif médical qui l'handicape, un sorte de comité pourrait contraindre le fabricant à des modifications rapidement sous conditions et qui exprime le cadre de ce travail de sorte que la question de l'assurance et de la sûreté soient claires pour tous.

    • [^] # Re: Validation des équipements médicaux

      Posté par  (site web personnel) . Évalué à 10 (+14/-1).

      C'est bien gentil le juridique, mais le patient souffre.

      Ce sera quoi la prochaine fois ? Des lunettes qu'on ne peut pas enlever ? Un fauteuil roulant qui se bloque sur les chemins de terre ? Un slip connecté qui ne gère plus le wifi ?

      Le post ci-dessus est une grosse connerie, ne le lisez pas sérieusement.

      • [^] # Re: Validation des équipements médicaux

        Posté par  . Évalué à 10 (+11/-1).

        Un implant neuralink buggé qui t'envoie le petit bohomme en mousse en boucle en hifi et panovision directement dans la conscience.

      • [^] # Re: Validation des équipements médicaux

        Posté par  (site web personnel) . Évalué à 7 (+8/-1).

        Ce n'est pas qu'une question juridique.

        Imaginons que la personne qui fait la modification utilise un nombre a virgule là ou un entier était attendu ou que la nouvelle valeur fait échouer d'autre partie du code qui avait comme prérequis l'ancienne valeur.

        Cela peut mener à un mauvais comportement du dispositif, voir a son arrêt, ce qui peut être bien pire pour la santé du patient.

        Les moules du coin peuvent avoir l'habitude de récupérer un code source pour fixer un bug, mais ici le moyen de valider le fix est pas évident et peut entraîner la mort d'un patient.

        Même si la chance de créer un nouveau problème est faible, sa gravité est très importante.

        • [^] # Re: Validation des équipements médicaux

          Posté par  (site web personnel) . Évalué à 9 (+7/-0).

          récupérer un code source pour fixer un bug

          le corriger c'est mieux ;-)

          ici le moyen de valider le fix est pas évident et peut entraîner la mort d'un patient

          surtout s'il fait une overdose :/ mieux vaut prendre une bonne correction :p

        • [^] # Re: Validation des équipements médicaux

          Posté par  . Évalué à 6 (+5/-1).

          Cela peut mener à un mauvais comportement du dispositif, voir a son arrêt, ce qui peut être bien pire pour la santé du patient.

          Tout est à évaluer sur une balance bénéfices/risques, il faut être transparent avec le patient quant aux enjeux, puis le laisser choisir. Pour ma part je demanderais la modification, le bénéfice étant quand même énorme quel que soit le risque dans ce cas-ci.

          Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr

          • [^] # Re: Validation des équipements médicaux

            Posté par  (site web personnel, Mastodon) . Évalué à -6 (+2/-11).

            Tu as le dossier du patient sous les yeux pour pouvoir affirmer ça ?

            « Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.

            • [^] # Re: Validation des équipements médicaux

              Posté par  . Évalué à 7 (+6/-1).

              J'ai le témoignage du patient, je suppose qu'il est plus avisé que toi et moi…

              Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr

              • [^] # Re: Validation des équipements médicaux

                Posté par  (site web personnel, Mastodon) . Évalué à 6 (+3/-0).

                C'est un problème à la fois médical, technique, informatique et juridique. Que le patient en souffre, c'est un fait. Mais !

                1. Pourquoi son toubib ne lui propose pas une autre solution ?
                2. Pourquoi cet implant particulier ?
                3. Comment le (ou la d'ailleurs) toubib justifie que tout va bien malgré les alarmes ?

                Si l'entreprise modifie l'implant, il lui faudra de nouvelles procédures de tests et de nouvelle demande d'autorisation de mise sur le marché. Elle ne peut pas le faire pour une seule personne. Si elle devait le faire et que le patient meurt, sa responsabilité est engagée. Alors que ça serait plutôt celle du toubib dans le cas présent. Puisque c'est la personne qui a conseillé l'implant. Bref, c'est une sacrée patate chaude.

                Et ça n'a rien à voir avec le logiciel libre. Ce n'est pas du tout comparable par exemple à un implant oculaire qui permet aux personnes de voir. Là, quand la fonction de l'implant s'arrête, la personne redevient aveugle mais elle n'encourt aucun risque vital du fait direct de l'arrêt de l'implant (les risques sont des risques d'accident "extérieurs").

                « Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.

                • [^] # Re: Validation des équipements médicaux

                  Posté par  . Évalué à 8 (+5/-0).

                  Comment le (ou la d'ailleurs) toubib justifie que tout va bien malgré les alarmes ?

                  Pour celle-là, c'est peut-être à cause de l'utilisation universelle de seuils en médecine scientifique. C'est un peu étrange, mais la manière de fonctionner est en général la suivante : un ou plusieurs travaux de recherche vont étudier la relation entre un indicateur biologique (par exemple le taux de cholestérol) et des symptomes (le risque de maladie coronarienne). Tout ça est quantitatif, mais au final, c'est "résumé" par un seuil : au-delà de 1g/L de bidule dans ton sang, ton risque de maladie augmente de 50%, ce qui fait qu'on va retenir le seul de 1g/L. Quand tu vas faire une prise de sang, à 0.99g/L, ton analyse est normale, à 1.01g/L, c'est en gras et il faut consulter ton médecin. Le médecin n'est pas idiot, il va te dire que tu es à la limite mais qu'il faut commencer à y aller mollo sur le gras du jambon. Au final, le seuil n'existe que pour paramétrer la machine ou la procédure automatique qui fait l'intermédiaire entre les données de la recherche et ton médecin. Mais ces seuils ont tout plein de conséquences légales (par exemple, un médecin qui t'aurait dit que tout va bien à 1.01g/L aurait fait une faute).

                  Comme en réalité tout ça n'est que statistique et varie largement en fonction de tout plein de facteurs (age, sexe, génétique, mode de vie, etc), tu peux être au-dessus du seuil sans avoir de problème, ou être en dessous en étant malade. J'imagine que dans le cas de l'implant, la plupart des gens seraient mal en dépassant le seuil, mais que pour cette personne c'est OK. La rigidité des procédures de fixation des seuils ne peut pas gérer ces cas. Normalement, c'est bien le médecin qui décide d'adapter le traitement et de prendre des décisions non-conformes à la procédure habituelle, mais là, comme c'est le bidule électronique qui sonne, ceux qui sont hablités à prendre une telle décision n'ont pas le droit de trifouller le bidule, et ceux qui ont le droit de trifouiller le bidule n'ont pas le droit de prendre la décision.

                  Mais oui, il semble évident que le dispositif n'est pas adapté au patient, mais j'imagine qu'il n'est peut-être pas possible de le retirer sans mettre la vie du patient en danger? Sans avoir tous les détails, je ne vois pas comment on pourrait derrière notre clavier trouver une solution que des dizaines de personnes très sérieuses ne semble pas être capables de déterminer.

                  • [^] # Re: Validation des équipements médicaux

                    Posté par  (site web personnel, Mastodon) . Évalué à 4 (+2/-1).

                    Sans avoir tous les détails, je ne vois pas comment on pourrait derrière notre clavier trouver une solution que des dizaines de personnes très sérieuses ne semble pas être capables de déterminer.

                    C'est bien ce que je disais. On n'a ni les données, ni les compétences.

                    « Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.

                    • [^] # Re: Validation des équipements médicaux

                      Posté par  (site web personnel) . Évalué à 5 (+5/-3).

                      Adapter un traitement quand on manque de donnees et de compétence, c'est le quotidien en informatique et en médecine.

                      Le post ci-dessus est une grosse connerie, ne le lisez pas sérieusement.

                    • [^] # Re: Validation des équipements médicaux

                      Posté par  (Mastodon) . Évalué à 10 (+9/-0). Dernière modification le 04 avril 2024 à 18:21.

                      Ni la modestie d'être conscient qu'on n'a ni les données ni les compétences…

                      Parce que ok, "il faut bien un seuil", admettons… mais si t'es un minimum précautionneux tu n'en fais pas non plus une alarme qui réveille les morts toutes les 2 minutes ! Une alarme à laquelle tu ne peux manifestement pas dire "c'est ok, je t'ai entendu, j'ai sifflé mon toubib il dit que c'est bon, t'inquiètes c'est sous contrôle".

                      Je suis le premier à être un gros Geek et à adorer les automatismes, mais je garde toujours toujours la possibilité de passer outre. On ne peut pas penser à tout au moment où on conçoit l'automatisme en question. On ne peut pas non plus partir du principe que l'automatisme sera toujours plus fort que un humain.

                      De la modestie dans nos systèmes, quels qu'ils soient.

                      En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

        • [^] # Re: Validation des équipements médicaux

          Posté par  (site web personnel, Mastodon) . Évalué à 8 (+5/-0).

          Imaginons que la personne qui fait la modification utilise un nombre a virgule là ou un entier était attendu ou que la nouvelle valeur fait échouer d'autre partie du code qui avait comme prérequis l'ancienne valeur.

          Enfin là, on rentre un peu dans la création d'hypothèses absurdes pour justifier une situation absurde!

          1. On parle de machines qui valent probablement très chers, on peut supposer que le constructeur peut livrer avec un manuel (qui explique les paramètres en détail) et propose des moyens de valider les entrées de paramètres. On sait faire ça dans nos applications sans danger pour la vie d'autrui (un champs qui vérifie le type, produit des avertissements en cas d'erreur évidente ou si les valeurs paraissent sortir de la norme, etc.). Penser que ce n'est pas faisable pour des machines techniques super pointues est ridicule.
          2. Du côté des médecins, si vraiment ils trouvent cela trop technique, ils peuvent aussi travailler avec des techniciens médicaux (je suppose que cela existe sous un nom quelconque) qui connaissent et savent lire les manuels et qui sont bien payés. Encore une fois, on parle d'opérations chères (même si de notre côté, on ne le voit pas forcément complètement, entre la sécu, la mutuelle, etc.). La médecine n'est pas un métier sans le sou qui ne peut payer des intervenants spécialisés au besoin.
          3. Je sais pas vous, mais moi quand je teste du code… ben je le teste. Je l'envoie pas en production directement! En gros, je suppose que ces médecins doivent être capable de tester les changements sur une machine identique qui n'est pas dans le corps du patient d'abord. Puis quand cette partie est validée, ils font la modification dans l'exemplaire "installé". Et enfin, ils se barrent pas en courant sitôt la modification faite mais attendent pour vérifier que cela semble fonctionner pour finalement garder le patient en observation plusieurs jours/semaines (plus ou moins longtemps selon les risques).

          Les moules du coin peuvent avoir l'habitude de récupérer un code source pour fixer un bug, mais ici le moyen de valider le fix est pas évident et peut entraîner la mort d'un patient.

          Personne ne parle de faire des modifs à la YOLO ("You Only Live Once") ni de ne pas suivre des protocoles éprouvés et très précis.

          Comme disait un autre commentaire de quelqu'un travaillant qui bosse dans l'avionique, on devrait pouvoir certifier un équipement configurable selon une procédure précise, et pas seulement un équipement avec tout hardcodé. Savoir s'adapter aux situations, c'est un peu la base de l'ingéniérie.

          Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]

          • [^] # Re: Validation des équipements médicaux

            Posté par  (site web personnel) . Évalué à 2 (+3/-1).

            L'article dit que ce n'est pas un paramètre qui serait accessible et justement dans un manuel, mais plutôt une variable codée en dure.

            Oui, on peut se demander pourquoi ce paramètre n'existe pas, mais c'est une autre discussion. Les logiciels, même dans le médicale, ne sont pas parfait.

            Mais sur le fond, je pense qu'on dit plutôt la même chose.

            Encore une fois, un changement software, même si il semble simple, peut être compliqué à valider.

            La documentation du code, le matériel de validation, sa documentation, le temps/coût nécessaire, …, pour réaliser une validation sont nécessaire et pas juste le code.

            Et je parles même pas de la validation par les autorités compétentes de tout ça pour essayer de prouver que cela à été fait correctement.

            En fait pour avoir travaillé, non pas dans l'avionique mais, dans le médical, j'ai pu le voir. Ces procédures sont très lourdes. Si un jour vous avez accès à un appareil médical avec un bug notoire et jamais fixé, c'est parce qu’il fait maintenant parti du manuel et que c'est trop cher de relancer une validation pour ça. C'est, bien sûr, une situation que je déplore.

      • [^] # Re: Validation des équipements médicaux

        Posté par  . Évalué à -4 (+4/-10).

        C'est bien gentil le juridique, mais le patient souffre.

        On est en France ici Monsieur. C'est pas parce qu'un patient souffre qu'on va autoriser l'euthanasie, par exemple. Faut quand même respecter le fait que la France soit un état catholique !

        Tous les nombres premiers sont impairs, sauf un. Tous les nombres premiers sont impairs, sauf deux.

  • # NAPD

    Posté par  (site web personnel) . Évalué à 10 (+8/-0).

    Non-Assistance à Personne en Danger… j'imagine que ça prend le pas sur toute autre considération et engage plus que la seule responsabilité du constructeur.

    Après : oui, ce serait de la responsabilité des organismes de certification d'obtenir tous les moyens de s'assurer de la pérennité d'une solution implantée (l'openhardware étant un moyen envisageable)

    • [^] # Re: NAPD

      Posté par  . Évalué à 4 (+2/-1).

      J'ai du mal à comprendre pourquoi la possibilité de "simplement" désimplanter le dispositif pour le remplacer par un autre n'est pas évoquée. Factuellement, les médecins ont implanté un dispositif qui n'était pas indiqué pour ce patient, les seuils étaient très probablement documentés et justifiés via la certification. Il est possible que les seuils soient identiques pour tous les dispositifs, ce qui pointe alors un gros problème dans les normes. Il suffirait que la norme impose aux fabriquants de pouvoir régler ce seuil pour que le problème disparaisse.

      Pour revenir au sujet de la licence, une licence libre pour un dispositif dont il n'est pas légalement possible de changer le code n'a pas le même intérêt que pour un pilote d'imprimante. Une question un peu différente s'était posée pour la certification des logiciels de caisse par exemple; les logiciels libres restent libres, mais seules les versions dûment certifiées (par une entreprise qui a les moyens de payer pour cette certification) peuvent être légalement utilisées en production. Le code reste libre, mais la liberté d'implémenter ses modifications et de les diffuser a beaucoup moins d'intérêt dans ce contexte.

      De la licence libre, il ne reste donc plus que la liberté d'étudier le code et éventuellement de proposer des patches. C'est mieux que rien, mais c'est typiquement un cas où l'intérêt du libre est bridée par des lois indépendantes du droit d'auteur.

      • [^] # Re: NAPD

        Posté par  (site web personnel, Mastodon) . Évalué à 5 (+2/-0).

        J'ai du mal à comprendre pourquoi la possibilité de "simplement" désimplanter le dispositif pour le remplacer par un autre n'est pas évoquée. Factuellement, les médecins ont implanté un dispositif qui n'était pas indiqué pour ce patient, les seuils étaient très probablement documentés et justifiés via la certification.

        Peut-être un risque vital que les toubibs ont la trouille de devoir assumer ?

        Il est possible que les seuils soient identiques pour tous les dispositifs, ce qui pointe alors un gros problème dans les normes. Il suffirait que la norme impose aux fabriquants de pouvoir régler ce seuil pour que le problème disparaisse.

        Ce qui nécessitera de faire des tests approfondis pour vérifier que c'est une bonne idée (ou pas).

        « Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.

        • [^] # Re: NAPD

          Posté par  . Évalué à 8 (+5/-0).

          Ce qui nécessitera de faire des tests approfondis pour vérifier que c'est une bonne idée (ou pas).

          Donner le contrôle au médecin, c'est la norme. Un médecin peut dépasser la dose normale pour un médicament, auquel cas le pharmacien peut l'appeler pour vérifier si ça n'est pas une erreur. Si ça n'est pas une erreur, alors on peut dépasser la dose.

          Pourquoi est-ce que ça marcherait différemment pour un dispositif médical? Bricoler les seuils pourrait n'être possible que par des médecins préalablement formés par exemple.

          La difficulté que je vois, c'est le passage par la certification, puisqu'il faudrait vérifier que ce réglage de seuil fonctionne correctement, c'est donc une dimension de plus à vérifier, et une cause potentielle de dysfonctionnement supplémentaire. Si on multiplie les réglages sur plein de paramètres, ça multiplie la complexité des normes, la complexité de la procédure de certification, la complexité des tests, et la complexité de la formation des médecins, bref, ça va coûter en monnaie sonnante et trébuchante.

      • [^] # Re: NAPD

        Posté par  (site web personnel) . Évalué à 4 (+2/-0). Dernière modification le 04 avril 2024 à 21:02.

        Une question un peu différente s'était posée pour la certification des logiciels de caisse par exemple; les logiciels libres restent libres, mais seules les versions dûment certifiées (par une entreprise qui a les moyens de payer pour cette certification) peuvent être légalement utilisées en production.

        C'est un peu plus compliqué.
        D'ailleurs, la fraude provenait de logiciels de caisses propriétaire.

        https://wiki.dolibarr.org/index.php/Loi_finances_2016_sur_les_logiciels_de_caisse_et_Certification_NF525_ou_LNE

        Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html

        • [^] # Re: NAPD

          Posté par  . Évalué à 3 (+0/-0).

          C'est un peu plus compliqué.

          C'est toujours plus compliqué, mais je n'ai rien lu dans le lien qui contredisait ce que j'ai écrit. Disons qu'il n'est pas illégal d'utiliser une version non-certifiée, mais tu seras incapable de justifier auprès de l'administration que tu n'as pas bricolé tes logs. Ça revient donc quand même à peu près au même, une version non-certifiée est inutilisable en production, et la certification coûte cher.

          D'ailleurs, la fraude provenait de logiciels de caisses propriétaire.

          Certes, mais ça n'a rien à voir. La loi ne fait pas de différence entre les logiciels libres et propriétaires, elle impose juste que tu puisses prouver à l'administration que ta caisse enregistre l'intégralité des transactions. Pour ça, elle met une procédure à ta disposition, la certification par un tiers qui s'engage à ce que la version du logiciel de caisse que tu utilises (le binaire signé, j'imagine?) se comporte de manière conforme à ce qui devrait être (il n'y a pas moyen d'émettre un ticket de caisse sans que la transaction n'apparaisse dans les logs). À la limite, la manière dont le tiers vérifie le logiciel, ça n'est pas ton problème (accès au code, etc). Par contre, impossible de corriger le moindre bug dans ton logiciel libre sans faire recertifier ton binaire. Tu as donc toutes les libertés associées au logiciel libre, mais en pratique tu n'as pas le droit d'utiliser le logiciel modifié en production, les libertés ont donc en pratique moins d'intérêt que pour les autres logiciels.

          • [^] # Re: NAPD

            Posté par  (site web personnel) . Évalué à 6 (+4/-0).

            Disons qu'il n'est pas illégal d'utiliser une version non-certifiée, mais tu seras incapable de justifier auprès de l'administration que tu n'as pas bricolé tes logs.

            Justement, maintenant la plupart des logiciels de caisses Open Source intègrent maintenant un mécanisme (basé sur des blockchains) pour certifier que les opérations bancaires n'ont pas été altérées.
            L'autocertification est aussi possible dans certains cas.

            Par contre, impossible de corriger le moindre bug dans ton logiciel libre sans faire recertifier ton binaire […]

            Tant que tes modifications ne concernent pas les mécanismes de traitement des opérations, ce n'est pas un soucis.

            D'autre part, la certification ne se fait pas que sur des binaires, mais aussi sur le code sources (cas de logiciels en php). Ce qui permet à un tiers de proposer un logiciels mis à disposition, et certifié pour lui ou un tiers, tant que l'utilisateur n'a pas possibilité de modifier le code source ou la base de données.

            À un moment il y a eu un lobying pour faire croire que les logiciels Open Sources ne pouvaient pas être certifiés. Il a bien fallu trouver des techniques.

            D'autant plus que même si un binaire est signé, rien n'empêche d'en faire tourner un autre à certains moments. Et, même si la caisse était infalsifiable, il existe d'autres méthodes (pratiqué en Chine depuis des années).

            Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html

            • [^] # Re: NAPD

              Posté par  . Évalué à 5 (+2/-0).

              L'autocertification est aussi possible dans certains cas.

              C'est pas ce que Dolibarr appelle une "attestation"? Ils ont l'air d'expliquer qu'en tant qu'éditeur du logiciel, ils peuvent fournir une attestation, comme quoi si tu utilises l'option des logs infalsifiables le logiciel a les propriétés requises par la loi machin-truc. Par contre, ils expliquent aussi qu'une telle attestation n'a pas la valeur d'une certification par un organisme indépendant.

              D'autant plus que même si un binaire est signé, rien n'empêche d'en faire tourner un autre à certains moments

              Le fait que ta voiture fasse bipbip quand tu n'as pas ta ceinture de sécurité ne t'empêche pas de couper ta ceinture au cutter et d'insérer le crochet pour faire cesser le bipbip. Mais bon, c'est un niveau de sécurité en plus. De manière générale, l'être humain est assez faignasse, donc lui mettre des contraintes, même superficielles, va être dissuasif dans une certaine mesure.

              Pour vérifier les caisses, rien ne vaut des clients mystères. Tu va acheter deux bricoles anonymement dans la boutique, et tu vérifies lors du contrôle que la transaction apparait bien dans les logs.

              Apparemment, la fraude à la TVA en France, c'est 15, 20, 25, ou 80 milliards d'Euros selon les sources. Ça justifie que l'État s'y intéresse…

              • [^] # Re: NAPD

                Posté par  . Évalué à 2 (+0/-1).

                Le fait que ta voiture fasse bipbip quand tu n'as pas ta ceinture de sécurité ne t'empêche pas de couper ta ceinture au cutter et d'insérer le crochet pour faire cesser le bipbip.

                Plus simple et qui ne bloque pas le contrôle Technique; tu insère la ceinture dans le crochet, puis tu t'assied.

                Il ne faut pas décorner les boeufs avant d'avoir semé le vent

      • [^] # Re: NAPD

        Posté par  . Évalué à 4 (+2/-0).

        Je me pose également la question. J'ai du mal à concevoir qu'on implante un objet dans un patient, sans pouvoir le changer… En particulier quand il comporte un risque vital pour le dit patient (la privation de sommeil est mortelle à terme).

        • [^] # Re: NAPD

          Posté par  . Évalué à 2 (+1/-0).

          On parle juste de couper le son… on ne réalise pas 2 opération à cœur ouvert en 1 semaine sans risque. Quel est le moins risquer pour la vie du patient ? Couper le son ou une autre opération ?

      • [^] # Re: NAPD

        Posté par  . Évalué à 4 (+4/-1). Dernière modification le 06 avril 2024 à 08:46.

        Évidemment qu'il faudrait que ce soit libre ET que l'on ai le droit de le bidouiller. En l'occurrence le patient en question est prêt à signer pour un risque même énorme que ça rate. On parle d'un type qui subit une torture psychologique qui le pousse au suicide.
        Les chirurgien ne sont pas responsables (erreur humaine) c'est à 300% le fabricant. C'est lui qui a fourni du matériel dangereux. Il ne devrait même pas aller en justice mais faire un patch en urgence. Ensuite il pourra se plaindre auprès des chirurgien pour se faire payer le patch.

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.