Algorithme - suite

Depuis longtemps, je réclame plus de transparence dans la conception des algorithmes parce que les résultats qu’ils génèrent peuvent avoir de fortes conséquences. Quand il s’agit d’une programmation qui favorise la vente de produits ou les opinions des électeurs ou des consommateurs, on peut estimer (quoique !) que le mal est moindre, mais sur la santé aucune concession n’est acceptable. C’est pourquoi, je partage largement l’avis d’Agnès Buzin, présidente du Collège de la HAS lorsqu’elle déclare le 12 décembre à la journée PharmaCité :

« On voit fleurir tout un tas d'algorithmes qui sont proposés en France ou à l'étranger pour la prise en charge de telle ou telle maladie ». Et d'expliquer pourquoi les opérations informatiques sont un sujet de préoccupation. « Parce que les algorithmes, on pense que sous prétexte qu'ils sortent d'une formule mathématique, ils sont bons. Le problème c'est quand on observe trois algorithmes différents sur la même maladie et qu'ils n'identifient pas les mêmes patients à haut risque et ne proposent pas les mêmes solutions ». Elle s’interrogée ensuite sur « la façon dont une agence de régulation doit juger l'apport pour le malade des progrès issus du big data ».

Par définition, un algorithme est une suite finie et non ambiguëe d'opérations ou d'instructions permettant de résoudre un problème ou d'obtenir un résultat. De plus, sans aborder la question d’incertitude, la recherche de l’intégrité dans le choix des échantillons retenus ainsi que le valeur et le poids que l’on attribue à chacune des variables sont de nature à modifier le résultat. A modifier ou à orienter, telle est la question ! Force est de constater pourtant que nul ne m’autorise à remettre ainsi en cause la moralité ou l’éthique mais la suspicion existe toujours parce que l’objectivité n’est jamais vraiment démontrable.

Donc la solution pour garantir l’exactitude d’un résultat produit par un algorithme est de disposer de la source, c’est-à-dire du programme informatique et des variables associées. Pour répondre au respect de la confidentialité des informations communiquées parce qu’elles sont l’aboutissement de recherche, d’intelligence, de temps et d’argent, il convient de garantir le secret et de confier cette charge à un collège d’experts indépendants et « assermentés ». Ainsi naîtra la notion « d’algorithme certifié ». Déposer un brevet, trouver un équivalent à l'autorisation de mise sur le marché, peut importe... Seul résultat compte !