L’intelligence artificielle est en pleine crise de confiance, en témoigne le lynchage de Mark Zuckerberg devant le Congrès américain pour n’avoir pas régulé manuellement les contenus postés pendant la campagne présidentielle. Dans un contexte de défiance envers les algorithmes et de méfiance quant à la destination des données collectées par les objets connectés, la télésurveillance médicale pourrait bien connaître un accueil en demi-teinte.
Conscient du problème, David de Anorim, directeur innovation du groupe La Poste, y voit néanmoins un moyen de faire face au vieillissement de la société, avec « des maisons connectées qui permettent le maintien à domicile des seniors grâce à des outils comme les détecteurs de chutes ». Mais attention à ne pas vouloir rentrer de force chez les usagers, pour éviter un tohu-bohu similaire à celui créé par les compteurs Linky, dont la société n’a pas su tenir la promesse de l’accès par l’utilisateur aux données relatives à sa consommation en temps réel.
« Les usagers font actuellement appel à nos agents pour personnaliser l’offre de service, en intégrant le facteur humain dans le déploiement. Pour développer la télésurveillance, il faut de la confiance. Le patient doit pouvoir s’approprier ses données de santé », poursuit le préposé à l’innovation de La Poste. Pour que cette technologie soit accueillie au sein des foyers, elle doit être comprise et surtout personnalisable : « Le numérique peut étouffer les gens s’il est mal dosé. Il faut développer un modèle sur l’idée du juste besoin. »
La protection des données collectées est également un enjeu majeur. « Du contrôle de la dépense on passe rapidement au contrôle social », prévient Bernard Benhamou, secrétaire général de l’Institut de la souveraineté numérique, en faisant référence à l’application d’Axa donnant un score de « bonne conduite » aux automobilistes. « Si on transpose cela au domaine de la santé, en contrôlant le sommeil ou la nourriture, il y a un risque que les individus qui se conforment aux normes sociales ne veuillent plus payer pour ceux qui ne s’y conforment pas. La couverture sociale pourrait voler en éclats. »
Pour éviter cet écueil, Bernard Benhamou préconise une collecte des données dans le respect de l’exception européenne, en instaurant le niveau de protection des individus comme label de qualité des objets connectés.
Pour Isabelle Adenot, présidente de la Commission nationale d’évaluation des dispositifs médicaux et des technologies de santé, la protection doit respecter le principe de précaution, à savoir l’évaluation du produit avant sa mise sur le marché. Une évaluation qu’elle juge « difficile, notamment dans les cas des algorithmes auto-apprenant », mais qui doit « être rapide et adaptée à un monde mouvant, pour éviter les usages qui ne conviennent pas, type mails non sécurisés ». Avant de concéder : « Il est temps d’y aller. »