Natasha Lomas

L’application de santé de Google engloutissant DeepMind pourrait être le choc de confiance dont nous avons besoin

L’ application santé de DeepMind Google . Et si vous souhaitez faire évoluer les applications, Google dispose des machines bien huilées pour le faire.

Au même moment, Google vient d’ CNBC,” visait relier de multiples initiatives fragment dans le domaine la sant et coordonner son secteur tr>

La mission déclarée de la société “d’organiser les informations du monde et de les rendre universellement accessibles et utiles” est apparemment en train de s’appliquer à sa propre structure plutôt désordonnée – pour tenter de tirer profit des opportunités croissantes de vente de logiciels aux cliniciens.

Il est clair que les opportunités en matière de technologies de la santé se développent.

Au Royaume-Uni, où se trouve Streams et DeepMind Health, le ministre de la Santé, Matt Hancock, récemment transféré au portefeuille numérique, a apporté son amour des applications, et a immédiatement fait de la technologie l’une de ses priorités pour le NHS.

une” vision> de la transformation du fonctionnement du NHS: pour brancher ce qu’il a appelé des applications et des services «healthtech», afin de soutenir des solutions préventives, prédictives et personnalisées axées sur la technologie. se soucier”.

Ce qui est vraiment un appel aux fabricants de logiciels pour donner un nouveau coup d’œil au secteur.

Au Royaume-Uni, les travaux préparatoires de DeepMind sur les «applications pour les cliniciens» – trouver un NHS Trust volontaire avec lequel s’associer; avoir accès aux données des patients, Royal Free transmettant les dossiers médicaux de quelque 1,6 million de personnes alors que Streams était en cours de développement à l’automne 2015; Nous avons déjà signé plusieurs autres contrats avec d’autres fonds du NHS, qui sont désormais intégrés à Google.

Et c’est là que les choses deviennent choquantes.

Démolition de la confiance

Choquant parce que DeepMind remettant l’application à Google – et donc toutes les données patient qui se cachent derrière celle-ci – va à l’encontre des assurances explicites données par les fondateurs de DeepMind qu’il y avait un pare-feu entre ses expériences de santé et son parent ad tech, Google.

«Dans ce travail, nous savons que nous sommes soumis à la plus haute surveillance», a écrit le cofondateur de DeepMind, Mustafa Suleyman, dans un clairement expliqué dès le départ que les données des patients ne seraient jamais liées ni associées à des comptes, produits ou services Google.»

Julia Powles, universitaire en droit et en technologie, qui a co-rédigé un

Le pare-feu de données patient de DeepMind n’était rien de plus qu’une garantie verbale – et deux ans plus tard, ces mots ont été bouleversés par la reconfiguration de l’entreprise, alors que l’équipe de DeepMind de Google et Alphabet se prépare et se prépare à saisir une nouvelle opportunité de marché.

Toute nouvelle assurance selon laquelle les dossiers médicaux sensibles des internautes ne seront jamais utilisés à des fins de ciblage des annonces doit désormais provenir directement de Google. Et ils seront juste des mots aussi. Mettez donc cela dans la pipe de confiance de votre patient et fumez-le.

Pour être clair, les données de l’application Streams sont également des données personnelles que les personnes concernées n’ont jamais consenti à transmettre à DeepMind. Laissez seul à Google.

Les patients n’ont pas demandé leur consentement, ni même été consultés par le Royal Free, qui a discrètement signé un partenariat avec DeepMind il ya trois ans. Ce n’est que quelques mois plus tard que l’initiative a même été rendue publique, bien que son champ d’application et ses termes ne ressortent que grâce au journalisme d’investigation.

La transparence faisait défaut depuis le début.

C’est pourquoi, après une longue enquête, le service de d%C3%A9cid%C3%A9″ l derni> que le Trust avait enfreint la loi britannique, affirmant que les gens ne se seraient pas raisonnablement attendus à ce que leurs informations soient utilisées de la sorte.

Ils ne devraient pas non plus. Si vous vous retrouviez à l’hôpital avec une jambe cassée, vous vous attendriez à ce que l’hôpital dispose de vos données. Mais ne seriez-vous pas plutôt choqué d’apprendre – peu après, voire des années plus tard – que vos dossiers médicaux sont maintenant sur un serveur de Google, parce que les chefs d’entreprise d’Alphabet souhaitent réaliser des bénéfices substantiels dans le secteur de la santé?

Dans le même article de 2016 sur le blog intitulé «DeepMind Health: notre engagement envers le NHS», Suleyman a souligné comment il avait demandé à «un groupe de personnalités publiques respectées d’agir en tant qu’examinateurs indépendants , d’examiner notre travail et de publier leurs conclusions. ”, Soulignant plus loin:“ Nous voulons gagner la confiance du public pour ce travail, et nous ne le prenons pas pour acquis. ”

Beaux mots en effet. Et le groupe de réviseurs indépendants réunis par DeepMind dans le but de surveiller de manière informelle les intérêts des patients et des consommateurs comprenait effectivement des personnalités publiques très respectées, présidées par l’ancien député libéral démocrate Julian Huppert.

DeepMind a fourni au comité un budget lui permettant d’enquêter sur le choix des examinateurs. Deux rapports annuels ont ensuite été publiés, soulignant un certain nombre de problèmes, dont le