Promouvoir l’innovation et protéger la vie privée, mythe ou réalité ? | Rand Hindi | TEDxSaclay

Lorsque nous pensons à nos données personnelles, nous pensons surtout à qui peut y avoir accès. Que ce soit les réseaux sociaux ou les objets connectés, la multitude de données que nous laissons derrière nous, en ce moment, est énorme et pas forcément protégée. Mais, le vrai danger, c'est la perte de notre capacité d'innover, car plus les entreprises en savent sur nous, plus elles nous enferment dans notre propre bulle...

Rand Hindi est un data scientist et un entrepreneur. Il est CEO de Snips, une start-up spécialisée dans l’intelligence artificielle. Il a commencé à coder à l’âge de dix ans, fondé un réseau social à quatorze, une agence de développement web à quinze, avant de se lancer dans le machine-learning à dix-huit, et finalement démarrer un Doctorat à vingt-et-un. Il a obtenu un Master en science informatique et un doctorat en bioinformatique à l’University College of London (UCL). Il est également diplômé de la Singularity University à la Silicon Valley et de THNK à Amsterdam. Le MIT Technology Review l’a élu Innovateur de l’année de moins de 35 ans, et Forbes l’a nommé comme l’un des trente innovateurs de moins de trente ans. Membre du Conseil National du Numérique, il a été choisi par le gouvernement français pour diriger la partie « impact de l’I.A. sur l‘économie et l’emploi » de la stratégie globale de la France sur l’intelligence artificielle. Il donne des cours de commerce de l’I.A. au Master de Sciences Po Paris.

Cette présentation a été donnée lors d'un évènement TEDx local utilisant le format des conférences TED mais organisé indépendamment. Pour en savoir plus : http://ted.com/tedx

Aujourd'hui, j'ai envie de vous parler
d'innovation et de vie privée,

parce que les deux ne sont pas souvent
des choses que l'on connecte.

Pour moi, c'est absolument essentiel.

J'ai une question à vous poser.

Y-a-t-il des gens ici
qui se sont déjà dit :

« Ma vie privée,
mes données, je m'en fous,

parce que je n'ai,
globalement, rien à cacher » ?

Oui.

Qui se considère être bien
et plutôt honnête dans sa vie ?

Voilà ! Donc évidemment,
on a rien à cacher,

puisqu'au final,
que découvriront les gens ?

Que je suis quelqu'un de normal,

et que ma vie n'a rien
de particulièrement intéressant.

On va faire une petite expérience,
si ça vous dit, OK ?

Prenez tous votre téléphone
et ouvrez votre dernière conversation.

Ne la choisissez pas,
ce n'est pas important.

N'importe quelle
application de messagerie,

ouvrez la dernière conversation.

C'est bon ?

Maintenant passez
votre téléphone à votre voisin.

OK.

Bon !

(En riant) OK, OK !

Combien de personnes ici,

combien de personnes
ont regardé la conversation

du téléphone qu'on leur a donné ?

Est-ce que je vous ai dit
de regarder la conversation ?

(Rires)

Et voilà !

Combien de personnes
ont senti une petite anxiété

quand ils ont passé
le téléphone à leur voisin ?

(Rires)

Voilà.

Et encore, la personne est à côté de vous,
vous savez exactement qui c'est.

Vous pouvez voir si elle fait des choses

qu'elle n'est pas censée
faire avec vos messages.

Maintenant, dites-vous un truc.

A chaque fois que vous dites OK
à une entreprise

pour récupérer vos données,
vous êtes en train de faire ça,

mais avec des gens
que vous ne connaissez pas,

dont vous ne connaissez pas
les vrais intérêts,

et contre qui vous n'avez
quasiment aucun recours.

Et pour moi, ça, c'est
un vrai sujet aujourd'hui.

C'est qu'on a complètement
déconnecté l'impact réel

des abus de vie privée
de notre utilisation de la technologie.

Sauf qu'en fait, dans les années 1990,
à l’époque où on était déconnecté,

les questions de données perso
n'étaient pas un sujet,

car il y avait peu de données.

La majorité de notre vie,
on la passait offline.

Donc, personne ne savait
ce qui se passait.

Sauf qu'à chaque fois qu'on a
commencé à connecter un objet,

avec de plus en plus
de technologie,

on a commencé à digitaliser
plus d'aspects de notre vie.

Le résultat, c'est qu'aujourd’hui,
on arrive à ce point d'inflexion

où on produit tellement
de données personnelles

que tellement peu
d'entreprises centralisent,

qu'on commence véritablement
à avoir toute notre vie qui est exposée.

Et c'est ça, le vrai danger.

Il y a 20 ans, vous pouviez dire

que les questions de vie privée
étaient secondaires,

mais aujourd'hui, le monde a changé,
les données sont partout.

Et ça me fait peur quand je
commence à regarder des choses

comme le nombre de vol de données.

Oui, et ça, ce n'est qu'une sélection,
ce n'est pas tout ce qui a été volé.

Alors encore une fois,
vous pouvez vous dire :

s'il y a eu autant de données volées
qu'il y a d'humains sur la planète,

comment se fait-il
que je n'ai pas eu de soucis ?

Eh bien, de plus en plus de gens
ont ce qu'on appelle des « ransomwares »,

c-à-d des pirates informatiques qui,
avec ces données volées,

vous envoient un message disant :
« Vous m'envoyez des bitcoins,

ou je balance à tout le monde,

vos photos que vous n'avez pas
envie que les gens voient.

Donc, quand vous donnez
vos données à une entreprise,

vous êtes aussi en train d'en
donner potentiellement à un hacker,

et ça peut vous coûter beaucoup d'argent,
et si vous refusez de payer,

je peut vous garantir qu'ils rendront
publiques ces informations.

Ne pensez pas que, parce que
ça ne vous est pas arrivé aujourd'hui,

ça ne vous arrivera pas dans le futur.

Pour moi, les questions de vie privée
sont des questions de sécurité.

Il faut qu'on puisse se sentir
en sécurité sur internet.

Il ne faut pas qu'on ait peur
en permanence, du vol de nos données.

Deuxièmement, il faut comprendre
que ces entreprises, au fur et à mesure,

finissent par créer un profil
tellement précis de qui vous êtes,

qu'ils savent des choses sur vous
que vous n'imaginez pas.

L'autre jour, je parlais à quelqu'un
d'un livre que je voulais acheter.

Je ne l'avais pas encore acheté
et j'ai eu une pub pour ce livre-là.

Et personne ne m'a entendu le dire.

En fait, ce que moi et mes amis
avons cherché sur internet

a permis de dresser
un profil si précis

qu'ils ont compris ce qui m'intéressait,
un peu comme un puzzle.

Quand vous commencez,
vous ne savez pas ce qu'il y a dedans,

et à chaque fois que vous rajoutez
une pièce, ça s'éclairci.

C'est ce qui se passe avec votre profil
et vos données personnelles.

C'est bien d'avoir de la personnalisation,
du targeting, dans le cadre de la santé.

C'est important d'avoir
une santé personnalisée.

Mais la plupart du temps, c'est utilisé
pour les mauvaises raisons.

C'est utilisé pour essayer de vous garder
captifs de ces différentes plateformes.

Vous savez cette sensation, sur Instagram,
quand vous scrollez en permanence,

et vous ne comprenez pas pourquoi
vous continuez, comme un addict.

En fait, vous êtes tellement bien profilé,

que le contenu qu'on vous montre
est tellement intéressant

que vous finissez, tout simplement,
par ne jamais en avoir marre.

Malheureusement, ça va plus loin.

Ils utilisent aussi des techniques
de nudge pour vous pousser des pubs,

avec un seul but, pas celui de vous donner
quelque chose dont vous avez besoin,

mais celui de gagner
de l'argent de l'autre côté.

Vos données sont utilisées
pour faire du targeting publicitaire

qui leur permet de gagner l'argent.

Sauf que dans la majorité des cas,

ce sont des produits dont
vous n'avez pas forcément besoin,

vendus par des entreprises avec lesquelles
vous n'avez pas toujours envie de traiter,

et malheureusement très souvent,
avec de l'argent que vous n'avez pas.

Donc aujourd'hui pour moi,
le problème de targeting

c'est globalement des problèmes,
en fait, de manipulation.

Et on l'a vu aussi au niveau
de Cambridge Analytica

quand ils ont utilisé ça
pour manipuler les avis politiques.

Si je sais ce que vous aimez,
je sais exactement quoi vous montrer

pour vous faire penser
telle ou telle chose.

Ça s'est fait sur des échelles énormes.

Donc, les questions de vie privée sont des
questions d'addiction, de manipulation,

et garantir sa vie privée, c'est garantir
une certaine forme de liberté de pensée.

Mais encore, ce n'est pas
le pire dans cette histoire.

Moi, ce qui me fait le plus peur,
c'est qu'on s'aperçoit

que plus quelqu'un utilise un réseau social,

moins, il y a de diversité
dans le contenu qu'il voit.

Cela veut dire qu'au fur à mesure

que vous donnez de la donnée
à un réseau social ou à une entreprise,

elle vous connaît tellement
de mieux en mieux

qu'elle finit par vous enfermer
dans votre propre bulle.

C'est intéressant, car quand
vous êtes dans votre bulle,

tout est confortable,
vous vous sentez bien.

C'est pendant les élections
que ça se voit le plus.

Comme par hasard, tous
mes copains votent comme moi.

Ils sont où, les autres ?

En fait, l'algorithme
sait ce que j'ai envie de voir,

et plutôt que de risquer de me perdre
avec quelque chose qui ne me plait pas,

je vais être ciblé.

Et c'est très dangereux quand
on commence à perdre de la diversité,

parce qu'en fait, on sait aussi
que l'innovation vient de la diversité.

Des études ont montré
que les entreprises les plus innovantes

étaient celles qui étaient
aussi les plus diverses.

Donc, maintenant faisons
une petite expérience de pensée.

Imaginez que la couleur rouge
représente le domaine de la technologie.

Vous, vous êtes quelqu'un
qui est intéressé par la technologie.

Si à chaque fois, vous êtes
exposé à du contenu technologique,

qu'est-ce qui va se passer
au bout d'un moment ?

Vous allez juste finalement devenir
un meilleur technologiste,

ce qui n'est pas mauvais,
devenir un plus grand expert.

Vous avez renforcé, en fait,
vos connaissances existantes.

Mais, vous n'avez rien inventé de nouveau.

Vous n'avez fait qu'approfondir
la connaissance que vous aviez déjà.

Maintenant, prenons un autre exemple.

Imaginons que, cette fois-ci,

vous ayez trois morceaux de contenu
qui sont de la technologie,

mais que vous commencez
à regarder les choses relatives à l'art.

Comme la pâte à modeler, mélangez
du rouge et du vert, ça fait du jaune.

Il y a quelque chose de nouveau,

ni de l'art, ni de la technologie,
mais un genre d'intersection.

Rajoutez le commerce, et tout d'un coup,

vous avez tant de diversité d'infos, vous
êtes capable de voir le spectre entier.

Vous n'êtes plus enfermé dans
le domaine que vous connaissez déjà,

vous avez maintenant la capacité
de voir ce qui se passe

à l'intersection
de ces différents domaines.

C'est ça véritablement
qu'on appelle l'innovation, finalement.

Donc, quand vous êtes enfermé
dans votre propre bulle,

vous perdez votre capacité d'innover,

car vous perdez cette capacité
de voir le spectre entier du possible,

et comment ces différentes
choses sont reliées entre elles.

Donc, pour moi,
les questions de vie privée

sont fondamentalement
des questions d'innovation.

Il est très, très, très important

d'arriver à conserver
notre capacité d'innovation.

Alors, comment faisons-nous
pour garantir la vie privée ?

Il y a pas mal
de technologies qui existent.

Déjà, il faut comprendre
le concept de « privacy by design ».

C'est véritablement cette idée
qu'on va garantir la vie privée,

non pas en demandant
à ce que nous fasse confiance,

mais plutôt en garantissant au niveau
technologique, du produit, du business,

que personne ne pourra jamais
abuser de ces données-là.

Donc, par exemple, le chiffrement
homomorphe, c'est très simple.

Je veux utiliser un service
sans dévoiler quoi que ce soit.

Imaginons vous vouliez récupérer
des recommandations de restaurant,

mais vous ne voulez pas que la personne
de l'autre coté vous localise.

Eh bien, vous allez chiffrer
sur votre téléphone, votre localisation.

Vous allez l'envoyer à celui
qui va vous faire les recommandations.

Il ne sait pas où vous êtes,
n'ayant pas la clé de la donnée chiffrée.

Il va mouliner un espèce de résultat
et le renvoyer lui-même chiffré,

donc sans savoir ce qu'ils
vous ont recommandé.

Et vous le déchiffrez sur votre téléphone.

Donc, vous avez été capable
d'avoir un service,

ici, de recommandation
de restaurant personnalisée,

sans jamais dévoiler là où vous êtes.

Ce genre de technologie, jusqu'à
récemment, ne marchait pas bien,

mais maintenant ça y est,
on est à quelques années

de faire en sorte que ça marche pour tout,
même l'intelligence artificielle.

Ensuite, il y les questions
de centralisation.

On ne veut surtout pas qu'une seule
entreprise ait le monopole sur nos données

car ça veut dire que
cette entreprise déciderait

de la façon dont les personnes
qui utilisent le service

devraient penser potentiellement.

Là aussi, beaucoup travaillent,
notamment grâce à la block-chain,

à la décentralisation du pouvoir
sur les données personnelles.

Et finalement il y a le GDPR, c'est 50-50.
Qui ici trouve que c'est bien le GDPR ?

Ah, c'est bien !

Aux Etats-Unis, c'est zero,
les gens n'aiment pas.

C'est très bien pour trois choses.

Premièrement, ça permet
de se faire oublier.

Si on n'est pas content,
on peut partir et se faire oublier.

Deuxièmement, ça permet de récupérer
nos données et les envoyer ailleurs.

Si vous pensez qu'entreprise A
n'a pas vos valeurs éthiques,

et qu'une autre entreprise
propose le même service,

vous pouvez transférez vos données
sans recommencer à zéro.

Dans certains cas, il y a même
le droit au non-profilage

si, par exemple, les conséquence seraient
extrêmement lourdes sur votre vie.

Les réglementations entrant
en vigueur aujourd'hui

permettent de casser ce cercle vicieux
lié aux données personnelles,

qui fait qu'on finit
par renforcer notre bulle,

sans aucun recours possible derrière.

Donc, la cryptographie, la block-chain,

la réglementation autour
des données perso,

sont des instruments nécessaires
pour protéger notre vie privée.

Pourquoi est-ce que
je vous parle de tout ça ?

Je vous parle de ça parce qu'aujourd'hui,
on a deux choix pour le futur.

On a celui-là.

Ça, c'est le choix de continuer comme
on est en train de faire maintenant.

On va dans le mur quoi.

Si on continue à s'enfermer
dans notre propre bulle,

comment est-ce qu'on va
véritablement changer les choses ?

Tout le monde voit bien, est d'accord,

que les choses n'avancent pas
dans la bonne direction.

Il y a un moment où il faut réaliser
que si on perd notre capacité d'innovation,

on ne réussira jamais à empêcher
ce genre de catastrophe.

Avez-vous envie d'aller vivre sur Mars ?
Il y en a qui proposent ça comme solution.

Non ! Personne n'a envie
d'aller vivre sur Mars.

Je suis content de vivre sur Terre.

C'est une belle planète, avec
de belles plages, et j'adore Paris.

Donc, j'essaie de proposer
quelque chose de différent.

Ce que je propose c'est qu'on arrive
à créer un futur qui soit positif,

un futur où on a réussi à résoudre
tous ces problèmes.

Mais, pour y arriver, il va falloir
décupler nos facultés d'innovation,

grâce à la technologie, plutôt que
de nous enfermer dans une bulle

qui va nous conduire
tout droit à une catastophe.

Et c'est pour ça que tout le monde devrait
se battre pour protéger la vie privée,

et pour casser les cercles vicieux
dans lesquels nous sommes depuis 30 ans.

Merci.

(Applaudissements)