Quand l’outil commence à nous regarder : de la télévision à l’interface homme-machine

Nous avons longtemps cru que la technologie était simplement un prolongement de l’être humain.

Un outil.

Un écran.

Une machine posée devant nous.

Mais quelque chose a changé.

La technologie ne se contente plus de nous accompagner. Elle se rapproche. Elle observe. Elle anticipe. Elle apprend nos habitudes. Et, progressivement, elle commence à influencer la manière dont nous percevons le monde.

La question n’est donc plus seulement :

« Jusqu’où ira la technologie ? »

Elle devient :

« À partir de quel moment l’outil cesse-t-il de nous servir pour commencer à organiser notre perception ? »

De l’écran lointain à la technologie intime

Regardons simplement la trajectoire.

Le cinéma était devant nous.

La télévision est entrée dans notre salon.

L’ordinateur s’est installé sur notre bureau.

Le téléphone portable est entré dans notre poche.

Le smartphone ne nous quitte pratiquement plus.

La montre connectée touche notre peau.

Les écouteurs restent plusieurs heures dans nos oreilles.

La réalité virtuelle place directement l’image devant nos yeux.

Et maintenant apparaissent les lunettes intelligentes, les capteurs médicaux implantables, les prothèses connectées et les interfaces cerveau-machine.

À chaque génération, la distance entre l’humain et la machine diminue.

Hier, nous allions vers l’ordinateur.

Aujourd’hui, nous transportons l’ordinateur.

Demain, certaines technologies pourraient littéralement devenir une partie de notre environnement biologique.

Le contrôle ne ressemble pas forcément au contrôle

Quand on parle de « prise de contrôle », l’imaginaire collectif pense immédiatement à la science-fiction.

Une machine qui contrôle le cerveau.

Une intelligence artificielle omnipotente.

Un système qui donne directement des ordres à l’être humain.

Mais la réalité pourrait être beaucoup plus subtile.

Le contrôle le plus puissant n’est pas nécessairement celui qui oblige.

C’est parfois celui qui oriente.

Orienter notre attention.

Orienter nos habitudes.

Orienter nos émotions.

Orienter ce que nous trouvons intéressant.

Orienter ce que nous considérons comme important.

Une télévision pouvait influencer ce que nous pensions.

Un smartphone peut influencer :

- ce que nous regardons ;

- combien de temps nous le regardons ;

- ce qui nous fait réagir ;

- ce que nous allons probablement regarder ensuite.

Ce n’est plus seulement un média.

C’est progressivement un environnement comportemental.

L’économie de l’attention

Les grandes plateformes numériques ne se battent pas uniquement pour vendre un produit.

Elles se battent pour quelque chose de beaucoup plus précieux :

notre attention.

Chaque minute passée sur une application possède une valeur économique.

Chaque clic.

Chaque réaction.

Chaque vidéo regardée.

Chaque hésitation.

Chaque recherche.

Tout devient un signal.

Et les systèmes apprennent.

Ils découvrent ce qui nous amuse.

Ce qui nous choque.

Ce qui nous inquiète.

Ce qui nous met en colère.

Ce qui nous rassure.

Puis ils utilisent ces informations pour sélectionner ce qu’ils vont nous montrer ensuite.

Il n’est même pas nécessaire d’imaginer une organisation secrète contrôlant le monde.

Le mécanisme peut apparaître simplement par compétition économique.

Si une entreprise gagne davantage d’argent lorsque nous restons trente secondes supplémentaires sur son application, alors elle investira énormément pour comprendre comment obtenir ces trente secondes.

Multiplié par plusieurs milliards d’utilisateurs, cela devient une gigantesque industrie de l’influence comportementale.

Puis arrive l’intelligence artificielle

L’intelligence artificielle ajoute une nouvelle dimension.

La télévision diffusait essentiellement le même programme à tout le monde.

Les premiers sites Internet proposaient globalement les mêmes pages à tous leurs visiteurs.

Les réseaux sociaux ont commencé à personnaliser les contenus.

L’IA va beaucoup plus loin.

Elle peut progressivement apprendre :

nos préférences,

notre vocabulaire,

nos centres d’intérêt,

nos habitudes,

notre manière de raisonner,

nos réactions.

L’outil devient donc moins générique.

Il devient personnel.

Et plus il devient personnel, plus son pouvoir d’influence potentiel augmente.

Parce qu’un système qui vous connaît peut théoriquement choisir non seulement quoi vous montrer, mais aussi comment vous le présenter.

Deux personnes pourraient ainsi vivre dans le même monde physique tout en évoluant dans deux environnements numériques complètement différents.

Deux réalités filtrées.

Deux récits.

Deux perceptions.

La fiction prépare parfois le terrain du réel

Et c’est ici que notre vieille amie, la fiction, revient.

La science-fiction a souvent imaginé des technologies bien avant qu’elles deviennent possibles.

Les communications vidéo.

Les écrans tactiles.

Les assistants intelligents.

La réalité virtuelle.

Les robots domestiques.

Les interfaces cerveau-machine.

La fiction ne prédit pas nécessairement l’avenir.

Mais elle fait parfois quelque chose de plus intéressant :

elle rend l’avenir imaginable.

Une idée apparaît d’abord comme quelque chose d’absurde.

Puis elle devient une histoire.

Puis un concept.

Puis un prototype.

Puis un produit.

Puis une habitude.

Et un jour, quelque chose qui aurait semblé totalement délirant trente ans auparavant devient banal.

La fiction influence donc parfois la perception du possible.

Et la perception du possible influence ensuite les décisions humaines.

On pourrait résumer ce mécanisme ainsi :

Fiction → perception → intention → action → transformation du réel.

Le paradoxe technologique

Nous avons créé les machines pour qu’elles s’adaptent à nous.

Mais progressivement, nous avons commencé à nous adapter aux machines.

Nous organisons nos journées autour des notifications.

Nous modifions notre façon d’écrire pour les algorithmes.

Nous adaptons nos contenus aux plateformes.

Nous réduisons parfois nos pensées à quelques secondes de vidéo.

Nous apprenons à communiquer selon les codes imposés par les interfaces.

C’est un paradoxe fascinant :

l’homme crée l’outil, puis l’outil transforme progressivement l’homme qui l’a créé.

La technologie devient alors une boucle.

Nous construisons les systèmes.

Les systèmes modifient nos comportements.

Nos nouveaux comportements produisent de nouvelles données.

Ces données servent à construire de nouveaux systèmes.

Et la boucle recommence.

Quand la machine entrera dans le corps

La prochaine étape pourrait être beaucoup plus intime.

Prothèses intelligentes.

Implants médicaux.

Interfaces neuronales.

Capteurs biologiques.

Systèmes d’assistance cognitive.

Une partie de ces technologies pourrait apporter des bénéfices extraordinaires.

Restaurer la mobilité.

Rendre certaines formes de vision ou d’audition.

Surveiller des maladies.

Permettre à des personnes paralysées de communiquer.

Mais plus l’interface se rapproche du cerveau ou du corps, plus une question devient essentielle :

qui contrôle l’interface ?

Qui possède les données ?

Qui peut modifier le logiciel ?

Qui peut imposer une mise à jour ?

Qui décide du fonctionnement de l’algorithme ?

Peut-on désactiver le système ?

Peut-on refuser ?

Peut-on encore vivre normalement sans lui ?

Ce sont peut-être ces questions qui définiront réellement la frontière entre l’humain et la technologie.

La frontière n’est peut-être pas biologique

On imagine souvent que la grande frontière sera le moment où une puce entrera dans le cerveau humain.

Mais peut-être que cette frontière existe déjà.

Elle ne se situe pas nécessairement entre :

corps biologique et machine.

Elle se situe peut-être entre :

outil que nous contrôlons

et

outil qui commence à organiser notre manière de percevoir le monde.

Car celui qui influence ce que nous voyons influence aussi partiellement ce que nous imaginons.

Celui qui influence ce que nous imaginons influence nos décisions.

Et celui qui influence suffisamment de décisions finit, indirectement, par influencer la société elle-même.

La véritable question

La technologie n’est probablement ni bonne ni mauvaise en elle-même.

Tout dépend de la relation que nous construisons avec elle.

Le futur pourrait être extraordinaire.

Des intelligences artificielles capables d’augmenter nos connaissances.

Des interfaces médicales réparant des fonctions perdues.

Des outils capables de multiplier notre créativité.

Mais cette puissance nécessite quelque chose que l’innovation oublie parfois :

de la conscience, de la discipline et de la gouvernance.

Parce que la question fondamentale du futur ne sera peut-être pas :

« Jusqu’où pouvons-nous connecter l’homme à la machine ? »

Elle sera beaucoup plus simple.

Et probablement beaucoup plus importante :

«Lorsque la technologie connaîtra nos habitudes, nos émotions, nos pensées et peut-être un jour notre activité biologique… serons-nous encore certains de savoir qui influence qui ?»

Peut-être que la prise de contrôle ne commencera jamais par une machine qui nous donnera un ordre.

Peut-être qu’elle commencera simplement le jour où nous ne remarquerons plus que nous avons cessé de choisir.