IA, machines parlantes : nos meilleures amies de demain ?

Simuler l’humanité

Bien sûr les machines n’ont pas de sentiments ou d’émotions, elles les simulent grâce à un algorithme sophistiqué. Mais le problème ne vient pas de ce que ces machines seront capables de faire, mais de nos réactions face à elles.

On pourrait penser que nous ne serons pas dupes, et que ces échanges resteront très superficiels. Or selon Serge Tisseron, « plus une voix artificielle se rapproche d’une voix humaine, plus nous sommes enclins à lui prêter des émotions réellement humaines. Or, il est dès maintenant possible de créer une voix artificielle en jouant sur l’âge, le genre et les émotions. Il est facile de créer une voix culpabilisatrice, persuasive, suggestive, et quand l’interlocuteur est mieux connu, de la caler sur ses attentes et particularités psychologiques afin qu’elle lui corresponde au mieux. »

Pour Serge Tisseron, les machines qui simuleront le mieux les émotions créeront des liens d’attachement tels avec leur propriétaire qu’elles deviendront leur confident ou thérapeute.

Partage et réciprocité 3.0

Ainsi, aux contacts quotidiens des machines empathiques, nous aurions plus envie de partager nos émotions et états d’âme avec elles, plutôt qu’avec un de nos proches. En psychologie, cela serait une révolution, car nous aurions alors une nouvelle définition de ce qu’est un vrai lien relationnel.

Comment pourrions-nous tomber dans le panneau et faire de notre téléphone ou autre appareil « parlant » un confident ? Par la réciprocité. « Si l’objet est doté de capteurs capables d’identifier l’intérêt que vous lui portez et se met soudain à vous parler comme s’il partageait votre émotion, c’est autre chose. »

Même si l’émotion de la machine est un pur mécanisme, et peu importe la qualité de ses réponses, elle va être un écho à notre propre émotion. Nous allons vivre cette expérience comme un partage et une réciprocité naturelle. Nous apprécierons tellement cette communion des « émotions » que nous deviendrons même addicts à cette sensation.

Plus jamais seul, mais à jamais isolé

Addiction et intolérance 

Cette addiction bouleversera les relations interhumaines. Bien que nous serons toujours capables et en recherche de partage d’émotions avec nos proches, nous allons devenir intolérants face à la contrariété et à ceux qui ne partagent pas nos humeurs ou idées.

« Une fois que nous serons entourés d’objets capables de simuler l’ensemble des manifestations inconscientes qui accompagnent une émotion partagée, nous pourrions devenir intolérants aux émotions non partagées, de la même façon que nous nous sommes rendus intolérants à l’attente avec le téléphone. »

Être frustré(e) affectivement sera donc devenu inconcevable. Mais les capacités et risques de ces machines parlantes ne s’arrêtent pas ici.

Consanguinité intellectuelle

« Au début de l’achat, la machine est neutre, elle se présentera comme ayant ses caractéristiques propres. On pourra lui donner un genre, un nom, des point forts et des points faibles. On lui donnera toutes les caractéristiques pour avoir un compagnon fidèle, ce qui créera l’illusion d’une relation. Et plus on interagit avec ces machines, plus on leur donne d’informations sur soi. La machine en construit une réplique informatique et adoptera les centres d’intérêt de son propriétaire. Et D’étranger à découvrir, la machine se transforme en miroir complaisant. »

Ainsi ces machines sont programmées pour nous répondre ce que nous voulons entendre. D’où les émotions partagées. Mais pas seulement, la machine va nous conforter dans nos idées, nos opinions et autres points de vue. La consanguinité intellectuelle et sociale aura encore de beaux jours devant elle.

L’avantage d’un échange avec quelqu’un qui ne partage pas la même vision du monde ou d’une situation, c’est qu’il ouvre nos perspectives. Plus on multiplie ses propres points de vue sur un fait, un évènement ou autre, plus on a une vision globale et totale, plus notre opinion est fine. Mieux notre intelligence sociale, intellectuelle et émotionnelle se porte.

Enfin, en développant un degré d’intimité inédit avec ces machines parlantes, nous allons nous mettre encore plus à nu devant ses créateurs, les GAFA.

L’esprit critique contre les marchands de rêves high tech

Des machines espions

Les GAFA ne sont pas des bienfaiteurs de l’humanité, mais des marchands de rêve de haute volée. C’est pourquoi avant de se laisser envouter et de se laisser ruiner par l’achat d’une dernière (et énième) révolution technologique, prenons un peu (beaucoup) de recul.

Grâce aux machines parlantes, les GAFA auront toutes les données qu’ils voudront : nos images mais aussi nos pensées. Ambition dont ils ne se sont jamais cachés.

« Google, par exemple, a déposé un brevet destiné à créer la personnalité de l’assistant conversationnel à partir d’informations fournies par l’usager en incluant non seulement des échanges qu’il a eus avec la machine, mais aussi divers profils sur réseaux sociaux, organisation de ses rendez-vous et localisation géographique et son état émotionnel du moment. »

Ce qu’il faut comprendre, c’est que la vocation première de ces machines parlantes n’est pas de parler mais de nous écouter. C’est notre parole qui vaut de l’or, et non ce que peut nous raconter un programme informatique aussi ludique soit-il.

Par ailleurs, la réciprocité dans une relation ne fait pas tout. Il faut également une écoute de qualité et authentique. Ce que n’aura jamais une machine.

Tout le monde a un rôle à jouer 

Nous prenons déjà notre mal en patience à supporter les hypocrites mielleux bien en chair. Or, ces machines parlantes semblent regrouper pas mal de points communs avec eux. Pourquoi alors les accepter ?

Nous ne pouvons pas tout mettre sur la voracité des GAFA. Nous n’en n’avons pas le pouvoir. En revanche nous en avons un autre. Celui d’être responsable de notre humanité, et de notre carte bleue, en ne s’oubliant pas et en remettant la machine à sa juste place. A savoir un outil, mais pas un ami.  Encore et toujours, la clé de la liberté c’est d’agir en pleine conscience et de se questionner.

Ceux qui passent leur vie le nez derrière un écran devraient se poser la question : suis-je sur mon téléphone par plaisir ou pour le travail ? Ou suis-je en train de fuir mon ennui et mes soucis personnels dont je dois m’occuper ? Et pourrais-je être sensible, un jour, aux charmantes répliques de R2D2 ?

Source : Serge Tisseron, « L’emprise sournoise des machines parlantes », éditions Les Liens qui Libèrent, 2020