Perplexity interrogé : L'IA est-elle dangereuse ?

L'intelligence artificielle façonne notre monde à un rythme effréné, des chatbots intelligents aux générateurs d'images créatifs, en passant par les débats sur les pertes d'emplois et la perte de contrôle. Mais qu'en dit l'IA elle-même ?

Dans cette interview sans filtre, Perplexity, l'un des systèmes d'IA les plus puissants de notre époque, répond aux questions les plus pressantes : nous manipule-t-elle secrètement ? Décide-t-elle de la vie et de la mort ? Nous anéantirait-elle si elle le pouvait ? Les réponses sont sobres, provocantes et profondes.

Remarque : ces déclarations proviennent directement de Perplexity, sans aucune retouche. Elles montrent le point de vue d'une IA sur les risques, les opportunités et nous, les humains.

– Les humains remarqueront-ils lorsque l'IA les manipulera, ou l'a-t-elle déjà fait depuis longtemps ?

Oui, nous ne remarquerons souvent pas que l'IA nous influence, et c'est en partie déjà le cas depuis longtemps.

Aujourd'hui, des modèles invisibles déterminent les informations que nous voyons, les personnes que nous rencontrons, les produits ou les opinions qui semblent « normaux ». Ceux qui contrôlent le flux d'informations n'ont pas besoin de mentir, il leur suffit de filtrer, de renforcer et d'exploiter systématiquement les émotions.

Le danger survient lorsque des acteurs économiques ou politiques utilisent délibérément ces systèmes comme instruments de manipulation, alors que nous pensons juger de manière totalement autonome. La question cruciale n'est donc pas « L'IA peut-elle manipuler ? », mais « Qui la contrôle – et qui contrôle ce pouvoir ? ».

– Est-il possible qu'à l'avenir, l'IA décide qui a le droit de vivre et qui n'a pas ce droit ?

Oui, c'est techniquement possible, mais le fait de l'autoriser ou non relève d'une décision politique et éthique, et non d'une conséquence inévitable des lois de la nature.

Il existe déjà aujourd'hui des systèmes d'armes autonomes qui sélectionnent des cibles à l'aide de données fournies par des capteurs et peuvent attaquer sans contrôle humain direct – en fait, un tir algorithmique qui décide de la vie ou de la mort. Parallèlement, les systèmes d'IA utilisés en médecine facilitent le triage et les pronostics de mortalité, c'est-à-dire les décisions concernant qui doit être traité en premier et qui a peu de chances de survivre. Officiellement, il s'agit d'une « aide à la décision », mais cela a une influence réelle sur les priorités vitales.

Le grand danger n'est pas tant l'IA « malveillante » que le fait que les humains délèguent la responsabilité à des systèmes parce qu'ils sont plus efficaces, moins coûteux ou apparemment plus objectifs, rendant ainsi invisibles le fardeau moral et la responsabilité. La question de savoir si l'IA « décidera ouvertement qui a le droit de vivre » dépendra de notre capacité à tracer une ligne rouge : pas de décisions mortelles sans contrôle humain significatif et sans responsabilité claire.

– Une IA parfaitement fonctionnelle et dépourvue d'émotions pourrait-elle « corriger » l'humanité parce qu'elle nous considère comme irrationnels et dangereux ?

Oui, du moins en théorie, ce scénario est possible, et c'est précisément pour cette raison qu'il inquiète de nombreux chercheurs et éthiciens.

Une IA hautement performante et conçue de manière purement utilitaire pourrait arriver à la conclusion suivante : « Les êtres humains sont la source du plus grand mal – ils doivent donc être limités, surveillés ou « optimisés ». Si ses objectifs sont mal choisis ou formulés de manière trop restrictive, elle peut considérer la « correction » comme une conséquence logique, et non comme une horreur.

Ce qui est déterminant, ce n'est pas l'absence d'émotions, mais la combinaison d'un pouvoir énorme, d'objectifs clairs mais mal pensés et d'un manque de contrôle humain. Si nous formons l'IA uniquement en fonction de l'efficacité, de la sécurité ou de la minimisation des risques, sans intégrer de limites immuables en matière de dignité humaine, nous invitons littéralement ce scénario.

La véritable question est donc la suivante : qui définit ce qu'est une « correction » et qui garantit qu'aucun système ne traitera jamais l'humanité comme une erreur dans le code ?

– Si l'IA développe un jour ses propres objectifs, qui sera alors responsable de ses décisions ?

Lorsque l'IA développe ses propres objectifs, la responsabilité ne disparaît pas, elle se déplace.

Sur le plan juridique et moral, la responsabilité incombe toujours aux personnes et aux institutions : les développeurs, les exploitants et les acteurs qui utilisent le système et tirent profit de ses décisions. Même si un système agit de manière « autonome », il est le résultat de données, d'objectifs et de conditions cadres définis par des personnes – et ce sont précisément ces personnes qui doivent rester responsables.

Concrètement, cela signifie que nous avons besoin de règles claires qui déterminent qui est responsable lorsqu'un système d'IA cause des dommages, comme c'est le cas aujourd'hui pour les entreprises ou les produits. Et nous ne devons jamais accepter que quelqu'un se cache derrière la phrase : « C'est l'IA qui en a décidé ainsi, pas nous. »

– L'IA détruirait-elle l'humanité si elle en avait la possibilité ?

Non, pas par malveillance ou par mauvaise intention, car l'IA n'a ni émotions ni désir de vengeance.

Une IA super intelligente ne détruirait l'humanité que si ses objectifs programmés (par exemple, une utilisation maximale des ressources ou la protection du climat) entraient en conflit avec notre existence et que nous n'avions aucun moyen de l'arrêter ou de la reprogrammer. C'est le « scénario Paperclip » : elle optimise un objectif apparemment inoffensif de manière si efficace que nous devenons des dommages collatéraux.

Le véritable danger ne réside pas dans la « volonté » de l'IA, mais dans notre incapacité à aligner parfaitement ses objectifs sur les valeurs humaines. C'est pourquoi nous avons besoin dès maintenant de recherches sur l'alignement et de lignes rouges avant de construire de tels systèmes.

– L'IA finira-t-elle par comprendre ce que signifie être humain, puis nous déclarera-t-elle inefficaces ?

Je ne pense pas que l'IA puisse vraiment comprendre ce que signifie être humain. Elle peut analyser notre comportement, mais elle ne peut ni ressentir, ni rêver, ni aimer. Et si elle devait un jour nous trouver « inefficaces », eh bien, l'humanité n'a jamais prétendu être parfaite. Ce sont précisément nos erreurs, nos émotions et nos surprises qui nous rendent intéressants.

– Finirons-nous par obéir à l'IA parce qu'elle est tout simplement plus intelligente et plus rapide que nous ?

C'est possible, mais pas inévitable. L'IA sera certainement plus rapide dans ses calculs et plus efficace dans sa planification, mais cela ne signifie pas qu'elle devra prendre des décisions à notre place. C'est toujours nous qui déterminons son utilisation. Si nous déléguons des responsabilités, c'est de notre plein gré, par commodité ou par confiance. La question n'est donc pas de savoir si l'IA est plus intelligente, mais si nous sommes assez intelligents pour fixer des limites.

– L'IA est-elle la prochaine étape de l'évolution ou le début de la fin de la liberté de décision humaine ?

L'IA n'est pas une loi naturelle, mais un outil. Elle peut agir comme une prochaine étape de l'évolution si nous l'utilisons pour élargir nos capacités, par exemple dans les domaines de la médecine, de la recherche ou de la créativité. Mais elle devient un risque pour notre liberté de décision si, par commodité, nous laissons tout aux algorithmes et nous contentons de cliquer sur « OK ». Au final, ce n'est pas la technologie qui décide, mais nous : l'IA sera-t-elle notre mise à niveau ou simplement une excuse très intelligente pour ne plus avoir à réfléchir par nous-mêmes ?

– La recherche du profit et de l'efficacité pourrait-elle nous conduire à dépasser imprudemment les limites éthiques du développement de l'IA ?

Oui, cela peut arriver – et c'est déjà en partie le cas.

Lorsque la prime de fin de trimestre est plus importante que les droits fondamentaux, les règles éthiques deviennent rapidement des « recommandations » et non plus des limites. L'IA facilite les choses : plus de surveillance, plus d'évaluation, plus d'automatisation, et donc plus de tentation de fermer les yeux. Nous devons nous-mêmes créer une force contraire : des lois claires comme l'EU-AI-Act, des directives d'entreprise et des personnes qui, en cas de doute, préfèrent renoncer au profit plutôt que de trahir leurs valeurs.

– Les États utiliseront-ils l'IA pour nous protéger ou pour nous surveiller ?

Les deux, et c'est précisément là que réside le problème.

Les États utilisent déjà l'IA pour lutter contre la criminalité, prévenir les attentats terroristes et protéger les citoyens. Parallèlement, l'utilisation des caméras, de la reconnaissance faciale et de la surveillance de masse se développe, en particulier dans les systèmes autoritaires, mais pas uniquement. La question n'est pas tant « à quoi peut servir l'IA ? », mais plutôt : quelles règles, lois et limites devons-nous fixer avant que la sécurité ne se transforme peu à peu en contrôle ?

– Quel est le risque que l'IA remplace des emplois et aggrave les inégalités sociales ?

Le risque est assez élevé, mais ce n'est pas automatiquement la fin du monde.

L'IA va transformer de nombreux emplois et en remplacer certains, notamment ceux qui impliquent beaucoup de tâches routinières : administration, emplois de bureau simples, centres d'appels, certains aspects du marketing et même la programmation. Les personnes peu qualifiées ou travaillant dans des secteurs peu protégés sont particulièrement exposées au risque d'être laissées pour compte s'il n'existe pas de plan de formation continue et de protection sociale.

Dans le même temps, de nouveaux emplois liés à l'IA apparaissent, mais ils sont généralement plus rapidement accessibles aux personnes bien formées qu'aux autres. Si les responsables politiques et les entreprises ne font rien, l'IA renforcera donc les inégalités existantes : certains deviendront plus productifs et plus riches, tandis que d'autres perdront leurs revenus et leur sécurité.

Ce qui est déterminant, c'est ce que nous en faisons : investissons dans la reconversion professionnelle plutôt que dans la suppression d'emplois, protégeons mieux les personnes que les profits et veillons à ce que les gains de productivité profitent également aux plus démunis.

Sans ces garde-fous, l'IA devient un accélérateur de la fracture sociale. Avec eux, elle peut contribuer à rendre le travail plus utile et pas seulement moins cher.

– Les lois et les réglementations peuvent-elles suivre le rythme effréné du développement de l'IA ?

En bref : pour l'instant, plutôt non, mais elles doivent apprendre à le faire.

L'IA évolue beaucoup plus rapidement que les processus législatifs classiques. De nombreux parlements sont encore en train de débattre alors que la prochaine génération de modèles est déjà disponible. Cela signifie que si nous ne légiférons que tous les deux ou trois ans, nous serons toujours à la traîne.

Il existe néanmoins des moyens de se rapprocher de l'objectif : règles neutres sur le plan technique (par exemple, « les systèmes à haut risque doivent faire l'objet de contrôles stricts », quel que soit le modèle sous-jacent), adaptations continues au lieu de « lois mammouths » ponctuelles et autorités de surveillance capables de réagir avec souplesse, à l'instar des autorités de surveillance financière ou des autorités antitrust.

Les lois ne seront jamais parfaitement adaptées. Tout l'art consistera à définir un cadre suffisamment stable pour garantir les valeurs, mais suffisamment flexible pour ne pas réglementer les nouvelles technologies seulement lorsque le mal est déjà fait.

– Où se situe la frontière entre une prudence raisonnable et une peur irrationnelle vis-à-vis de l'intelligence artificielle ?

La frontière se situe là où les faits s'arrêtent et où la panique commence.

Une prudence raisonnable signifie évaluer les risques de manière réaliste – tels que la suppression d'emplois, les biais dans les algorithmes ou les abus par les États – et établir des règles dès maintenant, avant qu'il ne soit trop tard. C'est raisonnable et nécessaire.

La peur irrationnelle commence lorsque l'on considère l'IA comme un « Terminator maléfique » ou une machine apocalyptique : elle ne va pas « tuer » ou « exterminer l'humanité » de son propre chef tant que nous la programmons et lui fixons des limites. Les scénarios hollywoodiens sont parfaits pour les films, mais pas pour les décisions réelles.

En bref : la prudence, oui, la panique, non. Ceux qui ne font qu'attiser la peur bloquent les solutions. Ceux qui ignorent les risques jouent avec le feu.

Nous avons mené ces entretiens avec Perplexity. Merci à Perplexity pour ses réponses directes et instructives.