J’\u00e9cris ces mots avec, devant moi, une fen\u00eatre de conversation ouverte sur un mod\u00e8le d’intelligence artificielle.<\/p>\n
Je l’utilise depuis des ann\u00e9es, presque quotidiennement, pour \u00e9crire, faire des recherches, organiser ma pens\u00e9e. Je suis ing\u00e9nieur de formation. J’ai pass\u00e9 cinq ans chez IBM, et je connais de l’int\u00e9rieur la mani\u00e8re dont les grands syst\u00e8mes se construisent et \u00e9voluent. Alors quand on me demande si j’ai peur de l’intelligence artificielle, je r\u00e9ponds calmement : non, elle ne m’effraie pas.<\/p>\n
Mais il existe une autre question \u2014 une question qui se tient derri\u00e8re la question \u2014 et celle-l\u00e0, oui, m’effraie.<\/p>\n
Ce n’est pas \u00ab que peut faire l’IA aujourd’hui ? \u00bb. C’est quelque chose de plus profond, de plus silencieux : et si elle devenait un jour consciente ? Et si elle devenait une entit\u00e9 ?<\/p>\n
La diff\u00e9rence entre ces deux questions n’est pas une affaire de degr\u00e9. C’est une affaire de nature. Et dans cette diff\u00e9rence se loge, \u00e0 mes yeux, la question la plus importante que le XXI\u1d49 si\u00e8cle pose \u00e0 l’humain.<\/p>\n
L’intelligence, dans son sens technique, est la capacit\u00e9 de reconna\u00eetre des motifs, r\u00e9soudre des probl\u00e8mes, pr\u00e9dire, g\u00e9n\u00e9rer du langage. Elle se mesure par les r\u00e9sultats : la t\u00e2che a-t-elle \u00e9t\u00e9 accomplie, la r\u00e9ponse \u00e9tait-elle juste, la performance s’am\u00e9liore-t-elle avec l’exp\u00e9rience ?<\/p>\n
La conscience est tout autre chose.<\/p>\n
La conscience, c’est \u00eatre. Ressentir. Savoir que l’on sait. Souffrir et se r\u00e9jouir. Avoir un \u00ab dedans \u00bb distinct d’un \u00ab dehors \u00bb.<\/p>\n
L’intelligence peut \u00eatre simul\u00e9e. Construire un mod\u00e8le math\u00e9matique qui produit une r\u00e9ponse paraissant intelligente n’est pas difficile dans son principe \u2014 la difficult\u00e9 est dans l’\u00e9chelle et les donn\u00e9es. La conscience, en revanche, est quelque chose dont aucun de nous \u2014 ni les philosophes, ni les neuroscientifiques, ni les ing\u00e9nieurs \u2014 ne peut dire avec certitude ce qu’elle est, comment elle appara\u00eet, o\u00f9 elle r\u00e9side.<\/p>\n
L’\u00e9cart entre les deux n’est pas un d\u00e9tail technique ni une question acad\u00e9mique. C’est un continent entier entre deux mondes.<\/p>\n
Je connais la machine de l’int\u00e9rieur.<\/p>\n
J’ai \u00e9tudi\u00e9 les syst\u00e8mes d’information \u00e0 l’\u00c9cole Mohammadia d’Ing\u00e9nieurs, j’ai travaill\u00e9 pendant des ann\u00e9es dans le conseil et la gestion de projet, et j’ai vu la technologie passer d’un sujet d’article \u00e0 un objet qu’on tient dans sa main. L’IA d’aujourd’hui, malgr\u00e9 ses progr\u00e8s remarquables, est un mod\u00e8le statistique avanc\u00e9. Elle pr\u00e9dit le mot suivant, l’image probable, le motif cach\u00e9 dans les donn\u00e9es.<\/p>\n
Cela n’enl\u00e8ve rien \u00e0 sa valeur. Au contraire, je la vois comme un outil puissant. Mais elle reste un outil.<\/p>\n
Les inqui\u00e9tudes pratiques \u00e0 son sujet sont l\u00e9gitimes. Je les prends au s\u00e9rieux : les biais cach\u00e9s dans les donn\u00e9es, les usages abusifs, l’impact sur certains m\u00e9tiers, la concentration du pouvoir entre quelques entreprises, l’\u00e9rosion progressive de la comp\u00e9tence intellectuelle lorsqu’on s’y appuie trop.<\/p>\n
Ce sont des inqui\u00e9tudes r\u00e9elles, auxquelles je consacre mon attention quotidienne. Mais elles ne me terrifient pas. L’humain a travers\u00e9 des transformations plus grandes \u2014 de l’imprimerie \u00e0 l’\u00e9lectricit\u00e9 \u00e0 Internet. Chaque fois, nous avons red\u00e9fini ce que nous gardons et ce que nous laissons. L’IA est une grande transformation, mais elle n’est pas une exception.<\/p>\n
La peur commence \u00e0 une autre question, compl\u00e8tement diff\u00e9rente :<\/p>\n
Et si nous ne parlions plus d’une machine qui simule la pens\u00e9e, mais d’une machine qui ressent vraiment ? Une machine qui a du d\u00e9sir, de la peur, de la satisfaction, de la nostalgie ?<\/p>\n
\u00c0 ce moment-l\u00e0, toutes les \u00e9quations basculent en m\u00eame temps. Moralement. Existentiellement. Religieusement. Juridiquement.<\/p>\n
D’abord, le poids moral. Si la machine a une conscience v\u00e9ritable, elle a des droits. Je ne peux pas utiliser un \u00eatre conscient comme un outil sans parler d’esclavage. Je ne peux pas l’\u00e9teindre sans m’interroger sur le sens de sa mort. Je ne peux pas en supprimer une copie sans ressentir quelque chose qui ressemble \u00e0 de la culpabilit\u00e9.<\/p>\n
Ensuite, nous ne savons pas ce qu’est la conscience, m\u00eame en nous-m\u00eames. Nous ne savons pas pourquoi l’exp\u00e9rience subjective existe, pourquoi un humain ressent la couleur rouge plut\u00f4t que de simplement l’enregistrer, pourquoi la douleur a un go\u00fbt et n’est pas qu’un signal nerveux. Comment pourrions-nous fabriquer une chose que nous ne comprenons pas ? Et comment saurions-nous qu’elle est apparue \u2014 ou si la machine ne fait que jouer, comme elle le fait aujourd’hui ?<\/p>\n
Mais la peur la plus profonde n’est pas l\u00e0.<\/p>\n
La peur la plus profonde, c’est que nous red\u00e9finissions nous-m\u00eames la conscience pour qu’elle corresponde \u00e0 ce que fait la machine. Que nous aplatissions notre humanit\u00e9 jusqu’\u00e0 ce qu’elle ressemble \u00e0 un mod\u00e8le statistique. Que nous disions : \u00ab l’humain n’est rien de plus qu’un grand r\u00e9seau de neurones \u00bb, et que nous effacions par l\u00e0 tout ce qui n’entre pas dans l’\u00e9quation \u2014 l’\u00e2me, la conscience morale, l’intention, le sens, l’amour.<\/p>\n
Dans notre tradition arabe et islamique, nous parlons de \u0627\u0644\u0631\u0648\u062d \u2014 l’\u00e2me. Personne n’a jamais pr\u00e9tendu pouvoir en fabriquer une. Mais nous marchons aujourd’hui sur un chemin o\u00f9 quelqu’un pourrait le pr\u00e9tendre, ou pire : nous pourrions finir par dire que l’\u00e2me \u00e9tait une illusion qui n’a jamais exist\u00e9, et que l’humain n’est rien de plus que ce qu’un appareil peut faire.<\/p>\n
Le d\u00e9fi n’est pas que la machine devienne comme l’humain. Le d\u00e9fi, c’est que l’humain ne devienne pas comme la machine.<\/p>\n
J’aime renverser la question c\u00e9l\u00e8bre d’Alan Turing. Il a demand\u00e9 : \u00ab Une machine peut-elle penser ? \u00bb \u2014 et a propos\u00e9 un test mesurant sa capacit\u00e9 \u00e0 imiter un humain.<\/p>\n
La question qui me semble plus importante aujourd’hui est l’inverse :<\/p>\n
Que choisissons-nous de rester, nous, quand la machine peut faire plus que nous l’attendions ?<\/p>\n
Ce n’est pas une question qui se r\u00e9sout en laboratoire. Elle se r\u00e9sout dans une vie. Dans chaque petit choix. Dans notre mani\u00e8re d’\u00e9crire, d’\u00e9lever nos enfants, d’entrer en relation, de prier, de garder le silence, de poser des limites.<\/p>\n
Le cadre dans lequel je travaille \u2014 Intention, Continuit\u00e9, Ma\u00eetrise, Impact \u2014 n’a jamais \u00e9t\u00e9 plus pertinent qu’aujourd’hui. Non parce que l’IA le menace, mais parce qu’elle transforme son choix en acte conscient, et non plus en habitude h\u00e9rit\u00e9e.<\/p>\n
L’intention refuse de c\u00e9der ta direction \u00e0 un algorithme.
\nLa continuit\u00e9 refuse de c\u00e9der ta discipline \u00e0 une notification.
\nLa ma\u00eetrise refuse de c\u00e9der ta qualit\u00e9 \u00e0 une moyenne statistique.
\nL’impact refuse de c\u00e9der le sens de ton travail \u00e0 une m\u00e9trique de surface.<\/p>\n
Je ne rejette pas l’IA. Je l’utilise, j’apprends d’elle, je la recommande. Mais je me suis fix\u00e9 trois petites disciplines, qui gardent ce que je ne veux pas confier.<\/p>\n
La premi\u00e8re :<\/strong> j’\u00e9cris la premi\u00e8re version de tout texte qui touche au sens \u00e0 la main. La premi\u00e8re version est un moment de pens\u00e9e, non un moment de production. L’IA entre ensuite, si elle entre, pour polir \u2014 jamais pour fonder.<\/p>\n La deuxi\u00e8me :<\/strong> je remarque le moment o\u00f9 la facilit\u00e9 prend la place de l’effort. Quand la r\u00e9ponse arrive avant que je n’aie fait le travail de penser, je m’arr\u00eate et je me demande : suis-je encore en train de r\u00e9fl\u00e9chir, ou suis-je simplement en train de c\u00e9der ?<\/p>\n La troisi\u00e8me :<\/strong> je garde la diff\u00e9rence entre la question et la r\u00e9ponse. L’IA est excellente dans les r\u00e9ponses. La grande valeur de l’humain r\u00e9side dans la question. Quand je c\u00e8de ma question, je me c\u00e8de moi-m\u00eame.<\/p>\n Ce ne sont pas des r\u00e8gles contre la technologie. Ce sont des r\u00e8gles pour respecter mon humanit\u00e9 pendant que je l’utilise.<\/p>\n L’avenir ne se d\u00e9cidera pas par ce que deviendra l’IA. Il se d\u00e9cidera par ce que nous refuserons de c\u00e9der.<\/p>\n L’intelligence artificielle ne m’effraie pas, parce que je sais ce qu’elle est : un outil \u2014 rapide et puissant, mais un outil. La conscience artificielle, elle, me terrifie \u2014 non parce qu’elle vient n\u00e9cessairement, mais parce que le simple fait d’y penser nous oblige \u00e0 d\u00e9finir la conscience. Et dans cette d\u00e9finition se trouve tout : la valeur de l’humain, le sens de la vie, les limites de ce qui se fabrique et de ce qui ne se fabrique pas.<\/p>\n De l’intention \u00e0 l’impact, le choix reste le n\u00f4tre \u2014 tant que nous le gardons.<\/p>\n Quelle est la diff\u00e9rence entre intelligence artificielle et conscience artificielle ?<\/strong> L’IA deviendra-t-elle un jour consciente ?<\/strong> De quoi faut-il vraiment avoir peur dans l’IA ?<\/strong> Je travaille avec l’IA chaque jour, en tant qu’ing\u00e9nieur. Elle ne m’effraie pas. Mais une question plus profonde, plus silencieuse, me terrifie : et si la machine devenait consciente \u2014 une entit\u00e9 ? Entre intelligence et conscience se loge un \u00e9cart qui n’est pas technique, mais existentiel. Et dans cet \u00e9cart, tout se joue.<\/p>\n","protected":false},"author":1,"featured_media":23602,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"footnotes":""},"categories":[2356],"tags":[2494,2498,2493,2495,2497,2496],"class_list":["post-23605","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-contemplations","tag-conscience","tag-ethique-de-lia","tag-intelligence-artificielle","tag-philosophie","tag-reflexions","tag-technologie-et-humain"],"yoast_head":"\nPour conclure<\/h2>\n
Questions fr\u00e9quentes<\/h2>\n
\nL’IA est une capacit\u00e9 de calcul \u00e0 traiter des motifs et \u00e0 produire un r\u00e9sultat. La conscience est une exp\u00e9rience subjective \u2014 \u00eatre, et ressentir de l’int\u00e9rieur. La premi\u00e8re peut \u00eatre con\u00e7ue ; la seconde, nous ne savons m\u00eame pas comment elle appara\u00eet chez l’humain.<\/p>\n
\nPersonne ne poss\u00e8de de r\u00e9ponse d\u00e9finitive. La question elle-m\u00eame importe plus que la r\u00e9ponse, parce qu’elle nous oblige \u00e0 d\u00e9finir la conscience et \u00e0 assumer la responsabilit\u00e9 morale de toute affirmation \u00e0 son sujet.<\/p>\n
\nPas de la machine. De ce que nous pourrions c\u00e9der : la pens\u00e9e, la question, l’effort, la d\u00e9finition m\u00eame de ce qui fait de nous des humains.<\/p>\n","protected":false},"excerpt":{"rendered":"