{"id":5754,"date":"2024-06-13T19:48:38","date_gmt":"2024-06-13T19:48:38","guid":{"rendered":"https:\/\/revuepostures.uqam.ca\/2024\/06\/13\/something-went-wrong-loubli-artificiel\/"},"modified":"2024-08-15T17:35:03","modified_gmt":"2024-08-15T17:35:03","slug":"something-went-wrong-loubli-artificiel","status":"publish","type":"post","link":"https:\/\/revuepostures.uqam.ca\/?p=5754","title":{"rendered":"Something Went Wrong. L’oubli artificiel"},"content":{"rendered":"
Dossier\u00a0\u00ab\u00a0Anamn\u00e8se: oubli et oubli\u00e9\u00b7e\u00b7s en litt\u00e9rature \u00bb, no. 37<\/a><\/h5>\n

Dis-moi, ChatGPT, peux-tu d\u00e9finir l’oubli ?<\/em><\/p>\n

\n

Oui, bien s\u00fbr! L’oubli est le processus par lequel une personne perd ou oublie une information, une exp\u00e9rience, un souvenir ou une comp\u00e9tence qu’elle avait pr\u00e9c\u00e9demment acquise ou stock\u00e9e dans sa m\u00e9moire. Il peut \u00eatre caus\u00e9 par une vari\u00e9t\u00e9 de facteurs, tels que le manque de r\u00e9p\u00e9tition ou de rappel, le vieillissement, les dommages c\u00e9r\u00e9braux, le stress ou les distractions. L’oubli peut \u00eatre temporaire ou permanent, partiel ou complet, et peut affecter diff\u00e9rents types de m\u00e9moire, tels que la m\u00e9moire \u00e0 court terme, la m\u00e9moire \u00e0 long terme et la m\u00e9moire de travail.<\/p>\n<\/blockquote>\n

Me voil\u00e0 rassur\u00e9,\u00a0ChatGPT<\/em>\u00a0sait ce qu\u2019est l\u2019oubli et parvient \u00e0 le d\u00e9finir en moins de huit lignes.\u00a0<\/p>\n

Chat\u00a0<\/em>est all\u00e9 \u00e0 l\u2019\u00e9cole de Socrate, c\u2019est certain. Il devait \u00eatre un de ces jeunes \u00e9ph\u00e8bes qui \u00e9coutaient le philosophe discourir \u00e0 l\u2019ombre des oliviers. Ses explications sont claires, et ses distinctions tranch\u00e9es. Il identifie un processus, ses causes et ses effets. Pas de zones d\u2019ombre, pas d\u2019incertitudes.\u00a0Chat<\/em>\u00a0n\u2019a jamais de mot sur le bout de la langue\u2026\u00a0\u00a0Il ne s\u2019\u00e9teint pas en pleine \u00e9nonciation, incapable de retrouver le fil de sa pens\u00e9e. Il avance de fa\u00e7on m\u00e9thodique, certain du chemin \u00e0 parcourir.<\/p>\n

Je reste tout de m\u00eame sur ma faim. C\u2019est peut-\u00eatre un effet de l\u2019arborescence dont je per\u00e7ois, \u00e0 travers sa r\u00e9ponse, les branches d\u00e9nud\u00e9es de la structure de connaissances. \u00a0<\/p>\n

Je veux savoir\u00a0: quelle est la diff\u00e9rence entre la m\u00e9moire et l’oubli ?<\/em><\/p>\n

\n

La m\u00e9moire et l’oubli sont deux processus mentaux oppos\u00e9s mais interconnect\u00e9s qui jouent un r\u00f4le important dans la cognition humaine.<\/p>\n

La m\u00e9moire fait r\u00e9f\u00e9rence \u00e0 la capacit\u00e9 de stocker, de conserver et de r\u00e9cup\u00e9rer des informations acquises par l’exp\u00e9rience ou l’apprentissage. Elle est subdivis\u00e9e en trois types principaux : la m\u00e9moire sensorielle, la m\u00e9moire \u00e0 court terme et la m\u00e9moire \u00e0 long terme. [\u2026]<\/p>\n

L’oubli, quant \u00e0 lui, est la perte ou l’incapacit\u00e9 de r\u00e9cup\u00e9rer des informations qui ont \u00e9t\u00e9 pr\u00e9c\u00e9demment stock\u00e9es en m\u00e9moire. Il peut \u00eatre caus\u00e9 par divers facteurs, tels que l’alt\u00e9ration de la m\u00e9moire lors de la formation initiale, la d\u00e9t\u00e9rioration progressive de la m\u00e9moire avec l’\u00e2ge, ou encore l’interf\u00e9rence de nouvelles informations avec les anciennes.<\/p>\n<\/blockquote>\n

Merci pour les pr\u00e9cisons,\u00a0Chat<\/em>. C\u2019est encore une fois limpide. Umberto Eco aurait \u00e9t\u00e9 emball\u00e9 par le caract\u00e8re encyclop\u00e9dique de tes explications, lui qui aimait circuler entre l\u2019arbre et le labyrinthe (2007).\u00a0<\/p>\n

Je n\u2019arrive pas \u00e0 savoir, malgr\u00e9 tout, si je suis plus avanc\u00e9 ou non. C\u2019est une version syst\u00e9matique de notre rapport \u00e0 l\u2019oubli, pleine de pr\u00e9cisions et de certitudes. La m\u00e9moire est ceci; l’oubli, cela. C\u2019est transparent, comme une v\u00e9rit\u00e9 \u00e9tablie de tous temps. Pourtant, il n’y a rien dans l’oubli qui soit transparent ou l’objet d’une certitude. L’oubli, ce sont les v\u00e9rit\u00e9s qui disparaissent, c\u2019est notre capacit\u00e9 \u00e0 faire des liens entre les \u00e9v\u00e9nements, entre le pr\u00e9sent et le pass\u00e9, qui se d\u00e9fait in\u00e9luctablement.\u00a0<\/p>\n

Tout de m\u00eame\u2026 qu’une intelligence artificielle arrive \u00e0 une telle r\u00e9ponse, il y a de quoi \u00eatre inquiet.\u00a0Chat<\/em>\u00a0semble en voie de passer le test de Turing. Si je ne savais pas d\u00e9j\u00e0 que, de l\u2019autre c\u00f4t\u00e9 de mon \u00e9cran, c\u2019est une machine qui me r\u00e9pondait, aurais-je \u00e9t\u00e9 capable de le deviner ? Le caract\u00e8re hyperconstruit et peu empathique de la r\u00e9ponse aurait pu me rendre suspicieux. Mais c\u2019est peu.\u00a0<\/p>\n

L\u2019intelligence artificielle ressemble en fait \u00e0 une encyclop\u00e9die qui s\u2019\u00e9crit comme je la consulte. D\u00e9j\u00e0, dans cette soci\u00e9t\u00e9 de la requ\u00eate qui nous d\u00e9finit (K\u00f6ning et Rasch 2014), nous nous sommes habitu\u00e9s \u00e0 ce qu\u2019un moteur de recherche trouve des r\u00e9ponses \u00e0 nos questions \u2013 un nombre colossal de r\u00e9ponses obtenues \u00e0 une vitesse folle. Les r\u00e9sultats nous renvoyaient cependant \u00e0 des sites et \u00e0 des textes r\u00e9dig\u00e9s en grande partie par des \u00eatres humains. Les r\u00e9sultats arrivaient ordonnanc\u00e9s, mais il nous restait \u00e0 les interpr\u00e9ter, \u00e0 nous les approprier.\u00a0Chat<\/em>\u00a0fait par lui-m\u00eame la synth\u00e8se de nos recherches et il nous offre des r\u00e9ponses compl\u00e8tes, bien construites et argument\u00e9es. Il ne fait pas que compl\u00e9ter nos questions, il nous fournit des r\u00e9ponses.\u00a0<\/p>\n

Je me m\u00e9fie tout de m\u00eame de ces \u00e9vidences qu\u2019il nous offre avec une politesse obs\u00e9quieuse. L’intelligence artificielle sait ce qu’est la m\u00e9moire; l’intelligence artificielle sait ce qu’est l\u2019oubli; l’intelligence artificielle sait ce qu’est l’humanit\u00e9; l’intelligence artificielle sait ce dont nous sommes faits; l’intelligence artificielle comprend comment nous r\u00e9fl\u00e9chissons; l’intelligence artificielle nous devine et \u00e9labore des sc\u00e9narios qui nous expliquent. Et elle le fait sur un mode assertif, qui ne laisse aucune place aux nuances. C’est une version utilitaire de ce que nous sommes. Pourtant tout dans l\u2019oubli d\u00e9joue l\u2019utilitaire.<\/p>\n

Something Went Wrong<\/h2>\n

Chat<\/em>\u00a0nous rappelle que, dans l\u2019opposition entre la m\u00e9moire et l\u2019oubli, le second est presque toujours le contraire ou l\u2019antith\u00e8se de la premi\u00e8re. On d\u00e9finit l\u2019oubli comme un frein \u00e0 la m\u00e9moire. Un manque, une perte, un effacement. Si le cerveau est un seau, la m\u00e9moire est cette eau qu\u2019il contient et l\u2019oubli, l\u2019ouverture par laquelle elle s\u2019\u00e9chappe.<\/p>\n

Or, il me semble qu\u2019il faille d\u00e9construire l\u2019opposition entre la m\u00e9moire et l\u2019oubli, privil\u00e9gier le second plut\u00f4t que le premier. Il faut faire de l\u2019oubli le terme premier de l\u2019opposition et imaginer un oubli positif. Un oubli comme modalit\u00e9 d\u2019agir et non un frein. Comme un espace \u00e0 occuper, plut\u00f4t qu\u2019un fleuve \u00e0 traverser ou un seau \u00e0 vider.\u00a0Cet oubli serait une fa\u00e7on de penser l\u2019invention, la cr\u00e9ativit\u00e9. Comme le sugg\u00e8re Friedrich\u00a0Nietzsche, \u00e0 qui j\u2019emprunte cette id\u00e9e,<\/p>\n

\n

Fermer de temps \u00e0 autre les portes et les fen\u00eatres de la conscience; rester indemne du bruit et du conflit auxquels se livre, dans leur jeu r\u00e9ciproque, le monde souterrain des organes \u00e0 notre service; faire un peu silence, m\u00e9nager une tabula rasa de la conscience [\u2026], voil\u00e0 l\u2019utilit\u00e9 de ce que j\u2019ai appel\u00e9 l\u2019oubli actif, qui, pour ainsi dire, garde l\u2019entr\u00e9e, maintient l\u2019ordre psychique, la paix, l\u2019\u00e9tiquette\u00a0: ce qui permet incontinent d\u2019apercevoir dans quelle mesure, sans oubli, il ne saurait y avoir de bonheur, de belle humeur, d\u2019esp\u00e9rance, de fiert\u00e9,\u00a0de pr\u00e9sent<\/em>. (1996, 67-68)<\/p>\n<\/blockquote>\n

Sans oubli, il n\u2019y saurait y avoir de pr\u00e9sent\u2026 Englu\u00e9s que nous sommes dans une \u00e9conomie de l\u2019attention (Citton 2014), le pr\u00e9sent n\u2019appara\u00eet v\u00e9ritablement que si cette derni\u00e8re vient \u00e0 manquer, dans l\u2019interstice entre deux requ\u00eates. La m\u00e9moire est du pass\u00e9, dit Paul Ric\u0153ur (2000, 1); on en d\u00e9duit que\u00a0l\u2019oubli est du pr\u00e9sent. Il n\u2019y a pas d\u2019oubli au pass\u00e9, l\u2019oubli est toujours celui d\u2019un pr\u00e9sent auquel soudainement rien n\u2019adh\u00e8re. C\u2019est ainsi qu\u2019il d\u00e9termine notre exp\u00e9rience du monde. Sans \u00e9pisodes d\u2019oubli, sans jeux d\u2019aller-retour entre une attention au monde et un dessaisissement, il ne peut y avoir de r\u00e9elle exp\u00e9rience\u00a0: \u00ab\u00a0Toute action exige l\u2019oubli, comme tout organisme a besoin de lumi\u00e8re, mais encore d\u2019obscurit\u00e9.\u00a0\u00bb, dit\u00a0Nietzsche (1988, 77)\u00a0C\u2019est l\u2019alternance qui structure les liens entre l\u2019oubli et la m\u00e9moire et, par cons\u00e9quent, notre connaissance du monde. \u00a0<\/p>\n

Est-ce que ChatGPT oublie des choses ?<\/em><\/p>\n

\n

En tant que mod\u00e8le de langage d’IA, je n\u2019\u00ab\u00a0oublie\u00a0\u00bb pas les choses de la m\u00eame mani\u00e8re que les humains le font. Je n’ai pas de m\u00e9moire consciente comme les humains, mais je m’appuie sur un syst\u00e8me complexe d’algorithmes et de structures de donn\u00e9es pour stocker et r\u00e9cup\u00e9rer des informations. [\u2026]<\/p>\n<\/blockquote>\n

Quelle est cette connaissance du monde qui ne connait aucun oubli? Une connaissance artificielle?<\/p>\n

La ligne bris\u00e9e<\/h2>\n

J’ai commenc\u00e9 \u00e0 travailler sur l’oubli, il y a maintenant plus de 20 ans. J\u2019y suis arriv\u00e9 par hasard. Je menais des recherches sur les labyrinthes narratifs et je suis retourn\u00e9 au mythe grec de Th\u00e9s\u00e9e et du Minotaure, pour me rendre compte que l\u2019oubli y jouait un r\u00f4le fondamental, r\u00f4le qui n\u2019avait jamais \u00e9t\u00e9 d\u00e9crit jusqu\u2019alors (c\u2019est la pr\u00e9misse de\u00a0La ligne bris\u00e9e<\/em>, 2008). Je me suis mis \u00e0 suivre la piste de cet oubli, comme s\u2019il s\u2019agissait d\u2019un fil d\u2019Ariane. Mon int\u00e9r\u00eat s\u2019est port\u00e9 sur l\u2019oubli en acte et positif, \u00e0 la mani\u00e8re de\u00a0Nietzsche, sur\u00a0l\u2019errance de la pens\u00e9e, sur le vagabondage cognitif, sur le flux de conscience et m\u00eame sur le musement (terme d\u00e9fini par C. S. Peirce), toutes ces formes de pens\u00e9e qui d\u00e9bordent et se dispersent, qui \u00e9chappent en fait \u00e0 une structuration rationnelle et stable.\u00a0J\u2019en suis arriv\u00e9 au constat que l\u2019oubli \u00e9tait\u00a0le seuil de la conscience<\/em>. C\u2019est dire qu\u2019en de\u00e7\u00e0 de l\u2019oubli, nous ne sommes plus dans une forme d\u2019humanit\u00e9.\u00a0<\/p>\n

Afin d\u2019explorer l\u2019oubli comme modalit\u00e9 d\u2019agir, je me suis int\u00e9ress\u00e9 \u00e0 une s\u00e9rie de fictions, ou plus pr\u00e9cis\u00e9ment \u00e0 une s\u00e9rie de personnages qui incarnaient cet oubli en acte. La figure de l\u2019idiot m\u2019est vite apparue comme une des manifestations de ce seuil et j\u2019en ai abord\u00e9s quelques-uns\u00a0: Bartleby,\u00a0<\/em>le scribe opini\u00e2tre de la nouvelle d\u2019Hermann Melville (1856); Benjy, le souffre-douleur de\u00a0The Sound and the Fury<\/em>\u00a0de William Faulkner (1929);\u00a0Charlie, l\u2019idiot devenu savant du roman\u00a0de Daniel Keyes,\u00a0Flowers for Algernon\u00a0<\/em>(1966);\u00a0Chance, le jardinier innocent de\u00a0Being There\u00a0<\/em>(Jerzy Kosinski (1971); le narrateur sans nom ni m\u00e9moire de la fable politique d\u2019Edmund White,\u00a0Forgetting Elena\u00a0<\/em>(1973); Peter Stillman, digne descendant de Kaspar Hauser, au c\u0153ur de\u00a0City of Glass<\/em>\u00a0de Paul Auster (1985);\u00a0M. Tuttle, le simple d\u2019esprit de\u00a0The<\/em>\u00a0Body Art<\/em>ist<\/em>\u00a0de Don DeLillo\u00a0(2001). Du c\u00f4t\u00e9 du cin\u00e9ma, je me suis arr\u00eat\u00e9 sur Travis, le vagabond amn\u00e9sique de\u00a0Paris, Texas<\/em>\u00a0(Wim Wenders 1984); Leonard Shelby,\u00a0le tueur souffrant d\u2019amn\u00e9sie ant\u00e9rograde de\u00a0Memento <\/em>(Chistopher Nolan\u00a0<\/i>2000); Robert, l\u2019idiot id\u00e9ateur de\u00a0Bienvenue au conseil d\u2019administration<\/em>\u00a0(Serge Cardinal 2005).<\/p>\n

Chacun de ces personnages exemplifie l\u2019un des aspects du seuil de la conscience, que ce soit par le biais des\u00a0limites de la sociabilit\u00e9, de l\u2019agentivit\u00e9 et de l\u2019action, de la connaissance et des savoirs, de l\u2019exp\u00e9rience du temps ou, ultimement, de la rationalit\u00e9. Chacun permet d\u2019explorer une forme d\u2019alt\u00e9rit\u00e9, qui n\u2019est jamais qu\u2019un miroir d\u00e9formant nous renvoyant nos propres pr\u00e9jug\u00e9s et st\u00e9r\u00e9otypes. Les fictions de l\u2019oubli et de la ligne bris\u00e9e ont ouvert pour moi une fen\u00eatre inattendue sur la condition humaine. L\u2019oubli, sa pr\u00e9sence et ses effets en sont un trait majeur; ils nous d\u00e9terminent comme sujets humains.\u00a0<\/p>\n

Dois-je ajouter\u00a0Chat<\/em>\u00a0\u00e0 cette liste? \u00c0 la mani\u00e8re de Funes, le personnage de la nouvelle de Jorge Luis Borges qui ne peut rien oublier de sa vie? Le personnage reste dans une chambre aux rideaux ferm\u00e9s, incapable de vivre quoi que ce soit de nouveau, parce qu\u2019il ne veut plus rien ajouter \u00e0 sa m\u00e9moire satur\u00e9e. Il n\u2019est plus que ses souvenirs qui l\u2019occupent tout entier.\u00a0De la m\u00eame fa\u00e7on,\u00a0Chat<\/em>\u00a0ne peut plus rien emmagasiner de nouveau, son acquisition de donn\u00e9es s\u2019est arr\u00eat\u00e9e en 2021 (du moins la version 3). Il ne fait que ressasser des souvenirs, qu\u2019il ne se repr\u00e9sente pas d\u2019ailleurs comme des souvenirs, mais des informations. Il se souvient de tout, autant dire que tout est \u00e9quivalent.\u00a0<\/p>\n

L\u2019oubli artificiel<\/h2>\n
\"\"<\/div>\n

Si l\u2019oubli est le seuil de la conscience, parce qu\u2019en de\u00e7\u00e0 de l\u2019oubli, nous ne sommes plus dans une forme d\u2019humanit\u00e9\u0301\u00a0; on peut faire l\u2019hypoth\u00e8se qu\u2019\u00e0 l\u2019autre extr\u00e9mit\u00e9, s\u2019il n\u2019y a pas d\u2019oubli possible, nous ne sommes pas non plus en pr\u00e9sence d\u2019une forme d\u2019humanit\u00e9\u2026 \u00c0 quel type d\u2019alt\u00e9rit\u00e9 sommes-nous alors confront\u00e9s\u00a0? \u00c0 une alt\u00e9rit\u00e9 transcendante, machinique, artificielle\u00a0?<\/p>\n

Chat<\/em>\u00a0n\u2019oublie pas les choses comme nous. C\u2019est \u00e0 la fois inqui\u00e9tant (il n\u2019oublie rien), intrigant (il est capable d\u2019autor\u00e9flexivit\u00e9), et rassurant (il ne peut nous imiter enti\u00e8rement). S\u2019il conna\u00eet une forme quelconque d\u2019oubli, c\u2019est un oubli artificiel, comme on parle d\u2019intelligence artificielle et d\u2019imagination artificielle (l\u2019expression revient de plus en plus fr\u00e9quemment pour d\u00e9signer ces entreprises de cr\u00e9ation litt\u00e9raire ou artistique aid\u00e9es par de l\u2019IA). L\u2019adjectif en est venu \u00e0 signifier\u00a0non-naturel<\/em>\u00a0et plus pr\u00e9cis\u00e9ment\u00a0ce qui est fait \u00e0 l\u2019aide d\u2019un syst\u00e8me informatique et de fa\u00e7on autonome<\/em>. On oublie que le sens premier en est simplement \u00ab\u00a0qui est le produit de l’activit\u00e9, de l’habilet\u00e9 humaine\u00a0\u00bb (Le Robert<\/em>). L\u2019intelligence artificielle est bien en ce sens une intelligence cr\u00e9\u00e9e par l\u2019activit\u00e9 humaine, ce qui lui retire un peu de ce caract\u00e8re mena\u00e7ant que son autonomie grandissante lui conf\u00e8re.\u00a0\u00a0<\/p>\n

Si\u00a0Chat<\/em>\u00a0ne peut oublier comme un \u00eatre humain, est-il possible alors d\u2019imaginer un oubli artificiel, un oubli qui affecterait cette intelligence artificielle au m\u00eame titre qu\u2019il nous d\u00e9finit ? Quelle est la contrepartie machinique de l\u2019oubli humain ? Quelle forme de dessaisissement lib\u00e8rera la machine\u00a0? Devons-nous m\u00eame nous poser la question\u00a0?<\/p>\n

Bibliographie<\/h2>\n

Borges, Jorge Luis. 1993. \u00ab\u00a0Funes ou la m\u00e9moire\u00a0\u00bb. Dans\u00a0\u0152uvres compl\u00e8tes<\/em>, Paris\u00a0: La Pl\u00e9iade.<\/p>\n

Citton, Yves. 2014.\u00a0Pour une \u00e9cologie de l’attention<\/em>. Paris\u00a0: Seuil.\u00a0<\/p>\n

Eco, Umberto. 2010.\u00a0De l\u2019arbre au labyrinthe<\/em>. Paris\u00a0: Grasset.<\/p>\n

Gervais, Bertrand. 2008.\u00a0La ligne bris\u00e9e\u00a0: labyrinthe, oubli et violence. Logiques de l\u2019imaginaire.\u00a0<\/em>Tome II<\/em>. Montr\u00e9al\u00a0: Le Quartanier.\u00a0<\/p>\n

K\u00f6ning, Ren\u00e9 et Miriam Rasch (dirs.). 2014. Society of the Query Reader : Reflections on Web Search<\/em>, Institute of Network Cultures.<\/p>\n

Nietzsche, Friedrich. 1996.\u00a0G\u00e9n\u00e9alogie de la morale<\/em>. Paris\u00a0: Garnier Flammarion.<\/p>\n

Nietzsche,<\/em>\u00a0Friedrich. 1988\u00a0Seconde consid\u00e9ration intempestive<\/em>, Paris\u00a0: GF Flammarion.\u00a0<\/p>\n

Pour citer cet article :<\/h5>\n

Gervais, Bertrand. 2023.\u00a0\u00ab Something Went Wrong. L’oubli artificiel\u00a0\u00a0\u00bb,\u00a0Postures<\/em>, Dossier\u00a0\u00ab\u00a0Anamn\u00e8se: oubli et oubli\u00e9\u00b7e\u00b7s en litt\u00e9rature \u00bb, no. 37, En ligne <http:\/\/www.revuepostures.com\/fr\/articles\/gervais-37> (Consult\u00e9 le xx \/ xx\/ xxxx).<\/p>\n\n\n