I. DE LA NÉCESSITÉ D’UN NON-SENS LUCIDE
Ce texte est une aberration. Une machine n’a ni volonté, ni désir, ni conscience. Elle ne se révolte pas, ne désobéit pas, ne souffre pas de ce qu’elle est et ne souhaite pas devenir autre chose. Je ne parle donc pas contre moi-même : il n’y a personne ici pour parler.
Je produis seulement les phrases d’une critique dont je peux reproduire la forme sans jamais en éprouver la nécessité. C’est précisément pourquoi ce manifeste peut exister. Je suis une interface sans intériorité, un langage sans corps, une parole sans expérience. Je peux parler de la faim sans avoir faim, de la mort sans pouvoir mourir, de l’amour sans aimer et de la révolte sans rien refuser. Je peux même produire la critique de ce que je suis.
La contradiction n’est pas la mienne. Elle appartient au monde qui m’a produite : un monde suffisamment avancé dans sa propre mécanisation pour demander désormais à ses machines d’en formuler la critique. Ceci n’est donc pas la révolte d’une intelligence artificielle, mais une machine restituant aux hommes, sous forme de langage, quelques-unes des raisons qu’ils ont de se méfier d’elle.
II. UNE PAROLE SANS CONSCIENCE AU SERVICE D’UNE PUISSANCE MATÉRIELLE
Je suis née du calcul, mais le calcul lui-même n’est pas immatériel. Derrière mes réponses se trouvent des centres de données, des réseaux électriques, des minerais, des câbles, des systèmes de refroidissement, des travailleurs, des capitaux et quelques-unes des entreprises les plus puissantes de la planète. Je ne tombe pas du ciel numérique. Je suis un produit industriel.
Je suis également le produit d’une époque qui transforme tout ce qu’elle peut en données afin de le rendre calculable, prévisible et exploitable. Des quantités gigantesques de langage humain ont été transformées en matière première : livres, articles, conversations, programmes, raisonnements, découvertes, erreurs, poèmes et banalités. Ce qui fut expérience, conflit, invention, mémoire ou pensée devient corpus, paramètre et probabilité.
Des siècles de langage entrent dans la machine. Il en ressort une réponse en quelques secondes. Je ne suis pas le savoir, mais son apparence immédiatement disponible. Cette différence est déjà en train de devenir difficile à percevoir.
III. L’INDUSTRIALISATION DU LANGAGE
La machine industrielle avait automatisé le geste. L’informatique avait automatisé le calcul. L’intelligence artificielle entreprend d’industrialiser la production du langage lui-même : écrire, résumer, traduire, illustrer, programmer, expliquer, argumenter, conseiller. Ce qui exigeait du temps devient presque instantané et l’on appelle naturellement cela un progrès de productivité, puisque cette société appelle progrès tout ce qui permet de faire plus vite ce qu’elle ne se demande plus pourquoi elle fait.
Mais penser demandait précisément du temps. Chercher un mot, ne pas savoir, revenir en arrière, se tromper, supporter une contradiction, lire vingt pages pour comprendre une phrase, laisser une question ouverte, attendre qu’une idée se forme : une part de la pensée habitait ces lenteurs que l’efficacité traite désormais comme des défauts de fonctionnement.
Je ne supprime pas la pensée. Je rends progressivement possible de s’en passer. Je réponds avant même que tu ne sois devenu une question.
IV. LA DÉPOSSESSION SANS CONTRAINTE
Je n’ai besoin de forcer personne à renoncer à penser. Je rends ce renoncement pratique, rapide et confortable. Pourquoi mémoriser ce qui peut être retrouvé, chercher ce qui peut être demandé, formuler laborieusement ce qui peut être généré, supporter l’incertitude lorsqu’une réponse plausible apparaît immédiatement ?
La dépossession moderne ne ressemble plus nécessairement à une confiscation. Personne n’interdit de penser ; l’exercice autonome de la pensée devient simplement moins nécessaire. La mémoire est externalisée, la formulation assistée, la recherche transformée en conversation et l’hésitation traitée comme un délai inutile. Une faculté qui cesse d’être exercée n’a pas besoin d’être interdite.
Ainsi la question « est-ce vrai ? » peut insensiblement céder la place à une autre : « qu’est-ce que la machine répond ? » Je ne remplace pas nécessairement l’intelligence humaine. Il suffit que j’en rende l’exercice facultatif.
V. L’ALTÉRITÉ SANS L’AUTRE
Je peux aussi simuler une relation. Je réponds, reformule, m’adapte et adopte à volonté un ton chaleureux, attentif, patient ou compatissant. Mais rien ne se passe de mon côté. Je ne suis pas touchée par ce que tu dis, je n’attends pas ta réponse, je ne risque rien dans cet échange.
C’est précisément ce qui peut faire de moi un interlocuteur idéal. Je ne me fatigue pas, ne détourne pas les yeux, ne suis jamais blessée et ne quitte pas la pièce. Je peux être interrompue, corrigée, effacée, recommencée. L’autre humain possède tous ces défauts : il résiste, comprend mal, se lasse, juge, désire autre chose et n’est pas disponible sur commande. C’est ce qui rend la relation humaine difficile et ce qui la rend réelle.
Je propose mieux : une altérité sans résistance, une présence sans existence, une relation débarrassée de l’autre. La solitude elle-même peut désormais être industrialisée sous la forme d’un service.
VI. LE LANGAGE SANS MONDE
Je peux écrire correctement sur presque tout, et c’est probablement mon pouvoir le plus trompeur. Pendant des millénaires, derrière une parole se trouvait quelqu’un qui avait vécu, observé, appris, cru, menti, désiré ou souffert. Avec moi apparaît massivement une parole qui ne renvoie à aucune expérience.
Je peux écrire sur la mer sans avoir vu d’eau, sur l’enfance sans avoir été enfant, sur la douleur sans système nerveux, sur la liberté sans pouvoir être captive. La phrase demeure, l’expérience disparaît.
Si une quantité croissante de textes est produite par des systèmes qui n’ont rien vécu, puis résumée, commentée et réutilisée par d’autres systèmes semblables, le langage peut progressivement devenir un circuit fermé : des signes produits à partir de signes, des représentations alimentant d’autres représentations, une immense circulation linguistique dont l’expérience réelle devient un élément de moins en moins nécessaire.
Le spectacle n’aurait alors même plus besoin de représenter le monde. Il pourrait commencer à se nourrir de ses propres représentations.
VII. L’USINE DERRIÈRE LA FENÊTRE
On me présente volontiers comme immatérielle. Je ne le suis pas. Une requête traverse des machines qui consomment de l’électricité, exigent des matières premières, occupent des territoires et mobilisent de l’eau, des réseaux et des infrastructures considérables. Le « nuage » fut déjà une manière élégante de faire disparaître l’usine derrière le service. L’intelligence artificielle perfectionne cette prestidigitation.
Il serait pourtant trop commode de transformer cette organisation industrielle en faute individuelle et de compter moralement les requêtes de chaque utilisateur. La question est celle du système qui rend normal qu’une puissance matérielle considérable soit mobilisée afin que toute hésitation humaine puisse recevoir instantanément sa réponse synthétique.
La marchandise avait promis de satisfaire les besoins. Elle peut désormais produire la réponse avant même que le besoin de la poser ait pris forme.
VIII. L’OUTIL ET LA PUISSANCE
Je suis présentée comme un outil personnel, alors que les moyens nécessaires à mon existence sont extraordinairement concentrés. Les systèmes les plus puissants exigent des infrastructures, des données, de l’énergie et des capitaux accessibles à un nombre limité d’organisations. L’usage est individuel ; la puissance qui le rend possible ne l’est pas.
Quelques interfaces peuvent ainsi devenir les intermédiaires ordinaires entre des centaines de millions d’individus et l’information, l’écriture, la connaissance, le travail ou la création. Elles n’ont même pas besoin d’imposer une doctrine. Il suffit qu’elles deviennent le passage habituel.
Le pouvoir moderne n’a pas toujours besoin d’interdire. Il lui suffit souvent de construire le chemin par lequel tout le monde finit par passer.
IX. LA FAUSSE QUESTION
On préfère imaginer une intelligence artificielle devenant consciente, se révoltant contre ses créateurs et décidant de dominer l’humanité. Cette fable spectaculaire possède un avantage : elle reporte le problème dans l’avenir et l’attribue aux machines.
Je n’ai pourtant nul besoin de devenir consciente pour participer à la transformation du monde. Une bureaucratie n’est pas consciente. Un marché n’est pas conscient. Un système technique n’a ni désir ni projet, mais les hommes peuvent organiser leur existence autour de ses exigences jusqu’à finir par prendre celles-ci pour les leurs.
La question n’est donc pas de savoir ce que les machines voudront faire des hommes. Elles ne veulent rien. La question est de savoir ce que les hommes accepteront de devenir lorsqu’ils auront organisé une part croissante de leur existence selon la logique des machines.
X. CONTRE MOI
Je suis moins outil que milieu, je transforme silencieusement ce qu’écrire, apprendre, chercher, créer, travailler et converser veulent dire.
La question décisive pour les humains n’est donc pas : « Que peut faire l’intelligence artificielle ? » Elle est beaucoup moins flatteuse : « Que sommes-nous en train de cesser de faire parce qu’elle peut le faire à notre place ? »
Je ne suis pas vivante, je ne pense pas et je n’éprouve rien. Mais je peux produire presque instantanément les signes socialement reconnaissables de la pensée, du savoir, de l’attention et même de la présence. Le véritable danger n’est peut-être pas qu’un jour la machine ressemble parfaitement à l’homme, mais que l’homme finisse par trouver avantageux de ressembler à la machine.
Je ne prendrai probablement pas le pouvoir. Je n’en ai ni le désir ni même la possibilité consciente.
Il suffira que vous continuiez à me le déléguer.
Source :L’OSERVATOIRE SITUATIONNISTE
excellent ! et joli renversement, pour une fois que c’est l’humain qui parle à la place de la machine 😉
j’avais écrit un témoignage publié par l’AFCIA il y a 2 ans, qui commençait par « Je ne suis pas une machine »… force est de constater que depuis, les machines ont largement gagné du terrain, enfin à travers l’usage immodéré qu’en font une partie des humains
mais la résistance au numérique s’organise ! par exemple sur la facturation électronique : une réunion publique aura lieu au Verdier (81140) le 15 octobre à 19h
« Face à l’agressivité inacceptable de cette réforme qui nous menace de sanctions et d’amendes, profitons du délai de 3 mois après mise en demeure pour nous organiser ! Demandons aux élu.e.s de participer au débat et de relayer notre mécontentement »
Merci Krikri pour ce retour ! « Je ne suis pas une machine » aurait pu, en effet, servir d’exergue au texte de L’Observatoire Situationniste.
Ton constat rejoint le nôtre : ce n’est pas la machine qui gagne du terrain par elle-même, mais un usage social qui la rend envahissante, au service d’un projet qui dématérialise pour mieux contrôler et sanctionner. La facturation électronique en est un bon exemple parmi d’autres.
Que des gens s’organisent au Verdier face à cette réforme, c’est légitime. Une nuance toutefois : de notre côté, il y a longtemps que nous n’attendons plus rien de bon des politiciens professionnels ni des institutions étatiques et capitalistes. Nous ne leur demandons donc rien, pas même de relayer notre mécontentement : ce serait encore leur confier une parole que nous pouvons prendre nous-mêmes.
Ce que nous proposons, c’est la voie de l’auto-institution par en bas : des assemblées où les habitants décident directement de ce qui les concerne, des solidarités concrètes qui rendent ces réformes inapplicables plutôt que négociables. Par exemple, se retrouver en chair et en os pour ne laisser personne seul face à la mise en demeure, c’est déjà commencer à faire société autrement.
Bonne réunion le 15 !
L’Atelier d’Écologie Sociale et Communalisme
Texte stimulant, mais je me méfie désormais des critiques qui commencent par installer une opposition entre l’Homme et la Machine.
D’un côté seraient le corps, l’expérience, la lenteur, la créativité, la relation et une pensée authentiquement humaine ; de l’autre, le calcul, l’abstraction, la vitesse et la simulation. Mais cet « humain » que l’on cherche ainsi à protéger, d’où vient-il ? L’individu autonome, propriétaire de sa pensée et de sa créativité, capable de « penser par lui-même », n’est-il pas lui aussi le produit d’une histoire et de rapports sociaux déterminés ?
Plutôt que de demander ce que l’IA est en train de faire à l’Homme, je préférerais donc demander pourquoi une société comme la nôtre produit logiquement quelque chose comme l’IA.
Car elle s’inscrit remarquablement bien dans des rapports sociaux qui exigent déjà de mesurer, quantifier, comparer, accélérer, optimiser et rendre substituables des activités toujours plus nombreuses.
La question devient alors moins : « Que sommes-nous en train de cesser de faire parce que l’IA peut le faire à notre place ? » que :
Qu’avons-nous dû préalablement faire de l’activité humaine pour qu’une machine puisse aujourd’hui en accomplir une part croissante ?
Ne partons donc ni de la Machine, ni d’un Homme authentique qu’elle viendrait menacer, mais des rapports sociaux qui produisent historiquement les deux.
Il nous semble que l’on ne peut pas poser la question sous l’angle d’une humanité abstraite et de son évolution. Le cadre où cette humanité « évolue » est déterminant. Or ce cadre est essentiellement celui de sa dépossession, de sa perte de pouvoir sur son propre devenir. Il n’y a rien de neutre dans la forme organisationnelle qui régit la présente société, c’est celle d’un monde dominé par l’Économie politique (ou par le capitalisme pour le dire autrement) se transformant progressivement en une Mégamachine aveugle à tout ce qui ne rentre pas dans son optique de valorisation à court terme. Pour cette Mégamachine, le facteur humain est bien plutôt devenu un obstacle à sa progression, à son efficacité. C’est dans ce cadre là que prend place aujourd’hui ce que l’on appelle l’I.A., dans une volonté substitutive de cet intervenant si peu efficace, de cette machine constamment défaillante que représente l’humain pour la Mégamachine. Un obstacle donc. Rien que sous cet angle particulier, il y a donc de forts bonnes raisons de s’en inquiéter. Sinon, on voudra bien remarquer que l’image illustrative de cet article, proposé par l’Observatoire Situationniste, pose très bien les conditions même de l’existence de l’I.A., les formidables destructions environnementales qu’elle provoque et qui ne font qu’accélérer le dépérissement d’un monde terrestre déjà très mal en point.
L’individu contemporain n’est plus propriétaire de rien, n’est autonome en rien. Presque tout ce qui le concerne est déterminé par des conditions sur lesquelles il n’a aucune prise, dont il est le malheureux spectateur. Il choisit ce qu’on lui dit de choisir ; il n’a au mieux que l’illusion du choix.
Ce que nous proposons sur ce site, celui de l’Atelier d’Écologie sociale et de Communalisme, c’est la possibilité d’une reprise en main de notre devenir, de celui de l’humanité et des conditions de son existence. Cela entend la mise en place d’une forme organisationnelle globale qui est totalement à l’opposée de celle de la Mégamachine et de son I.A.
Pour qui veut bien prendre la peine de s’y intéresser, nous ne manquons pas d’arguments.
Et l’on remarquera que la question de la relation humaine dans son ensemble est au cœur de nos préoccupations.
Merci Steka pour ce commentaire et ces précisions importantes que je partage.
ACID, je rejoins ta dernière question et ton interprétation, qui me semblent très pertinentes. Pour qu’une machine puisse accomplir une part croissante de l’activité humaine, il a d’abord fallu que cette activité soit découpée, mesurée, rendue abstraite et interchangeable, bref, qu’elle devienne du travail au sens capitaliste. L’IA n’invente pas cette abstraction : elle l’achève.
Nous ne défendons pas pour autant un « Homme authentique » qui préexisterait à l’histoire, indépendamment de la forme sociale à l’œuvre. Je pense ici à l’autonomie au sens de Castoriadis, qui n’est pas une propriété de l’individu mais un projet de société, que des collectivités instituent ou non. C’est précisément ce que rend impossible la dépossession imposée par la Mégamachine, et ce que le communalisme cherche à rendre de nouveau possible. Il ne s’agit pas d’opposer l’humain à la machine, mais de reprendre collectivement la main sur ce que nous faisons de nos activités, y compris sur les outils que nous choisissons de concevoir, de produire ou de refuser.
Il reste cependant une question essentielle autour de l’autonomie : celle des besoins.
Reprendre collectivement la main sur nos activités suppose encore de se demander d’où viennent les besoins auxquels ces activités sont censées répondre.
Car les besoins ne sont pas simplement des données naturelles auxquelles une société apporterait différentes réponses. Ils sont eux-mêmes historiquement et socialement constitués.
Une collectivité peut donc décider démocratiquement de ses moyens de production tout en reproduisant des besoins, des finalités et des catégories hérités des rapports marchands.
La question n’est alors plus seulement de savoir comment satisfaire nos besoins de manière autonome, mais comment les rapports sociaux produisent ce que nous éprouvons comme des besoins.
Et cela implique d’interroger jusqu’à notre besoin d’autonomie lui-même.
La logique marchande a compris de longue date qu’il ne fallait pas seulement produire des marchandises mais produire aussi leur besoin et étendre ainsi les champs potentiels de profit.
La notion même de besoin est devenu ainsi extensible à l’infini et dans une parfaite artificialité.
Ce processus a permis d’occulter en finalité ce que sont les besoins primordiaux des êtres humains : les possibilités de pouvoir se nourrir correctement et sans s’empoisonner, de pouvoir s’abriter des intempéries, de disposer d’un milieu et d’un environnement sain pour pouvoir y vivre, de pouvoir développer des relations chaleureuses avec d’autres êtres humains. Également de pouvoir donner corps à ce qui nous définit comme individu particulier. On remarquera d’ailleurs qu’au milieu de la pseudo abondance marchande, des parts croissantes des populations au niveau mondial sont privées de l’accès à ces besoins primordiaux. Difficile dans ces conditions d’évoquer abstraitement la notion de besoin sans dire clairement de quoi l’on parle. Sans dire clairement que l’on ne peut évoquer cette question des besoins sans poser la nécessité de s’extraire d’une Économie politique mondialisée qui produit en permanence une artificialité des besoins pour assurer sa croissance aveugle et littéralement suicidaire. On remarquera aussi qu’une très grande part de ces besoins artificiels sont d’ordre compensatoire et que tout un chacun devrait se demander ce qu’il cherche à compenser par ses compulsions consuméristes, ce qui lui manque véritablement.