Cybernétique et société - Norbert Wiener

 Cybernétique et société - Norbert Wiener

CYBERNÉTIQUE ET SOCIÉTÉ AU XXIe SIÈCLE

  Il s'agissait d'y présenter un ensemble d'idées relatives au développement de nouvelles technologies capables de remplacer certaines fonctions mentales habituellement dévolues à l'homme : la communication, l'anticipation, le calcul, la commande et le contrôle.

---

Hors de question pour Wiener d'adopter une posture instrumentale ou opérationnelle dès lors que les valeurs humaines sont en jeu, et Cybernétique et société sert en partie à expliquer pourquoi. À côté de cette posture de « lanceur d'alerte», le sentiment d'urgence morale était souligné par la nécessité de racheter la conscience scientifique qui avait vendu son âme au diable avec Hiroshima. 

---

Il considère que l'étude de la société fait partie de la cybernétique :

La cybernétique est la théorie des communications et du contrôle aussi bien dans les êtres vivants, les sociétés et les machines. [...] La [neurophysiologie] a déjà emprunté bien des idées à la cybernétique. Nous pouvons penser que la sociologie suivra la même direction.

 ---

Cela permet, comme l'avait souligné Steve Heims dans sa préface à l'édition britannique, qu'à la première question Wiener réponde par la prise de responsabilité : puisque des machines dangereuses seront conçues, autant être dans le navire pour repérer les bons problèmes au bon moment, en informer le reste du monde, et éventuellement peser sur leur évolution. 

---

Deuxièmement, la raison pour laquelle la machine n'est plus un simple outil réside dans l'éventualité de son accès à une certaine autonomie. Ici, il s'agit de critiquer l'insouciance optimiste autrement que par la déploration technophobe du traditionnalisme, ni l'une ni l'autre ne souhaitant ouvrir le capot. Wiener estime que l'attitude générale à l'égard des machines se confronte à un dilemme fondamental qu'il identifie comme caractéristique de toute situation d'esclavagisme : nous attendons de nos machines qu'elles soient serviles, mais nous leur demandons en même temps d'être de plus en plus intelligentes. Pour Wiener, ces deux attentes sont ,contradictoires (au moins potentiellement), au point que la croissance indéfinie de l'intelligence ne peut demeurer dans la servilité. 

---

Se pose alors la question d'une possibilité de la domination politique de l'homme par la machine. C'est cette question que traite l'article déjà mentionné du père Dubarle. Wiener, qui le cite longuement, ne semble pas y croire. Les sociétés humaines sont trop complexes, elles contiennent trop d'information, c'est-à-dire d'hétérogénéité et de différenciations imprévisibles.

---

Lorsque Wiener écrit que « Ce qu'on utilise comme élément d'une machine est en fait un élément de la machine » (p. 211), la difficulté est seulement déplacée. Si les humains sont standardisés et dominés non par des machines mais par des administrateurs aussi obtus que des machines, alors quelle différence ? Wiener reconnaît par endroits qu'il y a somme toute peu de différences entre poser une question à une machine et poser une question à une administration. Ce qui intéresse au fond Wiener n'est pas que la différence entre machine et administration soit de nature ou de degré, mais la possibilité de faire varier la « mécanicité », pour résister, autant que possible, à la mécanisation des rapports sociaux. On s'approche de la domination de la machine par l'autre bout lorsqu'on peut simplifier l'activité mentale de la population, standardiser et accroître la part de l'information collective.

INTRODUCTION

Le hasard est une notion scientifique

Ces découvertes eurent lieu bien après la mort de Gibbs, dont l'oeuvre resta pendant vingt ans un de ces mystères scientifiques dont on ne voit pas l'utilité. Nombreux furent les hommes qui eurent ainsi des intuitions trop en avance sur leur époque. L'introduction des probabilités en physique par Gibbs survint bien avant l'existence de la théorie adéquate des probabilités dont il avait besoin. Malgré ses insuffisances, je suis sûr que c'est à Gibbs, plus encore qu'à Einstein, Heisenberg ou Planck que nous devons attribuer la première grande révolution de la physique du xxe siècle.

---

Je le répète, l'innovation apportée par Gibbs est de considérer non pas un monde, mais tous les mondes qui peuvent fournir des réponses possibles à un ensemble limité de questions sur notre environnement. La notion centrale de sa théorie est axée sur le problème suivant : dans quelle mesure les réponses que nous pouvons donner aux questions posées sur un ensemble de mondes peuvent-elles être valables lorsqu' un ensemble plus vaste est concerné ? Plus généralement, Gibbs a élaboré une théorie selon laquelle la probabilité tend naturellement à croître à mesure que l'univers devient plus vieux. La mesure de cette probabilité s'appelle l'entropie dont la tendance caractéristique est de s'accroître.

//Au fur et à mesure que l'entropie augmente, l'univers et tous les systèmes clos qui existent en son sein tendent à perdre leurs caractères distinctifs, et à aller de l'état le moins probable vers l'état le plus probable, à avancer d'un état d'organisation et de différenciation, dans lequel les distinctions et les formes existent, vers un état de chaos uniforme. Dans l'univers de Gibbs, l'ordre est le moins probable, alors que le chaos est le plus probable. Mais tandis que l'univers comme un tout tend à se délabrer, il existe des enclaves locales dont l'évolution semble opposée à celle de l'univers en général, et dans lesquelles se manifeste une tendance limitée et temporaire à l'accroissement de l'organisation. Certaines de ces enclaves abritent la vie. C'est à partir de ce point de vue qu'une nouvelle science, la Cybernétique, a entrepris son développement.// #important

CHAPITRE I

La cybernétique à travers l'histoire

Jusqu'à une date récente, il n'existait pas de mot pour désigner ce complexe d'idées, et afin de désigner le champ tout entier par un terme unique, je me suis vu dans l'obligation d'en inventer un. D'où le mot «cybernétique » que j'ai fait dériver du mot grec kubernetes, ou «pilote», le même mot grec dont nous faisons en fin de compte notre mot «Gouverneur». Par ailleurs, j'ai trouvé par la suite que ce mot avait été déjà employé par Ampère en référence à la science politique, et qu'il avait été introduit dans un autre contexte par un savant polonais, cet emploi dans les deux cas, datant des premières années du XIXe siècle.

---

//La thèse de ce livre est que la société ne peut être comprise que par une étude des messages et des dispositifs de communication qu'elle contient; et que, dans le développement futur de ces messages et de ces dispositifs, les messages entre l'homme et les machines, entre les machines et l'homme, et entre la machine et la machine sont appelés à jouer un rôle sans cesse croissant.// #important

Quand je donne un ordre à une machine, la situation ne diffère pas fondamentalement de celle qui se présente quand je donne un ordre à une personne. En d'autres termes, dans la mesure où je suis conscient, j'ai connaissance de l'ordre qui a été donné et du signal d'acquiescement qui est revenu. Pour moi, personnellement, le fait que le signal, dans ses étapes intermédiaires, ait passé par une machine plutôt que par une personne ne doit pas être pris en considération et en aucun cas n'apporte de grand changement dans la relation existant entre le signal et moi. Ainsi, la théorie de la régulation dans les réalisations d'ingénieur soit par un humain, soit par un animal ou une mécanique, est un chapitre de la théorie des messages.

---

Fermat fit progresser l'étude de l'optique avec son principe de minimisation, selon lequel, sur toute portion suffisamment courte de son trajet, la lumière suit le chemin qu'elle met le moins de temps à franchir. Huygens développa la forme primitive de ce que l'on connaît maintenant sous le nom de «Principe de Huygens », en disant que la lumière se propage à partir d'une source en formant autour de cette source une sorte de petite sphère consistant en sources secondaires qui, à leur tour, propagent la lumière de la même façon que les sources premières. Leibniz, entre temps, conçut le monde tout entier comme un assemblage d'êtres appelés « monades » dont l'activité consistait en la perception réciproque sur la base d'une harmonie pré-établie, oeuvre de Dieu, et il est parfaitement clair qu'il conçut cette interaction largement en termes d'optique. À part cette perception, les «monades» n'avaient aucune « fenêtre », de sorte que dans sa conception toute interaction mécanique ne devenait en fait rien de plus qu'une conséquence subtile d'une interaction optique. Un intérêt marqué pour l'optique et les messages est apparent dans cette partie de la philosophie de Leibniz et se trouve sensible dans l'ensemble de sa philosophie. Il joue un rôle important dans deux de ses idées les plus originales : celle de la « Characteristica Universalis », ou langage scientifique universel, et celle du « Calculus Ratiocinator », ou calcul par la logique. Ce « Calculus Ratiocinator », quoique imparfait, fut l'ancêtre direct de la logique mathématique moderne.

---

La machine qui agit sur le monde extérieur au moyen de messages nous est également familière. Le mécanisme photo-électrique d'ouverture automatique des portes est bien connu. Quand un message consistant dans l'interception d'un rayon lumineux est envoyé à l'appareil, ce message actionne la porte, et l'ouvre de telle sorte que la personne peut la franchir.

---

Il est vrai que l'on doit prendre des précautions pour que la poussée ne soit pas trop forte, car si elle l'est, le canon va dépasser la position requise, et devra y être ramené en une série d'oscillations qui peuvent fort bien s'amplifier de plus en plus et aboutir à une instabilité désastreuse. Si le système de rétroaction est lui-même contrôlé — si, en d'autres termes, ses propres tendances à l'entropie sont freinées par des mécanismes de régulation encore différents — et maintenus dans des limites suffisamment rigoureuses, cela ne se produira pas, et l'existence de la rétroaction accroîtra la stabilité du fonctionnement du canon. En d'autres termes, le fonctionnement deviendra moins subordonné à la résistance au glissement ; ou, ce qui revient au même, au ralentissement occasionné par la dureté de la graisse.

---

Ma thèse est que le fonctionnement physique de l'individu vivant et les opérations de certaines des machines à communiquer les plus récentes sont exactement parallèles dans leurs efforts analogues pour contrôler l'entropie par l'intermédiaire de la rétroaction. Dans les deux cas il existe des récepteurs sensoriels formant un stade de leur cycle de fonctionnement : c'est-à-dire que, dans les deux cas, il existe un appareil spécial pour recueillir l'information venant du monde extérieur à de faibles niveaux énergétiques, et la rendre valable dans le fonctionnement de l'individu ou de la machine. 

CHAPITRE II

Progrès et entropie

Rappelons la seconde loi de la thermodynamique : la nature a une tendance « statistique » au désordre; ce que l'on peut exprimer aussi en disant que dans tout système isolé l'entropie s'accroît. En tant qu'êtres humains, nous ne sommes pas des systèmes isolés. Nous absorbons des aliments — et donc de l'énergie — venus de l'extérieur, et par cela même nous sommes des parties de ce plus vaste monde qui contient nos réserves vitales. Mais plus encore, nous y prenons, grâce à nos sens, des informations, et agissons grâce à elles.

---

Considérons un réservoir de gaz dont la température est partout la même. Quelques molécules de ce gaz bougent plus vite que les autres. Supposons alors que nous ouvrions dans le container une petite porte qui permette au gaz de s'échapper dans un tube conduisant à une petite machine pouvant produire de l'énergie, et qu'enfin cette machine soit elle-même reliée au réservoir de gaz par un autre tube et une autre petite porte. À chaque porte, un petit être (le démon) fait le guet des molécules, leur ouvrant ou leur fermant la porte suivant leur vitesse.

---

Une image fera mieux comprendre cette idée. Une foule se presse dans un souterrain (par exemple celui du métro) mais doit passer par deux tourniquets. L'un ne laisse passer que ceux qui vont suffisamment vite, l'autre que ceux qui vont plus lentement. Il y aura donc deux flux dans le souterrain : celui des gens rapides du premier tourniquet et celui des lents du second. Si l'on réunit ces deux courants par un passage commun muni d'une sorte de cage d'écureuil, les gens rapides auront tendance à tourner l'engin dans une direction plus facilement que les lents dans l'autre, et ainsi on obtiendra une source d'énergie utile, grâce au mouvement fortuit de la foule étudiée. 

---

Dans un système en déséquilibre ou au sein d'une partie d'un tel système l'entropie ne s'accroît pas nécessairement. En fait, elle peut décroître localement. Ce déséquilibre autour de nous est peut-être une étape dans une course qui mènera fatalement à l'équilibre. Tôt ou tard, nous mourrons, et il est hautement probable que l'univers autour de nous mourra dans l'embrasement et l' incandescence ; le monde sera alors dans un vaste équilibre de température dans lequel aucun événement nouveau ne pourra se produire. Il n'y aura rien d'autre qu'une grise uniformité, et ne pourront survenir que des fluctuations locales, mineures, et sans intérêt.

---

Bien qu'il soit impossible d'établir de manière universelle les principes de base de la construction des machines imitant la vie, car dans ce domaine les progrès sont trop rapides, il me paraît intéressant de mettre en relief certains caractères généraux des machines construites jusqu'à ce jour. D'abord, ces machines sont faites pour accomplir une ou plusieurs tâches définies, et doivent, pour y parvenir, avoir des organes effecteurs (équivalents aux bras et aux jambes des êtres humains) grâce auxquels ces tâches seront menées à bien. Ensuite ces machines doivent avoir des organes sensoriels (par exemple des cellules photoélectriques ou des thermomètres) qui non seulement leur disent quelles sont les circonstances extérieures, mais aussi leur permettent d'enregistrer l'accomplissement ou le non-accomplissement de leurs tâches. Cette dernière fonction, comme nous l'avons déjà vu, est appelée rétroaction, ce qui n'est pas autre chose que la possibilité de définir la conduite future par les actions passées. La rétroaction peut être aussi simple que celle du réflexe normal, ou plus élaborée dans le cas où l'expérience passée est utilisée non seulement pour régler des mouvements spécifiques, mais aussi pour déterminer toute une ligne de conduite. Ce dernier type de rétroaction aboutissant à la détermination d'une conduite peut n'être (et n'est souvent) qu'un réflexe conditionné, ou, sous un autre aspect, un apprentissage.

---

La distinction entre la résistance passive de la nature et la résistance active d'un adversaire nous suggère une autre distinction : celle qui existe entre le chercheur scientifique et le guerrier ou le joueur. Le physicien qui se consacre à la recherche a tout le temps voulu pour réaliser ses expériences car il n'a pas à craindre que la nature finisse par démasquer ses ruses et ses méthodes. Le joueur d'échec, lui, a, à la moindre faute, un adversaire rapide prêt à en profiter. C'est pourquoi le niveau du physicien est donné par ses réussites, tandis que le niveau du joueur d'échecs est donné par les erreurs qu'il commet. Je ne puis exclure que mon point de vue à ce sujet soit biaisé par un préjugé en ma faveur, puisqu'alors que j'ai pu accomplir une certaine oeuvre scientifique, mon niveau aux échecs a toujours été gâché par mon manque d'attention dans les moments critiques.

 

CHAPITRE III

Rigidité et apprentissage : deux modèles de communication

//Ce chapitre veut montrer que cette aspiration du fasciste à un État humain construit sur le modèle de celui des fourmis est fondée sur une profonde incompréhension aussi bien de la nature de la fourmi que de celle de l'homme. Je voudrais Souligner que tout le mode de développement physique de l'insecte le conditionne de façon à en faire un individu essentiellement stupide et incapable d'apprendre, coulé dans un moule qui ne peut être modifié d'aucune façon appréciable ; et que d'autre part les conditions physiologiques de la fourmi font d'elle un article bon marché, produit massivement et n'ayant pas plus de valeur individuelle qu'une assiette en carton que l'on jette après un seul usage. Au contraire, l'individu humain, qui apprend et étudie parfois pendant la moitié de sa vie, est physiquement équipé pour cela. Inhérentes au sensorium humain — et clé de ses plus nobles accomplissements — sont la variété et les possibilités, parce que celles-ci sont comprises en propre dans sa structure. Bien qu'il soit possible de jeter aux orties cet énorme privilège de formation que possède l'être humain et non la fourmi, et d'organiser l'État-fourmilière fasciste avec du matériel humain, je crois que c'est là une dégradation de la nature même de l'homme et, économiquement, un gaspillage des valeurs les plus hautes et les plus humaines.// #important

---

Un autre exemple de processus d'apprentissage apparaît à propos du problème que pose la conception des machines qui permettent de prévoir. 

CHAPITRE IV

Le mécanisme et l'histoire du langage

Aucune théorie de la communication ne peut évidemment éviter le problème du langage. Langage, en fait, est en un sens un autre nom pour «communication », mais c'est aussi le nom des modes de communication, c'est-à-dire des codes. Nous verrons plus loin dans ce chapitre que l'usage de messages, de leur codage et de leur décodage est essentiel non seulement pour les êtres humains, mais aussi pour d' autres êtres vivants et pour les machines utilisées par les êtres vivants. Les oiseaux communiquent entre eux, les singes communiquent entre eux, les insectes communiquent entre eux et, dans toutes ces communications, certaines sont faites grâce à des signaux et des symboles qui ne peuvent être compris que par ceux qui en possèdent le code approprié.

Ce qui distingue les communications humaines des communications entre la plupart des autres animaux est : a) la délicatesse et la complexité du code utilisé et b) le haut degré d'arbitraire de ce code. 

---

Le lecteur peut s'étonner ici que nous incluions les machines parmi les êtres doués du langage — mais que nous refusions cette qualité presque totalement aux fourmis. Et pourtant, lorsque nous concevons des machines, il nous est normal (et utile) que nous leur donnions certains caractères humains que l'on ne trouve pas chez les membres inférieurs de la société animale. Aussi le lecteur peut-il considérer qu'il s'agit simplement d'une extension des possibilités humaines au moyen d'une machine; mais le lecteur doit aussi avoir conscience que ces machines peuvent continuer de fonctionner en dehors de toute présence humaine.

---

Le premier niveau pour le langage ordinaire se compose de l'oreille externe et interne et de la partie du cerveau qui lui est reliée de façon permanente et rigide. Cet appareil qui reçoit des vibrations transmises, soit directement par l'air, soit par des circuits électriques et une membrane, a une fonction phonétique : il reçoit les sons qui constituent le langage.

---

La réception sémantique exige d'avoir recours à la mémoire, avec les processus longs qui en découlent. Les types d'abstraction relevant de cette importante étape sémantique ne sont pas associés uniquement à des sous-assemblages neuronaux permanents, tels ceux qui jouent un grand rôle dans la perception des formes géométriques, mais aussi à des systèmes détecteurs d' abstraction formés de pools intercalaires, ces ensembles de neurones disponibles pour des systèmes temporaires plus importants assemblés pour une fonction spécifique. 

 ---

En résumé, l' intérêt que porte l' homme à son langage semble être un intérêt inné dans le codage et le décodage, aussi spécifiquement humain, semble-t-il, que tout intérêt peut l'être. La parole est le plus grand intérêt de l'homme, et son accomplissement le plus caractéristique.

 

CHAPITRE V

L'organisation comme message

Nous avons déjà vu que certains organismes, tels que l'homme, tendent un moment à maintenir et souvent même à élever le niveau de leur organisation, partie intégrante du courant général d'entropie croissante, de chaos croissant, et de dé-différenciation. La vie est une île çà et là dans un monde mourant. On connaît le processus par lequel nous autres, êtres vivants, résistons au courant général de corruption et de dégénérescence, sous le nom d'homéostasie.

CHAPITRE VI

Droit et communication

Le premier devoir de la loi, quels qu'en soient le second et le troisième, est de savoir ce qu'elle veut. Le premier devoir du législateur ou du juge est de formuler des affirmations claires et sans équivoque, afin que non seulement les experts mais l'homme de la rue puissent les interpréter d'une manière et d'une seule. La technique d'interprétation des précédents juridiques doit être telle qu'un avocat puisse non seulement savoir ce qu'a dit un tribunal, mais encore prévoir avec une forte probabilité ce que va dire le tribunal. Les problèmes du droit tiennent ainsi de la communication et de la cybernétique en ce sens qu'il s'agit de problèmes de contrôle régulier et répétable de certaines situations critiques.

CHAPITRE VIII

Rôle de l'intellectuel et du savant

Ce livre soutient que l'intégrité des canaux de communication intérieure est essentielle au bien-être de la société. Cette communication intérieure est assujettie actuellement non seulement aux menaces qu'elle a affrontées de tout temps, mais à certains problèmes nouveaux particulièrement sérieux, spécifiques de notre siècle. L'un d'eux est la complexité et le coût croissants de la communication.

 

CHAPITRE X

Quelques machines de communication et leur avenir

 L' inquiétant dans la machine à gouverner du père Dubarle n'est pas le danger de réaliser un contrôle autonome sur l'humanité. Il est beaucoup trop grossier et imparfait pour présenter le millième de la conduite indépendante et délibérée de l'être humain. Son réel danger, cependant, tout à fait différent, est que de telles machines, quoique impuissantes à elles seules, puissent être utilisées par un être humain ou un groupe d'êtres humains pour accroître leur contrôle sur le restant de l'humanité, ou que des dirigeants politiques tentent de contrôler leurs populations au moyen non des machines elles-mêmes, mais à travers des techniques politiques aussi étroites et indifférentes aux perspectives humaines que si on les avait conçues, en fait, mécaniquement. La grande faiblesse de la machine (la faiblesse qui nous garde d'être dominés par elle) est qu'elle ne peut pas tenir compte de la vaste étendue de probabilités qui caractérise la situation humaine. La domination de la machine présuppose une société aux derniers stades de l'entropie croissante, où la probabilité est négligeable et où les différences statistiques entre individus sont nulles. Nous n'avons pas encore, heureusement, atteint un tel état.

--- 

Quand je dis que le danger social de la machine ne tient pas à la machine elle-même mais à l'usage que l'homme en fait, je souligne bien l'avertissement de Samuel Butler. Dans Erewhon il conçoit des machines incapables d'agir autrement qu'en conquérant l'humanité par l'utilisation des hommes comme organes subordonnés. Néanmoins, il ne faut pas prendre trop au sérieux l'anticipation de Butler, car en fait pas plus lui que ses contemporains ne comprenaient la vraie nature des automates, et ses arguments.