Feedback, Cybernetica en AI

Feedback is een begrip uit de cybernetica. Het werd geïntroduceerd en druk bediscussieerd tijdens de Cybernetica conferenties van de Macy Groep tussen 1946 en 1953. Dit waren enkele van de eerste gestructureerde onderzoeken naar interdisciplinariteit. Ze formuleerden nieuwe concepten op het gebied van de systeemtheorie, de cybernetica en wat later bekend zou worden als de cognitieve wetenschap. Het was een echte paradigma verschuiving. Alles werd een systeem. Een van de thema’s die op de meeste conferenties aan bod kwam, was reflexiviteit. Claude Shannon, een van de deelnemers, had zich eerder beziggehouden met informatietheorie en die beschouwde informatie als een probabilistisch element dat de onzekerheid bij een reeks keuzes verminderde.

Alle systemen werden op een hoop gegooid. Zowel voor (mechanische, elektrische) gesloten systemen als voor open (sociologische, biologische, ecologische, meteorologische) systemen werd reflexiviteit gedefinieerd als feedback. Maar daar waar mechanische en elektrische systeem perfect controleerbaar zijn is dat niet het geval bij sociologische, biologische, ecologische, meteorologische en klimaat systemen. En daar liep het fout. En die misvatting speelt vandaag nog altijd een belangrijke rol. De basis van sociale netwerken is ‘social engineering’. Met het schandaal van Cambridge Analytica liep dat de spuigaten uit. Een tweede kritiek op die opvattingen over feedback werd achteraf geformuleerd door het team van het ‘Biological Computer Lab’. Zij stelden de willekeur in vraag bij het definiëren van systemen en systeemgrenzen. Dit laatste kan je goed zien in het volgend voorbeeld. Ook tijdens Macy conferenties ontstond al onenigheid over feedback. Zie bijvoorbeeld de confrontatie tussen Ashby en Bigelow over homeostase (Müler, 2000).

Als men de feedback van klimaatopwarming herleidt tot de wisselwerking tussen Vermindering van reflectie [7] en de opwarming van de Aarde [5] mist men de feedback van de wisselwerking tussen Toename van waterdamp [8] en Toename van Broeikasgassen [4] enerzijds en de wisselwerking van Toename van de methaanuitstoot [9] en eveneens de Toename van Broeikasgassen [4]. Daarmee is meteen ook duidelijk dat het opslaan van CO2, ook als men het op grote schaal zou kunnen toepassen wat nu nog niet het geval is, maar een minimaal effect zal hebben. Bij de open sociologische, biologische, ecologische, meteorologische en klimaat systemen moet men zo ruim mogelijk alle invloeden bekijken, zowel voor de feedback van het systeem als voor de gevolgen van de niet controleerbare dynamiek ervan.

Wiener wordt beschouwd als de grondlegger van de cybernetica. Hij wordt ook gezien als een van de eersten die de theorie ontwikkelde dat al het intelligente gedrag het resultaat was van feedbackmechanismen die mogelijk door machines konden worden gesimuleerd (Wiener, 1848). Dit werd gezien als de belangrijke eerste stap op weg naar de ontwikkeling van de moderne kunstmatige intelligentie. Wiener’s werk heeft grote invloed gehad op computerpionier John von Neumann. En ook vandaag nog is voor Thielman, Musk, Zückerberg en Altman controle het belangrijkste motief om AI verder te ontwikkelen. Wat de klimaatverstoring betreft worden ze echter geconfronteerd met een gigantische mislukking van de cybernetische controleerbaarheid. Nog liever doemscenario’s formuleren dan toegeven dat ze zich vergist hebben. Dit is trouwens een grondstelling van alle autocratieën.

Naomi Klein en Astra Taylor stellen dat deze biljonairs wel het einde van de beschaving voorspellen maar dat ze denken te kunnen overleven door technologie (Klein, Taylor, 2026). Het is duidelijk dat deze caste de illusie van controle niet wenst op te geven. Maar de kernwaarheid van de ontwrichtende AI sector is dat er een ongekende hoeveelheid middelen voor nodig is. Voor de ‘rekenkracht’ van de high-end chips zijn enorme hoeveelheden gegevens nodig, die op grote schaal moeten worden verzameld.

Daarbij worden auteursrechten genegeerd, duizenden boeken gebruikt om in te scannen en dan weg te gooien. Bovendien moeten deze data worden opgeschoond door laag betaald personeel verspreid in het hele Zuiden. Een werkelijk alarmerende stijging van de behoefte aan energie en water maakt die industrie naast milieu vervuilend ook nog eens verder klimaat ontwrichtend. Maar het verzet tegen de enorme datacenters groeit. We zijn een nieuw, onheilspellend tijdperk van imperiale macht binnengetreden, waarin AI aan een hoog tempo voort raast zonder ommezien volgens Karen Hao. (Hao, 2025).

En hoe geniaal is deze AI? Het is op zijn best in het creëren van computer programma's, gesloten sytemen dus. Daarin kan het de fouten opsporen en zo online inbreken. Het is ook goed in gebruikers paaien om ze online vast te binden. Maar voor de rest produceert het gewoon vernuftig vermomd plagiaat. AI slop.

De ironie wil dat ze bij de ontwikkeling van “super intelligentie” intussen ook de controle kwijt zijn. Ze doen in alle geval toch alsof. De bedoeling van deze propaganda stunt is natuurlijk angst creëren en 99% van de mensheid vernederen. Terwijl men in de EU AI probeert aan banden te leggen, valt er weinig goeds te verwachten van de VS regering. Die wil absoluut de race met China winnen. In de robotica hebben ze al achterstand opgelopen.

Een anekdote, het is niet de eerste keer dat de VS regering zich vergist wat betreft AI. Nadat de productie van computers echt op gang kwam in de jaren zestig, financierde DARPA AI onderzoek van zowel de groep rond Minsky, die voor menselijke intelligentie uitging van het computermodel, als het BCL waar men zich baseerde op de Neurologie. Aan het BCL legden Rosenblatt, Edelman, Rumelhart, McClelland de basis voor de neuronale netwerken van vandaag. Ze noemden het toen ‘perceptrons’ in plaats van ‘neurons’, maar het concept was het zelfde als dat van de neuronale netwerken gemodelleerd naar de werking van de neurons en synapsen van ons brein. Het is echter een zeer onvolledige kopie. Naast electrische signalen spelen ook neurotransmitters een centrale rol. De neurotransmitter kan een neuron helpen (stimuleren) of juist belemmeren (remmen) bij het afvuren van zijn eigen actiepotentiaal volgens de cursus neurologie.

Door een beslissing van de VS regering verloor het BCL zijn subsidies - het was te progressief en het dwarsboomde de kritiek van de studenten op de Vienam Oorlog niet - terwijl men het onderzoek van Minsky wel bleef financieren (Müler, 1985). Maar dat onderzoek draaide op niets uit. Dit noemt men de AI winter en die zou 20 jaar duren.

Referenties

Müller, A. (2000). Eine kurze Geschichte des BCL: Heinz von Foerster und das Biological Computer Laboratory. Österreichische Zeitschrift für Geschichtswissenschaften, 11(1), 9–30. https://doi.org/10.25365/oezg-2000-11-1-2 <https://constructivist.info/radical/papers/mueller/mueller00-bcl.html>.

Klein, Naomi, & Astra Taylor, 2026, End Times Fascism and the Fight for the Living World, ISBN 10: 0374621381 ISBN 13: 9780374621384, Publisher: Farrar, Straus and Giroux, 2026

Hao. Karen, 2025, Empire of AI, Inside the reckless race for total domination, ISBN 978-0593657508, Penguin Press (U.S.).

Wiener, Norbert (1948). Cybernetics: Or control and communication in the animal and the machine. Cambridge, Massachusetts: MIT Press.