Origins of Order

Maxwell’s Demon revisited
De demon scheidt snelle deeltjes van de langzame en laat ze toe in vat B door telkens een klep te openen als een snel deeltje in de richting van vat B gaat (vat A bevat dus steeds meer langzame deeltjes). Er ontstaat dan een tegendruk in vat B, namelijk omdat de snelle deeltjes daarin een grotere kans hebben om met elkaar te botsen. Die tegendruk kan alleen worden opgeheven als de demon sterk is: hij blijft dan snel genoeg om de klep voldoende snel open te doen om de administratie bij te blijven houden van de banen van de deeltjes in het systeem. Als de demon zwak is dan is die toenemende tegendruk een steeds groter probleem om de toegang te blijven regelen.

Dit is een analogie voor selectiedruk in evolutionaire processen: hoe meer tegendruk er op een structuur ontstaat vanuit de omgeving, des te minder vernieuwing er komt. Het wordt namelijk lastiger voor een organisme om nog uit het optimum weg te komen waar het in is beland. Zelfs als dat een lokaal optimum is met beperkt onderscheidend vermogen ten opzichte van de gemiddelde kenmerken over het hele systeem. Selectie alleen is steeds minder in staat om de kenmerken van de structuur te veranderen. Dat geldt vooral voor grote systemen met bestaande regelkringen.

In deze analogie is ‘het voorkomen’ (’the instance’) van de ontstane structuur, dus bijvoorbeeld het organisme op enig moment in haar ontwikkeling, de gematerialiseerde administratie oftewel de geschiedenis van het gedrag in een bepaald gedeelte van de faseruimte waartoe het is toegelaten door Maxwell’s demon. De centrale vraag in het boek ‘The Origins of Order’ van Stuart A. Kauffman is of orde is ontstaan door toedoen van selectie of dat er al orde was waar selectie mee verder werkt en bovendien hoe ’taai’ die orde is.

Dit is een indrukwekkend boek, vanwege de diepte van het onderzoek en de breedte van het bestreken domein en de concrete aanpak. De benadering is wetenschappelijk en wiskundig, waardoor het breed toepasbaar is. Hoewel het uitgangspunt biologisch is, is de toepasbaarheid vanwege de systeembenadering veel breder. Voor mijn onderzoek is dit een cruciaal boek vanwege de diepe inzichten in de mechanics van co-evoluerende complexe systemen.

Samenvatting
Systemen die balanceren op de grens tussen orde en chaos zijn het best in staat om te adapteren door (middel van) mutatie en selectie. Zulke systemen zijn het best in staat om complex flexibel gedrag te coördineren en het best in staat om zich aan veranderingen in de omgeving aan te passen.

Gekoppelde co-evoluerende complexe systemeen worden door selectie gestuurd als door een ‘invisible hand’ (denk aan Adam Smith) en vormen ecosystemen waarvan de onderdelen (gekoppelde systemen of deelsystemen) onderling de grens van chaos bereiken. Daar worden alle deelsystemen in staat gesteld om de hoogste verwachte fitness te bereiken, zelfs als er lawines van co-evolutionaire veranderingen door het ecosysteem propageren die oude structuren (soorten) elimineren en nieuwe introduceren.

Als hun interne structuur verandert dan veranderen sommige systemen hun gedrag geleidelijk en andere radicaal. Is selectieve evolutie in staat om de structuur van complexe evoluerende systemen zo te veranderen dat ze gemakkelijk evolueren? Met de toename van de complexiteit van een systeem is selectie steeds minder in staat om de kenmerken van het systeem te veranderen.

Als selectie die inwerkt op complexe systemen die spontaan een diepe orde laten zien, niet in staat is om die orde te vernietigen, dan zal die orde zichtbaar zijn (‘shine through’) in het gedrag van die systemen. In andere woorden: veel van de waargenomen orde in organismes (systemen) kan spontaan van aard zijn en in plaats van het succes van het selectieproces, het falen ervan weerspiegelen.

Norman Packard en Christopher Langton formuleren het als volgt: Life exists at the edge of chaos.

Fitness Landschappen
Een fitnesslandschap is een weergave van de fitness van een entiteit relatief ten opzichte van de andere entiteiten, die tevens zijn omgeving vormen. Die fitness is de resultante van een utiliteitsfunctie toegepast op gedragskenmerken van de entiteit. Als de fitness van één entiteit verandert, bijvoorbeeld door een mutatie, dan verandert bovendien het fitnesslandschap, omdat de relatieve fitnesses van alle andere entiteiten in het landschap ook veranderen. Onderzoek naar de structuur van rugged fitness landschappen die het substraat vormen voor evolutie. Rugged vertaalt het best als ‘ruig’, ik laat het in deze post onvertaald, evenals fitness: de mate waarin een entiteit fit is, c.q. geschikt is voor zijn taak, bijvoorbeeld zijn geschiktheid om te overleven op de lange termijn, in vergelijking met andere kandidaten.

Adaptieve evolutie is dus afhankelijk van het karakter van fitness landschappen en het karakter is omgekeerd ook afhankelijk van de zich ontwikkelende entiteiten. Evolutie verandert de structuur van de fitnesslandschappen en omgekeerd ook hun effect op de evolutie door de kenmerken van de entiteiten te veranderen.

Als een landschap rugged is betekent dat er een lage correlatie is tussen een punt in het fitness landschap en de naburige punten: die hebben een weinig vergelijkbare fitness. Als het landschap smooth (glad, het tegenovergestelde van ruig, blijft onvertaald) is, dan betekent dat dat naburige punten een vrijwel gelijke fitness hebben en dat er dus een hoge correlatie is tussen de kenmerken die daarbij horen. Landschappen vervormen als gevolg van veranderingen in de niet-biologische omgeving en ook als gevolg van respons op co-evolutie, dus veranderingen in andere entiteiten. In een co-evolutionair proces hangt de fitness van een organisme af van de kenmerken van alle andere organismes waar het mee interacteert, terwijl al die andere organismes zich ook aanpassen en veranderen onder invloed van elkaars gedrag.

Evolutie (sec) in een statisch fitness landschap kan gezien worden als een adaptieve zoektocht naar globaal (als in: het geheel) de hoogste piek op dat landschap. In een co-evoluerend landschap zijn er meer factoren van invloed op het fitness landschap, namelijk de andere co-evoluerende entiteiten, en is die zoektocht complexer, omdat alle punten in dat landschap bij elke ‘click’ veranderen.

Die zoektocht van de hoogste piek is zoals bergbeklimmen via muterende steeds fittere voorkomens (instances) van een soort: een globale zoektocht via lokale stappen (zoals stapstenen). De globale zoektocht heeft een lokaal karakter en dit zoekproces is een complexe combinatorische optimalisatie. Om op die manier een globaal optimum te kunnen bereiken – dus niet te blijven hangen in een lokaal optimum binnen een deelsysteem – is coördinatie nodig tussen de deelsystemen en -processen. De mogelijke resultaten worden echter beperkt door de ‘ontwerpvoorwaarden’ van de deelsystemen, dus niet-perfecte interfaces tussen de deelsystemen. Een belangrijke uitkomst van het onderzoek is dat meer ontwerpvoorwaarden, namelijk de invloed van een groter aantal deelsystemen, leiden tot een meer ‘rugged’ fitness landschap.

Het gedrag van een populatie die zich evolutionair ontwikkelt hangt af van deze variabelen:

de ruggedness van het fitness landschap
de omvang van de populatie
de mutatiegraad van het evolutionaire processen, of er bijvoorbeeld sprake is van sexuele voortplanting die voor grotere stappen door het fitnesslandschap kan zorgen, of alleen asexuele voortplanting, die de zoektocht lokaler houdt

Hieronder zijn condities weergegeven, waaronder een kenmerk van een organisme dat door zelf-organisatie is ontstaan, in een selectieproces dat zwak is of zelfs tegen dat kenmerk selecteert (zie hierboven Maxwell’s demon), zichtbaar blijft en dus de kracht van selectie vermindert:

Als de demon zwak is en de populatie zwerft door het fitness landschap in plaats van rond een piek te clusteren, dan verschilt de waarschijnlijkheidsverdeling van de kenmerken van de individuen in de populatie niet veel van het gemiddelde van het systeem. De selectie is niet sterk genoeg om de populatie in een beperkt gebied van de ruimte te houden en de individuen zullen de kenmerken blijven behouden die het gevolg waren van spontane zelf-organisatie.
Als het fitness landschap extreem ‘rugged’ is dan lijken de pieken in het landschap sterk op de structuur van het hele landschap. Adaptatie blijft steken in de buurt van een lokale piek en is niet in staat om door het landschap te reizen om nieuwe locaties in de oplossingsruimte te verkennen. De kenmerken zullen zich in de buurt van die lokale pieken verspreiden, de relatieve fitness verschilt te weinig, die pieken worden minder hoog relatief ten opzichte van de omgeving. Het landschap wordt minder ‘rugged’ en gaat (nog) meer lijken op de hele oplossingsruimte. Dus zelfs als de selectie sterk is, gaan de pieken meer op de omgeving lijken. De kenmerken die het gevolg waren van zelf-organisatie zullen zichbaar blijven.

Het onderliggende mechanisme voor die condities is de mate waarin de kenmerken van (deel)systemen aan elkaar gekoppeld zijn. Als kenmerk i en kenmerk j elkaar beïnvloeden dan is de keuze van i voor j niet per definitie even voordelig voor het hele systeem als de keuze van j voor i, wegens ontwerpbeperkingen (gebrekkige interfaces). De bijdrage van een onafhankelijk deelsysteem aan de globale fitness wordt kleiner met het aantal deelsystemen dat eraan wordt gekoppeld en het belang van ieder deelsysteem wordt kleiner.

De selectie’kracht’ die een eventuele beschadiging als gevolg van mutaties herstelt, wordt wegens het afnemende belang (bijvoorbeeld keuze i voor j) kleiner dan de beschadiging. De selectie voor dat kenmerk van het deelsysteem wordt minder en het kenmerk wordt minder prominent in het geheel. Selectie wordt geleidelijk aan te zwak om een adaptieve populatie op een top te houden en glijdt van de ‘fitnesshelling’ af naar een dal als het aantal deelsystemen in een systeem een kritisch aantal overstijgt.

NK model
Dit model wordt gebruikt voor het modelleren van een rugged fitness landschap. N is het aantal entiteiten of onderdelen in een systeem (deelsystemen) en K is het aantal koppelingen dat elk deelsysteem heeft met andere deelsystemen. De complexiteit neemt toe als K toeneemt, zie hierboven. Dit model levert een statistische mechanica op voor een rugged landschap. Als belangrijke parameters worden aangepast, verandert het landschap. Een ander doel van het model is om voorspellingen te doen over de eigenschappen van die landschappen en hun topologisch gedrag, zogenaamde ‘adaptive walks’:

het aantal locale maxima in de ruimte
het gemiddeld aantal verbeteringsstappen op weg naar een lokaal optimum
het aantal mutanten (hypotheses) dat is geprobeerd op weg naar een lokaal optimum
de verhouding tussen aantal geaccepteerd en het aantal hypotheses
het gemiddelde en maximale aantal alternatieve lokale optima dat kan worden bereikt
hoe verdwijnt het aantal 1-mutatie buren tijdens een ‘adaptive walk’
wat is het aantal dat in hetzelfde locale optimum kan klimmen?

Voorbeelden van fitness landschappen

K = 0	1 globaal optimum, smooth fitness, alle buren 1 mutant verwijderd, maximale correlatie, de lengte van de wandeling naar de fitness top (het is er 1) lineair toeneemt als N toeneemt. Landschap: Fujiyama
K > 0	Ontwerp beperkingen nemen toe met toenemende connecties. Als K toeneemt dan neemt het web van ontwerpbeperkingen exponentieel toe en dus de afnemende locale optima. Landschap: toenemend rugged, populatie op eilandjes
K = N – 1	Aantal locale fitness optima zeer groot, hoogte pieken vergelijkbaar met gemiddelde, aantal verwachte 1-mutant buren vermindert met ½ bij iedere stap, minimale correlatie tussen kenmerken. De tijd die het kost om een optimum te bereiken is equivalent aan het aantal 1-mutant buren, oftewel het aantal dimensies van de ruimte. Die tijd tot optimum is voor grote N en K onafhankelijk van de beginvoorwaarden.Landschap: fully random fitness

Als het aantal deelsystemen en de mate van interactie tussen die onderdelen toeneemt, dan neemt het aantal ontwerpbeperkingen toe. Dat heeft tot gevolg dat de optimalisatie van de fitness steeds slechtere oplossingen geeft. Hoe sterk de selectie ook is, de adaptieve processen zijn afhankelijk van het fitness landschap. Er is dus een limiet aan de complexiteit die kan worden bereikt (aan K). De marginale toeneming in fitness voor het volgende deelsysteem dat wordt aangesloten moet positief zijn.

In een K = klein landschap liggen alle optima niet verspreid over het landschap maar dichtbij elkaar en de hoogste optima liggen het dichtst bij elkaar. Er is een globale structuur in het fitness landschap ontstaan. Als K toeneemt dan wordt die correlatie minder en valt uiteindelijk weg. De distributie van de omvang van de ‘basins of attraction’ die naar diverse optima klimmen, kan sterk verschillen. Verder geldt voor K = klein dat voor de hoogste optima de ‘basins of attraction’ het grootst zijn. Als K groter wordt dan neemt de grootte van de basins af.

Op basis van de gegevens hierboven is de conclusie dat de hoogste optima het dichtst bij elkaar liggen en tevens de grootste ‘basin of attraction’ hebben. Het logisch gevolg daarvan is dat de hoogste optima in deze systemen informatie bevatten over de locatie van andere, wellicht nog hogere, lokale optima.

Biologische Implicaties
Long-jump adaptatie betekent dat genetische aanpassingen verder springen dan de correlatielengte van het landschap. Boven de long-jump limit worden fittere varianten exponentieel minder gevonden. Als de complexiteit van de entiteiten, die aan selectie onderhevig zijn, toeneemt wordt de long-jump strategie minder effectief. De veranderingen in effectiviteit zijn anders op verschillende tijdschalen:

vroeg in een adaptief proces kunnen ver afgelegen verwanten van entiteiten met een lage fitness een veel hogere fitness hebben. Daarom bewegen zij zich sneller door een populatie dan de dichtbij gelegen en de populatie adapteert via long-jumps
het aandeel van fittere verre varianten verkleint exponentieel en in toenemde mate worden fittere varianten dichterbij gevonden, adaptatie beklimt lokale pieken
op de langere termijn vinden long-jumps plaats naar verre, veelbelovende ‘bergwanden’, of de landschappen vervormen

In biologische processen wordt adaptieve evolutie gedreven door mutatie, recombinatie en selectie. Het is een zoekproces op vaste of vervormende landschappen. De structuur van die landschappen, smooth of rugged, bepaalt de evolueerbaarheid en de overlevingskansen van de populaties die ‘erin’ leven. In smooth landschappen, bij een vaste omvang van de populatie en bij een vaste mutatiegraad, wordt een drempel bereikt als de complexiteit van de entiteiten toeneemt. Voorbij die complexiteitsdrempel is selectie een zwakkere kracht dan mutatie, de zwakke versie van de demon van Maxwell. De populatie smelt weg van de optima en zakt af naar een gemiddelde.

In een rugged landschap wordt het evolutionaire zoekproces gevangen in kleine lokale optima van de genotype ruimte. Als de mutatiefrequentie toeneemt migreert de populatie, naar lagere fitness (lager gelegen gebieden in het landschap) en verspreidt zich over grotere porties van de mogelijke oplossingsruimte. Omgekeerd, voor een vaste mutatiegraad en een vaste populatie in een vast rugged landschap, blijft de adaptieve zoektocht bevroren in kleine regio’s maar smelt uit steeds grotere gebieden van smooth landschappen. De mutatiegraad en de populatie hebben dus voor ideale evolueerbaarheid een niet te lage en niet te hoge waarde (nearly melted). Bovendien is de fitness daar het hoogst. De hoogste pieken hebben de grootste basins of attraction en bij een redelijke (niet al te hoge) mutatiegraad heeft het systeem een kans om zo’n basin te bereiken en dus een redelijk optimum.

De veranderingen in de vorm van het fitness landschap zijn afhankelijk van veranderingen in de fysieke omgeving en co-evolutionaire effecten. Voor entiteiten met een hoge mate van samenhang tussen hun genetische kenmerken onderling heeft een genetische aanpassing grotere gevolgen dan voor een entiteit met een lagere onderlinge genetische samenhang. In een rugged landschap is een mate van hiërarchisch verband in de genetische informatie wenselijk, omdat dat de entiteiten in dat landschap in staat stelt snel relatief grote veranderingen te ondergaan en zich op die manier aan de veranderingen in het landschap aan te passen.

Zelf-organisatie en Adaptatie
Hoe is het mogelijk dat er ingewikkelde en mooie patronen, zoals een brein of een immuun systeem, ontstaan in complexe systemen, alleen door random mutatie en selectie? Zelfs als evolutie bruikbare variaties oplevert dan nog is niet duidelijk welke systemen dergelijke bruikbare variaties kunnen voortbrengen en hoe ze dat doen.

In tegenstelling tot onze intuïtie kunnen ‘massively disordered systems’ (ver-uit-evenwicht systemen) een grote mate van orde voortbrengen. De eerste stelling is dat de orde die we zien niet het resultaat is van evolutionaire selectie, maar een ‘natuurlijke’ orde, die het startpunt is voor selectie om op in te werken. De tweede stelling is dat selectie complexe systemen voortbrengt die in staat zijn tot adaptief gedrag. Sterker nog: er zijn algemene principes die systemen karakteriseren die in staat ziijn tot adaptief gedrag. Die systemen bereiken een ‘poised state’, in de buurt van de grens tussen orde en chaos, die de complexiteit van de taken die het systeem kan uitvoeren optimaliseert en tegelijkertijd evolueerbaarheid van het systeem optimaliseert.

Het aantal attractoren bepaalt alle mogelijke toekomstige gedrag van een systeem: alle beginvoorwaarden leiden via een ‘basin of attraction’ naar een attractor. De totale ruimte die wordt ingenomen door attractoren is veel kleiner dan die van de ruimte van alle toestanden van een systeem. Het systeem wordt ‘geboxed’ in een attractor, behalve als het door een externe gebeurtenis wordt verstoord en via een ander ‘basin of attraction’ naar een andere attractor gaat. De grens tussen twee ‘basins of attraction’ kan zadelvormig zijn, genaamd een separatrix: de dynamica als gevolg van een verstoring is dan verschillend in verschillende richtingen. Een separatrix heeft 1 dimensie minder dan het systeem.

Eigenschappen van strange atractors (chaotische attractoren, oneindige periodiciteit):

SDIC: naburige punten lopen na verloop van tijd uiteen
ze kunnen een lage dimensie hebben in een hoog-dimensionele ruimte

Een laag-dimensionele attractor levert meer orde dan een hoog-dimensionele, omdat de eerste is geboxed in een klein deel van de fase ruimte, terwijl de tweede een groter deel van de fase ruimte doorkruist.

Omdat elk punt in de parameterruimte (de parameters zoals N en K bepalen het gedrag van een systeem, ze zijn de dimensies van de parameterruimte) het gedrag van dynamische systeem bepaalt, bepaalt dat ook de fase ruimte (de ruimte van de ‘fysieke’ variabelen in een systeem) ervan en de ‘basins of attraction’. Op veel veranderingen in de parameterruimte volgt een beperkte verandering in de faseruimte. Echter op bepaalde specifieke veranderingen in de parameterruimte volgt een grote verandering van de structuur van de fase ruimte, zoals het verdwijnen of verschijnen van een attractor. Dat onderscheid in de parameterruimte zorgt voor een onderverdeling van die ruimte en migreren van de ene naar de ander deel van de parameter ruimte heeft een bifurcatie tot gevolg. In het algemeen is een N-dimensionele ruimte opgedeeld door N – 1- dimensionele oppervlakken.

Die oppervlakken (die de parameterruimte opdelen) nemen in sommige dynamische systemen relatief weinig ruimte in ten opzichte van de compartimenten (waarin ze de ruimte opdelen). Dat levert structureel stabiele systemen op: de meeste veranderingen in de parameterruimte hebben geen migratie naar een andere ruimte tot gevolg en er vindt geen bifurcatie plaats. Er zijn veel systemen die die eigenschap hebben, zoals de periode-verdubbeling bifurcaties die zijn bestudeerd door Feigenbaum. Een verandering van de parameters in bijna iedere richting in die systemen heeft een grote structurele verandering van de fase ruimte tot gevolg.

Adaptieve evolutie (of het leren van complexe systemen) is het aftasten van en adapteren aan de parameterruimte om zo ‘goed’ dynamisch gedrag, dat een hoge fitness van het systeem oplevert, te vinden. Structureel stabiele systemen adapteren op gecorreleerde landschappen, chaotische systemen adapteren op ongecorreleerde landschappen. Veranderingen in de parameter ruimte die een migratie van het systeem van geordend naar chaotisch gedrag tot gevolg hebben, hebben ook tot gevolg dat de statistische structuur van het fitness landschap van smooth naar rugged overgaat. Het is voorstelbaar dat die tussentijds ruggedness de evolueerbaarheid optimaliseert.

De tweede wet van de thermodynamica houdt in dat elk systeem naar maximale wanorde neigt, binnen de voorwaarden van de dynamica van het systeem zelf. De baan van de faseruimte van een Hamiltonian systeem (systeem zonder frictie) is random en komt in elk deel van die ruimte. Het vergt veel externe arbeid om die baan te beperken tot een gedeelte van de faseruimte. Er zijn echter veel systemen die van zichzelf wel attractoren hebben die zich beperken tot een gedeelte van de fase ruimte en via de ‘basins of attraction’ beperken die systemen zich spontaan tot beperkte delen van die ruimte. Dat is: zonder arbeid van buitenaf. Boolean netwerken die de interacties van grote aantallen elementen coördineren, vertonen ook dit spontane gedrag. Het is, met andere woorden, niet alleen het selectieproces dat orde oplevert. Het selectieproces werkt met reeds bestaande spontaan ontstane orde.

N is het aantal elementen in een Boolean netwerk is, K is het gemiddeld aantal connecties per element met andere elementen en P is een maatstaf voor de bias voor een subset van de boolean functies in het netwerk op een bepaalde beslissing.

Als K < 2 dan is het gedrag van het systeem periodiek
Bij K = 2 dan ‘kristalliseert’ er orde en er vindt een fase overgang plaats
Als K > 2 dan wordt het gedrag van het systeem chaotisch
Als K => 5 dan is het gedrag chaotisch, SDIC, het aantal attractoren neemt lineair toe

Dezelfde faseovergang vindt plaats als P gevarieerd wordt. In het transitiegebied rond K = 2 of de equivalent voor P vertoont het systeem complexe dynamica, waar het gedrag op de grens van orde en chaos is. Het lijkt erop dat het geordende regime in dat gebied de voorkeur heeft van selectie, tot stand wordt gebracht door en in stand wordt gehouden door natuurlijke selectie.

Bij K = 2 beperkt een random boolean systeem met N = 10.000 zich tot sqrt(N) = 100 toestanden. De totale toestandsruimte is 10 ^ 3.000 en het systeem beperkt zich dus tot een fractie 10 ^ -2.998 van de beschikbare ruimte. Het aantal attractors in datzelfde systeem is ook circa sqrt(N) = 100. Het aantal attractors in een systeem met N = 100.000 is 317. NB: het menselijk genoom bevat 100.000 elementen. Dat is een voldoende grote beperking om van zelf-organisatie te kunnen spreken.

Voor 80 tot 90 procent kleine verstoringen van het systeem (namelijk door de actie van een element terug te draaien) hebben tot gevolg dat de toestand weer teruggaat naar dezelfde cyclus. Het systeem is dus stabiel voor de meeste kleine verstoringen. Voor 10 tot 15 procent van de kleine verstoringen migreert het systeem van deze cyclus naar een andere. In die gevallen migreert het systeem meestal naar een naburige attractor. Met andere woorden: een grote variëteit aan kleine verschillende verstoringen levert een vergelijkbare respons op.

Een aanpassing aan de activiteit van een element in het systeem propageert en heeft een verandering in een aantal andere elementen tot gevolg. De schade blijft zo beperkt. Het verwijderen van een element of de boolean functie ervan veranderen heeft een beperkte invloed op attractors.

Ross Ashby [link] zoekt in ‘Design for a Brain’ de mechanismes voor adaptatie in een connected systeem. Hij veronderstelt dat een deel van de variabelen in een systeem-cum-omgeving (Systeem) essentieel zijn: die moeten binnen een bepaald domein blijven. Of een systeem op een attractor is en blijft hangt ervan af of die essentiële variabelen inderdaad in hun domein blijven. Zolang het Systeem op de attractor blijft en de variabelen blijven in hun domein, verander dan nniets. Als een essentiële variabele niet in zijn domein blijft, jump-change dan een parameter. Het fitnesslandschap van het Systeem kan hierdoor veranderen, de ‘basins of attraction’ liggen op een andere plaats en de essentiële variabelen komen daarin terecht, bij dezelfde of een nieuwe attractor, die de essentiële variabelen wel in hun domein houdt. En zovoort. Op deze manier wordt adaptatie een ‘walk in parameter space’ op zoek naar goede attractoren.

Een ‘phase boundary’ onderscheidt netwerken die bevroren orde vertonen van netwerken die chaotische dynamica vertonen. Parallel processing systemen die in het grensgebied liggen hebben de meeste mogelikheden om adaptief en evoluerend gedrag te vertonen. Vervolgens zorgt natuurlijke selectie ervoor dat die systemen in dat gebied worden getrokken.

Een boolean netwerk wordt gekenmerkt door:
N = aantal elementen
K = gemiddeld aantal inputs per element
P = parameter die de voorkeur regelt voor een bepaald soort van boolean functie in het netwerk
Ieder element kan de waarde 1 of de waarde 0 aannemen.

K is een stuurvariabele: beneden K = 2 bevriest het netwerk. Bij K = 5 wordt het gedrag chaotisch. De passage van orde naar chaos vindt bij oplopende K plaats in het domein 2 < K < 5. Voor 1,0 < P < 0,5 gaat het systeem van orde naar chaos. Van de drie gedragsregimes orde, chaos en complexiteit, is de laatste het meest interessant. De redenering is als volgt: als een systeem bevroren is dan is weinig computation mogelijk. Op zijn best vertonen geïsoleerde ontdooide eilandjes in het bevroren landschap hun eigen intern gerichte dynamica. In de chaotische fase is de dynamica te wanordelijk om bruikbaar te zijn, kleine veranderingen veroorzaken schade op veel plaatsen in het systeem en coördinatie van aanpassingen is zeer lastig. Op het grensvlak van chaos en orde smelt het bevroren regime en de functioneel geïsoleerde eilanden komen met elkaar in contact. Juist in deze fase lijkt het gedrag het meest complex, geïntegreerd en evolueerbaar te zijn.

The Dynamics of Co-evolving Systems
Organismes co-evolueren met elkaar en met een abiotische omgeving (grondstoffen). Het spreekt niet vanzelf dat dat tot succes leidt. Wat zijn de overkoepelende principes die toestaan dat er organismes verschijnen (emerge) die met elkaar gaan co-evolueren? Omdat we ervan uitgaaan dat selectie de bron is van dit verschijnen van zulke organismes is de vraag: op welke manieren doet selectie dat?

De hypothese is dat selectiemechanismes er verantwoordelijk voor zijn dat systemen in een gebied tussen orde en chaos terechtkomen en daar worden gehouden. Dus ieder van de systemen verkeert intern in dat gebied en het geheel van de co-evoluerende systemen als ‘ecosysteem’ verkeert in dat gebied.

Het verschil tussen evoluerende systemen en co-evoluerende systemen is dat de deelsystemen van de eerste zich niet repliceren en daarin dus geen selectie plaatsvindt. In dat geval vindt er alleen selectie plaats op het gehele systeem. In het tweede geval vindt er zowel selectie plaats in de deelsystemen als op het systeem als geheel plaats.

Het fundamentele verschil tussen evolutie en co-evolutie is in de dynamica van het fitness landschap. Eerder in dit boek zijn de landschappen beschreven van evolutionaire systemen. In beide gevallen zijn de attractoren van het adaptieve proces locale optima. In het geval van evolutionaire processen veranderen die landschappen door de eigen adaptatie van het systeem alleen. In het geval van co-evolutie veranderen die landschappen ook door de adaptieve processen van de andere (co-evoluerende) systemen (of de deelsystemen). In een fitnesslandschap van een co-evoluerend systeem is niet meer het bereiken van een lokaal optimum het ‘doel’, noch is duidelijk wat zo’n systeem aan het optimaliseren is als het fitness landschap onder invloed van alle actoren in het co-evoluerend systeem continu verandert. Deze vraag is hier wiskundig onderbouwd en is parallel aan de vraag vanuit een evolutiebiologisch perspectief: wat is het dat evolutie optimaliseert?

De manier waarop de agents met elkaar interacteren op elke ‘interactie click’ is hun strategie. Nash [link] heeft aangetoond dat een Nash-evenwicht (in een populatie is geen invasie mogelijk van agents met een combinatie van acties zodanig dat de fitness van de bestaande huidige agents verbetert) niet noodzakelijk de beste fitness uitkomst hoeft te betekenen voor de individuele agents. Een voorbeeld is dat het enige Nash Evenwicht in een prisoners’ dilemma situatie de DD variant is, omdat de andere opties de mogelijkheid hebben dat de andere iets anders doet. Een Nash Evenwicht kan zelfs een slechtere payoff in termen van fitness opleveren dan dat een chaotische toestand van het systeem oplevert. Een relevante vraag is: onder welke condities leveren Nash equilibria een betere en een bereikbare fitness op dan de meeste alternatieve acties?

Er bestaan verschillende beschrijvingen van de (verandering van) de toestanden van een co-evoluerende ecologie:
1. Als 1 van de onderdelen zich aanpast dan verandert de relatieve fitness van alle onderdelen die daarmee interacteren evenals hun fitnesslandschap
2. Het co-evolutionair proces zorgt voor een niet-aflatende concurrentie waarin alle deelnemende onderdelen zich continu aanpassen – de vos en het konijn moeten allebei evenveel sneller lopen om dezelfde fitness te behouden. Dit is de Red Queeen Hypothese.
3. De deelsystemen in het ecosysteem passen zich aan totdat een Evolutionary Stable System (ESS, een bijzonder geval van een Nash Evenwicht) ontstaat, waarin de phenotypes van de agents zodanig zijn ge-evolueerd, dat elke andere combinatie van phenotypes minder fit zou zijn.

Uitgaande van interne beperkingen van de elementen, in feite dat voor sommige phenotypische kenmerken een prijs moet worden betaald (dus harder lopen betekent bijvoorbeeld vanwege metabolische redenen het inleveren van de capaciteit tot zuurstofopname), komen die systemen voor wat betreft die kenmerken uit op een ESS. Voor de phenotypische kenmerken die niet aan voor het organisme interne condities zijn gebonden mondt het systeem uit in een Red Queen arms race.

Co-evolving Species and Coupled Dancing Landscapes
In een co-evoluerend systeem zijn de fitness en het fitness landschap van een organisme (systeem) een functie van het fitnesslandschap van de andere organismen waarmee het co-evolueert. Iedere adaptatie van een organisme levert een verandering van de fitness landschap van de andere op en vice versa. In de tijd klimt ieder organisme langzaam hoger in het fitmess landschap en verandert en passant dat van de andere op hun (deels gezamenlijke) landschappen. Daarmee veranderen steeds de toegankelijke paden omhoog op het fitness landschappen voor ieder van de co-evoluerende organismes.

In het geval van meer dan 2 organismen bevindt zich het aantal interacties tussen de K = 0 en K = N – 1 andere organismen. In de praktijk is het onwaarschijnlijk dat alle organismen door alle andere worden beinvloed. Als ze niet direct door andere organismen worden beinvloed dan is de beinvloeding random. In de praktijk zal elk organisme door meerdere andere organismen met vergelijkbare kenmerken worden beinvloed. Ter illustratie: hazen en konijnen hebben ongeveer hetzelfde effect op een vossenpopulatie. Die overeenkomsten tussen soorten zal het effectief aantal verschillende soorten beperken ruim tussen 0 < K < N – 1.

Als K (aantal interacties in eigen systeem) wordt gevarieerd ten opzichte van C (aantal interacties tussen eigen systeem en gekoppeld systeem) dan doet zich het volgende voor:
Als K groter wordt in verhouding tot C dan vermindert de wachttijd om tot een Nash Evenwicht te komen en omgekeerd: als K wordt vergroot bij constante C dan verkort dat ook de wachttijd tot een Nash Evenwicht.
Als C > 1 dan is de fitness in een Nash Evenwicht groter dan als de partners nog oscilleren (geen Evenwicht)
Als C groot is dan hebben agents met een hoge K een hogere fitness in de periode voordat ze in een Nash Evenwicht komen. Als C groot is dan heeft de agent met de laagste K een hogere fitmess in de pre-Nash Evenwicht. Met andere woorden: het verhogen van K heeft voordelen voor de fitness van beide agents.
C = 1 dan heeft een agent met een lage K een hogere fitness dan die met de hoge K in de pre-Nash Evenwicht toestand. Dat is dus omgekeerd aan de situatie als C groot is.
In een Nash Evenwicht is de fitness van een agent met een lage K beter dan van een agent met een hoge K voor elke waarde van C.
Als C hoog is dan is de globale gemiddelde fitness het hoogst wanneer K hoog is. Als C laag is dan is de globale gemiddelde fitness het hoogst wanneer K laag is. In andere woorden: de fitness in een co-evoluerend systeem is hoger als K zich aan C aanpast, of eigenlijk, als K en C zelf evolueren.

Dit leidt tot de conclusie dat een co-evoluerend systeem in staat is zijn eigen parameters (dus N, K, C en S (Species), die de co-evolutionaire processen aanpassen, zelf aan te passen. Dat leidt tot co-evoluerende systemen die fitnesslandschappen zodanig koppelen dat ze leiden tot een betere co-evolutie. Het resultaat is wederom dat het gehele ecosysteem (van co-evoluerende systemen) de rand van chaos bereikt.

S kan als volgt in het model worden betrokken: K = S x C. Evenals hierboven is er bij K > S x C een snelle nadering van het Nash-Evenwicht, en bij K < S x C een langzame en ook de overige gedragskenmerken gelden. Samengevat: als er meer wederzijds gekoppelde soorten in het systeem zijn, dan valt de globale gemiddelde fitness en de fluctuaties naar beneden worden groter. Daardoor neemt de kans op uitsterven van een soort toe, S neemt af, het systeem herstelt zich, de gemiddelde fitness neemt toe voor het Nash Evenwicht en dat evenwicht wordt sneller bereikt. Daarnaast is het mogelijk dat C evolueert, zodat, bijvoorbeeld, de roofdieren proberen C te verhogen en de prooidieren proberen te C te verlagen.

Dus in een veranderende omgeving levert een hoge K de meeste fitness op voordat een Nash Evenwicht is bereikt. Als dat is bereikt dan is een lage K voordeliger. De conclusie is dat het systeem K moet kunnen aanpassen al naar gelang de omstandigheden. Co-evoluerende systemen beheersen in de praktijk ook het aantal externe connecties (C). Voor voedselketens is het aantal koppelingen stabiel, schaalinvariant en niet meer dan 3 tot 4.

Voor een systeem met een lage C is de fitness het hoogst bij 8 < K < 10. De ruggedness van het fitness landschap is in dat gebied ideaal. Bovendien wordt de fitness onder en boven dat bereik snel lager, dus is er een selectieve kracht naar dat domein. Dit mechanisme werkt via individuele agentsdeelsystemen die elkaar naar een optimale K trekken. Dit correspondeert met een co-evoluerend systeem dat het transitie regime heeft bereikt tussen orde en chaos. Als K < 8 dan bevriest geen onderdeel van het systeem en het bevindt zich in een chaotisch regime. Als K > 10 dan bevriest het vrij snel in een Nash Evenwicht en bevindt zich in een ordelijk regime. Daartussen beginnen delen van het systeem net te bevriezen en de bevroren delen verspreiden zich langzaam maar zeker door het hele systeem, terwijl andere delen ontdooien en zonder dat het dus helemaal bevriest: het systeem is in een transitiefase tussen orde en chaos.

De hypothese is dan als volgt: in co-evoluerende systemen adapteren organismen door natuurlijke selectie via een meta-dynamica. Daarbij passen individuen bijziend (myopic) hun fitness landschappen aan evenals de mate waarin hun fitness landschappen invloed kunnen ondergaan van het gedrag van andere organismen. Als gevolg daarvan co-evolueert het gehele systeem als door een onzichtbare hand naar een toestand op de grens van orde en chaos.

Kauffman kwalificeert deze hypothese als volgt: ‘.. the present evidence is suggestive, not conclusive. However, I believe that the hypothesis, if true, is very important. Indeed, if it is generally true that myopic adaptive agents that can modify the games they play with one another, each to its own myopic advantage, universally coevolve to the edge of chaos, then the hypothesis has implications ranging from biology to economics and beyond. Adam Smith’s ‘invisible hand’, slightly reworked, may span many domains’.

Als zich veranderingen in het fitness landschap van een soort voordoen dan propageren die veranderingen zich via hun connecties met andere soorten door het systeem. Dus veranderingen in een soort in de ene locatie hebben co-adaptieve veranderingen bij de naburige soorten tot gevolg. Die propagatie vindt plaats in verschillende mate en wordt een lawine (avalanche) genoemd. Er is een relatie te verwachten tussen K en de omvang van de lawine (hoever die propageert in het systeem). Als de toestand van het systeem diep bevroren is (grote K), dan propageert de lawine niet vaak of ver en als K kleiner wordt dan neemt de frequentie en omvang van de lawines toe. Als K afneemt dan nadert de distributie van de omvang van de lawines een power-law (rechte lijn op een ln-ln schaal): de omvang van de lawines neemt exponentieel toe met het afnemen van de frequentie ervan en vice versa. Deze conclusies volgen:

In co-evoluerende systemen propageren lawines veranderingen door het systeem. De relatie tussen de omvang en de frequentie van het voorkomen van die lawines voldoet aan een power-law. De vorm van die power-law hangt samen met de parameters van het systeem.
Externe verstoringen met dezelfde initiële omvang kunnen lawines met een heel verschillende omvang tot gevolg hebben. Aangenomen dat lawines van veranderingen samenhangt met het uitsterven van soorten, kan eenzelfde verandering in de externe wereld van het systeem heel verschillende uitstervingen (extinction events) tot gevolg hebben. In de praktijk zullen externe invloeden heel verschillend zijn en dus zal dat zeker verschillende effecten hebben op de propagatie van veranderingen in een systeem, maar er is gezien het bovenstaande zeker een intern effect dat het gevolg is van de onderlinge kopplingen in het systeem.
Uit historische gegevens over uitsterving tijdens verschillende fasen van het Phanerozoic (Raup, 1986, Extinction events during the Phanerozoic, ) [link] blijkt dat ecosystemen inderdaad co-evolueren tot aan de rand van chaos en sterker nog: de ecosystemen bevinden zich enigzins in het bevroren regime. Dit is een bevestiging van het beeld van gecoordineerde co-evolutionaire processen tussen interacterende adaptieve entiteiten. Kauffman betitelt dit als een kandidaat universele wet.

Random Grammars: Functional Integration
‘The central image is that a string represents a polymer, a good or service, an element in a conceptual system, or a role in a cultural system. Polymers acting on polymers produce polymers, goods acting on goods produce goods and ideas acting on ideas produce ideas.’ Vette letters van DBR: dit is relevant vanwege de bredere toepassing dan alleen biologische organismen.

Het doel is een nieuwe klasse van modellen te ontwikkelen waarin de de onderliggende grammatica impliciet manieren oplevert waarop strings op strings werken om nieuwe strings te produceren, om die productie als functionele koppelingen te beschouwen en om het resulterende emergent behaviour van de string systemen te bestuderen.

Er zijn geen algemeen geldende natuurwetten voor open, ver-uit-evenwicht systemen. Vanwege Turing kan ieder goed-gespecificeerd algoritme door één of andere machine, die opgebouwd is uit bestaande fysieke materialen, worden uitgevoerd. Ook een systeem dat van fysieke materialen is samengesteld, dat niet in evenwicht is en open is voor de uitwisseling van materie en energie kan dus een Turing machine zijn. Ze kunnen een universele computer zijn die iedere goed gespecificeerde verzameling van instructies kan uitvoeren. Sommige berekeningen kunnen niet in een meer compacte vorm worden beschreven dan ze uit te voeren en het tot stand komen van de resultaten te observeren. Er kunnen in dat geval geen universele wetten zijn die kortere, meer compacte beschrijvingen zijn van het gedrag van dat systeem. En er kunnen dus geen algemeen geldende wetten zijn geldend voor het gedrag van willekeurige systemen die ver-uit-evenwicht zijn.

In deze bovenstaande redenering staat de toeschouwer centraal als constructeur van het systeem: als die de structuur en de logica van het systeem bepaalt dan is dat in staat om arbitrair gedrag te vertonen. Misschien zijn er wel universele wetten als de focus wordt verlegd naar open, ver-uit-evenwicht systemen die zichzelf construeren. Kaufffman stelt voor wetten van functionele integratie en van de evolutie van co-evoluerende ver-uit-evenwicht systemen tot gedrag dat zich bevindt in het gebied tussen sub-kritisch en supra-kritisch (niet te verwarren met super-kritisch).

Hij onderbouwt dit als volgt: ‘Part of the interest in models of autocatalytic polymer systems, …, lies in the fact that such systems afford a crystalline founding example of functional wholeness, hence functional integration. Given the underlying model of chemical interactions, once an autocatalytic set of polymers emerges, it is a coherent whole by virtue of achieving catalytic closure. Given the underlying model chemistry and catalytic closure, the functional role of each polymer or monomer in the continued existence and the proliferation of the of the autocatalytic set is clear. … This requirement reflects the fact that such a self-reproducing system allows a natural definition of the ‘purpose’ of any polymer part, a purpose that is subservient to the overarching purpose of the autocatalytic set, which is of course, abetted by natural selection, to persist and prevail. In this nonconscious sense, an autocatalytic set becomes a locus of agency‘.

De vette letters zijn van mij in verband met het belang van de begrippen nonconscious, omdat er dus geen bewustzijn nodig is om een vorm van organisatie te bereiken, maar dit is niet nieuw. Ik denk dat het gebruik van het woord ‘locus’ van belang is, omdat het een ‘sweet-spot’ van organisatie is in een melée van interacties, die zelf functioneel actief is en een doel lijkt te hebben, vandaar het gebruikte woord ‘agency’.

En vervolgt met een morele onderbouwing: ‘Model autocatalytic sets are natural testbeds for studying the emergence of collaborative or competitive interactions. We need merely specify how such systems may export or import strings to one another, and we shall fins out how they cope with such exchanges. As remarked above, such interactions and ttheir internal consequences within each set literally are what it means for such systems to come to know one another. By studying these properties across grammars, it should be possible to understand how grammar structure as well as the structure of interacting autocatalytic sets governs the coupled co-evolutionary structures which emerge. The ways model autocatalytic sets build internal models of one another may well mimic the ways E. Coli and IBM know their worlds. In addition, these models may well yield insight into the onset of mutualism, symbiosis, and competition in the biological realm.’

De vette letters zijn van DBR: Kauffman benadrukt hier dat systemen zoals bacteriën bedrijven zich onbewust bewust zijn van hun omgeving.

Autocatalytische polymeersystemen hebben een groot voordeel ten opzicht van strings. Die laatste zijn opgebouwd uit binaire elementen en hebben alleen een interne betekenis en zijn betekenisloos voor de toeschouwer. De eerste hebben een betekenis in chemische zin en dus expliciet ten opzichte van het beschouwde systeem, voor de toeschouwer.

The Economy as a Technological Web
Hoe houdt deze denkwijze verband met economische onderwerpen? Het uitgangspunt van economen is dat technologie een belangrijke factor is in de ontwikkeling van een economie. Volgens Kauffman is technologie de belangrijkste (en niet een bijkomende) factor: in essentie vormt het bestaan van goederen en diensten de basis voor het ontstaan van nieuwe goederen en diensten. En omgekeerd verdrijven nieuwe goederen en diensten de bestaande van de markt. Op die manier transformeert de economie zichzelf.

De formulering van een theorie betreft het economisch vraagstuk is: om de bestaande structuur van het web van goederen en diensten in een economie, hoe die structuur de eigen mogelijkheden om te transformeren beheerst door nieuwe goederen en dinesten uit te vinden die passen in dat web en het vervolgens transformeren en bestaande goederen en diensten elimineren is een theorie nodig die beschrijft welke goederen en diensten vanuit een technologisch perspectief in elkaar passen. Dat ‘in elkaar passen’ wordt door economen complementariteit genoemd, het vervangen van goederen of diensten door andere heet substitutie. De string theorie toegepast op goederen en diensten werkt als een ‘as-if’ model en hoewel we geen universele wet hebben, kunnen we wel meer te weten komen over de voortbrenging in het economische proces.

Dat levert een gesimuleerde economie op als een populatie van ‘as-if’ goederen en diensten die gevoed worden door externe bronnen en die aan elkaar aanleveren (complementaire goederen) of elkaar substitueren (dezelfde output opleveren) en die een utiliteit vertegenwoordigen. Het evenwicht voor die gesimuleerde economie is dan de productieratio in die economie bij maximale utiliteit voor het geheel van goederen en diensten. Die ratio kan ook als maatstaf worden gehouden voor de prijs(eenheid) in die gesimuleerde economie.

Hoe verloopt dan de groei van de gesimuleerde economie? Varieer (random of via een permutatie van sommige of alle bestaande) goederen en diensten om nieuwe te introduceren. Genereer zo een nieuwe economie door alle op dat moment mogelijke (of een subset daarvan) nieuwe technologie te introduceren. Bepaal het nieuwe evenwicht. Van de bestaande technologieën zullen sommige nu winstgevend zijn en die blijven. Sommige blijken niet winstgevend en worden geëlimineerd. Hetzelfde geldt voor de nieuwe technologieën. Nieuwe technologie wordt geïntroduceerd en bestaande wordt uitgefaseerd. Dit is interessant om de volgende redenen:

Economische groei wordt gemodelleerd door nieuwe niches die ontstaan als nieuwe goederen en diensten worden geïntroduceerd
Deze systemen leiden tot nieuwe modellen voor economische take-off. Het gedrag van een economie is afhankelijk van de complexiteit van de grammar, de dicversiteit van de hernieuwbare bronnen, de discount factor (onderdeel van de utiliteitsfunctie voor de consument), en hoever het model in de toekomst kijkt. Te weinig complexiteit of hernieuwbare bronnen leidt tot stagnatie en het systeem blijft sub-kritisch. Te veel van die factoren of bijvoorbeeld meerdere economieën die met elkaar in contact komen om goederen en diensten uit te wisselen kan een economie in een supra-kritische toestand brengen.

Deze klasse van modellen heeft een sterke afhankelijkheid van het verleden en een wetmatig gedrag. Het proces van het toetsen van de nieuwe goederen en diensten in een generatie is bepalend voor de basis waarop volgende generaties economieën kunnen verder bouwen en dus de evolutie en de groei van het hele systeem bepalen
Omdat in een groot aantal situaties niet duidelijk wordt hoe een gegeven goed of dienst geproduceerd kan worden uit de bestaande goederen of diensten, moet de conclusie zijn dat het uitgangspunt van complete markten of rationele agenten moet worden ingeperkt en dat de klassieke theorie moeet worden aangepast (details weggelaten dus uit het ongerijmde hier). Een hint van een oplossing voor die uitbreiding wordt gegeven: markten bereiken geen evenwicht. Beperkt rationele agenten bereiken mogelijk wel de edge of chaos, waar markten een bijna-evenwicht bereiken. Op die edge komen wel lawines voor, die in biologische systemen tot uitsterven kunnen leiden en in economieën tot faillissementen.

Als een agent in een geordende omgeving voorspellingen maakt die ver vooruit zijn dan leidt een kleine verandering in de omgeving al tot een grote aanpassing in zijn voorspellend model. Hoe meer hij plant, des te meer rugged zijn fitness landschap dus wordt. Dat drijft hem in de richting van een chaotisch regime. Omgekeerd, in een chaotisch regime is er minder goed informatie over de omgeving ter beschikking en zal de agent minder ver vooruit plannen. Zijn interne model is minder afhankelijk van het gedrag van andere agents, hij leeft op een smoother fitness landschap wrdt in de richting van een geordend regime gedreven. De gedachtengang (dit is niet getest) is dat het systeem zijn agenten in de richting van de edge of chaos brengt

Deze bovenstaande functionele beschrijving van economische modellen sluit aan bij de inductieve modellen van John H. Holland van CAS, zie de eerdere post Inductie (toevoeging DBR)

Dit sluit aan bij de manier van denken van onder andere Stewart en Cohen. In de post Complicity en Simplexity beschrijf ik hoe een bedrijf te zien is als een landschap van activiteiten met mensen als substraat (met als voetnoot dt activiteiten waarschijnlijk niet het juiste begrip is in deze context). En in de post Memetics ga ik dieper in op memes als overbrengers van concepten, die, mits ze overleven, uiteindelijk resulteren in een materiële vorm (toevoeging DBR).

Waarom zijn deze economische modellen van belang in dit boek? Kauffman zegt er dit over:’ If the bold hypotheses of … , that complex systems achieve the edge of chaos internally and collectively, were to generalize to economic systems, our study of the proper marriage of self-organization and selection would enlist Charles Darwin and Adam Smith to tell us who and how we are in the nonequilibrium world we mutually create and transform.‘

Dit boek levert veel concrete gegevens op over complexe adaptieve systemen en aanknopingspunten voor concrete management issues. Om die operationeel te kunnen maken moet ik de deelonderwerpen verder bestuderen, als daar al informatie over voorhanden is. Of anders moet ik het zelf modelleren. Wordt dus vervolgd!

Gepubliceerd door

DP