In een systeem dat ontworpen was om alles te voorspellen, werd de kleinste verandering ineens het enige dat er echt toe deed.

Het model dat begon af te drijven

Ze zeiden dat het systeem niet langer fout kon zitten, niet na alles wat erin was gestopt – de data, de rekenkracht, de eindeloze correcties boven op andere correcties, totdat de machine de wereld niet alleen meer leerde kennen, maar haar ook begon te anticiperen op een manier die mensen ongeveer een week lang ongemakkelijk maakte, en ze daarna afhankelijk maakte.

Markten stabiliseerden nog voordat ze bewogen. Het weer liep gelijk met de projecties. Gedrag begon het model te volgen in plaats van de werkelijkheid. Na verloop van tijd vroeg niemand nog wat er zou gebeuren – ze vroegen wat het systeem zei dat er zou gebeuren, en dat bleek dicht genoeg in de buurt te liggen dat het verschil er niet meer toe deed.

Zij noemden het convergentie.

Ik noemde het een lijn.

Ik had nergens in de buurt mogen komen, maar systemen als dit falen niet netjes en ze falen ook niet waar je het verwacht. Ze verschuiven eerst, net genoeg zodat de mensen die er het dichtst op zitten het kunnen wegredeneren.