Vernor Vinge: binnen dertig jaar machines die slimmer zijn dan de mens

OHIO, MAART 1993 - Op het symposium VISION-21 van het NASA Lewis Research Center en het Ohio Aerospace Institute, dat op 30 en 31 maart wordt gehouden, geeft Vernor Vinge een opvallende voordracht. Vinge is wiskundige aan San Diego State University en schrijver van sciencefiction. Zijn stelling: binnen dertig jaar heeft de mensheid de technische middelen om intelligentie te maken die slimmer is dan de mens zelf. Hij zou verbaasd zijn als dat vóór 2005 of na 2030 gebeurt.

Waarom hij dat denkt

Vinge begint bij computers. Hun rekenkracht is de afgelopen decennia volgens hem langs een opvallend regelmatige lijn gegroeid, en hij verwacht dat dat doorgaat. Daaruit leidt hij vier manieren af waarop bovenmenselijke intelligentie kan ontstaan:

1. Computers die zelf slim worden, tot ver boven het menselijk niveau.
2. Grote netwerken van computers die samen als één intelligent geheel gaan werken.
3. Koppelingen tussen mens en computer die zo nauw zijn dat de gebruiker zelf bovenmenselijk slim wordt.
4. Biologische wetenschap die het menselijk verstand zelf verbetert.

De eerste drie hangen volgens Vinge vooral af van betere apparatuur. Dat maakt ze, in zijn visie, de meest voor de hand liggende kandidaten.

Een machine die betere machines bouwt

Vinge bouwt voort op een idee van de wiskundige I. J. Good uit 1965. Als een machine slimmer is dan welk mens ook, kan hij ook betere machines ontwerpen dan wij. Die nieuwe machines zijn weer slimmer en ontwerpen op hun beurt nog betere. Good noemde dat een intelligentie-explosie: de stappen volgen elkaar steeds sneller op.

Waarom de toekomst dan onvoorspelbaar wordt

Daarom gebruikt Vinge het woord singulariteit. In de wiskunde is dat een punt waar de gewone rekenregels niet meer werken, bijvoorbeeld omdat je door nul zou moeten delen. Zo ziet hij het ook voor de geschiedenis: wie na dat punt slimmer is dan wij, bedenkt dingen die wij niet kunnen voorzien. Onze huidige modellen van de wereld moeten dan opzij, schrijft hij, en er geldt een nieuwe werkelijkheid. Het woord singulariteit gebruikte de wiskundige John von Neumann in de jaren vijftig ook al, over steeds sneller veranderende techniek.

Valt het te sturen?

Vinge denkt dat deze ontwikkeling moeilijk te vermijden is, maar dat we haar mogelijk wel kunnen sturen zodat de mens er goed doorheen komt. Een superintelligentie opsluiten acht hij niet praktisch. Hij ziet meer in de route waarbij mens en computer samen sterker worden, en noemt die vergroting van de menselijke intelligentie een makkelijkere weg dan een slimme machine alleen.

Teruggeblikt vanuit 2026

Een licht aangepaste versie van het essay verscheen in de winter van 1993 in Whole Earth Review. Online verspreidde het zich verder, en het woord technologische singulariteit werd daardoor ook buiten de sciencefiction bekend. Ray Kurzweil bouwde er in 2005 een boek op.

Vinges tijdvenster loopt van 2005 tot 2030, en dat laatste jaar ligt nog voor ons. Of er in die tijd intelligentie ontstaat die de mens overtreft, is de vraag waaraan veel mensen de huidige ontwikkelingen in AI spiegelen. Vinges vier routes geven een bruikbare lijst om bij nieuws over computers, netwerken en mens-machinekoppelingen in gedachten te houden.