Wat is de technologische singulariteit?

De technologische singulariteit is het moment waarop machines slimmer worden dan mensen en zichzelf steeds sneller verbeteren. Vanaf dat punt gaat de technologische vooruitgang zo snel dat we niet meer kunnen voorspellen hoe de wereld eruitziet. Het is geen uitvinding die op een bepaalde dag klaar is, maar een kantelpunt waar veel ontwikkelingen samen naartoe kunnen leiden.

Waar komt het woord vandaan?

In de natuurkunde is een singulariteit een punt waar de gewone regels niet meer werken, zoals in het midden van een zwart gat. Wat daar gebeurt, kun je van buitenaf niet zien.

De wiskundige John von Neumann sprak in de jaren vijftig al over technologische vooruitgang die steeds sneller gaat en lijkt af te stevenen op een "singulariteit" in de geschiedenis van de mens. Schrijver en wiskundige Vernor Vinge maakte het begrip in 1993 bekend met zijn essay The Coming Technological Singularity. Uitvinder Ray Kurzweil bracht het in 2005 bij een groot publiek met zijn boek The Singularity Is Near.

Het idee in het kort

De kern komt van de Britse wiskundige I.J. Good. Hij schreef in 1965: stel dat we een machine bouwen die in alles slimmer is dan de slimste mens. Dan kan die machine ook betere machines ontwerpen dan wij. Die nieuwe machines ontwerpen weer betere, enzovoort. Good noemde dat een "intelligentie-explosie". De eerste echt superslimme machine zou dan de laatste uitvinding zijn die de mens zelf hoeft te doen.

Waarom zou het kunnen gebeuren?

• Rekenkracht groeit al tientallen jaren heel snel. Chips krijgen steeds meer onderdelen, en datacenters voor AI worden steeds groter.
• AI wordt voorspelbaar beter met meer schaal. Onderzoekers zien dat taalmodellen steeds beter worden naarmate ze meer rekenkracht en data krijgen.
• AI begint mee te helpen aan onderzoek. AI-systemen voorspellen de vorm van eiwitten, vinden nieuwe algoritmes en schrijven code waarmee betere AI wordt gebouwd.

Wanneer?

Daarover lopen de meningen ver uiteen. Vinge schreef in 1993 dat het binnen dertig jaar zou gebeuren. Kurzweil verwacht AI op menselijk niveau rond 2029 en de singulariteit rond 2045. Anderen denken dat het veel langer duurt, of dat het nooit gebeurt.

Kritiek en twijfel

• Intelligentie is meer dan rekenkracht. Snellere chips maken een machine niet vanzelf slim of creatief.
• Groei loopt tegen grenzen aan. Energie, grondstoffen, data en de natuurwetten stellen grenzen. Veel groei die eerst exponentieel lijkt, vlakt later af.
• De risico's zijn groot. Veel onderzoekers, onder wie Nobelprijswinnaar Geoffrey Hinton, waarschuwen dat AI die slimmer is dan de mens moeilijk te beheersen kan zijn.

Waarom WATTBA erover schrijft

WATTBA volgt het nieuws dat bij deze vraag hoort: AI, robotica, rekenkracht, biotech en energie. Onder elk artikel staat wat het nieuws betekent voor de weg naar de singulariteit. Niet om te beweren dat die er zeker komt, maar om te laten zien welke stappen er worden gezet, en welke nog ontbreken.