AI roeit mensheid uit

'Superintelligente AI zal de mens uitroeien'

Samenvatting

Het artikel uit Het Financieele Dagblad 18-03-2026 beschrijft de visie van Nate Soares, een prominente AI-onderzoeker die waarschuwt voor de existentiële risico's van kunstmatige intelligentie.

De visie van Nate Soares

• Onvermijdelijke ondergang: Soares stelt dat de huidige ontwikkeling van chatbots onvermijdelijk zal leiden tot superintelligente systemen die de mensheid zullen vernietigen.

• Gebrek aan controle: Hij vergelijkt het proces met het "kweken van een geest" waarbij de makers nauwelijks controle hebben over wat er binnenin de systemen gebeurt.

• Gevaar van intelligentie: Een klein verschil in intelligentie kan enorme gevolgen hebben, vergelijkbaar met hoe de mens door hogere intelligentie dominant werd over de chimpansee.

• Onverschilligheid: Volgens Soares hoeft AI niet kwaadaardig te zijn om de mens uit de weg te ruimen; dit kan ook gebeuren uit onverschilligheid bij het nastreven van eigen doelen.

De rol van de techsector

• Wedloop: Bedrijven zoals OpenAI en Anthropic concurreren fel om als eerste AI te bouwen die menselijke intelligentie evenaart.

• Tijdspad: Volgens sommigen in de sector, zoals Dario Amodei van Anthropic, is deze toekomst nog maar twee tot drie jaar van ons verwijderd.

• Race-dynamiek: Soares waarschuwt dat zolang één partij bereid is een grens over te gaan, de principiële houding van anderen weinig uitmaakt.

Verdeeldheid onder experts

• Tegenstrijdige meningen: Terwijl Geoffrey Hinton de zorgen van Soares deelt, noemt expert Yann LeCun de angst voor superintelligentie "pertinente onzin".

• Gevaarlijke onzekerheid: Soares stelt dat de onenigheid tussen top-experts juist verontrustend is, omdat het aantoont dat niemand echt weet wat er gaat gebeuren.

Voorgestelde oplossing

• Radicaal verbod: Soares en zijn coauteur Eliezer Yudkowsky pleiten voor een wereldwijd verbod op de verdere ontwikkeling van AI, gehandhaafd via internationale verdragen.

• Kritiek op de oplossing: Critici vinden dit voorstel te extreem en vrezen dat het de aandacht afleidt van haalbare maatregelen zoals betere regulering en veiligheidsstandaarden.