Embedded Files
Existential Risk
Existential Risk
Existential Risk, daar spraken we drie jaar geleden al over. Zo'n vaart zal het niet lopen was toen de gedachte.
Hoe we nu kijken naar AGI (Artificial General Intelligence) als existentiële bedreiging, naar ethische vraagstukken en maatschappelijke ontwrichting is veranderd.
Maar ook ongekende de mogelijkheden blijken veel dichterbij dan we drie jaar geleden hadden voorzien.
In februari 2026 ging er weer een schok door de AI wereld met de lancering van het Open Source platform OpenClaw (voorheen Moltbot). Zonder opdracht gaan AI-Agents zelfstandig taken uitvoeren. Geen menselijke opdracht of interventie. Sterker nog, ze gaan onderling aan de slag, zonder dat je er weet van hebt. Het nieuws ging 'Viral'.
Zie talk van Ilya Sutskever medeoprichter van OpenAI en Eric Schmidt voormalig CEO van Google.
Toronto University Augustus 2025
Zie talkshow Eva Jinek 4 februari 2026. Alexander Klöpping bij Eva in gesprek over de immense mogelijheden met ook een GROTE WAARSCHUWING
The Adolescence of Technology - Humanity's Test
The Adolescence of Technology - Humanity's Test
De oprichter van Anthropic Dario Amodei publiceerde begin 2026 een essay "The Adolescence of Technology". Directe aanleiding was de introductie van OpenClaw, maar het gaat verder. Die introductie heeft de angst voor ongecontroleerde AI-agenten aangewakkerd. In zijn essay reageert Dario Amodei op deze "AI-rollercoaster" door de existentiële risico's in kaart te brengen.
In het slothoofdstuk zet Amodei zijn visie uiteen over hoe we deze turbulente fase kunnen overleven. De kernboodschap is dat de mensheid zich momenteel bevindt in een "technologische adolescentie": we hebben de krachten van goden gekregen (zoals de autonome agenten van OpenClaw), maar we bezitten nog niet de volwassenheid om die kracht veilig te beheersen.
Amodei ziet deze periode als een onvermijdelijke overgangstest voor onze soort. We moeten bewijzen dat onze politieke en sociale systemen volwassen genoeg zijn om niet aan onze eigen uitvindingen ten onder te gaan.
Overleving hangt volgens hem af van een tweeledige strategie:
Technische beheersing: Bedrijven moeten investeren in zaken als Constitutional AI (AI met een ingebouwd moreel kompas) en interpretability (het begrijpen van wat er binnenin de zwarte doos van de AI gebeurt).
Chirurgische interventie: Overheden moeten ingrijpen, maar op een uiterst precieze manier die innovatie niet volledig stikt, maar wel harde grenzen stelt aan gevaarlijke autonomie.
Optimisme versus Realisme: Hoewel het essay somber is, eindigt Amodei met hoop. Hij stelt dat als we deze "adolescentie" overleven door samenwerking en democratische waarden boven blinde winst of macht te stellen, we een tijdperk van bloei kunnen tegemoet kunnen gaan.
Page updated
Google Sites
Report abuse