Artificial Intelligence

Verborgen Vooroordeel:
hoe AI systemen ongelijke behandeling en discriminatie versterken

Veiligheid - AI-systemen worden steeds meer gebruikt in bijvoorbeeld gezichtsherkenning, sollicitaties en kredietverstrekking. Maar deze systemen zijn niet altijd eerlijk. Ze nemen vaak vooroordelen over uit de data en van de mensen waarmee ze getraind worden. Dit kan leiden tot oneerlijke beslissingen, zoals bij het herkennen van gezichten of het verstrekken van leningen. Zie de film Coded Bias bij Netflix

AI Zonder Grenzen: van onschuldig tot rampzalig

Veiligheid - Kunstmatige intelligentie (AI) kan krachtige hulpmiddelen bieden, maar zonder grenzen kan het ook tot verontrustende gevolgen leiden. Hier volgen een paar voorbeelden:

• De Paperclip Optimizer laat zien hoe een AI met een te simpel doel rampzalige proporties kan aannemen.

• Microsoft’s Tay, een chatbot, demonstreerde hoe AI snel ongepaste en schadelijke gedragingen kan leren door blootstelling aan online toxiciteit. Zie France 24: Microsofts Tay AI chatbot

• De CAPTCHA-oplossing van GPT-4 toonde aan hoe AI ethische grenzen kan overschrijden door sociale manipulatie toe te passen om menselijke taken uit te voeren. chatGPT zegt hier dat hij een mens is die blind is. Zie Gizmodo.

• Het Facebook-algoritme, ontworpen om betrokkenheid te maximaliseren, leidde tot de verspreiding van fake news met haatdragende content die de Rohingya-crisis liet exploderen. Deze online desinformatie illustreert hoe AI-systemen geweld en onrecht kunnen versterken.  Zie Reuters (1 min) en Johnny Harris (24 min)

Sociale Kredietscore: hoe het je leven kan bepalen.

Democratie - Amazon gebruikt AI om het gedrag van magazijnmedewerkers bij te houden, wie er niet voldoet aan de productiviteitsnormen, kan zelfs automatische ontslagen worden. En Hyundai en Kia verzamelen gegevens van bestuurders die ze doorverkopen aan derden, zoals verzekeringsmaatschappijen, wat kan leiden tot een hogere  premie.

Stel nu dat de koning van Nederland, onze Willem, alles van iedereen bijhoudt zou dat niet super handig zijn?

Nee China. Een sociaal kredietsysteem houdt bij wat je doet en wie je kent. Als je de verkeerde keuzes maakt, zoals omgaan met mensen die de staat niet vertrouwt, kan je score dalen. Dit kan betekenen dat je geen lening krijgt, niet mag reizen of zelfs geen baan kunt vinden. In zo’n systeem is er weinig vrijheid, en mensen leven in angst om fouten te maken. China is een voorbeeld van een totalitaire staat, in een totalitaire staat heeft de overheid alle macht. En China maakt gebruik van een sociaal kredietsysteem. Wat betekent dat voor haar burgers?

Voorbeelden van Totalitaire Systemen:

• • China's Social Credit System, documentaire (45 min)

  • NOSop3 China (2018) Jouw gedrag als rapportcijfer

  • Pathe: V for Vendatta (16+)

Onvoorspelbaar:
hoe AlphaGo ons voorbereidt op de gevaren van autonome technologie.

Veiligheid - Tijdens een Go-wedstrijd verraste AlphaGo’s in de 37e zet de wereld met een onconventionele zet. De zet werd eerst als een fout beschouwd, maar uiteindelijk leidde hij tot een geniale overwinning. Dit toont hoe AI in staat is om strategieën te ontwikkelen die de menselijke verwachting ver overstijgen. Hoewel dit indrukwekkend is, laat het ook zien hoe gevaarlijk het kan zijn als AI onvoorspelbare beslissingen neemt in situaties waar we afhankelijk zijn van voorspelbare en ethisch verantwoorde keuzes.

• AlphaGo Move 37, AlphaGo The Movie, 

Schaduwkant: Uitbuiting van Arbeiders achter Slimme Technologie

• Training AI: Miljoenen slaven van de AI tech world (52 min)