TNO onderzoekt Totta

2021-01-07 Styloblog

TNO onderzoekt Totta

De gemeente Nissewaard heeft TNO gevraagd onderzoek te doen naar de risico's bij het gebruik van de algoritmes van het commerciële marketingbureau Totta Data Lab voor de opsporing van bijstandsfraude. Dit maakte de gemeente op 1 december bekend in een persbericht. Dit onderwerp volg ik al enkele jaren voor Omroep Houten. De gemeenschappelijk sociale dienst Werk en Inkomen Lekstroom (WIL), waar mijn thuisgemeente Houten bij is aangesloten, is in 2019 gestopt met het gebruik van deze software. Zie go.stylo.nl/algo en mijn recente blog Innocent bijstander van 1/1/21. 

Uit het persbericht werd mij niet direct duidelijk wat TNO nou precies gaat onderzoeken: alleen de techniek van de software of ook bijvoorbeeld de juridische risico's en privacykwesties. Deze vraag heb ik begin december voorgelegd aan TNO, die mij doorverwees naar de gemeente Nissewaarde. Daar is de vraag kennelijk zoek geraakt, maar na het sturen van een herinnering kreeg ik vandaag, een maand later, de antwoorden van woordvoerder Tineke Feitsema van de gemeente Nissewaarde. Ook na dit antwoord is het mij nog niet precies duidelijk wat TNO gaat onderzoeken, maar het onderzoek beweegt zich kennelijk op de grens van techniek en ethiek. 

Gemeente Nissewaarde: "Het college heeft TNO als onafhankelijke onderzoekinstelling gevraagd een technisch-inhoudelijke evaluatie uit te voeren, waarbij in kaart wordt gebracht welke punten een risico vormen bij het legitiem gebruik van de data-analyse. Het college laat dit onderzoek uitvoeren voor optimale transparantie, openheid en uitlegbaarheid, belangrijke factoren waarlangs het gebruik van de data-analyse wordt gewogen. Het resultaat van het onderzoek zal een technische evaluatie zijn, gebaseerd op state-of-the-art kennis en expertise en geldende randvoorwaarden. De ethisch en juridische kaders worden bepaald door de sociale regelgeving, AVG, richtlijnen ten aanzien van algoritmen van de EU en het ministerie van Justitie en Veiligheid en jurisprudentie. Op basis hiervan zal TNO de technische evaluatie van het AI-algoritme uitvoeren. Het onderzoek neemt ongeveer vier maanden in beslag en de resultaten worden door TNO gepubliceerd. Het is een technisch inhoudelijk onderzoek. De techniek hangt hier samen met de inhoud/ethiek. TNO zal geen juridische oordeel vellen. 

Er is een klankbordgroep bestaande uit de gemeenten Amersfoort, Deventer, Nissewaard, de VNG en de Landelijke Cliëntenraad. Met hen wordt de voortgang van het onderzoek gedeeld en de klankbordgroep kan adviseren. 

De gemeente Nissewaard heeft diverse documenten over het gebruik van algoritmen op de website geplaatst, waaronder een Infographic, Data Privacy Impact Assessment, Technisch document en toelichting van de onafhankelijke Functionaris gegevensbescherming. Deze documenten zijn te vinden op www.nissewaard.nl/privacyverklaring. Hier vindt u onder ‘specifieke privacyverklaringen’ het onderdeel Uitkering en uitvoering Participatiewet."

Het is dus een technische evaluatie, maar uit de woordenbrei leid ik ook af dat het gaat om de vraag of de betrokken burger inzicht kan krijgen in het gebruik van zijn persoonlijke gegevens. Op dit punt krijgt de gemeente Nissewaard van verschillende kanten kritiek. In mijn blog Innocent bijstander doe ik verslag van mijn eigen inzageverzoek bij Werk en Inkomen Lekstroom op grond van de AVG. WIL heeft mij wel mijn fraudescore en de daarvoor gebruikte persoonlijke gegevens verstrekt, maar de sociale dienst wil niet de 800 toegepaste beslisbomen van het algoritme prijs geven en de patronen waarop is gezocht, omdat dit gewiekste fraudeurs inzicht geeft in de methode. Volgens het Platform Bescherming Burgerrechten, die met succes een rechtszaak aanspande tegen de overheid voor het gebruik van Systeem Risico-indicatie SyRI, is de weigering om de beslisbomen bekend te maken in strijd met de SyRI-uitspraak.