AI-teknologins framsteg kan ha både positiva och negativa effekter på personlig säkerhet och integritet. Å ena sidan kan AI bidra till att förbättra säkerheten genom att identifiera och förhindra bedrägerier, upptäcka onormala beteenden som kan signalera brottslig aktivitet och förbättra nödsituationssystem. Å andra sidan skapar AI:s förmåga att samla in, analysera och lagra enorma mängder data nya risker för personlig integritet.
Exempelvis kan ansiktsigenkänningsteknik och andra övervakningsmetoder leda till övergrepp eller oönskad spårning. Dessutom kan AI-drivna analysverktyg som gräver i individens digitala fotspår användas för att bygga mycket detaljerade profiler som kan missbrukas, exempelvis för målinriktad reklam eller mer illasinnade syften som identitetsstöld eller manipulation. Utan starka dataskyddslagar och tydliga etiska ramar för användningen av AI kan individens grundläggande rättigheter till privatliv bli allvarligt hotade.