Organisations can use computers to make decisions about people: digital differentiation. For example, insurers can adjust prices to suit individual consumers, and the government can use computers to combat fraud. Such digital differentiation is often useful and efficient, but it also has risks. First, there is a risk of discrimination against people with a certain skin colour, gender, or similar characteristic. Second, there is a risk of other unfair differentiation, which does not specifically affect people with a certain skin colour or similar characteristic, but is still unfair. Digital differentiation can, for example, worsen economic inequality. Current law can partially protect people from unfair digital differentiation. For instance, there are useful rules in general non-discrimination law, and in the General Data Protection Regulation (GDPR). But the current rules also leave gaps. New rules are needed to better protect people from unfair differentiation. To develop such rules, lawyers should collaborate with computer scientists, philosophers, and researchers from other disciplines.

Organisaties kunnen computers gebruiken om beslissingen over mensen te nemen: digitale differentiatie. Zo kunnen verzekeraars prijzen aanpassen aan individuele consumenten, en kan de overheid computers gebruiken voor fraudebestrijding. Zulke digitale differentiatie is vaak nuttig en efficiënt, maar heeft ook risico’s. Ten eerste is er een risico op discriminatie van mensen met een bepaalde huidskleur, geslacht, of een vergelijkbaar kenmerk. Ten tweede is er een risico op andere oneerlijke differentiatie, die niet specifiek mensen met een bepaalde huidskleur of vergelijkbaar kenmerk treft, maar toch oneerlijk is. Digitale differentiatie kan bijvoorbeeld economische ongelijkheid vergoten. Het huidige recht kan mensen ten dele beschermen tegen oneerlijke digitale differentiatie. Zo staan er nuttige regels in het algemene non-discriminatierecht, en in de Algemene Verordening Gegevensbescherming (AVG). Maar de huidige regels laten ook gaten vallen. Nieuwe regels zijn nodig om mensen beter te beschermen tegen oneerlijke differentiatie. Om zulke regels te ontwikkelen, zouden juristen moeten samenwerken met computerwetenschappers, filosofen, en onderzoekers uit andere disciplines.