Deze persoonskenmerken kunnen van invloed zijn op thema’s in de gezondheid, maar het risico bestaat dat een onvolledige dataset geen rekening houdt met onderliggende determinanten van gezondheid, zoals sociaaleconomische status, risicovol gedrag, etc.
Los van andere ethische onderwerpen, is het belangrijk om rekening te houden met verschillende vormen van discriminatie door AI. Deze kunnen met name optreden bij toepassingen in de publieke (gezondheidszorg)sector. Ten eerste is er een risico op directe discriminatie. AI-algoritmes kunnen keuzes voor (restrictieve) gezondheidsinterventies maken op basis van persoonskenmerken als etniciteit, gender of naam. Deze persoonskenmerken kunnen van invloed zijn op thema’s in de gezondheid, maar het risico bestaat dat een onvolledige dataset geen rekening houdt met onderliggende determinanten van gezondheid, zoals sociaaleconomische status, risicovol gedrag, etc. Ten tweede kan AI een gezondheidsinterventie modelleren die voor de meerderheid positief uitpakt, maar voor een minderheid juist nadelig is. Dit wordt ook wel indirecte discriminatie genoemd.