Een AI-algoritme heeft van zichzelf helaas geen moreel kompas, zoals ook al pijnlijk duidelijk werd in de toeslagenaffaire, waarbij bijvoorbeeld mensen met een dubbele nationaliteit een grotere kans hadden om door het systeem (onterecht) aangewezen te worden als fraudeur14.
Het debat rondom AI in de publieke gezondheidszorg heeft zich vooral gefocust op technologie en wetgeving, terwijl het sociale en ethische debat maar langzaam op gang komt13. AI-modellen zijn erg geschikt om processen zo efficiënt mogelijk in te richten, of om een optimaal meetbaar resultaat te bereiken. Het zo efficiënt mogelijk inzetten van middelen is belangrijk voor de kwaliteit van de publieke gezondheid. Het is echter van nog groter belang dat de complexe dynamiek van de publieke gezondheid in ogenschouw wordt genomen, waarbij verschillende waardes en belangen (o.a. ethische, medische, economische en politieke) continu in conflict zijn met elkaar. De onderliggende waardes, en de daaruit voortvloeiende acties, worden bij complexere problematiek bij voorkeur via een moreel beraad van de betrokken professionals bepaald. Op deze manier kunnen verschillende doelen, zoals verkleining van gezondheidsverschillen, bevorderen autonome keuze of juist zoveel mogelijk gezondheidswinst voor zoveel mogelijk mensen (of patiënten), een plek krijgen in de besluitvorming. Een AI-algoritme heeft van zichzelf helaas geen moreel kompas, zoals ook al pijnlijk duidelijk werd in de toeslagenaffaire, waarbij bijvoorbeeld mensen met een dubbele nationaliteit een grotere kans hadden om door het systeem (onterecht) aangewezen te worden als fraudeur14.