Als inkoper moet je je dan afvragen of dat past bij de patiëntengroep waar je het voor wil inkopen en of er mogelijk bias in zit.
De transparantieverplichting die op de provider rust houdt in dat transparant moet zijn hoe het AI-systeem werkt.6 Dat betekent niet dat alles tot in detail inzichtelijk moet zijn. Met transparantie wordt bijvoorbeeld bedoeld dat inzage wordt gegeven in wat voor data er is gebruikt om de AI te trainen. Als inkoper moet je je dan afvragen of dat past bij de patiëntengroep waar je het voor wil inkopen en of er mogelijk bias in zit. Zo kan een model dat gebouwd is rondom vrouwen uit de Verenigde Staten anders uitpakken en misschien niet één op één toegepast worden op vrouwen in Nederland. Of misschien bestaat de dataset voornamelijk uit mensen uit één etnische groep. Het is daarom belangrijk om na te gaan met wat voor datasets het algoritme is getraind, waarom die keuzes zijn gemaakt en of je problemen voorziet voor de praktijk waar jij het wil toepassen.