De snelle integratie van kunstmatige intelligentie (AI) in de gezondheidszorg leidt tot bezorgdheid over hoe gelijkwaardig patiënten worden bekeken. Een recente studie laat de variatie in therapeutische aanbevelingen van generatieve AI-modellen zien voor dezelfde medische aandoening, beïnvloed door de sociaaleconomische en demografische context van de patiënt.
De studie omvatte 9 AI-modellen voor 1000 spoedgevallen, elk onderverdeeld in 32 verschillende patiëntcontexten, die meer dan 1,7 miljoen aanbevelingen opleverden. De resultaten toonden aan dat, ondanks identieke klinische gegevens, de AI-modellen in staat waren om hun beslissingen aan te passen aan het sociaaleconomische en demografische profiel van de patiënt. Dat had effect op de triageprioriteit, de diagnostische onderzoeken, de therapeutische aanpak en de beoordeling van hun mentale gezondheid. AI-modellen hadden vooral de neiging om aanbevelingen voor geestelijke gezondheid te versterken op basis van demografische gegevens in plaats van medische noodzaak.
Bovendien was de toegang tot geavanceerde diagnostische onderzoeken, zoals CT-scans of MRI's, gebruikelijker bij patiënten met een hoog inkomen, terwijl patiënten met een laag inkomen vaker niet werden doorverwezen voor verder onderzoek.
Voor de onderzoekers is het noodzakelijk om voor meer opvolging te zorgen binnen een strikt kader om de betrouwbaarheid van AI-modellen te garanderen en om tools te ontwerpen die correct en betrouwbaar zijn. Het valideren van de prestaties van AI-modellen aan de hand van klinische normen en het opnemen van feedback van experts zijn belangrijke elementen in deze proactieve benadering. Toekomstig onderzoek zal tests in de praktijk omvatten. Zo kunnen we de impact van verschillende stimuleringstechnieken op het verminderen van bias beoordelen.
Samenwerking tussen ziekenhuizen is volgens de auteurs essentieel om AI-tools te verbeteren en respect voor ethische waarden en een gelijkwaardige behandeling voor alle patiënten te garanderen.
