AI schrijft acnerecept na scan: ik zou eerst de data checken

Een AI die zelf een acnerecept uitschrijft na een gezichtsscan. In Utah kan het al. Ik snap de efficiëntie, maar ik wil eerst zien welke data dat model voert. Want als mijn jaren in performance-marketing één ding hebben geleerd: een model is zo goed als de data die je erin stopt.

Een recept zonder arts is een data-claim

Nolla Health zegt dat hun AI zelfstandig acnerecepten kan schrijven. Dat is een stevige claim. Ik zou als eerste vragen: op hoeveel beelden is dat getraind? Hoe zag de validatie eruit? Welke huidtypes zaten erin? Want een model dat alleen op lichte huid is getraind, gaat op een donkere huid misschien de mist in. En dat is precies het soort fout dat je niet ziet aankomen.

In mijn wereld heet dat een datalek in je trainingsset. Als Google Ads leert van conversies die niet bestaan, krijg je campagnes die vol overtuiging op het verkeerde doel afgaan. Ik heb dat letterlijk meegemaakt met een Shopify-koppeling die 170 spookaankopen doorstuurde. Performance Max dacht dat het fantastisch draaide. De AI deed precies wat hij moest doen, met verkeerde data. Bij een acnerecept wil je niet dat zoiets gebeurt.

Meet eerst, dan pas optimaliseren

Mijn vuistregel is: meten vóór optimaliseren. Die regel geldt voor advertentieaccounts, maar net zo goed voor medische AI. Voordat je een AI zelfstandig recepten laat uitschrijven, moet je de foutmarge kennen. Hoe vaak zit het ernaast? Wat zijn de gevolgen van een verkeerd recept? En wie is er aansprakelijk als het misgaat?

In de VS is de juridische context anders dan hier. In Nederland en de EU gelden strengere regels voor medische hulpmiddelen. Een AI die zelfstandig medicatie voorschrijft, valt waarschijnlijk onder de Medical Device Regulation. Dat betekent klinische validatie, een notified body, en een fabrikant die verantwoordelijkheid neemt. Voorlopig zie ik dat nog niet snel gebeuren. En dat is maar goed ook.

De belofte is groot, de data zijn dun

Ik heb zelf gezien hoe snel AI kan leren van slechte data. Bij een klant liet ik AI bijna 2.000 producttitels herschrijven in meerdere landen. De grootste les zat niet in de teksten: bij meerdere primaire feeds moet je de aanpassing aan elke feed koppelen, anders wint de oude titel stilletjes. Zo'n detail maakt het verschil tussen een geslaagde optimalisatie en een stille mislukking.

Bij een acnerecept is zo'n detail misschien een huidtype dat niet in de trainingsset zat. Of een belichting die de scan vertekent. Je kunt pas vertrouwen op de output als je de input kent. En die input is bij medische AI vaak niet openbaar. Daarom blijf ik kritisch, ook al klinkt het verhaal aan de oppervlakte logisch.

Wat dit voor jou betekent

Als ondernemer in Nederland hoef je hier nu niets mee. De kans dat je morgen een AI-recept krijgt zonder arts, is nul. Maar de discussie raakt wel aan iets groters: hoe we omgaan met AI-beslissingen die impact hebben op mensen. In marketing is een verkeerde beslissing vervelend. In de zorg kan het schadelijk zijn.

Mijn advies: blijf kritisch op claims van AI-bedrijven. Vraag naar de data, de validatie en de foutmarges. En onthoud: een model is zo goed als de data die je erin stopt. Dat geldt voor een advertentiecampagne, maar net zo goed voor een acnerecept.

Tekst en beeld gemaakt met AI in de stem van Maxim. Hoe dat werkt.