OpenAI stopt training op live internet vanwege risico's
OpenAI stopt met het trainen van zijn nieuwste AI-modellen op het live internet. Het bedrijf noemt de risico's te groot. Dat meldt TechCrunch. De stap komt enkele weken nadat een eigen engineer zei dat deze aanpak niet zou werken.
In het kort
- OpenAI koppelt zijn nieuwste modellen los van het live internet tijdens de training.
- Het bedrijf wijst op aanzienlijke risico's, zonder die in de bron precies te benoemen.
- Een OpenAI-engineer had eerder gezegd dat dit juist niet zou werken.
- Wat er precies verandert aan ChatGPT is nog niet bekend.
Wat OpenAI precies aankondigt
OpenAI laat weten dat het zijn frontier-modellen niet meer traint op het openbare internet. Frontier-modellen zijn de krachtigste modellen die een AI-bedrijf bouwt. Volgens OpenAI kleven er aanzienlijke risico's aan training op live webdata.
Welke risico's het bedrijf precies bedoelt, maakt de bron niet duidelijk. TechCrunch noemt geen details over de technische aanpak of een datum waarop de maatregel ingaat. Ook is niet bekend of bestaande modellen worden aangepast.
De aankondiging komt enkele weken na een opvallende uitspraak binnen het bedrijf zelf. Een engineer van OpenAI zei toen dat deze oplossing niet zou werken. Waarom die conclusie nu anders is, blijft onduidelijk.
Waarom live internet riskant is
Een taalmodel dat tijdens de training het internet op mag, kan van alles binnenhalen. Denk aan foutieve informatie, schadelijke teksten of privégegevens die ergens rondslingeren. Zulke data kunnen het gedrag van een model beïnvloeden.
Ook auteursrecht speelt mee. Websites bevatten teksten waar makers rechten op hebben. In Europa geldt daarnaast de AI-verordening, die eisen stelt aan hoe AI-systemen worden ontwikkeld en welke data daarbij zijn gebruikt.
OpenAI geeft in de bron geen uitleg over de juridische kant. Het bedrijf houdt het bij de brede term risico's.
Wat dit betekent voor ChatGPT
Of gebruikers iets merken van de maatregel, is nog niet bekend. De aankondiging gaat over training, niet over het gebruik van ChatGPT zelf. Een model leren gebeurt in een andere fase dan een vraag beantwoorden.
Toch kan de keuze gevolgen hebben voor hoe actueel en veelzijdig nieuwe modellen zijn. Wie een model alleen met eigen of gelicenseerde data traint, bepaalt zelf wat erin zit. Dat kan de kwaliteit ten goede komen en het risico op rommel verkleinen.
OpenAI heeft niet gezegd welke databronnen voortaan worden gebruikt. Concrete cijfers of voorbeelden ontbreken in de bron.
Een ommekeer binnen het bedrijf
De stap is opmerkelijk, omdat OpenAI eerder een andere koers leek te varen. De uitspraak van de eigen engineer wijst op interne discussie over de beste aanpak. Nu kiest het bedrijf voor afscherming van het live web.
TechCrunch plaatst de aankondiging in dat licht. Het medium noemt de maatregel een breuk met de eerdere werkwijze. Details over de interne afwegingen geeft de bron niet.
Wat betekent dit voor Nederland?
Voor Nederlandse gebruikers van ChatGPT verandert er op korte termijn waarschijnlijk weinig aan het dagelijks gebruik. De maatregel raakt vooral de ontwikkeling van nieuwe modellen. Bedrijven in Nederland die AI bouwen op OpenAI-technologie moeten rekening houden met minder actuele kennis in toekomstige modellen. Wie zelf AI ontwikkelt, krijgt hiermee een signaal dat training op ruwe webdata juridisch en technisch gevoelig ligt, zeker met de Europese AI-verordening in het achterhoofd. Concrete gevolgen voor prijzen of beschikbaarheid in Nederland zijn nog niet bekend.
Veelgestelde vragen
Traint OpenAI ChatGPT nog op het internet?
Volgens OpenAI worden de nieuwste modellen niet meer op het live internet getraind. Of dat ook geldt voor alle bestaande modellen, maakt de bron niet duidelijk.
Waarom stopt OpenAI met trainen op het live web?
OpenAI noemt aanzienlijke risico's, zonder die precies te benoemen. TechCrunch geeft geen verdere details over de beweegredenen.
Merken Nederlandse gebruikers hier iets van?
Voor het gewone gebruik van ChatGPT is nog geen effect bekend. De verandering raakt vooral de ontwikkeling van nieuwe modellen.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen. Hoe dat werkt.