OpenAI scherpt beveiliging aan rond training van frontier-modellen
OpenAI heeft uitgelegd hoe het de omgeving waarin het zijn krachtigste AI-modellen traint en test beter afschermt. Daarbij gaat het onder meer om offline omgevingen en zware red-teaming met veel rekenkracht. De uitleg komt op een moment dat overheden en bedrijven meer grip willen op hoe zulke modellen worden gebouwd.
In het kort
- OpenAI beschrijft strengere containment voor training en evaluatie van frontier-modellen.
- Een deel van de maatregelen draait om offline omgevingen, los van het open internet.
- OpenAI zet naar eigen zeggen ook veel rekenkracht in voor red-teaming.
- Het bedrijf geeft geen details over kosten, planning of toezicht door derden.
Wat OpenAI precies aanscherpt
OpenAI noemt in zijn uitleg twee pijlers: containment en red-teaming. Containment betekent dat een model tijdens training en tests wordt afgeschermd, zodat het niet zomaar met de buitenwereld kan communiceren. Volgens OpenAI gebeurt een deel van dat werk in offline omgevingen.
Red-teaming is het systematisch zoeken naar manieren waarop een model ongewenst gedrag kan vertonen. OpenAI zegt daarvoor veel rekenkracht in te zetten. Het bedrijf spreekt van high-compute red-teaming: testen die zelf flink wat computerkracht kosten.
Wat de maatregelen concreet inhouden, blijft deels onduidelijk. OpenAI geeft geen cijfers over het aantal tests of over de kosten van de aanpak.
Waarom afscherming telt bij frontier-modellen
Frontier-modellen zijn de zwaarste modellen die een lab bouwt. Ze kosten veel rekenkracht en worden vaak eerst intern getest voordat ze naar buiten komen. Een lek in die fase kan gevoelige informatie blootleggen of het model blootstellen aan invloeden van buitenaf.
Offline werken beperkt dat risico. Een model dat geen verbinding heeft met het internet, kan tijdens het trainen lastiger data naar buiten sturen of van buitenaf worden gestuurd. Dat is de logica achter de aanpak die OpenAI beschrijft.
Tegelijk is containment geen garantie. Het is een laag in een breder pakket aan maatregelen, waaronder testen en interne procedures.
Wat er nog niet bekend is
OpenAI geeft geen tijdpad voor de maatregelen. Ook is niet duidelijk of externe partijen meekijken bij de tests. Onafhankelijk toezicht is juist een punt waarover in Europa wordt gediscussieerd.
Het bedrijf noemt verder geen bedragen of besparingen. Of de strengere aanpak de ontwikkeling van nieuwe modellen vertraagt, blijft daarmee open. OpenAI zegt daar niets over in de gepubliceerde uitleg.
Red-teaming met veel rekenkracht
Red-teaming is in de AI-sector een gangbare praktijk. Onderzoekers proberen een model bewust fouten te laten maken of ongewenste antwoorden te ontlokken. Zo hopen ze zwakke plekken te vinden voordat gebruikers die tegenkomen.
Het kostbare deel zit in de schaal. Veel tests betekenen veel rekenuren, en die zijn duur. OpenAI noemt de inzet van veel rekenkracht expliciet, zonder een bedrag te noemen.
Voor gebruikers verandert er vandaag niets zichtbaars. De maatregelen raken vooral de fase waarin modellen worden gebouwd en getest.
Wat betekent dit voor Nederland?
Voor Nederlandse bedrijven die met AI werken, is dit vooral een signaal over verwachtingen rond veiligheid. Grote labs schermen hun ontwikkeling af en documenteren dat steeds vaker. Wie zelf AI inzet of laat bouwen, kan bij leveranciers vragen naar hoe modellen worden getest en afgeschermd. In de Europese Unie gelden daarnaast regels uit de AI-verordening, die voor zwaardere modellen extra eisen stelt. Concrete cijfers over kosten of toezicht geeft OpenAI niet, dus daar valt nog weinig over te zeggen.
OpenAI schetst hier een plaatje van offline trainingsomgevingen en zware red-teaming. Dat lees ik als een verhaal over hoe het hoort te werken, niet als bewijs dat het zo werkt. Ik geloof pas dat een omgeving echt dicht zit als iemand van buiten het tegendeel probeert en daarover publiceert, en die proef zie ik hier nog niet.
Veelgestelde vragen
Wat is een frontier-model?
Dat is een zeer groot en krachtig AI-model dat een lab als OpenAI ontwikkelt. Zulke modellen vragen veel rekenkracht en worden eerst uitgebreid getest.
Wat betekent red-teaming?
Het is het bewust testen van een model op fouten en ongewenst gedrag. Onderzoekers proberen het model uit de tent te lokken om zwakke plekken te vinden.
Merken gebruikers hier iets van?
Voorlopig niet direct. De maatregelen raken de fase waarin modellen worden getraind en getest, niet de dagelijkse werking van ChatGPT.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.