OpenAI ai veiligheid: ex-medewerkers waarschuwen bestuur
Drie voormalige medewerkers van OpenAI hebben een brief gestuurd aan het bestuur van het bedrijf. Ze waarschuwen voor een toekomst waarin AI zichzelf kan verbeteren, ook wel RSI genoemd. Volgens Bright vinden zij dat mensen moeten blijven zien hoe AI tot beslissingen komt.
In het kort
- Drie ex-medewerkers van OpenAI stuurden een brief aan het bestuur over de risico's van zelfverbeterende AI.
- Het gaat om RSI: een systeem dat zichzelf steeds verder kan verbeteren zonder menselijke tussenkomst.
- Volgens de brief verliezen we de grip op de denkstappen van AI zodra RSI werkelijkheid wordt.
- De waarschuwing draait om controle: we moeten kunnen blijven volgen hoe AI tot een antwoord komt.
Wat de ex-medewerkers precies zeggen
De drie oud-medewerkers richtten zich in hun brief direct tot het bestuur van OpenAI. Hun zorg gaat over RSI, oftewel recursive self-improvement. Dat is het idee dat een AI-systeem zichzelf steeds beter maakt, zonder dat een mens daar nog aan te pas komt.
Volgens Bright waarschuwt het trio dat OpenAI juist die kant op werkt. Zodra RSI een feit is, wordt het lastig om nog te zien welke stappen de AI zet om tot een uitkomst te komen. De brief stelt dat we dat inzicht altijd moeten beschermen.
De oud-medewerkers zeggen niet dat het al zover is. Hun punt is dat het bedrijf nu keuzes maakt die bepalen of die controle later nog mogelijk is.
Waarom RSI lastig te controleren is
Bij een gewone chatbot kun je vaak nog terugvinden hoe een antwoord tot stand kwam. Bij RSI wordt dat een stuk ingewikkelder. Het systeem past zichzelf aan, vaak op manieren die de makers zelf niet precies vooraf hebben bedacht.
Dat betekent niet automatisch dat zo'n systeem gevaarlijk is. Het betekent wel dat uitleg achteraf moeilijker wordt. Als niemand kan reconstrueren waarom de AI iets doet, is bijsturen bijna onmogelijk.
De brief van de ex-medewerkers sluit aan bij een breder debat over openheid van AI-bedrijven. OpenAI heeft zelf vaker gezegd dat veiligheid en inzichtelijkheid belangrijk zijn. Wat het bedrijf concreet met deze brief doet, is nog niet bekend.
Wat OpenAI zelf zegt
OpenAI heeft nog niet publiek gereageerd op de brief. Volgens Bright is het niet duidelijk of het bestuur van plan is om de zorgen over te nemen in het beleid.
Het bedrijf werkt al langer aan systemen die steeds meer taken zelfstandig uitvoeren. Denk aan AI die zelf code schrijft of onderzoeksvragen uitwerkt. Precies daar zit volgens de oud-medewerkers het risico: hoe meer het systeem zelf doet, hoe minder mensen meekrijgen van het waarom.
De brief is geen formeel verbod of eis. Het is een dringend advies aan het bestuur om controle op de denkstappen voorop te blijven stellen.
Wat betekent dit voor Nederland?
Voor Nederlandse bedrijven die AI inzetten, raakt deze kwestie aan iets praktisch: kun je achteraf uitleggen waarom een systeem een bepaalde keuze maakte? Bij simpele chatbots lukt dat vaak nog. Bij zelflerende systemen wordt dat een stuk lastiger. Als RSI werkelijkheid wordt, kunnen organisaties minder makkelijk verantwoording afleggen aan klanten, toezichthouders of de Autoriteit Persoonsgegevens. Het is nog niet bekend of OpenAI deze zorgen omzet in nieuw beleid. Nederlandse gebruikers merken daar nu dus nog weinig van, maar de discussie bepaalt wel hoe AI-systemen de komende jaren worden gebouwd en gecontroleerd.
Veelgestelde vragen
Wat is RSI in AI?
RSI staat voor recursive self-improvement. Het betekent dat een AI-systeem zichzelf steeds verder verbetert, zonder dat een mens daar nog tussen zit.
Wie waarschuwen voor de gevaren van zelfverbeterende AI?
Drie voormalige medewerkers van OpenAI hebben een brief aan het bestuur gestuurd. Zij zeggen dat we moeten blijven inzien hoe AI denkt.
Heeft OpenAI al gereageerd op de brief?
Nee, OpenAI heeft nog niet publiek gereageerd. Volgens Bright is niet duidelijk wat het bestuur met de zorgen doet.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen. Hoe dat werkt.