Californië onderzoekt kill switch voor AI-modellen
De gouverneur van Californië, Gavin Newsom, heeft vrijdag een decreet uitgevaardigd. Daarin laat hij onderzoeken of AI-bedrijven verplicht kunnen worden een kill switch in hun modellen te bouwen. Dat meldt Bright. Een kill switch is een noodknop waarmee je een systeem direct kunt uitzetten.
In het kort
- Newsom liet het onderzoek starten met een decreet van vrijdag
- Het gaat om de vraag of een kill switch verplicht kan worden
- Californië is de thuisbasis van veel grote AI-bedrijven
- In de EU bestaan al regels voor AI, maar nog geen kill-switchplicht
Wat Californië precies wil
Uit het decreet blijkt dat Newsom wil laten uitzoeken of AI-bedrijven verplicht kunnen worden een kill switch in hun modellen in te bouwen. Zo'n schakelaar moet een model of dienst direct stil kunnen leggen. De maatregel komt van de gouverneur zelf, niet via een nieuwe wet.
Californië is de staat waar veel grote AI-bedrijven zitten. Denk aan OpenAI en Anthropic, beide gevestigd in San Francisco. Regels die daar gelden, werken vaak door op de rest van de wereld.
Het is nog niet bekend wanneer het onderzoek klaar is. Ook is onduidelijk of er echt een verplichting komt.
Wat een kill switch is
Een kill switch is een noodknop. Je drukt erop en een systeem stopt met werken. Zulke knoppen bestaan al bij machines en datacenters.
Bij AI is het ingewikkelder. Een model dat al is uitgerold, draait soms op servers van anderen. Je kunt het dan niet zomaar uitzetten. Ook is de vraag wie op de knop mag drukken: de maker, de overheid of de gebruiker.
Daarnaast zegt een kill switch niets over de vraag of een model veilig is. Hij grijpt pas in als er al iets misgaat.
Waarom dit nu speelt
AI-modellen worden steeds vaker ingezet voor taken die veel impact hebben. Denk aan klantcontact, software schrijven of beslissingen ondersteunen. Als zo'n systeem rare dingen doet, wil je kunnen ingrijpen.
Californië loopt vaker voorop met techregels. De staat stelde eerder al regels op voor dataprivacy. Met dit decreet zet Newsom een volgende stap, al is het voorlopig alleen een onderzoek.
Wat er nog niet bekend is
Het decreet zegt niets over boetes of termijnen. Er is ook geen lijst van bedrijven die eronder vallen. Of er een echte verplichting komt, is dus nog open.
Ook is niet duidelijk of een kill switch technisch haalbaar is voor alle soorten AI. Bij een los model dat iemand thuis draait, heeft een overheid geen knop om op te drukken.
Wat betekent dit voor Nederland?
Voor Nederland verandert er nu nog niets. De EU heeft met de AI-verordening al regels voor risicovolle AI, maar daarin staat geen kill-switchplicht. Wel kunnen eisen uit Californië doorwerken: veel AI-diensten die jij gebruikt, zoals ChatGPT, Claude en Gemini, komen van bedrijven die daar zitten. Komen er verplichtingen, dan zie je dat vaak terug in de voorwaarden of beschikbaarheid in Europa. Bedrijven die AI inzetten, doen er goed aan nu al na te denken over een eigen noodplan: wie zet een systeem uit als het fout gaat?
Een kill switch klinkt stoer, maar wie bepaalt wanneer die omgaat? Newsom laat het alleen nog onderzoeken, dus er is nog geen knop en geen wet. Ik geloof pas in zo'n verplichting als hij in de praktijk werkt op een echt model, niet in een persbericht.
Veelgestelde vragen
wat is een kill switch bij ai?
Een kill switch is een noodknop waarmee je een AI-systeem direct kunt stopzetten. De maker of beheerder kan het model dan uitzetten.
geldt een kill switch ook in Nederland?
Nee, er is nog geen verplichting. Californië onderzoekt alleen of zo'n plicht er kan komen. In de EU geldt de AI-verordening, zonder kill-switchplicht.
welke ai-bedrijven zitten in californië?
Onder meer OpenAI en Anthropic zijn er gevestigd. Daardoor hebben regels uit die staat vaak invloed op AI-diensten wereldwijd.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.