Anthropic wil Amerikaans ai-beleid met ban bij risico op 50 doden
Anthropic heeft een voorstel voor ai-veiligheidsbeleid naar Amerikaanse beleidsmakers gestuurd. Het bedrijf wil dat een model wordt verboden zodra het risico bestaat dat er 50 doden vallen. Volgens Bright is dit een concrete stap in een debat waarin veel wordt gewaarschuwd en weinig wordt besloten.
In het kort
- Anthropic legt een eigen veiligheidskader voor aan Amerikaanse politici.
- Een ai-model moet van tafel gaan bij een geschat risico op 50 doden.
- Het voorstel volgt op brede waarschuwingen over de gevolgen van snelle ai-ontwikkeling.
- Over toezicht en handhaving in de Europese Unie zegt de bron niets.
Wat Anthropic precies voorstelt
De kern van het voorstel is een harde grens. Zodra een ai-systeem het risico meebrengt dat 50 mensen overlijden, moet het model worden verboden. Anthropic legt die drempel bewust laag, blijkt uit de berichtgeving van Bright.
Het bedrijf richt zich met het voorstel tot beleidsmakers in de Verenigde Staten. Het gaat dus om een advies, niet om een wet die al geldt. Of politici de grens overnemen, is nog niet bekend.
Waarom nu een concreet voorstel
Er klinkt al langer waarschuwingen over de gevolgen van snelle ai-ontwikkeling. Vanuit verschillende hoeken klinkt het verwijt dat het bij praten blijft. Anthropic probeert dat patroon te doorbreken met een uitgewerkt veiligheidsbeleid.
Daarmee zet het bedrijf ook zichzelf onder druk. Een ban bij een concreet dodental raakt de modellen die Anthropic zelf bouwt. Hoe het bedrijf die grens in de praktijk wil meten, staat niet in de bron.
Een drempel van 50 doden als maatstaf
Een dodental als grens is tastbaar, maar roept vragen op. Wie bepaalt of een model dat risico oplevert? En hoe tel je slachtoffers die pas na jaren zichtbaar worden? De bron gaat daar niet op in.
Toch maakt de keuze het debat concreter dan een algemene oproep tot voorzichtigheid. Een getal is te controleren en te betwisten. Dat maakt onderhandelen over regels een stuk lastiger.
Wat er nog niet bekend is
Of het voorstel navolging krijgt, is onduidelijk. De bron noemt geen reacties van Amerikaanse politici en geen datum waarop het plan wordt besproken. Ook over toezichthouders of handhaving staat niets in het bericht.
Voor bedrijven en gebruikers verandert er voorlopig niets. De regels die nu gelden, blijven gelden tot er daadwerkelijk iets wordt besloten.
Wat betekent dit voor Nederland?
Voor Nederland en de Europese Unie is dit vooral een signaal. De Europese ai-wet legt verplichtingen op aan ontwikkelaars, maar een harde grens zoals 50 doden staat daar niet in de bron. Nederlandse bedrijven die ai inzetten, merken nu dus geen directe gevolgen. Wel kan het voorstel het internationale gesprek over veiligheidsdrempels beïnvloeden, en daarmee op termijn de eisen waarmee zij te maken krijgen.
Een grens van 50 doden is een concreet getal, en dat waardeer ik. De meeste waarschuwingen over ai blijven vaag, dit is tenminste iets waar je op kunt toetsen. Ik geloof alleen pas in zo'n ban als er een echte test achter zit en niet alleen een voorstel op papier.
Veelgestelde vragen
Geldt het voorstel van Anthropic al in Nederland?
Nee. Het is een advies aan Amerikaanse beleidsmakers. In Nederland en de Europese Unie gelden de bestaande Europese regels.
Wat houdt de grens van 50 doden in?
Volgens Anthropic moet een ai-model worden verboden als het risico bestaat dat er 50 mensen door overlijden. Hoe dat risico wordt berekend, is niet bekend.
Waarom komt Anthropic nu met dit plan?
Volgens Bright wordt er veel gewaarschuwd over ai maar weinig besloten. Anthropic wil met een concreet voorstel dat patroon doorbreken.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.