AI wordt beter in hacken: China grijpt in bij eigen modellen
AI-modellen worden steeds vaardiger in het uitvoeren van cyberaanvallen. China probeert dat tij te keren, zowel via de overheid als bij de AI-bedrijven zelf. Moonshot AI heeft de aanvalsmogelijkheden van zijn nieuwste model bewust ingeperkt, meldt Bright. Dat raakt ook organisaties in Nederland die met Chinese AI werken.
In het kort
- Moonshot AI beperkt de cyberaanvalsmogelijkheden van zijn nieuwste model bewust.
- De Chinese overheid zet net als AI-bedrijven in op het verkleinen van AI-risico's.
- AI-systemen blijken tot meer in staat op het gebied van hacken dan veel partijen dachten.
- Voor Nederlandse bedrijven is het relevant welke beperkingen leveranciers zelf inbouwen.
Wat er aan de hand is
AI-modellen worden steeds beter in het vinden en benutten van zwakke plekken in systemen. Dat blijkt uit wat systemen in de praktijk laten zien, schrijft Bright. Moonshot AI, een Chinees bedrijf achter eigen AI-modellen, heeft daarom de cyberaanvalsmogelijkheden van zijn nieuwste model bewust beperkt.
Dat is opvallend. Een maker van AI kiest er dus voor om een deel van de capaciteit van het model af te knijpen. Het bedrijf ziet kennelijk waar het model toe in staat is en grijpt in voordat anderen dat kunnen misbruiken.
Overheid en bedrijven trekken samen op
De Chinese overheid mengt zich ook in de discussie. Zowel de overheid als AI-bedrijven zet alles op alles om de risico's van AI te beperken, staat in de berichtgeving. Dat betekent niet dat alle problemen daarmee weg zijn. Het laat wel zien dat China het onderwerp serieus neemt.
Hoe die aanpak er precies uitziet, is nog niet volledig bekend. Duidelijk is dat een grote AI-maker als Moonshot AI zelf maatregelen neemt, los van wat er wettelijk verplicht is.
Waarom dit telt voor cybersecurity
Een model dat goed is in hacken, is in handen van kwaadwillenden een risico. Het kan sneller zwakke plekken vinden en aanvallen opzetten. Beperkingen inbouwen bij de bron is dan een van de weinige plekken waar je kunt ingrijpen.
Tegelijk roept het vragen op. Welke mogelijkheden worden afgeknepen, en wie bepaalt dat? Daar geeft de berichtgeving nog geen antwoord op.
Wat betekent dit voor Nederland?
Voor Nederlandse organisaties die met Chinese AI-modellen werken, is het goed om te weten dat leveranciers zelf beperkingen inbouwen. Dat zegt iets over de risico's die zij zien. Wie AI inzet voor beveiligingstests, merkt mogelijk dat een model minder doet dan verwacht. Bedrijven die juist afhankelijk zijn van één leverancier, doen er verstandig aan te checken welke beperkingen gelden. In de EU gelden daarnaast eigen regels voor AI, maar hoe die zich verhouden tot Chinese maatregelen is nog niet duidelijk.
Een model dat van zichzelf minder gaat hacken is leuk voor de folder, maar de rem zit bij de maker en niet bij de kwaadwillende die hetzelfde model ergens anders draait. Ik vertrouw zo'n ingebouwde grens pas als ik zie dat hij standhoudt bij iemand die er echt kwaad wil. Tot die tijd beoordeel ik AI op wat het oplevert en niet op wat het belooft.
Veelgestelde vragen
Wat heeft Moonshot AI precies gedaan?
Het bedrijf heeft de cyberaanvalsmogelijkheden van zijn nieuwste AI-model bewust beperkt. Welke onderdelen precies zijn afgeknepen, is niet bekend.
Waarom grijpt China in bij AI?
Zowel de overheid als AI-bedrijven wil de risico's van AI verkleinen. AI wordt steeds beter in hacken, en dat levert gevaren op.
Wat betekent dit voor bedrijven in Nederland?
Als je Chinese AI-modellen gebruikt, kan het uitmaken welke beperkingen de leverancier heeft ingebouwd. Check dat voordat je zo'n model inzet voor beveiligingstests.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.