Base Labs start open-weight AI veiligheid met Hugging Face
Base Labs, de onderzoeksgroep die Baseten eerder dit jaar oprichtte, begint een samenwerking rond de veiligheid van open AI-modellen. Dat doet het samen met Hugging Face en Goodfire, meldt TechCrunch. Het doel is om methoden te ontwikkelen en te publiceren voor het trainen en monitoren van open modellen.
In het kort
- Base Labs is een onderzoeksgroep die Baseten eerder dit jaar opzette.
- Hugging Face en Goodfire doen mee aan het partnerschap.
- De groep wil methoden publiceren voor training en monitoring van open modellen.
- Open-weight modellen zijn modellen waarvan de gewichten openbaar zijn.
Wat Base Labs precies gaat doen
Base Labs is geen nieuw bedrijf dat zomaar iets roept. De groep komt voort uit Baseten, een partij die zich bezighoudt met het draaien van AI-modellen. Eerder dit jaar zette Baseten deze onderzoeksgroep op, volgens TechCrunch.
Het partnerschap richt zich op open-weight modellen. Dat zijn modellen waarvan de zogeheten gewichten openbaar zijn. Je kunt ze dus zelf downloaden en draaien, in plaats van alleen via een API van een bedrijf.
Base Labs wil methoden ontwikkelen én publiceren. Het gaat dan om manieren om zulke open modellen te trainen en te monitoren. Publiceren is een belangrijk woord: de kennis komt dus niet achter een gesloten deur te liggen.
Waarom Hugging Face en Goodfire erbij zijn
Hugging Face is het bekendste platform voor open AI-modellen. Veel ontwikkelaars halen daar hun modellen vandaan. Goodfire richt zich op het begrijpen en sturen van wat er binnen een model gebeurt.
Door die twee partijen erbij te halen, krijgt het project zowel een distributiekanaal als technische diepgang. Hugging Face brengt bereik onder ontwikkelaars. Goodfire brengt kennis over het interpreteren van modelgedrag.
TechCrunch noemt geen bedragen, geen looptijd en geen concrete deadline. Wat het partnerschap precies gaat kosten of wanneer de eerste resultaten komen, is dus nog niet bekend.
Open-weight modellen onder vuur
Open-weight modellen liggen al langer onder een vergrootglas. Voorstanders zeggen dat openheid controle en innovatie mogelijk maakt. Tegenstanders wijzen op misbruik, omdat iedereen het model kan aanpassen.
Veiligheidsonderzoek voor open modellen is lastiger dan voor gesloten modellen. Bij een gesloten model kan een bedrijf zelf ingrijpen. Bij een open model ligt het bestand op ieders computer.
Daarom richt dit partnerschap zich op monitoring: hoe zie je wat een model doet, ook als het buiten de servers van de maker draait? Dat is een vraag waar de hele open-source AI-wereld mee worstelt.
Wat we nog niet weten
Er zijn nog veel open vragen. Welke methoden precies worden gepubliceerd, is niet duidelijk. Ook is niet bekend of er een licentie of standaard uit komt rollen.
TechCrunch noemt alleen de drie partijen en het doel. Of er meer deelnemers bijkomen, staat er niet in. Evenmin is duidelijk of er Europese partijen aansluiten.
Voor nu is het vooral een signaal: veiligheid van open modellen krijgt een gezamenlijk onderzoeksloket. De uitkomsten moeten zich nog bewijzen.
Wat betekent dit voor Nederland?
Voor Nederlandse ontwikkelaars en bedrijven die met open modellen werken, is dit relevant. Veel van hen halen modellen via Hugging Face en draaien die lokaal of in een Europese cloud. Als er bruikbare monitoringsmethoden vrijkomen, kun je die straks zelf toepassen. Ook past dit bij de Europese AI-verordening, die eisen stelt aan transparantie en risicobeheer. Let wel: het gaat om onderzoek, niet om een kant-en-klare tool. Concrete Nederlandse beschikbaarheid of prijzen zijn nog niet bekend.
Veelgestelde vragen
wat zijn open-weight modellen?
Dat zijn AI-modellen waarvan de gewichten openbaar zijn. Je kunt ze zelf downloaden en draaien, in plaats van alleen via de server van een bedrijf.
wat doet Base Labs?
Base Labs is een onderzoeksgroep die Baseten eerder dit jaar oprichtte. De groep gaat methoden ontwikkelen en publiceren voor het trainen en monitoren van open modellen.
wat betekent dit voor Nederland?
Nederlandse ontwikkelaars die met open modellen werken, kunnen mogelijk profiteren van de gepubliceerde methoden. Concrete tools of prijzen zijn nog niet bekend.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen. Hoe dat werkt.