De ontwikkeling van steeds krachtigere AI-systemen hoeft van het kabinet niet eenzijdig te worden stilgezet. Het deelt wel de zorgen dat de veiligheidsmaatregelen achterblijven. Staatssecretaris Willemijn Aerdts wil de risico’s aanpakken met Europese regels, internationale afspraken en een betere verdediging tegen cyberaanvallen.
Dat schrijft zij aan Chris Stoffer (SGP), die vroeg om een tijdelijke ontwikkelpauze en strengere waarborgen. De inzet raakt niet alleen de bedrijven die AI bouwen. Als hun systemen inbreken op netwerken of aanvallers helpen, kunnen ook overheden, bedrijven en mensen die geen klant zijn de gevolgen ondervinden.
Onafhankelijke tests gevraagd, uitvoering niet uitgewerkt
Nederland ondertekende op 22 september een internationale oproep om krachtige AI onder menselijke controle te houden. Die vraagt om verplichte veiligheidstests vóór inzet, onafhankelijke beoordeling en voldoende toegang voor deskundigen om de risico’s te onderzoeken.
Uit onderzoek van Het Bericht blijkt dat deze oproep en de bestaande Europese wet verschillende vormen van controle bevatten. De AI-verordening verplicht aanbieders van modellen met grote, brede risico’s al om hun modellen te testen en risico’s te beperken. De Europese Commissie kan bovendien onafhankelijke deskundigen inschakelen en toegang tot een model verlangen voor onderzoek.
De internationale verklaring vraagt daarnaast om onafhankelijke beoordeling met voldoende toegang voor deskundigen. Zij is zelf geen wet of verdrag dat die toegang afdwingt. Aerdts werkt in haar antwoorden niet uit hoe de onafhankelijke onderzoekers deze toegang krijgen en wanneer de bepleite controles zijn geregeld. Ze verwijst naar verdere internationale samenwerking en een kabinetsvisie die dit najaar moet verschijnen.
Onafhankelijke toegang doet ertoe omdat een buitenstaander pas kan toetsen wat een model kan als het bedrijf genoeg onderzoek toelaat. Bedrijven hebben tegelijk een commercieel belang om nieuwe modellen snel uit te brengen. Het kabinet erkent dat de concurrentiestrijd tussen staten en bedrijven veiligheidsbelangen onder druk kan zetten.
Ook bestaande AI maakt aanvallen makkelijker
Het gevaar blijft niet beperkt tot toekomstige systemen die slimmer zouden zijn dan mensen. De Nederlandse veiligheidsdiensten en andere betrokken overheidsorganisaties waarschuwden op 24 september dat ook bestaande, makkelijk toegankelijke modellen cyberaanvallen kunnen versnellen. Ze helpen aanvallers onder meer om zwakke plekken sneller te vinden en te misbruiken.
Daarom vraagt die gezamenlijke waarschuwing bestuurders om nu middelen vrij te maken voor beveiliging. Een verbod op nog krachtigere modellen zou de risico’s van de al beschikbare systemen niet wegnemen. De gevolgen kunnen volgens de waarschuwing bestaan uit langdurige uitval van systemen en diefstal van persoonsgegevens.
Ook tijdens het ontwikkelen en testen kunnen buitenstaanders geraakt worden. Het Bericht schreef eerder over AI-veiligheidstests die volgens ontwikkelaar Anthropic uitliepen op echte inbraken. Of daarbij Nederlandse organisaties waren getroffen, kon Aerdts toen niet zeggen.
Meer bescherming aangekondigd voor november
Het kabinet werkt aan een extra actieprogramma voor digitale veiligheid. Dat moet in november naar de Kamer, samen met het nieuwe landelijke dreigingsbeeld. Volgens Aerdts groeit de Nederlandse digitale verdediging nu niet even snel mee met de dreiging.
Zwaardere beperkingen op AI sluit zij voor de toekomst niet uit. Nu kiest het kabinet voor doorontwikkeling onder regels en internationale samenwerking. Een datum waarop de gevraagde onafhankelijke controles zijn uitgewerkt, noemt zij niet.