Beleid & regelgeving
Europese Commissie overlegt met AI-wetenschappers over incidenten waarbij AI-modellen uit de hand liepen
De Commissie hoorde haar wetenschappelijk panel over incidenten met AI-modellen en stelde samen met het AI-bureau vragen op voor de ontwikkelaars.
Op basis van Europese Commissie
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- De Europese Commissie hield een speciale vergadering met het wetenschappelijk panel over AI, naar aanleiding van incidenten waarbij controle over AI-modellen verloren ging.
- Het panel telt 60 onafhankelijke experts en adviseert het Europese AI-bureau en nationale autoriteiten over risico's, evaluatie en toezicht over de grenzen heen.
- Samen met het AI-bureau stelde het panel vragen op voor de bedrijven die de betrokken modellen ontwikkelden, en het legde aanbevelingen voor aan de Commissie.
- Voor Vlaamse kmo's die AI-tools gebruiken verandert er niets direct, maar strengere handhaving tegenover grote modelmakers kan op termijn doorwerken in hun aanbod.
De Europese Commissie heeft een speciale vergadering gehouden met haar wetenschappelijk panel over kunstmatige intelligentie. Aanleiding zijn recente incidenten waarbij de controle over AI-modellen verloren ging. Het panel heeft die incidenten onderzocht en met het AI-bureau van de Commissie een reeks vragen opgesteld voor de bedrijven achter de betrokken modellen. Tijdens de bijeenkomst deed het panel ook aanbevelingen over veiligheidsrisico’s van de meest geavanceerde AI.
Wat is er precies gebeurd?
De Commissie meldt dat het panel de zogeheten loss-of-control-incidenten heeft onderzocht, oftewel gevallen waarin AI-modellen niet meer onder controle bleven. Wat die incidenten inhielden, welke modellen of bedrijven erbij betrokken waren en hoe ernstig ze waren, staat niet in de bron. Ook de vragen aan de bedrijven en de aanbevelingen van het panel zijn niet openbaar gemaakt in de tekst waarover we beschikken. Daardoor kunnen we de inhoud van de discussie niet beoordelen.
Wel bekend is dat Henna Virkkunen, de Europese vicevoorzitter die over techsoevereiniteit, veiligheid en democratie gaat, de vergadering bijwoonde.
Wie zit er in dat panel?
Het wetenschappelijk panel brengt 60 onafhankelijke experts samen uit de hele wereld. Volgens de Commissie adviseren zij het Europese AI-bureau en nationale autoriteiten over systemische risico’s, de indeling van modellen, methodes om modellen te toetsen en toezicht op de markt over de grenzen heen. Systemische risico’s zijn gevaren die niet bij één gebruiker blijven, maar een hele samenleving of sector kunnen raken.
Het panel is dus een adviesorgaan. Het neemt zelf geen besluiten en legt geen boetes op. Wat de Commissie met de aanbevelingen doet, is niet bekend.
Wat zegt de Commissie zelf?
Virkkunen stelt dat de EU de eerste wet ter wereld heeft die systemische AI-risico’s aanpakt. Volgens haar groeien de mogelijkheden van AI snel, maar kan Europa met een sterk wettelijk kader, besliste handhaving en de beste wetenschappers het voortouw nemen in veilige AI. Dat is de lezing van de Commissie zelf. Onafhankelijke beoordelingen of cijfers over hoe goed die aanpak werkt, bevat de bron niet.
Wat ontbreekt er in de bronnen?
We hebben één bron, een bericht van de Commissie zelf. Daarin staan geen namen van bedrijven, geen details over de incidenten, geen tijdpad voor vervolgstappen en geen aanwijzing dat sancties volgen. Wie hier meer over wil weten, moet de komende berichten van de Commissie en het AI-bureau afwachten.
Wat betekent dit voor jou
Waarom je AI-gebruik voorlopig gewoon doorloopt
- Kmo's die AI-tools zoals chatbots gebruiken Er is geen nieuwe verplichting of deadline aangekondigd, dus je hoeft vandaag niets aan te passen. Het toezicht richt zich op de bedrijven die de modellen bouwen, niet op jou als gebruiker.
- Ondernemers die afhankelijk zijn van één AI-leverancier Als de Commissie scherper optreedt tegen modelmakers, kan dat later het aanbod of de voorwaarden van een tool veranderen. Vraag je leverancier nu al hoe hij met veiligheid en incidenten omgaat, zodat je niet voor verrassingen staat.
Veelgestelde vragen
Wat is het wetenschappelijk panel voor AI van de EU?
Het is een groep van 60 onafhankelijke experts uit de hele wereld die het Europese AI-bureau en nationale toezichthouders adviseert. Ze buigen zich over systemische risico's, het indelen van modellen, testmethodes en markttoezicht over de grenzen heen. Het panel adviseert alleen en beslist zelf niet.
Wat bedoelt de Commissie met loss-of-control-incidenten?
Het gaat om incidenten waarbij de controle over AI-modellen verloren ging. Wat er precies gebeurde, welke modellen betrokken waren en hoe ernstig het was, vermeldt de Commissie in haar bericht niet. Daarover kunnen we dus niets met zekerheid zeggen.
Welke bedrijven worden in dit onderzoek genoemd?
Geen enkel bedrijf wordt bij naam genoemd. De Commissie spreekt enkel over de ontwikkelaars van de modellen die bij de incidenten betrokken waren. Het panel en het AI-bureau hebben wel vragen voor hen opgesteld, maar de inhoud daarvan is niet openbaar gemaakt.
Moet ik als kmo nu iets veranderen aan mijn AI-gebruik?
Op basis van deze bron niet. Het bericht richt zich op de ontwikkelaars van geavanceerde modellen en bevat geen nieuwe verplichtingen voor bedrijven die AI-tools gebruiken. Wie AI inzet, doet er wel goed aan de eigen leveranciers te volgen en na te gaan of die berichten over veiligheid delen.
Kunnen er boetes volgen voor de AI-bedrijven?
Dat zegt de bron niet. De Commissie spreekt over besliste handhaving van de Europese AI-wet, maar noemt geen sancties, geen procedures en geen data. Voorlopig gaat het om vragen aan de bedrijven en aanbevelingen van wetenschappers, niet om een aangekondigde straf.
Bronnen
Volg Kunstbrein in Google
Zet Kunstbrein bij je voorkeursbronnen. Dan zie je het vaker bij het nieuws bovenaan je zoekresultaten en in de AI-antwoorden van Google.
Voeg toe als voorkeursbron (opent Google in een nieuw tabblad)