AI compliance as a Service
Ondersteuning bij het naleven van de AI-verordening, voor organisaties die AI ontwikkelen en voor organisaties die AI gebruiken. Shinrai beoordeelt AI daarbij in samenhang met privacy en informatiebeveiliging.
De specialist van Shinrai is sinds 2025 gecertificeerd AI Compliance Officer en leverde input voor het Toetsingskader AI van SIVON en Kennisnet. Daarnaast voert hij DPIA’s uit op systemen met AI en ontwikkelt een model waarin de FRIA is geïntegreerd in de DPIA.
Wat is AI compliance?
AI compliance gaat over de vraag of uw organisatie AI verantwoord ontwikkelt of gebruikt, en voldoet aan de regels die daarvoor gelden. De belangrijkste staan in de Europese AI-verordening. Die deelt AI-toepassingen in naar risico: sommige zijn verboden, voor andere gelden strenge eisen en voor de meeste gaat het om transparantie en zorgvuldig gebruik.
Welke verplichtingen voor u gelden, hangt ook af van uw rol. In de sectoren waarin Shinrai werkt, is dat vrijwel altijd een van deze twee:
- Aanbieder: de organisatie die een AI-systeem ontwikkelt en onder eigen naam op de markt brengt, zoals een EdTech-leverancier met AI in zijn product. De aanbieder draagt de zwaarste verplichtingen, van risicobeheer tot technische documentatie.
- Gebruiksverantwoordelijke: de organisatie die een AI-systeem onder eigen verantwoordelijkheid inzet, zoals een school, kinderopvangorganisatie of zorginstelling. Die moet het systeem gebruiken zoals bedoeld, en bij een hoog-risicosysteem zorgen voor menselijk toezicht.
Een rol ligt niet altijd vast. Een gebruiksverantwoordelijke die een systeem ingrijpend aanpast of onder eigen naam uitbrengt, wordt zelf aanbieder.
Verwerkt een AI-toepassing persoonsgegevens, dan geldt ook de AVG, en is de aanbieder een leverancier met dezelfde beveiligingsvragen als bij elk ander systeem. De rollen uit beide wetten vallen daarbij niet samen: een EdTech-leverancier die onder de AI-verordening aanbieder is, is onder de AVG meestal verwerker. Shinrai neemt beide mee in dezelfde beoordeling.
Wanneer heeft u AI compliance nodig?
Als gebruiksverantwoordelijke speelt het vaak al voordat u het merkt. Medewerkers laten een chatbot teksten schrijven, een leverancier voegt een AI-functie toe aan een bestaand systeem, of er ligt een aanvraag voor software die leerlingen of cliënten automatisch beoordeelt. Als aanbieder speelt het zodra u AI in uw product bouwt, omdat klanten willen weten hoe uw product zich verhoudt tot de AI-verordening.
Een deel van de verordening geldt al, zoals het verbod op bepaalde toepassingen en de plicht om de AI-geletterdheid van medewerkers te ondersteunen. De eisen voor hoog-risicosystemen volgen de komende jaren. In het onderwijs gaat het dan om AI die meebeslist over toelating, beoordeling of niveaubepaling van leerlingen, in de zorg onder meer om AI in medische hulpmiddelen.
Waarom externe ondersteuning bij AI?
Vragen over AI komen onregelmatig binnen: bij een nieuwe aanschaf, een productrelease of een vraag van de MR of een klant. Een eigen specialist is daarvoor vaak te veel gevraagd, maar er moet wel iemand zijn die de regels kent en snel kan beoordelen wat een toepassing betekent. De regelgeving is bovendien nog volop in beweging, en een externe specialist houdt die ontwikkelingen voor u bij.
Waarom Shinrai?
Shinrai kent beide kanten van de tafel. Wie AI ontwikkelt, krijgt advies van iemand die weet welke vragen scholen en zorginstellingen stellen. Wie AI inkoopt, krijgt advies van iemand die weet wat een aanbieder moet kunnen aanleveren.
Hoe Shinrai het aanpakt
Shinrai stelt eerst vast welke rol uw organisatie heeft, om welke AI-toepassingen het gaat en onder welke risicocategorie die vallen. Daaruit volgt wat er moet gebeuren.
Voor gebruiksverantwoordelijken kunnen de werkzaamheden bestaan uit:
- Inventariseren van AI-toepassingen, ook de AI in bestaande software, en vastleggen in een AI-register
- Beoordelen van AI-toepassingen en leveranciers vóór aanschaf
- Opstellen van AI-beleid en gebruiksafspraken voor medewerkers
- Risicobeoordelingen, zoals een DPIA of een FRIA
- Opzetten van een aanpak voor AI-geletterdheid, met training voor medewerkers en management
- Advies aan bestuur, MT of medezeggenschapsraad
Voor aanbieders kunnen de werkzaamheden bestaan uit:
- Bepalen van de risicocategorie van uw product en de verplichtingen die daarbij horen
- Opstellen of beoordelen van technische documentatie en gebruiksinstructies
- Begeleiden van de conformiteitsbeoordeling van een hoog-risicosysteem
- Advies tijdens de ontwikkeling, zodat privacy en beveiliging vanaf het begin zijn meegenomen
- Ondersteuning bij vragen, DPIA’s en FRIA’s van klanten over uw product
- Opzetten van een aanpak voor AI-geletterdheid binnen uw eigen team
In het funderend onderwijs gebruikt Shinrai daarbij het Toetsingskader AI van SIVON en Kennisnet, dat de AI-verordening vertaalt naar de onderwijspraktijk. Shinrai helpt zowel leveranciers als schoolbesturen bij het invullen en beoordelen ervan. De ondersteuning kan bestaan uit losse vragen en beoordelingen, of uit een traject met afgesproken doelen, zoals het opzetten van AI-beleid of het voorbereiden van een product op de AI-verordening.
Wat het oplevert
Als gebruiksverantwoordelijke weet u welke AI er wordt gebruikt en welke regels daarvoor gelden. Medewerkers hebben duidelijke afspraken, en nieuwe toepassingen worden beoordeeld voordat ze in gebruik gaan. Als aanbieder weet u welke verplichtingen voor uw product gelden, en kunt u de vragen van klanten onderbouwd beantwoorden. In beide gevallen kunt u laten zien hoe u met AI omgaat, aan klanten, ouders, de MR of een toezichthouder.
Samenhang met andere diensten
Bij PO as a Service hoort AI al bij de rol. AI compliance as a Service is bedoeld voor organisaties die specifiek hulp bij AI zoeken, naast een eigen PO of FG, en voor aanbieders van AI. Wilt u AI-geletterdheid combineren met bewustwording op privacy en informatiebeveiliging, dan sluit Bewustwording hierop aan.
Dienstverlening op maat per sector
Veelgestelde vragen
De aanbieder ontwikkelt een AI-systeem en brengt het op de markt. De gebruiksverantwoordelijke zet het in binnen de eigen organisatie. Beide hebben eigen verplichtingen, maar die van de aanbieder zijn het zwaarst.
Ja. Dat gebeurt als de organisatie een AI-systeem ingrijpend aanpast, of zelf een AI-toepassing ontwikkelt en die onder eigen naam aan anderen beschikbaar stelt.
Ja, al liggen de zwaarste verplichtingen bij de maker van de tool. Uw organisatie is gebruiksverantwoordelijke. U moet onder meer de AI-geletterdheid van medewerkers ondersteunen, verboden toepassingen vermijden en in sommige gevallen vermelden dat inhoud met AI is gemaakt. Hoeveel er verder bij komt, hangt af van waarvoor de tool wordt gebruikt: een tekst laten herschrijven is iets anders dan leerlingen laten beoordelen. Voeren medewerkers persoonsgegevens in, dan geldt daarnaast de AVG.
Nee. Het gaat om toepassingen die meebeslissen over leerlingen, zoals toelating, beoordeling van leerresultaten of niveaubepaling. Een tool die helpt bij het voorbereiden van lessen valt daar in de regel niet onder.
Het Toetsingskader AI is ontwikkeld door SIVON en Kennisnet en vertaalt de AI-verordening naar het funderend onderwijs. Leveranciers bepalen ermee of hun product onder de verordening valt, in welke risicocategorie het valt en welke maatregelen nodig zijn. Schoolbesturen gebruiken het om leveranciers daarop te bevragen. Shinrai helpt zowel leveranciers als schoolbesturen bij het invullen en beoordelen.
Een FRIA is een beoordeling van de gevolgen van een AI-systeem voor de grondrechten van de mensen voor wie het wordt gebruikt, zoals leerlingen of cliënten. Een overheidsorgaan of een organisatie die een publieke dienst verleent, zoals onderwijs of zorg, moet die uitvoeren voordat een hoog-risicosysteem in gebruik gaat. De verplichting ligt bij de gebruiksverantwoordelijke, niet bij de aanbieder. Ze gaat in op hetzelfde moment als de overige eisen voor hoog-risicosystemen.
Interesse in AI compliance as a Service?
Laten we bespreken hoe wij u kunnen helpen. Plan een vrijblijvend kennismakingsgesprek.