Het gebruik van AI-oplossingen is in de afgelopen jaren ontploft. In 2024 gebruikten volgens onderzoek van McKinsey ruim 70% van de organisaties een vorm van AI. Echter, naarmate steeds meer mensen in aanraking komen met AI, zien we ook de negatieve gevolgen op het gebied van desinformatie, phishing en discriminatie. Zo is er tijdens de Amerikaanse verkiezing rondgebeld door een AI-stem van Joe Biden die mensen aanspoorde om niet te stemmen (New York Times). Vandaar dat de EU de AI Act van de Europese Commissie geïntroduceerd heeft. Deze wet is recent in werking getreden en dit heeft gevolgen voor alle organisaties die AI willen gebruiken. Een van de belangrijkste gevolgen is dat medewerkers die met AI bezig zijn nu verplicht zijn om getraind in AI te zijn.

Wat is de AI Act?

De AI Act is wetgeving van de Europese Unie die gericht is op het reguleren van de ontwikkeling en toepassing van AI-systemen. Het doel is om AI veilig, transparant en ethisch verantwoord te maken. De wet classificeert AI-systemen op basis van risiconiveaus: van minimaal risico tot onacceptabel risico, en stelt eisen aan ontwerp, ontwikkeling en implementatie. AI-toepassingen die bijvoorbeeld biometrische surveillance of sociale score-systemen omvatten, zijn bij voorbaat niet toegestaan (met specifieke uitzonderingen voor politieonderzoek). Artikel 4 van deze wet is dat alle werknemers die bezig zijn met AI hier ook voldoende kennis van moeten hebben. Dit is de zogenaamde vereisten voor AI-geletterdheid volgens de AI Act.

Wat is AI-geletterdheid?

AI-geletterdheid verwijst naar het vermogen om AI-technologieën te begrijpen, kritisch te beoordelen en effectief te gebruiken. Het omvat basiskennis over hoe AI werkt, wat de ethische en maatschappelijke implicaties zijn, en hoe je veilig en bewust met AI-toepassingen omgaat. Net zoals digitale geletterdheid essentieel is in de huidige samenleving, wordt AI-geletterdheid steeds belangrijker in een wereld waarin AI-oplossingen een integraal onderdeel zijn van ons dagelijks leven en werk. Een voorbeeld van waarom AI geletterdheid belangrijk is vinden we bij internetwinkel Amazon. Dit bedrijf gebruikte in 2018 een algoritme voor het filteren van CV's maar kwam slecht in het nieuws omdat er vooral mannelijke kandidaten geselecteerd werden. Dit lag aan de data waarop het model getraind was, dit was namelijk de CV's van de huidige werknemers van Amazon, vooral mannen. Als de recruiters zich meer bewust waren van de afhankelijkheid van AI op data uit het verleden, waren ze hier voorzichtiger mee omgegaan en was reputatieschade voorkomen. Overigens is deze toepassing nu door de AI Act verboden. Volgens de AI Act moeten werknemers die bezig zijn met AI, kennis krijgen van AI. Dit geldt dus al voor een enkeling die ChatGPT gebruikt op zijn eigen houtje. Op overtredingen van de AI Act staan echter boetes die zo hoog kunnen zijn als 35 miljoen of 7% van de jaaromzet (Legalz).

Wat betekent dit voor jouw bedrijf?

Het is van belang om ervoor te zorgen dat jouw werknemers over een voldoende niveau van AI-geletterdheid beschikken. Op deze manier bepaal je de invulling van deze eis:

1. Inventarisatie van AI systemen: stel vast welke AI systemen door wie gebruikt worden. Dit kan meer zijn dan je denkt, denk aan die ene collega die ChatGPT gebruikt.
2. Bepaal het risiconiveau: kijk onder welk risiconiveau de AI toepassing valt.
3. Faciliteer een AI training: Afhankelijk hiervan moeten de werknemers een cursus volgen die aansluit bij de vereiste AI-geletterdheid van hun rol in het bedrijf.
4. Voer een audit uit: de afrondende stap is om een interne audit te doen om een eventuele externe audit voor te zijn. Hoewel de exacte invulling van de trainingen niet vastgesteld wordt door de AI-act, is er wel bepaalde inhoud die over het algemeen behandeld wordt in trainingen. Denk hierbij aan het veilig omgaan met persoonsgegevens, waar AI voor ingezet mag worden, en bewustwording van beperkingen van AI.

Belangrijk hierbij is dat er training op maat wordt gegeven die rekening houdt met de context. Een eindgebruiker van AI heeft een minder hoog niveau van kennis nodig dan iemand die AI oplossingen in de organisatie uitrolt of iemand die AI oplossingen ontwikkelt. Tot slot is het belangrijk onderscheid te maken tussen verschillende toepassingen van AI. De manier waarop iemand AI inzet bepaalt namelijk de wetten die gelden. Zo zijn medische toepassingen een stuk strenger gereguleerd. Profound Vision verzorgt cursussen op maat waarbij werknemers voldoende kennis krijgen om AI veilig te gebruiken. Een specifieke cursusmodule is volledig toegewijd aan het niveau van AI geletterdheid verhogen van jouw team. Deze is afgestemd op de AI Act en met deze cursus voldoe je dan ook aan de eisen gesteld in Artikel 4 van deze verordening. Na afronding van de cursus ontvangen de deelnemers een verklaring van AI-geletterdheid om de verkregen bekwaamheid te bekrachtigen.