De Europese verordening inzake kunstmatige intelligentie (AI Act, referentie 2024/1689) is op 1 augustus 2024 in werking getreden. Deze tekst classificeert AI-systemen volgens risiconiveaus en legt geleidelijke verplichtingen op aan zowel ontwerpers als gebruikers. Deze regelgevende dimensie verandert de manier waarop technologische innovaties in ons dagelijks leven komen: alleen prestaties zijn niet meer voldoende, naleving en transparantie worden criteria voor markttoegang.
Verplichtingen tot transparantie van AI en impact op dagelijkse producten
De AI Act vereist dat gebruikers worden geïnformeerd wanneer zij interactie hebben met een kunstmatig intelligent systeem. Inhoud die door een AI is gegenereerd of gemanipuleerd, moet worden gemeld. Dit principe van verplichte transparantie naar de eindgebruiker verandert de ontwerpmethodiek van interfaces.
Concreet moet een klantenservice-app die een chatbot gebruikt, dit nu duidelijk aangeven. Een door generatieve AI geproduceerde afbeelding die online wordt verspreid, moet een vermelding bevatten. Deze eisen zijn geen gadgets: ze herstructureren de digitale productieketen, van ontwikkelaar tot consument.
De analyses gepubliceerd op de site Kali News tech geven gedetailleerd aan hoe deze regelgevende beperkingen de prioriteiten van uitgevers van digitale oplossingen in Frankrijk en Europa hertekenen.
Voor bedrijven die AI in hun producten integreren, betekent naleving een volledige werkpost. Documenteren hoe een model werkt, informatie verstrekken aan downstream ontwikkelaars, het respecteren van auteursrechten op trainingsdata: dit zijn stappen die er twee jaar geleden nog niet waren.
Generatieve AI in 2024: governance van trainingsdata
Generatieve AI beperkt zich niet langer tot het produceren van tekst of afbeeldingen. De huidige modellen genereren video, code, 3D-modellen. Deze uitbreiding van capaciteiten gaat gepaard met een professionaliseringsslag in de governance van trainingsdata.
De AI Act vereist dat leveranciers van algemene AI-modellen een voldoende gedetailleerde samenvatting van de gebruikte data voor training publiceren. Deze verplichting beantwoordt aan een concreet probleem: zonder traceerbaarheid van de corpus is het onmogelijk om de naleving van auteursrechten te verifiëren of systematische vooroordelen te identificeren.
Wat de verplichte documentatie van modellen verandert
Documenteren van een AI-model betekent het verstrekken van een technische fiche die bruikbaar is voor ontwikkelaars die het in hun eigen producten integreren. De Europese verordening creëert zo een keten van verantwoordelijkheid: de leverancier van het basismodel informeert de tussenliggende ontwikkelaar, die op zijn beurt de eindgebruiker informeert.
Dit mechanisme heeft praktische gevolgen voor het tempo van innovatie. Een uitgever die een nieuwe dienst op basis van een generatief model wil lanceren, moet eerst de documentatie-naleving van dat model controleren. De marktintroductie vertraagt, maar de betrouwbaarheid van producten neemt toe.
- Leveranciers moeten de architectuur van het model en de bekende beperkingen documenteren voordat ze commercieel worden verspreid.
- Een beleid voor naleving van auteursrechten op trainingsdata wordt een vereiste, geen optionele toevoeging.
- Downstream ontwikkelaars ontvangen gestandaardiseerde technische informatie om de risico’s van hun specifieke gebruik te evalueren.
Classificatie op risiconiveaus: welke technologieën zijn betrokken
De verordening 2024/1689 organiseert AI-systemen volgens een risicoschaal. Bepaalde toepassingen zijn volledig verboden. Andere, geclassificeerd als hoog risico, zijn onderworpen aan strengere eisen. Systemen met beperkte risico’s vallen voornamelijk onder de reeds genoemde verplichtingen tot transparantie.
Deze classificatie op risiconiveaus raakt verschillende sectoren: gezondheidszorg, werving, kredietbeoordeling, biometrische surveillance. Een AI-hulpmiddel voor medische diagnose zal niet onder dezelfde voorwaarden vallen als een fotofilter op een sociaal netwerk.
Concreet effect op de gezondheidssector
AI-oplossingen die op de gezondheidszorg zijn toegepast, behoren tot de hoog-risico toepassingen. Een software die medische beelden analyseert om een diagnose te ondersteunen, moet voldoen aan eisen van robuustheid, precisie en menselijke supervisie voordat deze wordt ingezet.
Deze categorisering remt overhaaste implementaties, maar beschermt ook patiënten. Een medisch apparaat dat op AI is gebaseerd, moet zijn betrouwbaarheid bewijzen voordat het de praktijk van de arts bereikt. Het regelgevend kader onderscheidt zo nuttige innovatie van prematuur innovatie.
Duurzame technologieën en verbinding met objecten: de andere kant van 2024
De media-aandacht richt zich op AI, maar andere technologische innovaties veranderen het dagelijks leven in een snel tempo. Het internet der dingen (IoT) breidt zich verder uit in huishoudens en professionele omgevingen. Luchtkwaliteitsensoren, slimme meters, domoticasystemen: het aantal verbonden apparaten per huishouden blijft toenemen.
De vraag naar duurzaamheid van digitale technologieën neemt parallel toe. Bedrijven worden steeds meer aangespoord om de ecologische voetafdruk van hun digitale infrastructuren te meten, inclusief die van de datacenters die de AI-diensten aandrijven.
- IoT-sensoren maken real-time monitoring van het energieverbruik van gebouwen mogelijk, wat het maken van reductiebeslissingen vergemakkelijkt.
- Industriële cloudoplossingen integreren geleidelijk energie-efficiëntie-indicatoren in hun dashboards.
- De Europese regelgeving dringt er bij fabrikanten van verbonden apparaten op aan om de softwareondersteuningstijd van hun producten te verlengen.
Het Europese regelgevend kader beperkt zich dus niet tot AI. Het breidt zich geleidelijk uit naar het gehele digitale ecosysteem, van persoonsgegevens tot de levensduur van apparaten.
De innovaties die 2024 kenmerken, zijn niet alleen een wedloop naar prestaties. De Europese verordening 2024/1689, met zijn verplichtingen tot transparantie en documentatie, legt een filter op tussen technische prestaties en het eindproduct. De technologieën die het dagelijks leven van gebruikers in Frankrijk en Europa bereiken, zijn nu diegene die zowel de drempel van nut als die van naleving overschrijden.
