AI in overheidsopdrachten: waar ligt de verantwoordelijkheid

AI sluipt steeds vaker binnen in overheidsopdrachten: bij het analyseren van offertes, het structureren van dossiers of het vergelijken van criteria. Efficiënt? Absoluut. Maar tegelijk rijzen er fundamentele vragen.Wie neemt uiteindelijk de beslissing? Wie draagt de verantwoordelijkheid als AI fouten maakt? En hoe blijf je juridisch correct werken?
Voor dit artikel deelde Wouter Rubens (GD&A Advocaten) zijn expertise en enkele kernprincipes die elke aankoper in het achterhoofd moet houden wanneer het gaat over AI in overheidsopdrachten.

AI ondersteunt, jij beslist

AI mag helpen bij het analyseren van offertes. Maar één principe staat vast: de gunningsbeslissing blijft altijd een menselijke beslissing.
Het Europese privacyrecht (AVG, artikel 22) verbiedt namelijk geautomatiseerde besluitvorming. Een AI-systeem mag dus nooit autonoom beslissen welke inschrijver een opdracht wint.
Wat betekent dat concreet in de praktijk?

Een ambtenaar moet:

• de output van het AI-systeem kritisch controleren

• nagaan of het systeem relevante elementen correct heeft geëvalueerd

• ingrijpen bij fouten, vertekeningen of bias 

• indien nodig de beoordeling corrigeren en motiveren in een logboek 

Elke beslissing moet materieel gemotiveerd worden: niet enkel een verwijzing naar de AI-output, maar een inhoudelijke onderbouwing door de bevoegde ambtenaar. 
AI levert dus input. De beoordeling blijft mensenwerk.

AI maakt fouten. Wie is aansprakelijk? 

Stel dat een AI-systeem een offerte fout beoordeelt. Of bepaalde informatie verkeerd interpreteert. Wie draagt dan de verantwoordelijkheid?
Het antwoord is juridisch vrij duidelijk: de aanbestedende overheid.
Ook bij gebruik van AI, wordt de uiteindelijke beslissing wettelijk gekwalificeerd als genomen door een menselijke ambtenaar. Dat brengt risico’s mee.

Denk bijvoorbeeld aan dit scenario:

• AI beoordeelt een offerte foutief

• De opdracht wordt aan de verkeerde kandidaat gegund

• Een niet-gegunde inschrijver dient een schadeclaim in

In zo’n situatie kan het bestuur burgerlijk aansprakelijk gesteld worden, zowel contractueel als buitencontractueel.

Praktische checklist voor analyse offertes

Wil je AI inzetten bij de analyse van offertes? Dan helpt onderstaande checklist (niet-exhaustief):

1. Informatiebepaling AI-gebruik: neem een clausule op in het bestek die inschrijvers informeert dat offertes (eventueel) met behulp van een AI-systeem worden geanalyseerd. 

2. Toestemming persoonsgegevens: voeg een toestemmingsformulier toe voor de verwerking van persoonsgegevens via AI, met vermelding van het doel, de middelen en de reikwijdte. 

3. Toestemming intellectuele eigendom: laat inschrijvers auteursrechtelijk beschermde onderdelen identificeren en verkrijg expliciete toestemming van inschrijvers voor de auteursrechtelijke verwerking van hun offerte via AI-systemen.

4. Menselijk toezicht: waarborg dat de eindbeslissing altijd door een bevoegde ambtenaar wordt genomen en documenteer de menselijke tussenkomst. 

5. Logboek: bewaar de prompts, input en output van het AI-systeem als onderdeel van het administratief dossier. 

6. AI-geletterdheid: zorg dat het betrokken personeel voldoende getraind is in het gebruik van AI en de bijbehorende juridische en ethische aandachtspunten.

De inzet van AI in overheidsopdrachten kan de efficiëntie van beoordelingen versterken, zolang de menselijke tussenkomst centraal blijft staan. Door te investeren in duidelijke spelregels, transparante besluitvorming en kennisopbouw bij medewerkers, leggen aanbestedende overheden een solide fundament voor verantwoord AI gebruik in de toekomst. Beter begrijpen welke juridische aandachtspunten komen kijken bij het gebruik van AI? Tijdens de studiedag AI in overheidsopdrachten gaat GD&A Advocaten dieper in op de juridische dimensie.