Artificial intelligence (AI) ontwikkelt zich razendsnel. Yannick van Gelder en Ruud Bogart richten zich vanuit WUR op samenwerking met bedrijven en overheden op het gebied van AI. ‘We gaan onze strategie aanpassen: niet maken, maar testen.’

‘De mensheid heeft veel te winnen bij het gebruik van artificial intelligence, maar ook alles te verliezen’, schreef de Britse computerwetenschapper Stuart Russell eerder dit jaar in The Guardian. Die waarschuwing klinkt vaker uit de mond van experts op het gebied van AI. En dat is niet voor niets, vindt ook Yannick van Gelder, die voor WUR coördinator Value Creation Data Science is. ‘Iedereen is verrast waar programma’s als ChatGPT nu toe in staat zijn. We zagen dat twee, drie jaar geleden niet aankomen.’

Als voorbeeld noemt hij een robot voor het plukken van tomaten die de TU Delft met ChatGPT ontwikkelde. De AI-software hielp bij het ontwerp, waarmee ingenieurs de robot bouwden, zonder zelf aan de tekentafel te zitten. Het was een test, maar wel eentje die Van Gelder aan het denken zet: ‘Als zo’n robot gaat rondrijden in een kas, is het nog maar de vraag of die in alle gevallen de beste keuzes maakt. Bij fouten kan de veiligheid in het geding komen of er ontstaat schade. Het is ook niet bekend wat de economische impact is op de teler die de robot gaat gebruiken.’

Touwtjes zelf in handen houden
In de toekomst zijn dit soort risico’s misschien nog groter, denkt Van Gelder. ‘Met volgende versies van dit soort AI-software, kan straks bijna iedereen een tomatenplukrobot of ander ingewikkeld technisch apparaat ontwerpen.’ Daar is dan steeds minder specifieke kennis voor nodig. Robots, andere machines en systemen kunnen dan ontwerpfouten bevatten, met negatieve gevolgen voor de samenleving. Dat wil hij voor zijn. ‘We moeten de touwtjes in handen houden en niet alle keuzes overlaten aan machines.’

Van Gelder staat niet alleen in dat idee. In Brussel zijn nieuwe EU-regels in de maak die het gebruik van AI in goede banen moeten leiden. Volgend jaar treedt de EU AI Act in werking. De insteek van de nieuwe regels is om AI-toepassingen in te delen in risicogroepen. De hoogste risicocategorie wordt gezien als onacceptabel en is wettelijk niet toegestaan. Het gaat dan bijvoorbeeld om beïnvloeding van gedrag van kwetsbare groepen, zoals speelgoed dat kinderen aanzet tot gevaarlijk gedrag. Wie een toepassing uit een andere risicocategorie op de markt wil brengen, is straks gebonden aan meer of minder strikte regels.

Hulp bieden door testen
De snelle ontwikkeling van AI-software en de komst van deze nieuwe EU-wet legt volgens Van Gelder een behoefte bloot. ‘Onderzoekers en partners uit de industrie zijn zich hier nog niet altijd van bewust’, ziet hij. Maar in het nieuwe speelveld verwacht hij dat de vraag naar kennis verandert. ‘Nu helpen we vanuit WUR bedrijven met het toepassen van data science en het ontwikkelen van AI-software. Straks doen veel meer partijen dat zelf, maar hebben ze wel een onafhankelijke partij nodig bij het valideren van hun systemen. Doet het systeem wat die moet doen en is het verantwoord te gebruiken?’

WUR gaat dus, als het aan Van Gelder ligt, in de toekomst een andere rol spelen in de opkomst van AI. Van maker, meer naar controleur, simpel gezegd. WUR wordt dan een onafhankelijke speler tussen beleid, implementatie en ontwikkelaars. ‘Onze onderzoekers kunnen overheden helpen met de vraag hoe het EU-beleid er precies uit moet zien. In Nederland moeten we bijvoorbeeld vaststellen hoe we het risico van een nieuw AI-systeem gaan bepalen en hoe de handhaving van de nieuwe regels eruit moet zien.’

Aan de slag
Samen met zijn nieuwe collega Ruud Borgart gaat Van Gelder in gesprek met bedrijven om in kaart te brengen waar de mogelijkheden voor samenwerking liggen in een bepaalde tak van industrie. Zoals bij AGROS, een publiek-privaat samenwerkingsproject voor de ontwikkeling van een volledig autonome kas. Bogart: ‘Het idee is dat intelligentie algoritmen en ultramoderne sensoren de vitale gewaskenmerken observeren en de teelt sturen om de oogst verder te optimaliseren. Dit jaar is de haalbaarheid hiervan bevestigd in een validatieproef.’

‘Onze inzet van kunstmatige intelligentie om bedrijfsprocessen te optimaliseren, afval te verminderen, of het gebruik van bestrijdingsmiddelen te minimaliseren, heeft al langer een tastbare impact in het bedrijfsleven’, gaat Van Gelder verder. ‘Daar gaan we mee door, maar ondertussen zetten we met dit soort validatieproeven ook die volgende stap.‘

‘Niet lichtzinnig over denken’
Ondanks het brede scala aan huidig onderzoek is voorbereiden op de toekomst dus belangrijk. ‘Zoals we drie jaar geleden moeilijk konden vermoeden welke mogelijkheden AI nu biedt, is dat ook lastig te voorspellen voor over drie jaar’, zegt Van Gelder. ‘We mogen hier niet lichtzinnig over denken, want behalve goede dingen, kunnen mensen ook gaan “hacken” met hulp van AI en bijvoorbeeld kritische systemen, zoals waterzuiveringsinstallaties in de war brengen.’

Van Gelder en Bogart zijn blij dat de EU er bovenop zit door de verplichting om het risico vast te stellen van elke nieuwe AI-toepassing die op de markt komt. De wet is namelijk wereldwijd de eerste die kaders stelt, waarbinnen AI optimaal kan worden benut. Van Gelder: ‘We weten niet exact wat er gaat gebeuren in de toekomst, maar wel dat we als mens de regie willen houden. Daar moeten we nu al over nadenken in elk vakgebied.’

Bron: WUR