< Terug naar nieuws 
19 Oktober 2023
Wetenschappelijk toezicht als voorwaarde voor verantwoorde AI
AMSTERDAM - Interdisciplinaire experts van het Amsterdam UMC en de Universiteit van Amsterdam, twee instellingen binnen het Amsterdamse AI-ecosysteem, hebben vandaag hun ‘levende richtlijnen’ voor verantwoord gebruik van generatieve AI gepubliceerd in Nature.
Hoofdauteur Claudi Bockting, hoogleraar klinische psychologie van de psychiatrie aan het Amsterdam UMC en mededirecteur van het Center for Urban Mental Health, gelooft dat ‘AI-tools het internet kunnen overspoelen met verkeerde informatie en ‘deep fakes’ die niet te onderscheiden zijn van echte individuen. Dit zou na verloop van tijd het vertrouwen tussen mensen, in politici, instellingen en wetenschap kunnen ondermijnen. Onafhankelijke wetenschappers moeten het voortouw nemen bij het testen, bewijzen en verbeteren van de veiligheid en beveiliging van generatieve AI. De meeste wetenschappers hebben echter geen toegang tot de faciliteiten of publieke financiering om generatieve AI-tools te ontwikkelen of te evalueren.’
De richtlijnen zijn opgesteld na twee internationale topconferenties met leden van internationale organisaties zoals de International Science Council, de University Based Institutes for Advanced Study, de European Academy of Sciences and Arts, en leden van mondiale instellingen zoals UNESCO en de Verenigde Naties. Dit initiatief komt voort uit een dringende behoefte om wetenschappelijk en maatschappelijk toezicht te waarborgen in een snel evoluerende sector.
Volgens de auteurs moet het toezicht worden gemodelleerd naar het voorbeeld van een wetenschappelijk instituut. Met een focus op kwantitatieve metingen van reële effecten, zowel positief als potentieel schadelijk, en het toepassen van de wetenschappelijke methode in haar evaluaties. Het consortium bewaart afstand van dominerende commerciële belangen en geeft prioriteit aan het publieke welzijn en de authenticiteit van wetenschappelijk onderzoek.
Dit initiatief is een proactief antwoord op mogelijke hiaten in het huidige bestuur en biedt een evenwichtig perspectief te midden van het trage tempo van overheidsregelgeving, de fragmentatie van de ontwikkeling van richtlijnen en de onvoorspelbaarheid van zelfregulering door grote technologie-entiteiten.
De ‘leefrichtlijnen’ draaien rond drie belangrijke principes:
- Verantwoording: Het consortium pleit voor een door mensen ondersteunde aanpak en is van mening dat hoewel generatieve AI kan helpen bij taken met een laag risico, essentiële inspanningen zoals het voorbereiden van wetenschappelijke manuscripten of peer reviews menselijk toezicht moeten behouden.
- Transparantie: Duidelijke openbaarmaking van het gebruik van generatieve AI is absoluut noodzakelijk. Hierdoor kan de bredere wetenschappelijke gemeenschap de implicaties van generatieve AI op de onderzoekskwaliteit en besluitvorming beoordelen. Bovendien dringt het consortium er bij ontwikkelaars van AI-tools op aan transparant te zijn over hun methodologieën, waardoor uitgebreide evaluaties mogelijk worden.
- Onafhankelijk toezicht: Gezien de enorme financiële implicaties van de generatieve AI-sector is het niet haalbaar om uitsluitend op zelfregulering te vertrouwen. Externe, onafhankelijke objectieve audits zijn van cruciaal belang om een ethisch en kwalitatief hoogstaand gebruik van AI-instrumenten te garanderen.
Het voorgestelde wetenschappelijke orgaan moet over voldoende rekenkracht beschikken om modellen op volledige schaal uit te voeren, en over voldoende informatie over brongevallen, om te beoordelen hoe AI-tools zijn getraind, zelfs voordat ze worden vrijgegeven. Effectieve richtlijnen vereisen internationale financiering en brede juridische goedkeuring en zullen alleen werken in samenwerking met leiders in de technologie-industrie, terwijl tegelijkertijd de onafhankelijkheid ervan wordt gewaarborgd. De auteurs onderstrepen de dringende behoefte aan hun voorgestelde wetenschappelijke instantie, die ook eventuele opkomende of onopgeloste problemen op dit gebied kan aanpakken.
In essentie benadrukt het consortium de noodzaak van gerichte investeringen in een commissie van deskundigen en een toezichthoudend orgaan. Dit zorgt ervoor dat generatieve AI op verantwoorde wijze vooruitgang boekt en een evenwicht vindt tussen innovatie en maatschappelijk welzijn.
Over het consortium
Het consortium bestaat uit AI-experts, computerwetenschappers en specialisten in de psychologische en sociale impact van AI van AmsterdamUMC, IAS en de faculteit Bètawetenschappen van de UvA, opgenomen in het Amsterdamse AI-ecosysteem en Indiana University (VS). Deze gezamenlijke inspanning, ondersteund door leden van mondiale en wetenschappelijke instellingen, streeft naar een toekomst voor generatieve AI die zowel innovatief als ethisch bewust is
Het consortium bestaat uit AI-experts, computerwetenschappers en specialisten in de psychologische en sociale impact van AI van AmsterdamUMC, IAS en de faculteit Bètawetenschappen van de UvA, opgenomen in het Amsterdamse AI-ecosysteem en Indiana University (VS). Deze gezamenlijke inspanning, ondersteund door leden van mondiale en wetenschappelijke instellingen, streeft naar een toekomst voor generatieve AI die zowel innovatief als ethisch bewust is
Vergelijkbaar >
Vergelijkbare nieuwsitems
14 mei 2025
Databricks neemt open-source database startup Neon over voor $1 miljard
Het Amerikaanse softwarebedrijf Databricks, met sterke banden met Amsterdam en het Centrum Wiskunde & Informatica (CWI), heeft aangekondigd dat het de open-source database startup Neon overneemt voor $1 miljard.
Lees meer >
14 mei 2025
Amsterdamse Volta Ventures lanceert nieuw fonds van €20 miljoen voor tech-startups
Volta Ventures, an Amsterdam-based venture capital firm focused on tech startups in the Benelux, has announced a new €20 million fund. This third fund from Volta Ventures targets early-stage investments in technology companies with strong growth potential. The fund provides capital and strategic support to young companies working on innovative technologies, ranging from software development to artificial intelligence and deep tech. The Volta Ventures team emphasizes that the new fund offers more than just capital—it provides strategic guidance and access to networks. "We want to help entrepreneurs realize their vision by providing them with the right resources and connections," the team stated. As an established player in the Benelux region, Volta Ventures has built a portfolio of successful technology companies. With the new fund, the firm aims to meet the growing demand for funding from promising startups in the Netherlands, Belgium, and Luxembourg. Read more about Volta Ventures' new fund on the Silicon Canals website .
Lees meer >
14 mei 2025
Roboat: autonome boten testen in de grachten van Amsterdam
Roboat is een innovatief project dat autonome boten test in de grachten van Amsterdam. Deze zelfvarende vaartuigen bieden oplossingen voor stedelijke logistiek, vervoer en afvalinzameling.
Lees meer >