Kan Ai veilig in Scorion? Jazeker en doe mee!

Ai. Je kunt het er bijna niet-niet over hebben. En bij Scorion krijgen we dus ook regelmatig de vraag of en wat we met Ai doen. Soms zelfs zeggen Scorion gebruikers, of zelfs administrators dat ze verwachten of het normaal zouden vinden dat er in Scorion een plug-in of een connectie met een Ai tool beschikbaar is. ‘De hele wereld gebruikt gratis Ai tools… Kan dit ook met Scorion?

Het goeie nieuws is: we zijn er zeker mee bezig. Maar zoals de meeste mensen weten gaat bij Scorion veiligheid voor alles. En bij Ai helemaal.

Op dit moment komen er steeds meer en steeds betere Ai taalmodellen op de ‘markt’. Want wat veel mensen niet echt doorhebben is dat het ‘gratis’ gebruik van Ai toch niet zo gratis is als je zou denken. Want Ai is niet alleen heel duur (het kost echt veel rekencapaciteit en energie) in gebruik, maar het gebruikt ook alle data die je erin stopt en vragen die je stelt om modellen te trainen. Jij bent dus als gebruiker het product. Net als bij ‘big-tech’ socials. Daar krijgen je op basis van je (zoek) of surfgedrag gericht advertenties te zien. Sommige mensen denken nog steeds dat het toeval is dat als je iemand via Whatsapp een berichtje stuurt over een niet-alledaags onderwerp, je de volgende dag een advertentie te zien krijgt over dit onderwerp.

In Scorion is feedbackgeven en zijn rubrics belangrijke manieren om studenten te helpen bij hun leerproces. De meeste feedback onderwijstools komen dan ook niet echt veel verder dan op basis van wat algemene tips feedback gevers te ondersteunen. En wat volstrekt onduidelijk is: op basis waarvan en waar blijft de data? En dat zouden we in Scorion ook gemakkelijk kunnen ondersteunen. Maar zoals gezegd. Wij stellen iets hogere eisen dan dat. Dus of je nou werkt met Rubrics, EPA’s narratieve feedback of competenties, zou niet uit moeten maken. Scorion zal altijd een maximaal betrouwbare ondersteuning bieden. Want in medisch onderwijs bijvoorbeeld, kunnen normen, procedures of eisen aan behandelingen veranderen. Hoe ga je dan om met deze veranderingen binnen het Ai model? Hoe zorg je ervoor dat dat betrouwbaar is en blijft.

Uitgangspunten voor Ai in Scorion zijn:

• Data moet veilig zijn. Er mag dus geen inhoudelijke data in een open Ai model of tool terecht komen waarvan niet klip en klaar is dat de gegevens van onze gebruikers 100% veilig zijn.
• Het model moet betrouwbaar zijn. Dat wil zeggen dat de hallucinaties en fouten zoals je bij de open modellen tegen komt, tot een minimum beperkt worden.
• De trainingsdata is betrouwbaar en specifiek op het vakgebied. We maken daarbij gebruik van Augmented Generation methodieken, waardoor het mogelijk is om op heel specifieke gebieden in te zoomen, zonder dat het model te veel focussed en weer te specifiek is.
• De modellen moeten transparant zijn en entrusted en het liefst samen met de gebruikers beheerd worden.

We zijn dus bezig om met een aantal partners (Universiteiten, Hogescholen en specialisten (eduface)) een project op te zetten om veilige en zinvolle toepassingen te realiseren in Scorion. En de toepassingen worden bedacht door de gebruikers van Scorion.

Op dit moment liggen er al drie heel concrete vragen waar we mee aan de slag gaan.

• Kan Scorion ondersteunen bij het geven van feedback?
• Kan Scorion de gegeven feedback beoordelen en helpen te verbeteren? En niet alleen op taal en op didactiek, maar ook op inhoud?
• Kan Scorion ondersteunen bij het beoordelen van een dashboard waarop de prestaties van een student te zien zijn.

Binnen het medisch onderwijs wordt bijvoorbeeld steeds meer gewerkt met EPA’s, entrustable professional activities. Wat daarbij van groot belang is, is dat een assessor iemand een activiteit toevertrouwd om dit al dan niet met een zekere supervisie uit te voeren. Je kunt je voorstellen hoe belangrijk dit is in ‘live’ situaties. Het zou dan natuurlijk fantastisch zijn als dit proces van toevertrouwen wordt ondersteund door een betrouwbare ‘artificiële collega’.

Dus: als je als opleiding mee wilt doen, neem dan zeker contact op.