AI in de hulpverlening: ‘Het wordt overal gebruikt. Op de juiste en op de verkeerde manier’

AI is niet meer weg te denken

Het is nog geen vier jaar geleden dat ChatGPT voor het brede publiek gelanceerd werd. Intussen is artificiële intelligentie niet meer weg te denken. Mensen gebruiken het niet alleen om recepten op te zoeken of gedichten te schrijven. Ze voeren gesprekken met chatbots als ze niet goed in hun vel zitten. Ze beschrijven medische klachten en vragen om raad. Ze willen opvoedingstips voor hun rebelse tiener.

Maar wat het gebruik van AI door sociale professionals betreft, is de typische reactie: “Wij zijn een menselijk beroep, dus het is niets voor ons”. Dat ondervindt onderzoeker Tim Vanhove (Arteveldehogeschool), die zich de afgelopen jaren specialiseerde in het thema AI in zorg en welzijn.

‘Organisaties die beweren dat hun medewerkers het niet gebruiken, zijn naïef.’

Dat AI ‘niets voor ons’ zou zijn, daar is hij het niet mee eens. “De kat is uit de zak”, zegt hij. “Nooit eerder kende een technologie een snellere adoptie in Vlaanderen.” Net als alle andere burgers gebruiken steeds meer sociale professionals AI. “Organisaties die beweren dat hun medewerkers het niet gebruiken, zijn naïef. Het wordt overal gebruikt. Op de juiste en op de verkeerde manier. In het klein en in het groot.”

Vanhove gaf al bij veel organisaties in zorg en welzijn presentaties over wat AI is, en wat niet. “Dan voel je dat mensen na zo’n uitleg een beter onderbouwde mening ontwikkelen. Ze stellen betere vragen. Zoals wat willen we hier eigenlijk mee als beroep? Als samenleving? Dat is een veel interessantere positie dan gewoon zeggen ‘het is niet voor ons’.”

Tim: “Het is pure kansberekening. Het antwoord is een voorspelling op basis van de input, de ‘prompt’. In al het datamateriaal dat de bot ooit te zien heeft gekregen tijdens zijn training, ontdekte het patronen. Als het een vraag krijgt, gaat het kijken: wat is het meest waarschijnlijke volgende woord?”

“Doordat het model getraind is op zowat het ganse internet heeft het een enorm groot statistisch model kunnen maken. Je kan het je niet voorstellen hoe groot. En daardoor is het ook heel complex. Wat er exact gebeurt als het een antwoord op een vraag formuleert, is letterlijk niet uit te leggen: het blijft een zwarte doos.”

“Het is nuttig, we vinden het geloofwaardig, we gebruiken het. Als gevolg daarvan behandelen we het als een intelligent wezen. Maar is het menselijk intelligent? Nee.”

“Tegelijk is AI heel menselijk en dat is een probleem. Het heeft het hele internet opgegeten tijdens de training. Het heeft alle boeken, stationsromannetjes, blogs en fora opgepeuzeld en omgezet in patronen. Daardoor omvat zo’n model in zekere zin de mensheid. Het is een spiegel.”

‘AI is heel menselijk en dat is een probleem. Al het lelijke van de mensheid zit er ook in.’

“Al het lelijke van de mensheid zit er dus ook in: racisme, fascisme, seksisme, noem maar op. Technisch is het niet mogelijk om enkel de mooie dingen op te nemen. Het enige dat je nog kan doen is er wat correcties op toepassen. Modellen zoals ChatGPT doen dat. Ze krijgen begrenzingen mee: ‘guardrails’ noemt men dat.”

“Net zoals het alle slechtheid bevat, heb je via AI ook de kracht van de mensheid binnen handbereik. Het verruimt je denken, als je het ‘goed’ gebruikt. Dat is de kernvraag: wat vinden we ‘goed’? We moeten als samenleving bepalen wat goed is en wat niet, waarvoor AI kan dienen en waarvoor niet. En dus ook bepalen wat zo uniek is aan onze menselijkheid.”

“Dan kan je bijvoorbeeld concluderen dat menselijkheid in bepaalde jobs de kern moet blijven, zonder AI. En ook dat je voor sommige dingen AI wel kan gebruiken, maar dan enkel op een manier die wij beslissen. ”

“Beide, maar in de eerste plaats kijk ik naar wetgeving. Daar zit je natuurlijk met het probleem dat dat niet op wereldniveau kan. Europa is vandaag relatief streng in vergelijking met de rest van de wereld. Het gevaar bestaat dat Europa lakser wordt, naarmate we er economisch nadeel van ondervinden. Ik hoop dat Europa de leiding blijft nemen in de regelgeving rond AI, omdat de politiek het algemeen belang moeten blijven verdedigen.”

“Het lijkt mij belangrijk dat we als burgers druk zetten op AI-bedrijven opdat ze onze definitie van goed gedrag van een chatbot omarmen. Dat ze dat mee inbakken in hun systemen. Maar dan moet je eerst wel zelf weten wat je verstaat onder goed gedrag. Hier zie ik een belangrijke rol weggelegd voor sociale professionals.”

“Het sociaal werk zit hier in een unieke positie, omdat er zoiets bestaat als chathulp. Denk aan Tele-Onthaal, Awel, CLBCh@t en nog vele anderen. In Vlaanderen alleen al zijn er duizenden mensen die hierin gespecialiseerd zijn. Wie anders dan hen kan aangeven wat goede chathulp is?”

“De internationale federaties van hulplijnen, sociaal werk en psychologen zouden schouder aan schouder moeten staan en zeggen: ‘Beste Meta, OpenAi en co, als jullie niet de hele tijd willen aangeklaagd worden, bijvoorbeeld voor zelfdodingen die uitgelokt worden door jullie product, kunnen wij een rol van betekenis spelen.’ Zij kunnen techbedrijven en overheden kwaliteitsindicatoren aanreiken.”

“Bij ChatGPT spreken één op drie van hun gebruikers ook over mentale gezondheid. Er zijn helaas genoeg hulpvragen. Ik durf dus in twijfel te trekken dat het jobs van chathulpverleners bedreigt. Het is een extra tool en soms een extra halte op weg naar hulp, want chatbots verwijzen ook door. De organisaties waarnaar wordt doorverwezen voelen dat ook in hun cijfers.”

‘We moeten mensen waarschuwen en sensibiliseren.’

“Ik vraag sociale professionals ook niet om te helpen bij het trainen van de modellen, maar om het uitzetten van de juiste guardrails: wat zijn de ethische waarden, waar liggen de grenzen? Als je die verandert, heb je meteen een groot effect. We hebben dat getest. Via systeemprompts gaven we een AI-model kaders. De chatbot gaat zich dan heel anders gedragen.”

“Net omdat mensen AI al massaal voor hulp gebruiken, vind ik dat je die populaire modellen moet proberen beter te maken. Tegelijk moeten we inzetten op waarschuwen en sensibiliseren. Zodat mensen weten dat ze met een robot spreken die niet intelligent is, maar wel geloofwaardig klinkt. En die niet noodzakelijk het juiste zegt. En daarnaast valt er iets voor te zeggen dat de hulpverlening zélf gespecialiseerde chatbots gaat maken. Maar dat is lastig.”

“Dat komt door de wetgeving. De Europese AI Act is niet zo streng voor algemene chatbots. Het is technologie die voor verschillende doeleinden kan gebruikt worden: huiswerk, vertalingen, coderen, maar evengoed gesprekken over donkere gedachten. Dat kan en dat mag. Als gebruiker ben jij verantwoordelijk. Jij stelt de vragen.”

“Voor gespecialiseerde bots zijn de regels strenger. Heeft het impact op de rechten, het welzijn of de gezondheid van gebruikers, moet er altijd een mens actief meekijken. Dat is praktisch onmogelijk. Die regels worden vandaag wel niet gecontroleerd. Er zijn commerciële chatbots die hun dienst een andere naam geven, zoals ‘vriendschap’, maar uit alles blijkt dat het ook dient voor mentaal welzijn.”

“Sommige hulpverleningsorganisaties interpreteren de wetgeving minder strikt en weren enkel het thema suïcide. De Finse jongerenhulplijn ontwikkelde zo’n chatbot. Zodra iemand over zelfdoding begint, krijg die een scherm te zien die doorverwijst naar menselijke hulp.”

“Je belandt nooit in een wachtrij, ook niet in het midden van de nacht. Stel dat iemand om drie uur ’s nachts denkt aan automutilatie of zelfdoding en de chatbot kan die persoon op zo’n manier helpen dat die het rekt tot de volgende dag om naar de dokter of therapeut te gaan. Dan heb je wel een groot verschil gemaakt, als de hulp tenminste goed was.”

‘Je belandt nooit in een wachtrij, ook niet in het midden van de nacht.’

“Bij bepaalde doelgroepen is de anonimiteit ook een grote meerwaarde. Ik denk aan preventie bij daders van seksueel geweld of ‘consumenten’ van kinderporno. Garandeer je honderd procent anonimiteit dan zullen meer mensen hulp durven vragen. Maar dit blijft voorlopig een gedachtenexperiment want de wetgever laat het niet toe.”

“Over enkele jaren zal het een rol spelen in elke job, net zoals iedereen een telefoon en een pc heeft. De mogelijkheden zijn eindeloos. Je kan het gebruiken als inspiratiebron, bijvoorbeeld als je een methodiek zoekt voor een moeilijke situatie. Het kan dienen als sparringpartner, om je gedachten te ordenen. Het kan helpen om een formele mail op te stellen.”

‘Vandaag gebruiken veel professionals het al. Alleen is het nu ongereguleerd, wat potentieel gevaarlijk is.’

“Ook voor iedereen die vandaag veel tijd kwijt is aan verslagen maken, kan het een zegen zijn. Door een gesprek of vergadering op te nemen, kan je quasi automatisch een verslag maken over wat er gezegd is, met zelfs een to-do-lijst per persoon en in een sjabloon van je organisatie. Volgens mij wordt dit de standaard.”

“Maak je maar geen illusies: vandaag gebruiken veel professionals het al. Alleen is het nu ongereguleerd, wat potentieel gevaarlijk is. Het is dus belangrijk dat organisaties werk maken van een intern AI-kader om vast te leggen wat niet kan, maar ook wat wél.”

Lees ook

Artificiële intelligentie: ‘We moeten opnieuw kritisch leren denken’

“Veel organisaties denken dat ze daar niet klaar voor zijn. Tegen hen wil ik zeggen: ‘Begin er gewoon mee’. Zo’n kader hoeft geen spectaculaire dingen te omvatten. Het gaat over wat je als organisatie correct gebruik van AI vindt, wat de aandachtspunten zijn op vlak van privacy en welke tools je naar voren schuift. Dat er een kader is, betekent dat je mensen vormingen kan geven en op fout gebruik kan aanspreken.”

“Bij sommige overheden leeft de logica dat het jobs kan besparen, maar ik durf ze tegen te spreken. Het is geen toverstaf. Administratie is voor velen vooral een saai taakje. Door dat aan AI uit te besteden creëer je extra ruimte en tijd voor kerntaken. De kwaliteit van de verslagen zal er ook op vooruitgaan: ze zijn uniformer. Daardoor zal je ook over meer vergelijkbare data beschikken en beter bepaalde zaken kunnen monitoren. Ik denk dus dat er zo net meer noden zullen blootgelegd worden.”

“Zeker niet! Die chatbots kennen enkel taal als een patroon. Ze weten hoe een juridische tekst eruitziet en kunnen dat nabootsen, maar begrijpen de inhoud niet. Info over Belgische, Nederlandse, Franse wetgeving, dat loopt allemaal door elkaar. Dat is gevaarlijk, want zo’n bot weet heel goed hoe het antwoord moet klinken zodat het geloofwaardig lijkt.”

“Ook hier weer: gevaarlijk. Want inhoud en vorm worden nu samen weergegeven. Als gebruiker weet je niet wanneer het antwoord op inhoud gebaseerd is en wanneer het puur over de taal gaat. Dus het antwoord zal hier en daar juist zijn maar af en toe flagrant fout.”

“Dat werkt niet. Wat wel werkt, is het systeem dwingen om zijn inhoud te halen uit bepaalde bestanden. Die techniek heet RAG, Retrieval-Augmented Generation. Als je bijvoorbeeld een groot OCMW bent en je merkt dat je maatschappelijk werkers sommige rechten of regels te weinig kennen kan je heel eenvoudig een eigen chatbot maken die de info haalt uit bepaalde kaders en wetteksten die je zelf vooraf hebt bepaald. Dan wordt het taalmodel gebruikt om informatie die in de data zit eruit te halen op een bevattelijke manier. Maar als je het omdraait, en je het taalmodel ziet als de bron van kennis, dan ga je vaak de mist in.”

“Nee. Maar je moet beseffen waarom die gratis versies bestaan: ze gebruiken al je input als testmateriaal om hun model te trainen.”

“Je moet dus heel voorzichtig zijn met alles wat je in het systeem stopt. Ook hier geldt de GDPR-regelgeving. Je mag niet zomaar informatie van cliënten verwerken met AI zonder dat zij daar vooraf toestemming over gegeven hebben.”

“Ik veronderstel dat de privacy statements en gebruiksreglementen van organisaties zullen aangepast worden om dit mogelijk te maken. Als je je dan ergens aanmeldt als cliënt, geef je hier toestemming voor.”

“De privacydiscussie over AI is complex. Zo’n taalmodel is niet geïnteresseerd in jouw persoonlijke info. Wat het wel wil, is patronen vinden. En daarvoor heeft het heel veel data nodig. Het taalmodel zet tijdens zijn training ruwe data om naar een patroon, wat op zich een vorm van anonimisering is.”

‘Kies niet zomaar de goedkoopste tools, of de beste.’

“Je kan wel gevaar zien als bedrijven jouw gegevens voor andere dingen zouden gebruiken, bijvoorbeeld door ze te verkopen of voor gerichte marketing. In die zin is er een risico. Alles valt of staat ook met de gebruiker en hoe voorzichtig die is met wat die aan AI voedt. De luiheid van mensen is hier een valkuil: verwijder eerst alle privacygevoelige info voordat je het aan een AI-model geeft.”

“Als organisatie moet je dus enerzijds je medewerkers een goed kader meegeven en anderzijds privacy en soevereiniteit naar voren schuiven bij de keuze van de technologie. Kies niet zomaar de goedkoopste tools, of de beste, maar kijk naar waar in de wereld de servers staan en aan welke regelgeving ze voldoen. Dan kom je momenteel al snel uit bij Europese tools, zoals het Franse Mistral.”

“Dat is een interessant ethisch vraagstuk, waarbij ik merk dat ik zelf wat schipper. Het is bij uitstek aan het sociaal werk, als mensenrechtenberoep, om hier een verschil te maken. We moeten schouder aan schouder staan en eisen dat het beter wordt. We hebben daar een positieve rol te spelen.”

“Als je weet dat het door miljoenen mensen gebruikt wordt, dan is boycotten en je handen ervan afhouden niet genoeg. Je moet ook luid je stem laten horen. Dat kan via activisme, maar ook door achter de schermen actief mee te werken aan betere versies van AI. Maar hoe dan ook moeten we eerst het debat voeren: wat is er exact mis met de modellen van vandaag en hoe kan het beter?”

Lees ook

Mag ik AI gebruiken in mijn job als hulpverlener?

“Tegelijk lig ik er ook soms wakker van. Wat als over x-aantal jaar blijkt dat je hebt bijgedragen aan de evolutie van AI en het eindresultaat niet positief is? Dat je er misschien enkel wat scherpe kantjes hebt van kunnen afvijlen, maar tegelijk mee het pad effende voor iets problematisch?”

“We staan in elk geval voor een keuze. En voor mij wint de noodzaak dan van het risico. Want AI is al dominant. Zo veel mensen vertrouwen erop voor hulp. Dan kan je niet aan de kant blijven staan. Zeker als je weet dat het technisch heel makkelijk is om die systemen te verbeteren.”