Problemdefinitioner på tværs af algoritme og fagperson – algoritmisk kategoriseringshjælp og socialfaglighed.

Definition og kategorisering af sociale problemer med børn og unge i udsatte positioner er et område, der har optaget forskere og praktikere i lang tid. Der er beskrevet udfordringer med at
professionelle definerer problemerne for hurtigt, og derfor muligvis sætter gang i forkerte interventioner. I beslutningsteori taler man blandt andet om tunnelsyn, pragmatisme og fiksering på ét fact i beslutningsprocessen (Munro 1999). I arbejdet med at kategorisere børn og unges sociale problemer, trækker fagprofessionelle på forskellige modeller og metoder. Kunstig intelligens, som fx sprogteknologier, udvikles i disse år til brug i det sociale arbejde med børn og unge og har potentiale til at hjælpe med netop udfordringen med at kategorisere og definere de problemer, børn og unge henvender sig med. I denne præsentation stiller vi på baggrund af et forskningsprojekt om udviklingen og implementeringen af en algoritmisk rådgiverassistent spørgsmålet: hvad sker der med kategoriseringsarbejdet i det sociale, frivillige arbejde med at rådgive børn og unge, når det udføres på tværs af algoritme og fagperson?

I præsentationen trækker vi på litteratur om klassifikationer (Bowker og Star, 2000), og ideer om, hvordan klassificeringer skaber sammenlignelighed, synlighed og kontrol (Bowker et al., 1996). Vi analyserer kvalitative interviews, mødeobservationer, observationer af det frivillige rådgivningsarbejde og dokumenter. Vores indledende analyser viser blandt andet, at den algoritmiske kategoriseringshjælp både skaber synlighed af bestemte sociale problemer, men også skaber usynlighed af problemer på grund af den måde, den er lavet på for at forhindre bias. Derudover viser vores analyser, at socialfaglige medarbejdere løbende er meget involveret i udviklingen, kvalificeringen og vedligeholdelsen af algoritmen, og at algoritmen i sig selv derfor også er et produkt af tværprofessionelt samarbejde med udviklere og socialfaglige medarbejdere.

Præsentationen er relevant for velfærdsprofessionelle, der arbejder med børn og unge i udsatte positioner, særligt dem der skal arbejde eller allerede arbejder med forskellige digitale, AI-systemer i deres praksis.

Nøgleord: Problemdefinitioner, kategorisering, beslutning, kunstig intelligens, rådgivning