Miriam Wolf wirbt beim Treff Sozialarbeit für klare Regeln und mehr Kompetenz im Umgang mit Künstlicher Intelligenz
Fast alle nutzen die neuen Möglichkeiten, aber Vorgaben gibt es keine. Das wäre die schlechteste aller Varianten. Beim Treff Sozialarbeit der Evangelischen Gesellschaft eva hat Miriam Wolf vom Verband für Digitalisierung in der Sozialwirtschaft vor der „Schattennutzung“ von KI in Organisationen gewarnt. Und dafür plädiert, dass Mitarbeitende bei der Nutzung von Künstlicher Intelligenz Leitlinien an die Hand bekommen.
Es ist nicht alles sinnvoll, was möglich ist. Das gilt auch für die Nutzung von KI-Anwendungen, die Prozesse in einer Organisation vereinfachen sollen. Doch was ist, wenn das Programm für die Raumbuchung nicht kompatibel sind mit anderen Anwendungen? Und wie wird sichergestellt, dass personenbezogene Daten gut geschützt sind? Miriam Wolf, Vorständin beim Verband für Digitalisierung in der Sozialwirtschaft (vediso), kennt die Tücken und die Chancen, die KI für soziale Organisationen bietet.
Generative Künstliche Intelligenz, also Systeme, die mit immensen Datenmengen unbekannter Herkunft trainiert werden, gibt Antworten, die zwar immer plausibel klingen, aber unsinnig sein können. „Diese Form der Künstlichen Intelligenz arbeitet mit Wahrscheinlichkeiten, kann aber auch falsche Antworten geben. KI weiß nichts sicher“, sagt Miriam Wolf. Es braucht also immer eine mitdenkende Person, die Antworten von ChatGPT auf ihre Plausibilität prüft.
KI sagt, was man hören möchte
Klientinnen und Klienten mit einer diagnostizierten Depression fühlen sich jedoch von einem Chatbot fast so gut unterstützt wie durch eine Psychotherapie, so eine Studie der Deutschen Depressionshilfe. Der Aussage „Der Chatbot versteht mich besser als ein echter Mensch“ stimmen knapp 33 Prozent der jugendlichen Befragten zu, die von einer depressiven Symptomatik betroffen sind. Nicht-depressive Kinder antworten auf dieselbe Frage nur zu sieben Prozent mit „ja“. Insbesondere einsame und psychisch belastete Menschen nutzen KI als eigenständige und meist für andere unsichtbare Hilfeinstanz. „KI sagt eher das, was wir hören möchten“, gibt Wolf zu bedenken.
Das Feld der KI-gestützten Anwendungen in einer sozialen Organisation ist groß: Die Beraterin nutzt ein Übersetzungsprogramm, um den arabisch sprechenden Klienten zu verstehen. Chatbots helfen bei der Beantwortung von Erstanfragen und die Reisekostenabrechnung wird durch ein Tool erledigt, das die Richtlinien des Unternehmens kennt. KI kann Teilhabe für Klientinnen und Klienten erleichtern und Mitarbeitende von Routinearbeiten entlasten, zum Beispiel bei der Dokumentation Allerdings: Wenn Mitarbeitende öffentlich zugänglich KI-Anwendungen nutzen, es aber keine Regeln im Unternehmen dafür gibt, ist die Gefahr der Verletzung von Datenschutzrichtlinien groß.
Richtlinien sorgen für Sicherheit
Miriam Wolf nennt drei „Leitplanken“ für die Nutzung öffentlich zugänglicher KI-Anwendungen. „Gib nur ein, was du auch im Netz publizieren würdest“; „Kennzeichne Ergebnisse, die du nicht selbst erarbeitet hast“; „Begründe keine Entscheidung allein durch das Ergebnis einer KI, die Verantwortung für Ergebnisse liegt bei dir.“
Die Expertin plädierte beim Treff Sozialarbeit vor rund 120 Teilnehmenden dafür, die Nutzung von KI in einer Organisation zu regeln und aus dem Schatten zu holen. Welche KI-Werkzeuge Mitarbeitende nutzen dürfen, erfordere eine Antwort der Unternehmensführung und diese Werkzeuge sollten dann offiziell bereitgestellt werden. Das Arbeiten mit Künstlicher Intelligenz erfordere Kompetenz: „Wenn Mitarbeitende im Prompten geschult werden, verbessert das die Ergebnisse und sorgt für mehr Sicherheit“, sagt vediso-Vorständin Miriam Wolf. So wie es in Unternehmen Ansprechpersonen für Datenschutz geben muss, sollte es auch Verantwortliche für die Nutzung von KI geben.
Künstliche Intelligenz entwickelt sich mit rasanter Geschwindigkeit und Organisationen können mit diesem Tempo kaum mithalten. Umso wichtiger sei es, dass ein soziales Unternehmen einerseits Innovation ermögliche, etwa mit Pilotprojekten, und gleichzeitig Mitarbeitende und Klienten nicht alleine lasse mit den Herausforderungen durch KI. „Die Haltung ‚ich will damit nichts zu tun haben‘ ist keine Lösung, KI-Anwendungen verschwinden nicht, wenn man sie ignoriert“, warnt Miriam Wolf. Auch Sozialunternehmen sollten sich an der Debatte beteiligen und kritisch nachfragen, wo und wie KI die eigenen Anliegen unterstützen kann. Sonst überlasse man den Tech-Unternehmen die Hoheit im Diskurs.
