Wie funktioniert Generative KI – und was bedeutet das für Ihre Arbeit?

KI kann unseren Arbeitsalltag erleichtern: Texte verbessern, Ideen entwickeln, Routineaufgaben beschleunigen. Doch um KI-Tools wie ChatGPT, Claude oder Copilot sinnvoll zu nutzen, hilft es zu verstehen, wie sie "ticken".

Vergessen Sie Rechnen und Wenn-Dann-Logiken – KI errät Muster: Generative KI hat während des Trainings Millionen von Texten gelesen und dabei Sprachmuster erlernt. Sie ist mehr von diesen (immer schon veralteten) Daten abhängig als von klarer Wenn-Dann-Logik. Auch wenn manche KI-Tools im Internet recherchieren können, tun sie das nicht automatisch – sie antworten meist erst aus ihren Trainingsdaten. Wenn Sie eine Frage stellen (einen "Prompt" geben), schlägt sie nicht nach, sondern generiert eine Antwort basierend auf diesen Mustern – ähnlich wie Ihr Smartphone das nächste Wort vorhersagt. „Nur“ auf Textebene. 

Dabei entstehen manchmal "Halluzinationen“: Das heißt, die KI erfindet Infos, die plausibel klingen, aber falsch sind. Sie "lügt" nicht absichtlich – sie kennt nur Wahrscheinlichkeiten, keine Wahrheit. Sie ist kein Lexikon und keine Google-Suche. Infos aus KI sollten Sie deshalb immer gegenchecken. Und: Nutzen Sie KI dort, wo ihre Kreativität ein Vorteil ist – bei Öffentlichkeitsarbeit, Brainstorming und Konzeptarbeit. 

Was hilft? Gutes Prompting mit genug Kontext und Struktur. Statt "Schreib einen Text über unser Sommerfest" versuchen Sie es mit: "Du bist Redakteurin für eine Familienberatungsstelle. Schreib einen 200-Wörter-Newsletter-Beitrag über unser Sommerfest, der Eltern neugierig macht und unsere herzliche Atmosphäre transportiert.“ Ein Warnhinweis: Bitte teilen Sie dabei keine personenbezogenen Daten, da kaum ein Tool eine DSGVO-konforme Verarbeitung ermöglicht.

Zwischenfazit: KI-Tools sind großartige Arbeitspartner – wenn Sie verstehen, dass sie Antworten erraten statt nachzudenken und lernen sie bestmöglich anzuleiten. Mit der richtigen Herangehensweise sparen Sie Zeit und erhöhen Sie die Qualität Ihrer Arbeit.

Quelle: Julia Junge, Organisationscoach und KI-Trainerin. 

Der Einsatz von Künstlicher Intelligenz (KI) in gemeinnützigen Organisationen kann viele Vorteile bringen: Texte schneller erstellen, Zielgruppen besser ansprechen, Förderanträge optimieren. Doch mit der Nutzung moderner KI-Systeme entstehen auch neue rechtliche Fragen – und neue rechtliche Pflichten:

Welche Gesetze sind bei der Nutzung von KI von Relevanz?

• KI-Verordnung der Europäischen Union
• Datenschutzrecht
• Urheberrecht
• und viele weitere mittelbar

Was regelt die EU-KI-Verordnung?

Die 2024 beschlossene EU-KI-Verordnung (AI Act) unterscheidet KI-Systeme nach Risikokategorien – von verbotenen Praktiken über Hochrisiko-Anwendungen bis hin zu minimal-riskanten Tools wie etwa Textgeneratoren. Für gemeinnützige Organisationen stellt sich dabei unter anderem die Frage, unter welchen Umständen ein KI-System als „Hochrisiko-Anwendung“ eingestuft wird. Das könnte beispielsweise bei automatisierten Auswahlverfahren für Bewerbungen oder bei der Analyse sensibler Gesundheitsdaten der Fall sein.

Zudem verpflichtet die KI-Verordnung Organisationen hinzu, bei Mitarbeitern den Aufbau von Kompetenzen im Umgang mit KI-Systemen sicherzustellen, wenn sie im Alltag mit KI-Systemen arbeiten.

Was ist bei KI datenschutzrechtlich zu beachten?

Bei der Nutzung von Künstlicher Intelligenz (KI) sollten Sie keine personenbezogenen oder sensiblen Daten eingeben – etwa Namen, Adressen, Gesundheitsdaten oder vertrauliche Informationen Ihrer Organisation. Solche Daten könnten vom Anbieter gespeichert oder zur Weiterentwicklung der KI verwendet werden. Beachten Sie außerdem, dass viele KI-Systeme auf Servern in Ländern außerhalb der EU laufen, wie zum Beispiel den USA, wo weniger strenge Datenschutzgesetze gelten.

Vieles Weitere kommt für Organisationen hinzu: Verarbeitungsverzeichnis, technische und organisatorische Maßnahmen, wie Handlungsanweisungen und die Zuweisung von Verantwortlichkeiten etc. Insgesamt bedarf es bei der Einführung von KI in Organisationen eines Ansatzes, der das Thema Datenschutz umfassend berücksichtigt.

Urheberrecht und KI – was ist erlaubt?

KI-generierte Inhalte können unter bestimmten Umständen problematisch sein: Gibt eine KI ein Werk (Bild, Text, Musik, Video etc.) im Stil eines Künstlers aus, kann dessen Urheberrecht verletzt sein. Umgekehrt ist unklar, wie man eigene Werke vor der Nutzung als Trainingsmaterial oder die erzeugten KI-Ergebnisse schützen kann. Es gibt derzeit noch keine einheitliche gesetzliche Regelung. Daher ist in urheberrechtlicher Hinsicht derzeit große Vorsicht geboten.

Wer haftet bei Fehlern der KI?

Für falsche, diskriminierende oder schädliche Inhalte haftet in der Regel der Nutzer, nicht die KI selbst. Die Verantwortung für die Verwendung und Verbreitung liegt bei Ihnen.

Weitere rechtliche Fallstricke?

Zum einen können KI-Systeme Vorurteile oder Fehlinformationen verstärken, die rechtliche Grenzen überschreiten (etwa das Allgemeine Gleichbehandlungsgesetz, AGG). Ein weiteres Risiko besteht zum anderen in der Erstellung und Verbreitung sogenannter Deepfakes – täuschend echt wirkender, manipulierter Bilder, Videos oder Audiodateien. Ohne eindeutige Kennzeichnung sind sie unzulässig, da sie zur Irreführung und Manipulation beitragen und Persönlichkeitsrechte verletzen können (etwa im Rahmen von § 823 Abs. 1 und 2 BGB).

Generell gilt: Viele Rechtsfragen im Kontext von KI sind noch nicht abschließend geklärt. Dies ist auf die bislang fehlende Transparenz und Nachvollziehbarkeit von KI-Systemen zurückzuführen (Stichwort „Black Box“). Mit KI sollte deshalb vorsichtig und umsichtig gearbeitet werden.

Quelle: Dr. Liane Gärtner, Leitung E-Learning und Kommunikation, Kanzlei Leu

Die zunehmende Digitalisierung/digitale Transformation hat Auswirkungen auf die Soziale Arbeit, deren Arbeitsfelder wie auch deren professionelles Selbstverständnis. Nicht nur, aber insbesondere durch KI stellt sich die Frage nach sozialarbeiterischer/sozialpädagogischer Professionalität in neuer Weise:

• Sind Chatbots die besseren Berater*innen?
• Werden soziale Roboter menschliche Fachkräfte ersetzen?
• Welche Auswirkungen hat KI auf die professionelle Beziehungsgestaltung?
• Können wir KI-gestützten Entscheidungs- und Prognoseinstrumenten vertrauen?
• Ist der Einsatz von KI eine Antwort auf den Fachkräftemangel?
• Wenn KI-gestützte Tools eingesetzt werden: Wurden ethische Dimensionen bei der Entwicklung wie auch beim Umgang mit z.B. Empfehlungen (Risikoprognostik) berücksichtigt: Ethics by Design/Digital Ethics Assessment?
• Wie gehen wir verantwortungsvoll mit dem digitalen Bias (Diskriminierung, Rassismus, Reproduktion von Stereotypen) um?
• Wie gelingt es uns, unsere Adressat*innen zu befähigen, sich in der digitalen Welt kompetent zu bewegen (digital literacy)?

Diese Auswirkungen betreffen nicht nur einzelne Fachkräfte, sondern auch die Organisation wie (Sozial-)Politik/Gesellschaft.:

„Für die Fachkräfte bedeutet dies, in der Praxis des moralischen Urteilens (...) Fragen von Verantwortung, Teilhabe, Schutz und Autonomie im Zusammenhang der Digitalisierungsentwicklungen im Feld mit der Haltung einer fragenden, Handlungsmöglichkeiten prüfenden Beurteilung zu begegnen und in kommunikativen Argumentationszusammenhängen Entscheidungsmöglichkeiten und Handlungsspielräume zu prüfen.

Auf Organisationsebene bedarf es verankerter Verfahren und leitlinienförmiger Orientierungen, die auf der Basis einerseits kontinuierlicher kommunikativer Prozesse des feld- und zielgruppen-spezifischen Abwägens mit den Professionellen und systematischem Technikwissen entwickelt werden.

Da entscheidende Rahmenbedingungen nur durch politische und gesetzliche Normen reguliert werden können, ist es jedoch auch erforderlich, die ethischen Fragen aus der Perspektive fachlicher Qualität in Gestaltungsprozesse auf politischer Ebene einzubringen“ (Kutscher 2020, 359).

Um Risiken und Nebenwirkungen, aber auch Chancen kritisch diskutieren wie reflektieren zu können, reichen Wissen und Können alleine nicht aus. Hier kommt der digitalen Ethik eine zentrale Bedeutung zu.

Digitale Ethik

„ist eine Bereichsethik, die sich den spezifischen ethischen Fragen der digitalen Medien und Technologien widmet. Sie befindet sich an der Schnittstelle zwischen Medienethik, Informationsethik und Technikethik. Digitale Ethik reflektiert (ethisch) richtiges Handeln und (moralische) Werte- und Normensysteme einer digitalen Gesellschaft.

Zu den Aufgaben einer Digitalen Ethik gehört es, die Auswirkungen der Digitalisierung auf die Gesellschaft und die*den Einzelne*n zu diagnostizieren sowie konsistente Begründungen für moralisches Handeln und normative Standards zu erarbeiten. Des Weiteren kann sie bei Werte- und Normenfragen, die mit neuen Technologien und den daraus resultierenden sozialkommunikativen Praktiken verbunden sind, als Navigationsinstrument dienen.

Eine zentrale Frage der Digitalen Ethik ist, wie wir ein gutes Leben in einer digitalen Gesellschaft realisieren können“ (Grimm 2018, 24).

Digitale Ethik ist daher nicht nur auf Fragen des Datenschutzes und der Datensicherheit zu begrenzen. Ethische Dimensionen, wie z.B. Freiheit, Sicherheit, Autonomie, Gerechtigkeit, Verantwortung, Vertrauen, Nicht-Schaden, Transparenz sind auch im Digitalen zu berücksichtigen.

Quelle: Prof. Dr. Michael Domes, Professur für Theorien und Handlungslehre in der Sozialen Arbeit, Technische Hochschule Nürnberg Georg Simon Ohm