FAQ: Fragen und Antworten zum GKI und KI im Sozialwesen
GKI und GKI:Lösung
Was ist die GKI:Lösung?
Die GKI:Lösung ist eine KI-Plattform für das Sozialwesen, die unterschiedliche KI-Anwendungen in einer datenschutzkonformen Umgebung bündelt. Dazu gehören Funktionen für die Arbeit mit generativer KI, fachlich zugeschnittene Assistenten und weitere spezialisierte Anwendungen für konkrete Aufgaben im Arbeitsalltag. Gestartet sind wir in der Kinder- und Jugendhilfe, inzwischen arbeiten wir auch in der Eingliederungshilfe. Die Lösungen werden gemeinsam mit Organisationen aus Praxis und Verwaltung und mit wissenschaftlicher Begleitung weiterentwickelt.
Ist die GKI:Lösung eine Alternative zu ChatGPT und anderen KI-Diensten?
Ja, in vielen Anwendungsfällen. Die GKI:Lösung ist eine datenschutzkonforme Alternative zu öffentlichen KI-Diensten wie ChatGPT, Claude, Le Chat und vergleichbaren Angeboten. Anders als bei vielen dieser Dienste wird die GKI:Lösung auf eigener Infrastruktur in Deutschland betrieben. Daten werden nicht zur Verarbeitung an externe KI- oder Cloud-Anbieter weitergegeben. Gleichzeitig wird die Lösung speziell für die Anforderungen des Sozialwesens entwickelt und gemeinsam mit den beteiligten Organisationen weiterentwickelt.
Für wen ist die Lösung gedacht?
Die GKI:Lösung richtet sich an Mitarbeitende in Einrichtungen, freien und öffentlichen Trägern, Jugendämtern und Verwaltungen des Sozialwesens – insbesondere in der Kinder- und Jugendhilfe und der Eingliederungshilfe. Sie ist nicht nur für pädagogische Fachkräfte gedacht, sondern kann auch von Verwaltungsmitarbeitenden und anderen Beschäftigten genutzt werden. Wie breit sie innerhalb einer Organisation eingesetzt wird, entscheidet die jeweilige Einrichtung.
Was kann die KI heute – und was ist perspektivisch geplant?
Die GKI:Lösung bietet viele Möglichkeiten, die auch aus bekannten KI-Diensten vertraut sind. Darüber hinaus entwickeln wir gemeinsam mit den beteiligten Organisationen fachlich zugeschnittene Assistenten für konkrete Aufgaben aus dem Arbeitsalltag – zum Beispiel für Dokumentation, Berichte oder andere wiederkehrende fachliche Prozesse. Weitere Funktionen und Anwendungsfelder werden Schritt für Schritt ergänzt. Dabei steht nicht im Vordergrund, möglichst schnell immer neue Funktionen bereitzustellen. Entscheidend ist, dass sie fachlich sinnvoll sind, in der Praxis funktionieren und gut in den Arbeitsalltag eingeführt werden können. Welche Funktionen aktuell verfügbar sind und woran wir als Nächstes arbeiten, zeigen wir am besten im persönlichen Austausch.
Was unterscheidet das GKI von einem klassischen Softwareanbieter?
Das GKI entwickelt Lösungen nicht allein technisch, sondern gemeinsam mit Organisationen aus Praxis und Verwaltung und mit wissenschaftlicher Begleitung. Gemeinwohlorientierung bedeutet für uns dabei vor allem, fachlich spezifische Lösungen zu entwickeln, die sich an den konkreten Bedarfen des Sozialwesens orientieren und zugleich verantwortungsvoll, rechtskonform und zu tragfähigen Bedingungen eingesetzt werden können. Anforderungen werden gemeinsam priorisiert, neue Entwicklungen erprobt und die Erfahrungen daraus fließen in die nächsten Entwicklungszyklen ein. Nicht die möglichst schnelle Einführung immer neuer Funktionen steht im Vordergrund, sondern die Qualität und Passung der Lösungen für das Sozialwesen.
Was bedeutet „bedarfsgerecht entwickelt“?
Bedarfsgerecht bedeutet für uns mehr als passende Funktionen zu entwickeln. Die Lösung muss zu den fachlichen Anforderungen des Sozialwesens ebenso passen wie zu den Anforderungen an Datenschutz, Datensouveränität und verantwortliche Nutzung. Gemeinsam mit den beteiligten Organisationen wird entschieden, welche Anwendungen priorisiert und wann neue Entwicklungen produktiv eingesetzt werden. Nicht alles, was technisch möglich ist, wird sofort eingeführt.
Datenschutz, Datensouveränität und Technik
Wo werden Daten verarbeitet und was bedeutet Datensouveränität für das GKI?
Die Datenverarbeitung erfolgt auf sicheren Servern in Deutschland. Auch in der zugrunde liegenden technischen Infrastruktur werden keine US-Cloud-Dienste genutzt. Die Daten verbleiben im deutschen Rechtsraum.
Datensouveränität bedeutet für uns, die Kontrolle über Daten, Systeme und technische Strukturen so weit wie möglich selbst zu behalten. Deshalb setzen wir auf offene Standards und Open-Source-Lösungen und entwickeln dort eigene Lösungen, wo geeignete offene Alternativen fehlen. Bei unserer technischen Infrastruktur orientieren wir uns an den Prinzipien des Deutschland-Stacks der Bundesregierung – insbesondere an digitaler Souveränität, offenen Standards und der Vermeidung unnötiger Abhängigkeiten.
Wie wählt das GKI Sprachmodelle aus und wie geht es mit Bias um?
Die GKI:Lösung kann unterschiedliche Open-Source- und Open-Weight-Sprachmodelle einsetzen und ist damit nicht von einem einzelnen Anbieter abhängig. Bei der Auswahl und Nutzung der Modelle berücksichtigen wir neben Leistungsfähigkeit und Eignung auch mögliche Verzerrungen (Bias). Dafür setzen wir unter anderem Verfahren ein, mit denen solche Verzerrungen erkannt und untersucht werden können.
Kann die KI auf das öffentliche Internet zugreifen?
Nein. Ein Zugriff auf das öffentliche Internet wäre technisch grundsätzlich möglich. Die beteiligten Organisationen haben sich jedoch bewusst für einen kontrollierten Umgang mit Daten und Wissensquellen entschieden. Deshalb greift die GKI:Lösung derzeit nicht auf das öffentliche Internet zu.
So bleiben Datenflüsse kontrollierbar und Eingaben werden nicht für Webrecherchen an externe Dienste weitergegeben. Gleichzeitig lässt sich gezielt steuern, auf welches Wissen die KI zurückgreift. Statt beliebige Quellen aus dem Internet einzubeziehen, kann relevantes Wissen kuratiert, geprüft und transparent bereitgestellt werden. Das schafft eine nachvollziehbare Wissensbasis und knüpft direkt an das GKI:Wissensmanagement an.
Einführung in Organisationen
Wie läuft die Einführung der KI in einer Organisation ab?
Eine sinnvolle KI-Einführung ist mehr als die technische Bereitstellung eines Systems. Sie beginnt mit der Klärung von Bedarfen und Zielen und umfasst auch Kompetenzaufbau, Akzeptanz und einen verantwortungsvollen Umgang mit KI. Neue Anwendungen sollten zunächst erprobt, anschließend schrittweise in bestehende Arbeitsprozesse integriert und regelmäßig ausgewertet und weiterentwickelt werden. Als Orientierung dient dabei auch das sechsstufiges Implementierungsmodell für eine nachhaltige KI-Nutzung, entwickelt von Monika Feist-Ortmann und Prof. Dr. Michael Macsenaere.
Welche Unterstützung gibt es beim Einstieg in KI?
Der Aufbau von KI-Kompetenz ist für uns ein zentraler Bestandteil einer verantwortungsvollen Einführung. KI sollte nicht vorschnell eingekauft und anschließend einfach „ausgerollt“ werden. Entscheidend ist, dass Mitarbeitende verstehen, was KI leisten kann, wo ihre Grenzen liegen und wie sie fachlich sinnvoll eingesetzt wird. Deshalb begleiten wir den Einstieg mit verschiedenen Unterstützungsangeboten – zum Beispiel E-Learning, einem Playbook, Einführungsvideos sowie dem Austausch mit anderen teilnehmenden Organisationen. So können Wissen, AI Literacy und praktische Erfahrung Schritt für Schritt aufgebaut werden.
Bei Bedarf können Sie auch einen Blick auf die Angebote der IKJ Akademie werfen. Dort finden Sie sowohl offene Online-Termine als auch individuell abgestimmte Formate für Teams und Organisationen.
Wie werden KI-Ergebnisse verantwortungsvoll in den Arbeitsalltag integriert?
Die KI trifft keine fachlichen Entscheidungen. Sie unterstützt Fachkräfte, die Verantwortung bleibt aber beim Menschen. KI-generierte Inhalte sind Arbeitshilfen und müssen vor der weiteren Nutzung fachlich geprüft werden. Dieses Human-in-the-Loop-Prinzip gehört zu den zentralen Grundsätzen der GKI. Dazu gehören auch Transparenz, nachvollziehbare Ergebnisse, AI Literacy und eine schrittweise, verantwortungsvolle Einführung in die Arbeitsabläufe der Organisationen.
Initiative und Mitgestaltung
Was ist der Unterschied zwischen einer Lizenz und der Teilnahme an der GKI:Initiative?
Mit einer Lizenz kann eine Organisation eine GKI:Lösung nutzen. Die GKI:Initiative geht darüber hinaus: Sie ist eine dauerhafte Entwicklungsinitiative, in der Organisationen sich an Entwicklungszyklen, Priorisierungen und gemeinsamen Lernprozessen beteiligen können und von den damit verbundenen Möglichkeiten profitieren. Mehr dazu unter „Welche Vorteile bietet die Teilnahme an der GKI:Initiative?“
Welche Vorteile bietet die Teilnahme an der GKI:Initiative?
Teilnehmende Organisationen können eigene Bedarfe und Erfahrungen einbringen, neue Entwicklungen früh erproben und durch ihr Feedback an der Weiterentwicklung mitwirken. Gleichzeitig profitieren sie vom Austausch mit anderen Organisationen, gemeinsamen Lernprozessen und regelmäßigen Formaten. Für die Einführung und Nutzung stehen ihnen zudem unterstützende Materialien und Angebote zur Verfügung. Wissenschaftliche Perspektiven begleiten die Entwicklung. Für die Nutzung der GKI:Lösungen gelten zudem besondere Konditionen.