neue Wege der Mensch-KI-Zusammenarbeit
F?nf Jahre Forschung zu Methoden und Tools f?r die verantwortliche und
menschenzentrierte KI-Gestaltung
Wie kann K?nstliche Intelligenz Menschen im Arbeitsalltag unterst?tzen, ohne ihnen
Entscheidungen abzunehmen? Dieser Frage ist das Kompetenzzentrum KARL in den
vergangenen f?nf Jahren gemeinsam mit Unternehmen und Forschungspartnern
nachgegangen. Zum Abschluss des vom Bundesministerium f?r Forschung, Technologie
und Raumfahrt gef?rderten Projekts ziehen die Beteiligten Bilanz: Zahlreiche
Demonstratoren, praxisnahe Anwendungen und neue Methoden zeigen, wie
menschenzentrierte KI in Unternehmen eingesetzt werden kann – von der
Verkehrssteuerung bis zur Produktion.
Unfall am Durlacher Tor. Eine Bahn steht quer. Der Verkehr stockt. Anschl?sse brechen weg. In
der Leitstelle des Karlsruher Verkehrsverbunds laufen die Telefone hei?. Zwei bis drei Minuten
bleiben Disponent:innen, um zu entscheiden: Umleitung? Kurzwende? Anschluss halten? Jede
Entscheidung wirkt sich auf Tausende Fahrg?ste aus. K?nftig soll sie dabei eine K?nstliche
Intelligenz unterst?tzen.
Ein digitaler Vorschlagsassistent analysiert historische Betriebsdaten, simuliert m?gliche
Ma?nahmen und zeigt an, was passieren w?rde, wenn welche Option gew?hlt wird. Die
Entscheidung bleibt beim Menschen. Aber er wird bei der Entscheidungsfindung unterst?tzt.
Der Prototyp wurde im Rahmen des Kompetenzzentrums KARL entwickelt – gemeinsam mit INIT,
einem weltweit f?hrenden Anbieter von IT-L?sungen f?r den ?ffentlichen Nahverkehr.
Inzwischen wird die L?sung aktiv internationalen Verkehrsverb?nden angeboten. Erste Anfragen
kommen bereits.
Was wie ein einzelnes Praxisprojekt wirkt, ist genaugenommen ein Brennglas f?r eine gr??ere
Bewegung. Denn mit diesem Use Case endet ein f?nfj?hriges F?rderprojekt. Gleichzeitig beginnt
etwas Neues.
Zwei Jahre vor ChatGPT
Als KARL im April 2021 startete, gab es kein ChatGPT. Keine breite Sprachmodell-Welle. Keine
?ffentliche Debatte ?ber „Prompten“ und „Halluzinationen“. Die Projektpartner hatten dennoch
Themen auf der Agenda, die heute aktueller kaum sein k?nnten: Transparenz, Erkl?rbarkeit,
Vertrauen, Mensch-KI-Kooperation. „Wir waren weitsichtig“, sagt Projektleiter Steffen Kinkel,
Leiter des Instituts f?r Lernen und Innovation in Netzwerken (ILIN)an der Hochschule Karlsruhe.
„Das Thema Erkl?rbarkeit von KI ist mit dem Aufkommen der gro?en Sprachmodelle noch viel
wichtiger geworden.“
KI-Systeme liefern Ergebnisse, aber oft ohne nachvollziehbaren Weg dorthin. F?r
Anwender:innen, die keine IT-Expert:innen sind, entsteht eine Blackbox. KARL hat hier
methodisch angesetzt: Wie k?nnen Ergebnisse verst?ndlich gemacht werden? Wie kann
Vertrauen entstehen, ohne blindes Vertrauen zu f?rdern? Denn darin liegt eine doppelte Gefahr:
Zu viel Misstrauen und die Technologie wird blockiert. Zu viel Vertrauen und Fehler werden
ungepr?ft ?bernommen. „Wir brauchen eine Balance“, sagt Kinkel. „Kein Overtrust. Aber auch
keine Verweigerung.“
Human in the Loop
Dieses Spannungsfeld hat das Projekt durchzogen. KI nicht als Ersatz, sondern als
Assistenzsystem. Nicht als Automatismus, sondern als Kooperationspartner. Das Leitmotiv:
Menschenzentrierte KI-Gestaltung oder neudeutsch Human in the Loop.
Gerade beim INIT-Use-Case war das entscheidend. In den ersten Workshops stand die Sorge im
Raum, man wolle Arbeitspl?tze ersetzen. Stattdessen ging es darum, Stresssituationen besser
handhabbar zu machen. Entscheidungen fundierter zu treffen. Neue Mitarbeitende schneller
einzuarbeiten. Heute gilt das Projekt als eines der gelungensten Beispiele aus KARL. Es ist
technisch robust und anschlussf?hig. Und es zeigt, was das Kompetenzzentrum leisten wollte:
reale Orte des Erlebens schaffen.
Verschiedene Demonstratoren und Tools – online zug?nglich
KARL hat nicht nur Verkehrsalgorithmen hervorgebracht. Verschiedene Online-Demonstratoren
und Tools bleiben zug?nglich. Darunter ein KI-gest?tzter Literaturrecherche-Bot mit
nachvollziehbarer semantischer Suche. Ein Lernsystem, das Lehrmaterialien kuratiert erweitert.
Ein Online-Kurs, der spielerisch ?ber die Funktionsweisen und Grenzen von Sprachmodellen
informiert. Eine Auswahlhilfe, die Unternehmen online dabei unterst?tzt, passende
Anwendungsf?lle f?r KI-Anwendungen zu finden. Ein KI-Readiness-Check zur Bewertung der
technischen und organisatorischen KI-Bereitschaft von Unternehmen. Ein KI
Kompetenzbenchmark zur Identifikation der f?r die erfolgreiche Einf?hrung und Nutzung von KI
in Unternehmen erforderlichen Kompetenzen. Und reale Demonstratoren aus der Produktion in
der Lernfabrik des wbk-Instituts des KIT – von bildbasierter Qualit?tskontrolle bis hin zu KI
unterst?tzter Roboterprogrammierung. Das Ziel war nie, die perfekte L?sung zu liefern. Sondern
zu zeigen, was m?glich und was n?tig ist.
Der Mittelstand schl?ft nicht
Eine telefonische Umfrage unter mehr als 500 Unternehmen zeichnete ein differenziertes Bild:
40 Prozent nutzen bereits regelm??ig KI. Zwei Jahre davor waren es etwa lediglich ein Drittel
davon. „Die Dringlichkeit ist angekommen“, sagt Steffen Kinkel.
Gleichzeitig offenbart die Studie eine riskante Praxis: In rund 70 Prozent der Unternehmen
d?rfen Mitarbeitende offene Sprachmodelle nutzen, aber nur die H?lfte der Unternehmen hat
klare Nutzungsregeln definiert. Datenschutz, Know-how-Abfluss, unsichere Datenr?ume – oft
ungel?st.
Der Mittelstand will handeln. Er ringt jedoch mit den richtigen Anwendungsf?llen. „Viele fragen
uns: Sagt uns doch, was wir mit KI machen sollen“, so Steffen Kinkel. „Aber so funktioniert es
nicht. KI beginnt nicht bei der Technologie. Sie beginnt bei Prozessen, bei Datenqualit?t und bei
der ehrlichen Analyse repetitiver Aufgaben, die sich wirklich automatisieren lassen.“
Daten sind nicht gleich Daten
Einer der gr??ten Denkfehler: „Wir haben doch Millionen Datens?tze.“ Menge ersetzt keine
Struktur. „Unaufbereitete Daten mit personenbezogenen Attributen sind unbrauchbar und
mitunter rechtlich problematisch. In der Qualit?tskontrolle etwa k?nnen Millionen fehlerfreier
F?lle vorliegen, aber nur wenige dokumentierte Fehler. F?r ein lernendes System ist das zu
wenig.“ KI braucht kuratierte, geeignete Trainingsdaten und realistische Erwartungen. „Es geht
nicht superschnell und super einfach“, betont Steffen Kinkel. „Das ist die Illusion.“
Die eigentliche Baustelle: Kompetenzen
?ber 200 Unternehmen bewerteten im Projekt ein Modell mit 35 KI-relevanten
Einzelkompetenzen. Das Ergebnis: Die Bedeutung wird hoch eingesch?tzt. Die personelle
Ausstattung ist deutlich geringer. Vor allem werden die technischen Kompetenzen ?bersch?tzt
und die organisatorischen untersch?tzt: Change-Management. Projektsteuerung.
Moderationsf?higkeit. Kritisches Hinterfragen von Ergebnissen. „KI-Einf?hrung ist immer ein
Transformationsprozess, kein IT-Update.“
Wer Mitarbeitende nicht mitnimmt, riskiert Stillstand – etwa, wenn Betriebsr?te erst sp?t
eingebunden werden und Projekte stoppen. Kompetenzentwicklung sei kein Vormittagskurs,
betont Steffen Kinkel. Es sei ein Prozess aus Anwenden, Wiederholen, Lernen. Und der braucht
Zeit.
Und jetzt?
Die F?rderperiode endet im M?rz 2026. Knapp zehn Millionen Euro F?rdermittel flossen in f?nf
Jahren in das Netzwerk aus neun Forschungs- und Transferpartnern sowie elf Unternehmen.
Was bleibt? Das Netzwerk. Die Demonstratoren. Die Online-Plattform. Eine Springer
Buchpublikation mit zentralen Erkenntnissen und ein Kernteam, das Anfragen weiter koordiniert
und im Netzwerk verteilt. Zudem laufen Gespr?che ?ber Anschlussprojekte. „Es w?re
jammerschade, wenn hier nichts bleibt“, sagt Steffen Kinkel. „Wir haben in f?nf Jahren eine
Marke aufgebaut.“
Wer steckt hinter KARL?
KARL ist eines von aktuell 13 regionalen Kompetenzzentren und zwei wissenschaftlichen
Begleitprojekten, das die Auswirkungen von K?nstlicher Intelligenz (KI) auf die Lern- und
Arbeitswelt untersucht. Ziel von KARL ist es, menschenzentrierte, transparente, lernf?rderliche
und KI-unterst?tzte Arbeits- und Lernsysteme zu konzipieren und in konkreten
Praxisanwendungen vorzeigbar zu machen.
Die Region Karlsruhe mit dem nationalen Digital Hub f?r angewandte KI und einem der
f?hrenden IT-Cluster in Europa bietet daf?r gro?es Entwicklungspotenzial. Konsortialf?hrer ist
die Hochschule Karlsruhe.
Zum Projektkonsortium geh?ren neben neun Forschungs- und Transferpartnern auch elf
regionale Unternehmen sowie das CyberForum, das eine zentrale Rolle in der
?ffentlichkeitsarbeit, im Community-Management sowie im Nachhaltigkeitskonzept
?bernimmt.
Bis M?rz 2026 wurde KARL vom Bundesministerium f?r Forschung, Technologie und Raumfahrt
(BMFTR) mit knapp zehn Millionen Euro gef?rdert.
Pressekontakt CyberForum e.V.
Ariane Lindemann
Marketing
T +49 (0) 721/602 897-652
E presse@cyberforum.de
Keywords:Menschenzentrierte KI Human in the Loop Erkl?rbarkeit und Vertrauen KI-Anwendungen im Arbeitsalltag Datenqualit?t und Trainingsdaten KI-Kompetenzen und Transformation