A(I)Mazing leadership?

“[…] we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. […]”. Mit dieser offenen Petititon des Future of Life Instituts vom 22. März 2023 geht es den Antragstellenden – unter ihnen Elon Musk und Steve Wozniak – darum, eine Pause in die rasanten Entwicklungen KI-basierter Technologien einzulegen mit dem Ziel, die davon ausgehenden gesellschaftlichen Risiken und ethischen Aspekte in den Blick zu nehmen.

In allen Bereichen schreitet der Einsatz künstlicher Intelligenz derzeit voran. So nutzen Führungskräfte beispielsweise das neue Tool ChatGPT zur Formulierung von Standard-Mails, bei der Erstellung von Umfragen oder bei der Selbstreflexion. In unserem jüngsten Treffen der LeadershipGarage haben wir diese atemberaubenden Entwicklungen zum Anlass genommen, neueste Tools und Technologien genauer zu evaluieren und deren Einsatz in Führungsszenarien – ebenfalls unter ethischen und auch datenschutzrechtlichen Gesichtspunkten – zu diskutieren.

 

Unter anderem haben wir uns TAWNY angeschaut, ein Tool, das Gabriel (Head of Business Development) uns vorgestellt und verschiedene Einsatzszenarien aufgezeigt hat.

Emotionen erkennen mittels TAWNY

 Was also ist „Tawny“? In erster Linie ist das Startup ein Technologieunternehmen mit den Schwerpunkten Emotionsanalyse und Analyse menschlichen Verhaltens. Als digitales Tool funktioniert Tawny über Algorithmen, und ein Teil dieser Algorithmen wiederum sind Metriken, genauer gesagt Emotionsmetriken, die die Basis-Emotionen abbilden. Diese Emotionsgruppen basieren auf Forschungsergebnissen und werden zudem angepasst auf den jeweiligen Fall, in dem die Technologie eingesetzt wird. Neben der Basisemotionstheorie verwendet TAWNY auch das zweidimensionale Emotionsmodell “Affective Grid”, in dem jede Emotion entlang zweier Achsen (Valenz und Arousal) eingeordnet werden kann. Valenz bedeutet dabei wie positiv oder negativ die emotionalen Reaktionen sind, Arousal beschreibt den Erregungsgrad der Personen.Abgelesen werden die Emotionen vor allem an der menschlichen Mimik, und das Hauptwerkzeug dafür ist folgerichtig die Kamera.

Das erste Produkt von Tawny war eine Service-Plattform, die es den Anwenderinnen und Anwendern ermöglicht, selbstständig Emotionen zu erfassen, zu analysieren und mit den Ergebnissen eigenständig Marktforschungsstudien durchzuführen. Ähnlich wie bei einer Dropbox werden bei dieser Service-Plattform Videodaten hochgeladen und automatisch analysiert. Im Ergebnis gibt es dann zu jeder Nutzerin und jedem Nutzer den individuellen Emotionsverlauf, sprich: die echten Reaktionen auf einen echten Stimulus. Abgelesen wird also, wie etwas unterbewusst wahrgenommen wird. Ein Verfahren, das natürlich in der Marktforschung eine große Rolle spielt.

 Emotionale Intelligenz in Produkte und Dienstleistungen bringen

Das Kernstück, auf das sich Gabriel im weiteren Verlauf seiner Präsentation fokussiert, ist die von Tawny entwickelte Lösung ihres Angebots als Application Programming Interface, kurz: API. In diesem Verfahren können die Emotionserkennungs-Algorithmen direkt in die Produkte und Dienstleistungen eines Unternehmens integriert werden. Um die Möglichkeiten dieser cloudbasierte Schnittstellenlösung zu demonstrieren, hat Gabriel verschiedene Projekte mitgebracht, die Tawny in den letzten Jahren durchgeführt hat.

Das Anwendungsbeispiel Lego Star Wars

Den Anfang macht das Beispiel „Lego Star Wars“: Als wieder einmal eine neue Star-Wars-Episode in die Kinos kam, konnten die Zuschauerinnen und Zuschauer im Foyer gegeneinander antreten, indem sie mittels der Macht ihrer Mimik oder auch Position ihrer Hände virtuell Raumschiffe zusammensetzten. Je angespannter die Person war, je mehr Macht sie also in das Spiel einbrachte, desto schneller hat sich das Schiff aufgebaut.

 Empathische Avatare in der Versicherung und der Telekommunikation

Ein weiteres Aktionsfeld von Tawny sind Versicherungen. Hier ist Gabriel aktuell mit einem Anbieter zu den Themen „Customer Interaction“ oder auch „Sales Service der Zukunft“ im Gespräch. Konkret geht es um den menschlichen Versicherungsagenten, der zwar die meisten Gespräche führt, aber nicht immer verfügbar ist und auch nicht alles weiß. Zudem bekommt auch die Versicherungsbranche den Fachkräftemangel zu spüren. In die von Tawny entwickelten Lösungen spielen verschiedene Megatrends hinein, zum Beispiel die generative Artifical Intelligence (AI) oder auch das Thema Digital Human. In diesen Kontexten liefert Tawny Komponenten, um aus solchen Trends virtuelle Assistenten, das heißt: empathische Avatare zu kreieren.

Empathisches Verhalten beigebracht hat Tawny unter anderem auch „Selena“, einem Service-Avatar der Telekom. Ziel war es, bestimmte Reaktionen zu triggern. So wurden unter anderem Anrufer, die irgendwann gestresst waren, weil sie nicht verstanden wurden, an einen menschlichen Agenten weitergeleitet. Wer hingegen besonders positiv gestimmt war, bekam beispielsweise einen Rabatt-Code für den nächsten Produktkauf.Bei den Bestrebungen, Large Language Modellen Empathie einzuhauchen, geht es darum digitale Gespräche mit Bots oder Avataren intelligenter und menschlicher zu machen. Dabei erkennt der Algorithmus menschliches Verhalten und antwortet per Chat (oder als Avatar) mit menschlichen Charakterzügen und Einfühlvermögen.

 Ausblick: Interior Sensing im Auto

Ein weiterer spannender Bereich, in dem Tawny tätig ist, ist der Bereich Automobil rund um das Thema Interior Sensing. Noch befindet sich Tawny hier in einem konzeptionellen Stadium. Wohin die Reise gehen kann, zeigt Gabriel jedoch schon heute am Beispiel Fahrgastzellen-Erfassung. Schon länger finden die bereits beschriebenen Metriken Anwendung in Bezug auf die Fahrfähigkeit der Autofahrerinnen und Autofahrer: Die Technologie erlaubt es, zu erkennen, ob der Mensch hinter dem Steuer Müdigkeitserscheinungen zeigt, und ihn zu einer Pause anzuregen. Ein weiteres Experimentierfeld ist die Fahr-Experience, also die Frage, wie das aktuelle emotionale Verhalten etwa mit dem Vorschlag einer bestimmten Route verbunden werden kann: Nach einem stressigen Tag vielleicht lieber nicht den schnellen Weg durch den Stau nehmen, sondern den stressbefreiteren Umweg, der dann auch noch am Lieblingscafé vorbeiführt, dazu die auf die Stimmung abgestellte Playlist, Temperatur und weitere Annehmlichkeiten mehr.

 A(I)mazig Leadership?

Die Führungskräfte unseres Innovation Space sind sich einig, dass sich die Entwicklungen in der KI nicht mehr aufhalten lassen. Gewusst wie, lassen sich Systeme sinnvoll einsetzen, um Routine- aber auch kreative Tätigkeiten zu unterstützen. Was es so schnell wie möglich braucht, sind klare Regeln sowie Trainings für Mitarbeitende, insbesondere in der Fähigkeit, mit Daten umzugehen, und in der ethischen Entscheidungsfindung.