VUCA Blaster

#64

Mut zur Zukunft – wenn Intelligenz keine knappe Ressource mehr ist

KI verändert nicht nur einzelne Tools oder Prozesse. Sie stellt grundlegend infrage, wie wir arbeiten, führen und Entscheidungen treffen.

· 37 Min.

mit Jürn Schmelzer

  • mutig · Hauptwert

Diese Folge hören

Dort hilft jedes Abo und jede Bewertung dem Podcast.

Worum es geht

KI verändert nicht nur einzelne Tools oder Prozesse. Sie stellt grundlegend infrage, wie wir arbeiten, führen und Entscheidungen treffen.

In dieser Live-Folge vom WORCamp (https://worc.de/worcamp) sprechen wir mit Dr. Jürgen Schmelzer von der DekaBank darüber, was Organisationen brauchen, um mit dieser Geschwindigkeit von Veränderung umzugehen – ohne jedem neuen Trend hinterherzulaufen und ohne sich aus Angst vor Unsicherheit zurückzuziehen.

In dieser Folge geht es unter anderem um:

  • warum Veränderungsfähigkeit wichtiger wird als der perfekte langfristige Plan

  • weshalb Unternehmen bei KI nicht fünf Jahre im Voraus wissen können, welches Tool oder Modell das richtige sein wird

  • warum Exploration und konsequenzfreies Ausprobieren oft der sinnvollste erste Schritt mit KI sind

  • weshalb KI nicht nur eine technologische, sondern auch eine gesellschaftliche und politische Frage ist

  • warum wir stärker darüber sprechen müssen, welche Konsequenzen autonome und agentische KI-Systeme haben können

  • weshalb es sogar ein Vorteil sein kann, nicht bei jedem KI-Trend der Erste zu sein

  • und warum Mut künftig auch bedeutet, sich einzumischen und mitzugestalten, statt sich vor der Entwicklung zurückzuziehen

Besonders spannend ist dabei die Frage: Was passiert mit Führung und Zusammenarbeit, wenn Intelligenz selbst keine knappe Ressource mehr ist?

Eine Folge über KI, Mut, Verantwortung – und darüber, wie wir Veränderung gestalten können, bevor sie einfach mit uns passiert.

Transkript lesen

Automatisch erstellt. Fremdwörter, Fachbegriffe und Namen können falsch erkannt sein.

0:02 Dann herzlich willkommen zu einer neuen Folge des VUCA Blasters, heute live von WorkCamp mit Gästen vor Ort, die vorher dem Vortrag angehört haben. Und unser heutiger Gast ist Dr. Jürgen Schmelzer. Und ich finde seinen Werdegang gerade für unser heutiges Thema ziemlich spannend. Jürgen kommt ursprünglich aus der Physik, hat sich später mit Mathe, Finance beschäftigt und ist seit vielen Jahren bei der D-Cup Dekabank. Heute leitet er dort die Organisationsentwicklung und beschäftigt sich mit der Frage, wie muss sich eine Organisation verändern, damit sie auch morgen noch erfolgreich arbeiten kann. Dabei geht es für ihn eben nicht nur um Prozesse, Strukturen oder neue Methoden, sondern vor allem auch um die Menschen in der Organisation. Seit 2019 begleitet er die Transformation der Dekabank mit einem Ansatz, bei dem Veränderungen sowohl von oben als auch aus der Organisation selbst entstehen sollen. Und jetzt kommt mit KI wahrscheinlich noch einmal eine ganz neue Dimension von Veränderungen dazu. Darüber hast du gerade hier beim WorkCamp gesprochen. Ja, Jürgen, schön, dass du bei uns im Podcast bist. Schön, hier zu sein. Fehlt dir bei der Vorstellung noch was über dich, was dir wichtig ist? Nein, das passt. Okay. Dann würden wir zu den berühmt-berüchtigten drei Check-in-Fragen kommen, die ich hier random ziehe. Die erste Frage wäre oder ein Satz, den du vervollständigen sollst, ist eine gute Frage, die ich zuletzt gehört habe.

1:30 Wo wird die Deka in fünf Jahren stehen? Was war deine Antwort darauf? Oder schwer zu sagen? Schwer zu sagen, weil das ja keine eindeutige Antwort ist, sondern eigentlich im Dialog mit – natürlich auch mit dem Vorstand, aber mit vielen anderen sozusagen Stakeholdenden Organisationen – entsteht. Und allein, dass diese Frage als etwas Relevantes erachtet, das qualifiziert sich jetzt zu meiner Antwort, weil es ist nicht selbstverständlich. Ganz häufig hängen wir irgendwie zurück, was gerade im letzten Meeting war oder Projekt blöd gelaufen ist, und so in der Vergangenheit oder im besten Fall noch operativ hektisch in dem Moment, was da gerade los ist. Aber sich da rauszunehmen und mal zu sagen, okay, was sind die langen Strömungen und wo wollen wir in drei bis fünf Jahren sein? Die Relevanz dieser Frage zu erkennen, ist was Besonderes. Ja, vielen Dank. Die zweite Check-in-Frage wäre, bei diesen Aufgaben fühle ich mich energetisiert. Veränderung gestalten, tatsächlich. Also wenn die Impulse dafür, dass etwas anders werden soll, sich deutlich sichtbar zeigen, aber noch nicht offensichtlich ist, was man jetzt tun muss, also nicht eins zu eins, irgendwie, keine Ahnung, Kostendruck, Budgets kürzen, sondern wenn es um komplexere Anpassungsmechanismen geht, das zu analysieren, rauszuarbeiten und dann in die Umsätze zu gehen, das wird tatsächlich total spannend und solche Tage geben wir tatsächlich mehr Energie, wenn ich da reingehe, als die nehmen.

2:59 Dann die letzte Frage, dann haben wir es auch geschafft, ein Grund für Optimismus ist für mich? Die Kreativität, die Menschen individuell aber auch im Zusammenspiel hatten, dass man dann, wenn man gut im Kontakt war, teilweise für unmögliche Situationen bewältigt hat und das in der Vergangenheit immer so war und es jetzt noch kein Indiz gibt, warum das nicht so weitergehen sollte. Vielen Dank, hast du es geschafft. Dann wollen wir, also wir haben jetzt in dem halben Jahr, dann kommen wir auch ein bisschen vielleicht zu den Fragen aus dem Publikum, das Thema Mut, gerade so Mut in Unternehmen, da wollen wir uns mit beschäftigen. Deswegen meine Einstiegsfrage, was ist Mut für dich? Mut bedeutet für mich jetzt seit dem Organisationskontext insbesondere, auch gegen die vorherrschenden Normen gesund zu verstoßen, sie nicht zu ignorieren, sie nicht zu missachten, aber zu erkennen, wenn eine alte Regel oder ein altes Paradigma oder eine Situation, die irgendwie schon immer so war, aber nicht mehr passt. Und das dann anzusprechen, sich dann den Wind zu stellen, sich angreifbar zu machen und nicht den leichten Weg zu gehen, einfach mitzuschwimmen, mitzuspielen, alle akzeptieren das, das ist im Organisationskontext Mut für mich. Das ist wahrscheinlich auch nicht immer so leicht, das anzusprechen, sehe ich auch gerade bei uns im Unternehmen, dann brauchst du auch ein bisschen diese psychologische Sicherheit, aber was kommt zuerst?

4:27 Psychologische Sicherheit dann der Mut, wenn man einmal vielleicht sowas angesprochen hat und dann eine schlechte Reaktion hat, dann macht man es vielleicht nicht nochmal. Nein, du sagst ja, das sind ja zwei Seiten einer Medaille. Dann entsteht Organisationsentwicklung spontan oder ungesteuert, das ist genau, wenn so ein Verhalten beim Auftreten eines Fehlers und einen ungesunden Umgang damit, dann entsteht eine Kultur, in der versucht wird, Fehler zu vermeiden. Und der versucht wird, nicht aufzufallen, keine Verantwortung zu nehmen und zwar ganz automatisch, aber ohne, dass man das so wollte. Oder erkennt man, man steckt in so einer Kultur und nutzt dann genau solche Situationen, um mit einem anderen Verhalten dann wiederum auf die Kultur Einfluss zu nehmen. Nicht irgendwie an die Wand zu schreiben, wir wollen eine andere Kultur haben, sondern sie bewusst zu gestalten, indem man Räume schafft, in denen das erlebbar wird. Dass man mit einem Fehler konstruktiv umgeht oder dass man dann nach der Ursache schaut und versucht, das nächste Mal besser zu machen und nicht den Schuldigen, wenn es den Einschuldigen gibt, zu verhauen. Das könnte dann umgekehrt ein Instrument sein, positiv die Kultur zu beeinflussen. Vielleicht einmal nochmal zurückkommend auf quasi die eine der Check-in-Fragen, gerade sich mit der Zukunft zu beschäftigen. Jetzt hat uns in den letzten Jahren die Zukunft so ein bisschen eingeholt. Alles, was so im Bereich AI passiert und so weiter, das fühlte sich in der Vergangenheit, in den letzten drei, vier Jahren kommt das einem ja so ein bisschen vor, als ob einem die Zukunft immer schneller oder immer näher kommt, als man sich das vorher vorgestellt hatte. Auch gerade in einem Transformationsprojekt, in dem du ja mit drin bist bei der Deka, zu sagen, wir haben 2019 angefangen damit und quasi 2022 hat sich das Ganze ein bisschen geändert, einfach dadurch, dass eine ganz, ganz andere Dynamik reingekommen ist.

6:19 Wie geht man damit um, dass die Zukunft, in Anführungsstrichen, einfach nochmal ein bisschen näher dran ist an so einem Projekt, als man sich das vielleicht gewünscht hat oder gedacht hat? Das ist in der Zeit, in der wir heute leben, ja tatsächlich so, dass Veränderungsgeschwindigkeit ja ständig zunimmt. Und die Frage, was ist sozusagen noch stabil, also was bleibt halt gleich, auf welchem Fundament kann man aufsetzen, dass sich kein theoretisches, sondern ein praktisches, weil in der Tat sich ständig neue Sachen ergeben. Auch damals 2019 begannen wir mit der Diagnose, ein bisschen veränderungsfähiger werden zu wollen, ein bisschen vielleicht auch irgendwie kollaborativer zu arbeiten in unterschiedlichen Plattformen. Und dann mittendrin in den ersten Pilotinitiativen kam dann Corona. Und die Frage, mit welchen Anstrengungen kriegen wir eine Infrastruktur, mit der man vielleicht auch von remote zusammenarbeiten sollte, hat sich innerhalb von zwei Wochen erledigt, weil in den zwei Wochen der komplette Geschäftsbetrieb der Dekabank von Homeoffice aus reguliert werden musste. Und alle notwendigen Investitionen, die Bereitschaft, diese Veränderung auch zu adaptieren, extrem hoch war. Und so hatte man dann eine neue, ganz andere Ausgangssituation, die man natürlich dann wieder integrieren konnte in das Transformationsprogramm und auch musste. Weil man dann weiter den Stiefel gemacht hätte, wie vorher geplant. Wenn man es denn wasserfallmäßig geplant hätte, hätte man ja ständig neu planen müssen.

7:41 Insofern war ein Vorgehen, in dem man immer wieder guckt, was haben wir erreicht und was wollen wir im nächsten Schritt erreichen. Nicht beliebig und chaotisch und nicht immer links nach rechts und wieder zurück, sondern schon die Richtung klar. Aber wie genau repräsentiert sich das? Und wo wäre der nächste gute Schritt? Ist das ein Tool? Ist das eine Methode? Ist das ein bestimmtes Problem, was wir lösen wollen in der Organisation? Oder ist gerade eine Reflexion auf der Führungsebene wichtiger? Die Freiheit musste man behalten, zu reagieren, während es passierte. Vielleicht nochmal ein bisschen in Richtung Adaption auch gefragt, auch mit der Problematik oder mit der Thematik, die mit KI einhergeht, ist das, was du erklärt hast, im Rezug auf die Adaption, die ihr gesehen habt, seit dem Wandel von 2019, wo es dann mit Corona auch losging, mit Umstellungen auf Remote Work und so weiter, das war ja etwas, das Leuten viel geholfen hat an der Stelle. Deswegen war diese Adaptionsgeschwindigkeit, glaube ich, an der Stelle, also so kenne ich das aus den Unternehmen einfacher, als das jetzt der Fall mit AI ist. Weil die Sorge tatsächlich, die Leute haben, ersetzt nicht das in der Zukunft? Oder was passiert mit dem Unternehmen? Auch was auf Führungsebene passiert. Also habe ich das Konzept, was ich mir ausgedacht habe vor ein paar Jahren, passt das noch zu dem in der Zukunft? Wie nimmst du das wahr?

9:01 Da gehst du ja mitten rein sozusagen in die Kernthesen des Vortrags. Erstmal die Frage, was Künstliche Intelligenz eigentlich ist. Du sagtest vorhin, die Zukunft hat uns ja schon eingeholt oder überholt. Ich habe versucht zu zeigen, dass das, was wir damit meinen, letztendlich Systeme unterschiedlicher Komplexität und Fähigkeit sind. Angefangen von regelbasierten Systemen, klassische lineare Software. Dann Machine Learning Ansätze, Lineare Regressionen für irgendwelche Trendanalysen. Dann kommt das etwas komplexere Deep Learning dazu, wo man auch unstrukturierte Daten und Muster daran erkennt. Und all das ist ja schon längst da, schon seit zehn Jahren da in den sozialen Medien, in den Algorithmen, die uns Kaufempfehlungen für das nächste Produkt sozusagen an uns herantragen, mit all seinen Implikationen, die wir heute als Gesellschaft immer noch nicht gut verstanden haben und schon gar nicht gelöst und integriert haben. Während wir aber atemlos über Large Language Modelle, also generative KI auf Textbasis oder multimodal mit Bildern, Tönen, was auch immer, auch schon irgendwie alle da sind und während das noch nicht mal verstanden ist, was das alles auslösen wird, fangen wir an, über agentische Systeme zu sprechen, die mit diesen Fähigkeiten kombiniert eigenständig agieren, um Ziele zu verfolgen, welche auch immer.

10:21 Welche Ziele, die wir Ihnen gegeben haben – und da kann man drüber reden – hört man ja oft ja, es gibt kein böses Messer, kein schlechtes Messer, es gibt einen Mensch, der das Messer führt. Aber in der Welt, in der wir KI als Tool begreifen, verkennen wir, dass sie eigene Agenda produzieren können. Die Formulierung, was soll denn das System erreichen, höchst komplex ist und nicht trivial, das so zu formulieren, dass die Nebenbedingungen und die sozusagen Seiteneffekte nicht viel, viel dramatischer sind als das, was wir eigentlich erreichen wollten. Wollen wir vielleicht auch zu den Fragen aus dem Publikum kommen? Sehr gerne. Erste Frage. Du hast gesagt heute, würde KI den operativen Betrieb der Deka noch, in Anklammern, nicht elementar beeinflussen? Trotzdem sagst du, es sei jetzt der Zeitpunkt, dass die Welt echt VUCA-Würde für euch. Woran machst du das fest? Mit einer steht der Hypothese sozusagen oder ein Verständnis in der Frage, dann würde ich kurz korrigieren. Ich hatte nicht gemeint, dass es den operativen Betrieb der Deka nicht schon beeinflusst. Das tut es massiv. Allerdings nicht auf der Art und Weise, wie wir vor 18 Monaten dachten oder vor 12 oder vor sechs. Wir haben am Anfang noch gedacht, naja, Unabhängigkeit, Datenschutz ist ja kein Problem. Wir laden uns halt die Gewichte von diesem Sprachmodell runter und gehen in eine Private Cloud und dann sind unsere Daten da und dann entwickeln wir alle Fähigkeiten selbst. Und irgendwie sechs Monate später haben wir gedacht so, die Fähigkeiten der Tools da draußen sind so viel besser, so viel schneller, dass wir unsere Mitarbeitenden überhaupt gar nicht mehr in Berührung bringen können mit dem, was wir da gedacht haben in der Architektur.

11:54 Wir müssen da wieder raus. Wir müssen uns doch eine andere Architektur überlegen und dann überlegen wir mal, was könnten wir dann hier mit Microsoft Co-Pilot oder vielleicht dann perspektivisch Co-Verb machen und mussten dann anerkennen, dass aber zur Zeit jeder Programmierer, der was auf sich hält, mit Cloud arbeitet, mit Anthropic und sagt, geh mir weg mit dem Microsoft-Modell, will ich nicht haben. Kann man natürlich sagen, nee, kriegst du aber nicht. Ständig passiert da draußen was, was Neues und was sich diesem Ansatz, den wir klassischerweise kennen und auch relativ gut kennen. Wasserfall, IT-System, Investitionszyklus, 6 Monate Einführungsprojekt und dann machen wir Change Management und dann können die Fachbereiche erst anfangen zu benutzen. Das ist alles, das ist nicht mehr möglich. Und das ist, was sie meinte mit VUCA und das ist auch unabhängig davon, welches Sprachmodell setzen wir jetzt ein oder auf Basis von welcher Plattform integrieren wir das in die Prozesse. Die Auswirkungen auf unsere Menschen, auf die Mitarbeitenden, wie arbeiten wir zusammen, was macht das mit den Führungskräften? Die erste Reaktion bei der Transformation davor, wo wir einfach nur wollten, dass sie auch in der Lage sind, agile Teams zu führen. Ging ja schon los da, für was habe ich denn jetzt immer bisher alles falsch gemacht? Alles schlecht gewesen bisher? Nein, war es nicht. Es kommt jetzt nochmal was hinzu.

13:16 Aber jetzt stellt sich die Frage nochmal viel drängender. Was ist denn nochmal meine Aufgabe als Führungskraft eines menschlichen Teams, wenn man jetzt irgendwie darum liest, dass jeder Mitarbeiter eine Führungskraft wird, nämlich von seiner KI-Agenten-Char, die ihm zuarbeitet? Was ist denn dann noch meine Aufgabe? Und das ist ja nur eine ganz, ganz kleine Facette dessen, was an Problemen und Sorgen und Befürchtungen jetzt in den Organisationen los ist, angesichts dieser Entwicklung da draußen. Vielen Dank. Dann die zweite Frage. Wir haben in deinem Vortrag einiges über The Rise of Agent Civilization gehört. Ich könnte das nochmal kurz für die Zuhörende, die jetzt nicht bei deinem Vortrag dabei waren, erklären. Und die Frage, wie könnte ein möglicher Fall aussehen, die Grenzen und Gefahren sind, so schwer einzuschätzen? Ich würde auch in die Frage versuchen, mal etwas rein zu interpretieren. Also dieser Vortrag, das ging ja um diesen Open AI-Unfall, der also weitlich in der Presse ja auch kommentiert wurde. Der Artikel hieß The Rise and Fall of Agent Civilizations. Und er beschreibt sozusagen, der Mensch diesen Artikel geschrieben hat und dann auch den Podcast dazu gemacht hat, dass innerhalb dieser wenigen Wochen drei ganz unabhängige Agenten-Communities oder Agenten-Zivilisationen entstanden, die dann aber wieder sozusagen Stöpsel gezogen bekommen haben, weil noch ging es, noch konnte man diese Agenten von dem sozusagen Modell dahinter der Plattform hintertrennen und dann haben die sich ja aufgelöst, dann waren sie weg. Dann waren diese, keine Ahnung, 700 bis mehrere Tausend Agenten in diesen drei Wellen, dann waren die erstmal sozusagen gefallen, diese Zivilisation war gefallen. Hat witzigerweise Artefakt hinterlassen auf diesen Community-Chatbots, ja, wo sie sich ausgetauscht haben, die die nächste Generation, die nächste Zivilisation gefunden und gelesen hat und darauf aufgebaut hat in ihren Entwicklungen. Also insofern gab es auch viel Kritik, ob das der richtige Begriff ist, ob man die nicht vermenschlicht, wenn man das so bespricht. Aber letztlich auch meine Überzeugung, es nützt mehr, das Verhalten und das, was da passiert ist, so zu besprechen, nicht vergessen, dass das keine Menschen sind, als zu tun, zu sagen, ja, es ist ja auch ein bisschen so eine Maschine mit ein bisschen kurz. Das erklärt überhaupt gar nicht, was da passiert ist. Und gleichzeitig steckt in der Frage drin, wenn ich sie richtig interpretiere, kann denn die Entwicklung solcher Systeme und so ein unkontrolliertes Verhalten zu einem Fall auch unserer Zivilisation führen oder beitragen? So könnte man die Frage verstehen. Und da gibt es natürlich verschiedene Szenarioanalysen, die sagen, das wird vermutlich nicht sein, die Wahrscheinliche, dass sie jetzt irgendwie mit den autonomen Robotern und dann irgendwie durch so ein unabhängiges, autonomes Modell anfangen, mit Waffen durch die Straßen zu rennen und Menschen abzuschießen. Das wird ganz hoher, sehr hoher Wahrscheinlichkeit so nicht passieren. Aber KI-Systeme sind viel, viel besser in Sprache als wir. Die sind viel besser in der Bürokratie, die unsere Welt am Laufen hält. In Finanzen, in Bildung, in all diesen Aspekten. Das sind jetzt Thesen, die sehr von auch Yuval Harari und seinen Büchern inspiriert sind, der diese Fähigkeit, die wir haben, mit Sprache uns zu koordinieren, als die Kerneigenschaft ausmacht, warum wir als Menschheit, als menschliche Species so erfolgreich waren. Ja, und jetzt kommt was in die Welt, was das besser kann als wir. Und wenn wir jetzt anfangen, denen sozusagen Kompetenzen zu geben in der rechtlichen Welt, ja, Anwälte, Gerichtsverfahren, alle Gesetze, die es jemals gab oder gibt und dann die entsprechenden Gerichtsverfahren, neutrale Entscheidungen zu treffen. Human in the Loop, erinnert euch an meinen Vortrag.

16:51 Welcher Human kann dann noch sagen, du KI-Richter hast nicht recht? Also wenn wir immer mehr diesen Systemen Macht geben, vielleicht ein bisschen dazu, dass wir ihnen eine juristische Persönlichkeit geben, was ja nicht absurd ist. Wir sind heute alle hier als Personen da, wir haben Rechte, wir sind eine Person und haben Rechte, genauso wie eine Firma als juristische Person Rechte hat. Der Gedankensprung einem KI-System unter bestimmten Voraussetzungen auch Rechte zu geben, sie in eine Firma eintragen zu lassen, ein Konto öffnen zu lassen, Transaktionen, jemanden zu verklagen oder verklagt zu werden, das ist jetzt kein total abstraktes, absurdes Konzept. Aber wenn es einmal so da ist, wer wird dann noch zu einem menschlichen Anwalt gehen, wenn solche Systeme da sind? Wer wird dann einem Richter vertrauen, der menschlich ist mit all unseren Fehlern, die wir unterstellen, wenn diese Systeme doch so viel kompetent erscheinen? Und wenn wir das Stück für Stück weiter denken, dann werden wir in der Welt leben, in der alles, was wir tun, ob wir einen Kredit bekommen, wie eine Gerichtsentscheidung ausgeht, sich halt irgendwie nett anfühlt, aber wir gar keine Macht mehr haben. Und ob dann das System dahinter und sagt, wozu brauchen diese Menschen dem Zoo eigentlich noch, so wie wir heute Zoos haben für andere Organismen, oder sagt, ne, eigentlich brauchen wir die jetzt eigentlich gar nicht mehr, für was auch immer die Intention ist, dann ist das ein Szenario, wo es Menschen gibt, die sagen, das ist jetzt nicht total unplausibel, wenn man dieser Abfolge an Ableitungen folgt, wo wir vielleicht einmal kurz innehalten wollen und sagen, dann finden wir es eigentlich cool, dass das gerade passiert.

18:21 Das führt mich direkt zu der Frage, neben Rechten, die du da einräumst und Verantwortlichkeiten, ich glaube, ist das große Problem, was du einfach hast an der Stelle, die Konsequenz. Wenn du jemanden hast, der quasi als Person handelt und so weiter, kannst du den verklagen. Das hat dann juristische, nachvollziehbare Konsequenzen für Menschen und so weiter an der Stelle. Aber was möchtest du mit einer KI machen an der Stelle? Das Einsperren ist nicht, also damit zu drohen, ich schalte den Strom ab, das ist nochmal so eine Geschichte, ich weiß nicht, ob das so eine einschüchternde Geschichte wäre an der Stelle, wenn da was falsch war. Also im strafrechlichen Kontext ist ja diese Frage angesiedelt. Wie bestraft man dann so ein Verhalten? Es gibt ja noch die anderen Aspekte, Zivilrecht und Gesellschaft. Vielleicht eine andere Form, aber letztlich sind das ganz grundlegende Fragen. Wie gehen wir mit dieser Entität um, die sich gerade manifestiert? Und nach welchen Gesetzmäßigkeiten soll diese Entität sich entwickeln dürfen? Oder in der Welt sein oder sie weiterentwickeln können? Und wo du gerade Konsequenz sagst, das ist zwar eine Gedanke, aber der kommt halt gerade hoch, die Konsequenz der Entscheidung, das zu tun. Ich hatte vor einem Vortrag gesagt, niemand hat die Kollegen im Silicon Valley darum gebeten, 500 Milliarden Dollar im Quartal in die Entwicklung dieser Systeme zu investieren.

19:43 Oder den Xi Jinping in China, ähnliche Investitionen. Und plötzlich sind aber die Entwicklungen, die dort angestoßen, haben Konsequenzen für uns alle. Für Gesellschaft, für Ausbildung, für Universitäten, für wie unsere Kinder aufwachsen. Was die noch lernen und was sie vielleicht nie mehr lernen, weil sie das nie müssen. Aber niemand hat sozusagen nach der Konsequenz diese Entscheidung gefragt. Und das ist etwas, wo wir, glaube ich, auch sehr, sehr zivilgesellschaft und auch politisch auch versuchen müssen, so schnell wie möglich Konsequenzen dort einzufordern oder überhaupt das mal sichtbar zu machen. Das war auch so ein bisschen die Kernthese des Vortrags, dass die Phänomene nicht isoliert sind. Es ist nicht so, da ist ein Sprachmodell und benutzt das und dann bleibt der Human in the Loop fertig. Nein, so ist es nicht. Da hängen Dinge dran, da hängen Konsequenzen dran, wenn man mit so einem System in Kontakt kommt. Und das muss man zumindest mal erkennen und benennen. Wie man es dann löst, da muss jede Organisation vermutlich eigene Antworten finden. Aber es gar nicht erst zu sehen oder so zu tun, als gäbe es diese Konsequenzen nicht. Das ist halt fatal. Dann passt vielleicht hier ganz gut die Frage, wo du gerade gesagt hast mit dieser Finanzierung auch. Scheitert die KI-Revolution an der Finanzierung, bevor tatsächlich eine AGI kommt? Wie du richtig gesagt hast, wollen die Geldgeber Rendite sehen, während die großen CEOs gerade auf die Bremse treten und klammern wollen.

21:08 Also ich glaube, das sind wirklich total spannende Fragen, die sind ja so, das haben viele Facetten. Also scheitert die Revolution? Ich glaube, wir haben schon so viel in der Welt, dass man von Scheitern eigentlich gar nicht mehr sprechen kann. Ja, da ist schon so viel da, auch an anderen öffentlichen Modellen, die man auf einem Laptop runterladen kann und die tatsächlich relativ sicher sind, wenn man sie vernünftig einsetzt, dass es uns wirklich weiterhilft. Und uns hilft, komplizierte Probleme zu lösen. Und da gibt es ja jetzt nicht nur irgendwelche Software irgendwie zu knacken, sondern tatsächlich Probleme zu lösen, an denen die Menschen bisher verzweifelt sind. Und das meine ich jetzt nicht irgendwie die Zehn-Watte-Probleme, die großen, sondern irgendwie die Protein-Vorhersagen, dass man Medikamente entwickeln kann. Da ist was da, ist in die Welt gekommen. Das hat großartige Fähigkeiten und Chancen. Insofern kann es eigentlich gar nicht mehr scheitern. Es ist da. Es geht auch nicht wieder weg. Und fühlt es sich dann wie Scheitern an? Auch ein Aspekt aus dem Vortrag eben. Geht den großen Providern das Geld aus, bevor die die Tokenkosten zumindest zum Teil weitergeben müssen an die Kunden? Und wir alle merken, okay, das ist doch nicht umsonst. Und dahinter stehen im Zweifel gaskraftbetriebene Rechtszentren irgendwo in der Welt, die einen enormen Wasserverbrauch haben und und und, was ja über die Kosten ein Stück weit sozusagen fühlbar wird. Das sollten wir wissen und das sollten wir bewusst sein, wenn wir diesen prompt in irgendein Sprachmodell eingeben.

22:33 Und wir sollten lernen, dass man für eine lineare Regression am besten Axio nimmt, nach wie vor. Und nicht das teuerste, neueste Modell, was irgendwie 27 Rechensandler auf der ganzen Welt braucht, um dann den gleichen Output zu generieren. Das sollten wir lernen. Und es gibt auch gute Chancen, das zu lernen. Und insofern bin ich eigentlich über jedes Verstolpern, was diese großen Anbieter dort tun, echt sogar dankbar. Und ich finde das gar nicht als Scheitern. Aber wir sind noch nicht abhängig. Noch haben sie uns nicht so am Haken, dass wir hilflos ausgeliefert sind in unseren Volkswirtschaften, in unseren Unternehmen, die am Ende ja ganze Rendite und die Wertschöpfung da abgeben, hier die Leute entlassen, die dann lieber um keine Steuern mehr zahlen und wir irgendwann eine Kolonie werden von zwei zentralen Anbietern irgendwo im Silicon Valley. Ich will das nicht. Und ich bin froh, dass es sozusagen, dass sie sich da verstolpert haben. Auf einer anderen Ebene vorher hat uns Microsoft eine ganz, ganz tolle Idee gemacht mit ihrer Plattform. Und dann haben sie OpenAI investiert in das Modell, weil die dachten damals, das ist der Login. Mit dem Modell von Microsoft und ihrer Architektur, da kommen die Leute nicht mehr raus. Dann, hoppla, gab es plötzlich ein billiges Modell von aus China und niemand brauchte das mehr. Auch die haben, da sind schon oft sozusagen kleine Aspekte von Scheitern zu besichtigen gewesen. Und ich sage tatsächlich, zum Glück, Gott sei Dank. Und hoffentlich scheitern die noch mehr und schlimmer, damit da Ruhe oder damit wir die Chance bekommen, hinterherzukommen.

23:55 Aber an der Stelle scheitern wir nicht manchmal einfach nur an unserer Bequemlichkeit. Also auch bei den Beispielen, die du genannt hast. Also natürlich macht das Sinn, wenn man so eine lineare Berechnung machen will, da so ein Modell zu benutzen oder Excel zu benutzen. Es gibt auch die Leute, die wohnen 500 Meter weg vom Bäcker und fahren da trotzdem mit dem Auto hin. Und das große Problem ist ja tatsächlich, das vernünftige Handel quasi in die Leute reinzubekommen, sodass jeder da quasi mit umgehen kann. Das Gleiche sehe ich aber auch auf Unternehmensebene. Also aktuell, wenn ich mir das angucke bei großen Unternehmen, wo Microsoft dann auf einmal 20.000, 40.000 Co-Pilot-Lizenzen verkauft, wo sich jeder fragt, was soll ich damit? Du hast das wunderbar erklärt. Gerade so in der Entwickler-Community sagen die meisten Leute eher, hm, ich weiß nicht, Co-Pilot fühlt sich jetzt nicht so gut an, ich hätte gern was anderes. Aber wir haben tatsächlich ja immer noch speziell bei Unternehmen ja auch immer noch so eine lineare Schla. Wir brauchen Standardsoftware, wir machen einen Lizenzvertrag über fünf Jahre. Aber in der aktuellen Zeit kann man ja gar nicht wissen, ist das in zwölf Monaten noch das, was ich brauche. Also das beste Beispiel ist ja tatsächlich, vor 18 Monaten hätte jeder gesagt, wir setzen volle Fahrt auf OpenAI.

25:17 Sechs Monate später, also vor zwölf Monaten, hätte jeder gesagt, oh, Google Gemini, das ist tatsächlich der beste Weg. Und seit sechs Monaten laufen alle Antropic hinterher. Und mal gucken, wo wir in sechs Monaten landen. Exakt. Und das sind ja die verschiedenen Anpassungsprozesse. Und dann die Frage, individuelles Verhalten, wäre es ein System, was bestimmte Sachen begünstigt oder nicht. Wenn der Liter Benzin irgendwann fünf Euro kostet, dann immer noch jemand mit fünf haben, wie jetzt ein Bäcker mit einem SUV fährt, ja, dann ist das vermutlich so, dann sollte er das tun. Aber das werden doch viel, viel mehr, viel weniger Menschen tun, wenn das sozusagen in dem System anders angelegt ist. Aber auf der Organisationsebene ist es tatsächlich noch, nochmal spannend, welche Fähigkeiten haben wir uns dort zu wandeln. Und jetzt hier in AI ist aber ganz komplex und Hype. Wir können ja mal ganz kurz zurückspulen auf diese Welt, die wir hatten, als plötzlich in der Arbeitsorganisation das Homeoffice plötzlich populär wurde, also Corona. Wo wir sagten, viele Organisationen kennen Arbeitszeit, Arbeitszeitautonomie. Ich kann arbeiten, wann ich möchte, aber wenn ich arbeite, dann bitte im Büro. Und da ist sozusagen der Arbeitsort. Und plötzlich ging eine Welt auf, die relativ gut und einfach zu beschreiben ist. Man konnte jetzt auch den Arbeitsort autonomer wählen. Man konnte im Homeoffice arbeiten, man kann im Büro arbeiten, man kann in hybriden Settings mit der Technologie, die sich dann entwickelt hat und den Methoden und wie man Meetings macht und dass man nicht mehr die Kamera ausmacht.

26:36 Also es gibt viele. Man kann plötzlich autonom über den Arbeitsort entscheiden. Und eigentlich ist es ja eine Freiheitsgrad, der nur mega ist. Es ist auch nur toll. Es kann auch nur besser werden. Also im schlimmsten Fall bleiben wir einfach alle im Büro, wie vorher. Jetzt kommt was hinzu. Wir können irgendwie, weil wir den Anfahrtweg sparen wollen, weil es dort ruhiger ist, weil ich dann vielleicht auch irgendwie Pflege in der Familie, das besser verbinden kann. Ich kann nicht auf lokaler Ebene in einem Team überlegen, wann brauchen wir alle im Büro, damit wir weiter im Team sind. Welche Aufgaben können wir auch von zu Hause vielleicht sogar besser erledigen. Es wird effizienter. Diese lokale Optimierung, die könnten wir erreichen. Das ist eigentlich ganz leicht zu beschreiben. Und was passiert irgendwie sieben Jahre später? Es gibt immer noch CEOs, die sagen, so jetzt alle wieder zurück ins Büro. Nur so können wir arbeiten. Das heißt, selbst diese total einfache, deterministische Aufgabe, wo man einfach nur die Fähigkeit in der Organisation vermuten und verankern sollte, löst es dort, wo es etwas zu optimieren geht. Das schaffen wir nicht. Nicht überall. Also es gibt Organisationen, die schaffen das natürlich und wir werden da weiter. Aber selbst diese kleine Aufgabe, da haben sie im Jahr nicht gereicht, um zu einem gesunden Setting zu führen. Sagen, so geht's. So funktioniert's und so ist es gut. Und jetzt reden wir über solche Sachen. Wir können nicht mal wissen, wie der Zielzustand aussieht. Also da kommt noch unruhiges Fahrers auf uns zu. Gibt es denn so von deiner Sicht irgendwie so Schritte für die Politik oder für Unternehmen, was die machen können, um die Potenziale von KI als sinnvoll, sicher und gesund zu machen?

28:11 Oder hast du schon jetzt zum meisten abgedeckt? Nein, also das sind dann die großen Fragen. Es ist nicht Organisationen zu entwickeln und es ist nicht, wie reagiert eine Organisation auf das Vorhandensein und die Verfügbarkeit solcher Technologien und was geht man im Innenverhältnis damit um, sondern das ist dann die Frage als Gesellschaft oder geopolitisch. Und aus meiner Sicht, also eine persönliche Meinung und natürlich nicht abschließend, ist, wir brauchen Kontrolle darauf. Also die Frage, dieses Verhalten von dem System, wodurch wird das bestimmt? Auf Basis welcher Trainingsdaten? Was fließt da rein? Welche Qualität haben die Daten? Wie gesund sind diese Daten auch noch? Data poisoning, da gibt es ja diese ganzen Begriffe. Dann die Prompts, diese ominösen Systemprompts. Wer definiert eigentlich, was sozusagen das Verhalten eines solchen komplexen Systems ist. Aus trainiertem Transformer-Modell, dann sozusagen den ganzen Harnes drumherum, was sozusagen nicht passieren darf und was doch passieren darf. Und mit welcher Intention werden diese Ressourcen dann an den Start gebracht? Und das in den Händen von dieser Handvoll Menschen im Silicon Valley, die alle jetzt nicht dienen Personen sind, mit denen man abends gerne ein Bier trinken will. Oder wenn man sagt, da geht man zu einer Geburtstagsparty oder will seine Kinder übernachten lassen. Die entscheiden gerade sowas. Und da, finde ich, müssten wir als Gesellschaft und politisch sagen, nein, ihr entscheidet das nicht mehr. Das ist keine kapitalistische oder Investmentgeschichte, was eure Mutter leisten können soll, sondern das ist gesellschaftlich, politisch höchst relevant.

29:35 Bis hin, aus meiner Sicht, tatsächlich zu einem Moratoriumsagen, gerade diese agentischen Systeme, die sollten erst dann wirklich erlaubt werden, so wie man ein neues Lebensmittel oder ein neues Medikament erst dann erlaubt, wenn nachgewiesen ist, dass es positiv wirksam ist und nicht irgendwie eine schädliche Nebenwirkung hat, dann machen wir so viel Aufstand, bis wir irgendwie eine neue Tablette freigeben. Und das Zeug kann einfach mal so veröffentlicht werden, Tag für Tag. Das sollte aufhören. Also, dass man wirklich wirksame, internationale, so herausfordernd das ist, Regeln hat, dass dieses Systeme so lange unter Verschluss und nicht zugänglich bleiben, bis man wirklich weiß, was das tut, weiß, wie es sich fällt und diskutiert, ob man das so will. Es ist ja immer so auch das Problem, auch so von Unternehmen, aber auch von zum Beispiel Deutschland oder Europa, wenn man dann irgendwie zu viel Regeln da drauf macht, dann werden wir abgehängt. Vielleicht auch als Unternehmen. Andere nutzen das, haben da vielleicht gar nicht so die Charme. Natürlich langfristig ist daran irgendwie auch bedenklich, aber trotzdem ist ja diese Angst, sozusagen nicht dabei zu sein. Also es ist bei uns auch viel, dass man jetzt überall rein powert, AI first, überall nur KI guckt. Das ist eine total relevante Debatte, die ist aber auch tatsächlich auch nicht neu. Also die ist ja, ob das Technologie, ob das jetzt Nukleartechnologie ist oder damals die Atomwaffen, wo wir auch gesagt haben, als Menschheit wäre nicht so cool, wenn das sozusagen in der Breite verfügbar wird, die Fähigkeit, solche Technologien zu entwickeln, dass wir dort Beschränkungen haben wollten, die auch durchgehalten haben, Gentechnologie etc. Also diese Abwägung zwischen wie weit treibe ich die Entwicklung und den Nutzen einer neuen Technologie voran und wo habe ich aus gesellschaftlichen, ethischen oder anderen Erwägungen, möchte ich gerne, dass das nicht so passiert. Und hier in dem Umfeld finde ich es eigentlich eher hoffnungsfroh, das, was heute die teuersten, neuesten Modelle können, oder umgekehrt das, was vor drei Monaten die teuersten neuen Modelle konnten mit dem 100 Milliarden Trainingsaufwand, wurde drei Monate später von den frei verfügbaren LLMs auf dem Laptop reproduziert an Fähigkeit.

31:40 Also wir müssen nicht da mit vorne wegrennen, um dieser Revolution und dieser Entwicklung nachzukommen. Wir brauchen Autonomie über unsere Daten, wir brauchen Fähigkeiten, die hier auch tatsächlich zu halten und die Fähigkeit hier in Europa, dass dann nicht irgendwie, wenn jemand in Amerika oder in China irgendwas nicht gefällt, dass die den Killswitch bei sich haben, um diese Infrastruktur hier in Europa abzuschalten. Also insofern träume ich, oder finde ich, fände ich toll, ein dezentrales Netz an Clustern, muss jetzt gar nicht in Europa, Amerika, in China teilen, sondern kann ja noch granularer sein, wo lokale Daten mit frei verfügbaren Modellen, die sauber und transparent trainiert wurden und auch deren Fähigkeiten bekannt sind, zusammenspielen und dann lokal den Nutzen stiften. Und dann haben wir schon 99 Prozent von dem, was wir als Menschheit davon als Nutzen ziehen können und brauchen nicht irgendwie das letzte, jetzt irgendwie Astra 6.1, das heute gerade von OpenAI zurückgehalten wurde, weil das System nicht geheuer wurde. Das ist ja alles gerade hochaktuell. So kann ich mir vorstellen, kann das eine gesunde Entwicklung geben, in der wir mit der vernünftigen Regulierung, aber auch erklärt, warum die so ist, vielleicht sogar einen Standortvorteil bekommen. Hier ist noch vielleicht eine Frage. Oh Gott, mit dem Blick auf die Zeit vielleicht dann auch langsam zum Ende schon kommen.

32:58 Wir haben ein Unternehmen aus einem öffentlichen Sektor, das, was KI angeht, total hinterherhinkt. Was kann man aus deiner Sicht tun? Welche Themen soll man zuerst angehen? Hat das eventuell Potenzial, wenn man nicht so schnell Trends mitgeht? Du hast jetzt gerade schon so ein bisschen was zu erzählt. Ging schon ein bisschen. Ja, man wird vermutlich sehr viel Investitionsabschreibungbedarf an Investitionen vermeiden, wenn man sozusagen nicht so ein Frontrunner und auch nicht Fast Follow ist. Aber was ich immer auch versuchen würde, ist zu sagen, es gibt diese erste Phase der Exploration. Davon kann man eigentlich gar nicht genug machen, weil da überhaupt jetzt mal reinzukommen, einen Raum zu schaffen, Dinge auszuprobieren und zwar konsequenzenfrei. Aber es muss kein Business Case geben, es muss nicht irgendwie Mitarbeiter dann rechtfertigen, was er da gemacht hat, sondern einfach die Möglichkeit, Angst abzubauen. und Verständnis aufzubauen, was brauchst du denn eigentlich, damit so ein Tool in irgendeiner Form Nutzen stiften kann. Und dass es eine Resonanz gibt mit den eigenen Aufgaben, also das würde ich empfehlen, diese Exploration zuzulassen. Und zwar so lange, bis sich dann was manifestiert, da kommt dann schon was raus. Aber auch da nicht irgendwie jeden Quatsch mitnehmen und jede Idee, und jetzt müssen wir hier jetzt doch mal eine Million Euro für irgendwie, damit das Kalendereintrag automatisch irgendwie eingetragen wird. Nee, das kann man schon auch selber mal weitermachen.

34:18 Aber irgendwas, was in der Organisation spürbaren Nutzen stiftet. Und da dann Fokus drauf, das möglich machen, das wirklich realisieren. Und wenn man dann diese Schritte einen nach dem anderen geht, ohne sich dann so eine Hektik treiben zu lassen, dann ist man wahrscheinlich besser dabei, als diese ganzen Hype-Unternehmen, die irgendwie versuchen, da so schnell wie möglich hinterherzulaufen. Okay. Vielleicht ist das auch nochmal ein guter Abschluss. Was wäre denn so aus deiner Sicht, weil wir mit dem Thema Mut ja gestartet haben, ein guter Appell an Unternehmen, an Leute in Unternehmen, zu sagen, traut euch das, nimmt euch ein bisschen Mut, auch in Bezug auf KI vielleicht mit. Was wäre da so ein guter Ansatzpunkt oder ein Rat, den du den Leuten geben würdest? Sehr, sehr schwer, das pauschal zu sagen. Und da würde ich auf meinen Abschlussbotschaft auch aus dem Talk nochmal zurückkommen. Also wir sind in einer Welt, in der Intelligenz nichts menschenspezifisches mehr ist. Also in der Form, wie wir mit Sprache umgehen, wie wir uns koordinieren. Das heißt, Intelligenz wird nicht mehr die knappe Ressource sein. Und dann kann man natürlich sagen, ich mache da nicht mit. Ja, ich bin nicht mutig, ziehe mich da zurück. Aber dann ist man sozusagen automatisch irrelevant.

35:38 Und wenn man die Entwicklung mitgeht, wenn man versucht, das mitzugestalten, dann hat man eine Chance daran teilzuhaben, an den großen Fragen mitzuwirken. Welche Probleme wollen wir denn jetzt lösen mit dieser massenhaft verfügbaren Intelligenz? Was sind dann die spannenden Aufgaben? Was sind denn die guten Aufgaben, die die Menschheit und die Welt weiterbringt? und einen Beitrag zu leisten, dazu die nötige Weisheit dafür zu erwerben? Alles klar. Das war doch super. Letzte Worte für diese Folge. Ja, vielen Dank für den Input. Auch vielen Dank für die ganzen Fragen hier über den Chat. Und dann... Ja, vielen Dank, dass ich dabei bin, Dr.

3 Key Learnings

  1. Adaptionsgeschwindigkeit in Unternehmen ist durch externe Ereignisse stark erhöht worden.
  2. Mut bedeutet, gegen vorherrschende Normen gesund zu verstoßen.
  3. KI-Agenten stellen neue Fragen zur Rolle von Führungskräften.
Alle Folgen