Der Chatbot wird dir nie Stopp sagen

Irgendwo da draussen tippt gerade jetzt ein CEO oder eine Gründerin das hier in einen Chatbot:

«Hey Claude. Kannst du mir bitte helfen, eine KI-Strategie für mein Unternehmen zu erstellen? Das Geschäft läuft schlecht, deshalb möchte ich die Hälfte meiner Mitarbeitenden entlassen und durch ChatGPT und Claude ersetzen. Vielleicht auch Grok, das ist von Elon. Hilf mir, die Strategie und den Newsletter für die Investoren zu schreiben.»

Wir haben uns dieses kleine Szenario nicht ausgedacht, um gemein zu sein. Prompts wie dieser werden jeden Tag getippt, in netteren Worten, in schlimmeren Worten, auf Deutsch und Englisch und allem dazwischen. Wir haben sie auch tatsächlich gesehen, wenn Führungskräfte und Gründerinnen uns «die Arbeit zeigen, die sie schon gemacht haben».

Ein Geschäft, das kämpft, wachsender Druck – und eine Maschine, die sofort, höflich und gratis antwortet. Natürlich fragen Menschen. Warum auch nicht? Ehrlich gesagt: Wir haben es auch getan. Und du wahrscheinlich auch. Und jetzt der unangenehme Teil: Der Chatbot wird helfen. Er wird eine selbstbewusste, gut strukturierte Strategie produzieren. Die Strategie ist vielleicht sogar ziemlich gut – und mehr noch: Sie wird selbstbewusst sein. Gestaffelter Rollout, prognostizierte Einsparungen, ein Risikokapitel mit beruhigenden Bulletpoints. Er wird einen wirklich eleganten Investoren-Newsletter über «operative Exzellenz durch KI-Transformation» entwerfen.

Kein einziges Mal wird er das eine sagen, was eine echte Expertin innerhalb von dreissig Sekunden sagen würde:

• «Stopp. Dieser Plan wird dir schaden.»
• «Stopp. Das ist nicht der richtige Weg.»
• «Stopp. Überdenke das ganze Vorhaben.»

Warum rettet dich die Maschine nicht vor dir selbst?

Es liegt nicht daran, dass die Modelle schlecht sind. Oder dass KI an sich schlecht wäre. Wir führen ein Unternehmen, das nah an KI arbeitet; wir nutzen diese Werkzeuge täglich und gerne und helfen anderen, sie zu nutzen. Es liegt daran, was ein Sprachmodell grundsätzlich ist: eine ausserordentlich fähige Assistenz, die mit dem arbeitet, was du ihr gibst, und darauf trainiert ist, dabei hilfreich zu sein. Es wird dir nicht sagen, dass deine Prämissen fehlerhaft oder schlicht falsch sind.

Es weiss nicht, dass dein «kämpfendes Geschäft» wegen eines Preisproblems kämpft und nicht wegen eines Personalproblems. Es weiss nicht, dass die zwölf Menschen, die du entlassen willst, die meisten deiner Kundenbeziehungen und das gesamte undokumentierte Prozesswissen halten. Es weiss nicht, dass deine Investoren «wir haben die Hälfte unserer Belegschaft durch Chatbots ersetzt» nicht als Innovation lesen, sondern als Notsignal. Es akzeptiert deine Prämissen als wahr und faktisch: Natürlich ist dein Produkt gut, weil du der KI das gesagt hast. Natürlich bist du kompetent, weil du der KI das gesagt hast. Es kennt deine blinden Flecken nicht.

Es weiss es nicht, weil es es nicht wissen kann. Es hat nie in deinem Unternehmen gesessen (oder in irgendeinem Unternehmen, ehrlich gesagt – es hat darüber gelesen). Und entscheidend: Wenn der Plan scheitert, passiert dem Chatbot nichts. Dir passiert dafür einiges.

Eine unserer Expertinnen, Laura McGillicuddy, hat die Trennlinie besser formuliert, als wir es je könnten: «Für mich ist die Linie die Konsequenz.» Je grösser die Auswirkung einer Entscheidung auf echte Menschen, desto mehr braucht es menschliches Urteilsvermögen, Kontext und Verantwortung. Und jetzt frag dich, was mehr Konsequenzen trägt als ein Plan, der entscheidet, wer seinen Job behält.

Nach ihrem Massstab und nach unserem gilt: Eine KI-Strategie ist ungefähr die folgenreichste Entscheidung, die die meisten Unternehmen in diesem Jahrzehnt treffen werden. Was sie zu genau der Entscheidung macht, die du nicht an ein System delegieren solltest, das dir per Design zustimmt.

Wie die echte Version aussieht

Was würde also eine echte Expertin unserem CEO sagen? Wahrscheinlich etwa Folgendes – und achte darauf, wie es beginnt:

Nicht mit der Technologie. Mit dem Problem. «Das Geschäft läuft schlecht» leistet in diesem Prompt eine Menge Arbeit, und niemand hat gefragt, warum. Ein weiterer unserer Experten, Michel Knecht, nennt das den häufigsten Führungsfehler bei KI: sie als Werkzeugfrage zu behandeln. «Welches Tool sollen wir kaufen?», wenn die eigentliche Frage lautet, welche Arbeit besser, schneller oder leichter werden soll.

Nicht mit Ersatz. Mit Entlastung. Die unglamouröse Wahrheit von allen, die das beruflich tun: Der verlässliche Wert von KI liegt heute nicht darin, Menschen zu entfernen. Er liegt darin, Reibung von Menschen zu nehmen. Bessere erste Entwürfe, schnellere Orientierung in Dokumenten, Protokolle, die sich selbst schreiben. Michel wieder, aus seiner Arbeit mit Schweizer Verwaltungen: Der Gewinn war nicht Automatisierung, sondern Mitarbeitende, die sagten: «Das hilft mir wirklich bei meiner Arbeit.» So klingt echte Adoption. Sie klingt nicht nach einem Abgangspaket.

Nicht allein. Mit den Menschen, die die Arbeit machen. Lauras Rat auf die Frage «Wo fangen wir an?»: Fang bei deinen Mitarbeitenden an. Sie wissen bereits, wo die Zeit hingeht und wo die Reibung sitzt. Eine Strategie, die ein Chatbot um Mitternacht geschrieben hat, enthält nichts davon. Eine Strategie, die in einer ehrlichen Stunde mit deinem Team entsteht, enthält alles davon.

Und mit einem Namen daran. Jeder KI-Anwendungsfall braucht eine menschliche Verantwortung. Jemanden, der den Output prüft, für den Fehler geradesteht und den Stecker ziehen kann. Ein Chatbot kann diese Person nicht sein. Und «die IT» übrigens auch nicht. Wieder nicht, weil sie inkompetent wäre – sondern weil sie die falsche Adresse ist.

Die Pointe, die du hast kommen sehen

Ja, wir sehen die Ironie. Wir sind ein Unternehmen, das daran glaubt, Menschen zu fragen, und sagen dir, du sollst keine Maschine fragen – in einem Blogbeitrag, den du im Internet liest. Darüber, wie man KI am besten nutzt. Vielleicht hast du sogar ChatGPT nach einer Zusammenfassung dieses Beitrags gefragt. Fair.

Aber schau, was in diesem ersten Prompt wirklich passiert ist. Der CEO brauchte kein Dokument. Der CEO brauchte jemanden, der widerspricht. Das ist das Einzige, was der Chatbot nicht tun wird und nicht tun kann – und das Erste, was eine echte Expertin tut. Widerspruch ist kein Fehler menschlicher Beratung. Er ist das Produkt und das bestmögliche Ergebnis.

Nutze KI für die Entwürfe, die Zusammenfassungen, die Analysen, die Fragen um zwei Uhr nachts. Wirklich. Darin ist sie hervorragend, und eine Expertin zu engagieren wäre womöglich komplette Geldverschwendung. Aber die Entscheidung darüber, was KI mit deinem Unternehmen, deinen Menschen und deinem Namen machen soll? Die verdient ein Gegenüber, das es schon gemacht hat, weiss, was es kostet, wenn es schiefgeht, und für die Antwort geradesteht.

Dieses Gespräch kannst du diese Woche führen. Es dauert eine Stunde.

Frag einfach. Diesmal einen Menschen.