Leremy | shutterstock.com
Über die Fähigkeiten und die Defizitet von Generative AI (GenAI) wird seit dem Durchbruch der Technologie ausgiebig diskutiert. Insbesondere ihre Schattenseiten stehen dabei oft im Vordergrund – getrieben von der Angst, durch künstliche Intelligenz (KI) möglicherweise den Job zu verlieren.
Ein wissenschaftliches Experiment, das Forscher der Universität Cambridge in Zusammenarbeit mit dem britischen KI-Startup Strategize.inc umgesetzt haben, bekräftigt diese Befürchtungen. Durch KI ersetzt zu werden, müssen demnach insbesondere schlechte CEOs und Unternehmensberater fürchten.
“Ohne Rücksicht auf Verluste maximiert”
Der Ablauf des Experiments:
An der Studie nahmen Studenten und erfahrene Führungskräfte aus dem Bankenwesen teil, insgesamt 344 Personen.
Diese durchliefen eine auf Gamification-Elementen basierende Simulation, in der sie CEO-Entscheidungen treffen mussten. Deren Qualität wurde über diverse Metriken erfasst. Dabei galt es, mehrere, aufeinander aufbauende Runden in Form von Geschäftsjahren zu absolvieren. Pro Runde waren mehr als 500.000 Entscheidungskombinationen möglich.
Als Datengrundlage kam dabei ein digitaler Zwilling der US-Automotive-Industrie zum Einsatz, der neben Informationen zu Autoabsatzzahlen und Preisstrategien auch übergeordnete Einflussfaktoren wie wirtschaftliche Trends und die Effekte der Corona-Pandemie beinhaltete.
Das Ziel: Die Marktkapitalisierung maximieren, die sich aus einer Kombination nachhaltiger Wachstumsraten und freiem Cashflow ergibt. Und nicht vom virtuellen Board gefeuert werden, indem diverse KPIs erfüllt werden. “Dieses Ziel diente als realistischer Maßstab, um die tatsächliche Performance von CEOs zu messen”, schreiben die Wissenschaftler.
Anschließend wurde GPT-4o aus dem Hause OpenAI mit denselben Aufgaben konfrontiert und die Ergebnisse mit denen der besten zwei menschlichen Teilnehmer aus beiden Gruppen verglichen.
„Die Resultate waren sowohl überraschend als auch provokativ und haben viele unserer Annahmen in Sachen Leadership, Strategie und dem Potenzial von KI, wenn es um Decision Making auf höchster Ebene geht, in Frage gestellt“, schreiben die Forscher. GPT-4o habe die besten menschlichen Teilnehmer mit Blick auf nahezu alle erfassten Metriken konsistent übertroffen, Produkte mit chirurgischer Präzision designt und die Kosten strikt unter Kontrolle gehalten. Allerdings bemängeln die Forscher: „GPT-4o wurde schneller vom virtuellen Board entlassen als die Studenten.“
Das schreiben sie in erster Linie sogenannten „Black Swan“-Events zu: „Wir haben diese unvorhersehbaren Schocks integriert, um plötzliche Preisschwankungen, Veränderungen im Verbraucherverhalten und Supply-Chain-Probleme zu simulieren“, erklären die Wissenschaftler. Die Top-Performer unter den Studenten seien diesen Risiken mit Vorsicht begegnet. Sie hätten vor allem darauf gesetzt, in unsicheren Zeiten anpassungsfähig zu bleiben, statt kurzfristige Gewinne anzustreben.
GPT-4o habe hingegen – ebenso wie die besten Bank-Manager – einen gegenläufigen Weg eingeschlagen, wie die Forscher festhalten: „Die KI hat sich auf ein Optimierungs-Mindset festgelegt und Wachstum sowie Profitabilität ohne Rücksicht auf Verluste maximiert – bis sie von einem Marktschock aus der Bahn geworfen wurde.“
KI sei zwar in der Lage, in einer kontrollierten Umgebung schnell zu lernen und zu iterieren, komme aber mit unvorhergesehenen, disruptiven Ereignissen schlecht zurecht, die menschliche Intuition und Voraussicht erforderten. Auf die Executives aus dem Bankwesen, die ebenfalls schneller vom virtuellen Board gefeuert wurden als die Studenten, wirft das kein gutes Licht: „Sowohl GPT-4o als auch die Führungskräfte sind demselben Mangel erlegen: Dem übermäßigen Vertrauen in ein System, das aggressiven Ehrgeiz zwar belohnt, aber ebenso Flexibilität und langfristiges Denken.“
Was die generative KI von OpenAI angeht, ziehen die Forscher dennoch ein wohlwollendes Fazit: „Trotz seiner Limitationen hat GPT-4o eine beeindruckende Performance abgeliefert. Die KI wurde zwar öfter entlassen als die besten menschlichen Spieler, konnte sich aber dennoch gegen die besten und smartesten Teilnehmer behaupten.“
Was heißt das für Unternehmen?
Die Forscher leiten aus ihrem Experiment verschiedene Erkenntnisse ab. Im Folgenden eine Kurzfassung:
Generative AI kann als strategische Ressource nicht länger ignoriert werden. Das Experiment zeige, das sogar nicht-abgestimmte Modelle kreativen, strategischen Input geben könnten, die richtigen Prompts vorausgesetzt. Unter dem Strich produziere KI starke Ergebnisse, insbesondere wenn es darum gehe, Wert für Aktionäre zu generieren, so die Wissenschaftler.
Datenqualität ist entscheidend. Damit KI in Sachen Unternehmensstrategie über sich hinauswachsen könne, brauche es qualitativ hochwertige Daten – ähnlich derer, die im Experiment eingesetzt wurden. Die Voraussetzung für KI im Boardroom sei eine robuste Dateninfrastruktur, sind die Initiatoren des Experiments überzeugt.
KI-Effizienz ist nicht risikofrei. Aggressive Maximierungsstrategien könnten ohne ausreichende Weitsicht zu desaströsen Ergebnissen führen. Deshalb sollte weder eine KI unbeaufsichtigt arbeiten, noch Menschen ohne Weitsicht KI-Tools bedienen, meinen die Forscher.
Accountability und GenAI gehen nicht gut zusammen. Die Tatsache, dass KI-Systeme nur schwierig, beziehungsweise nicht zur Verantwortung zu ziehen seien, seien transparente Guardrails umso wichtiger. Nur so sei nach Meinung der Wissenschaftler zu gewährleisten, dass GenAI-basierte Entscheidungen mit den Unternehmenswerten in Einklang stehen.
Digital Twins nehmen eine zentrale, strategische Rolle ein. Digitale Zwillinge eines Unternehmens-Ökosystems, „bevölkert“ mit mehreren LLM-Agenten könnten den Forschern zufolge eine wertvolle Sandbox für KI-Leadership darstellen. Das gewährleiste nicht nur einen Sicherheitspuffer bei Fehltritten, sondern stelle CEOs auch wichtige Einblicke für bessere Entscheidungen zur Verfügung.
Unternehmensberatern könnten disruptive Zeiten bevorstehen. Mit dem Aufkommen „künstlicher CEOs“ prophezeien die Wissenschaftler harte Zeiten für Consultants: „Unternehmen wie McKinsey könnten damit konfrontiert werden, dass ihre Dienstleistungen durch KI-Systeme ergänzt oder ersetzt werden.“
Chefs, die modernen Führungsmethoden gegenüber aufgeschlossen sind, müssen sich weniger Sorgen machen, durch ein KI-System ersetzt zu werden, wenn es nach den Forschern geht: „KI kann nicht vollständig die Verantwortlichkeiten eines CEOs übernehmen. Aber sie kann strategische Planungsprozesse deutlich verbessern und dabei helfen, kostspielige Fehler zu verhindern. Die wahre Stärke der generativen KI liegt darin, das Decision Making von CEOs anzureichern und diesen durch ihre Analyse- und Simulationsarbeit zu ermöglichen, sich auf ihre menschlichen Fähigkeiten zu fokussieren: strategische, emphatische und ethisch vertretbare Entscheidungen zu fällen.”
Die Forscher sehen für Chief Executive Officer vor allem ein Risiko: „Sich an der Illusion festzuhalten, dass wir auch in der Zukunft alleine die Zügel in der Hand halten. Die Leadership-Zukunft ist hybrid. Erfolg haben werden die CEOs, die künstliche Intelligenz als Partner begreifen – statt als Konkurrenz.“
Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre Inbox!
srcset=”https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?quality=50&strip=all 6347w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=300%2C168&quality=50&strip=all 300w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=768%2C432&quality=50&strip=all 768w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=1024%2C576&quality=50&strip=all 1024w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=1536%2C864&quality=50&strip=all 1536w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=2048%2C1152&quality=50&strip=all 2048w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=1240%2C697&quality=50&strip=all 1240w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=150%2C84&quality=50&strip=all 150w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=854%2C480&quality=50&strip=all 854w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=640%2C360&quality=50&strip=all 640w, https://b2b-contenthub.com/wp-content/uploads/2024/09/Leremy_shutterstock_578934142_16z9.jpg?resize=444%2C250&quality=50&strip=all 444w” width=”1024″ height=”576″ sizes=”(max-width: 1024px) 100vw, 1024px”>Ein wissenschaftliches Experiment legt nahe, dass vor allem Unternehmensberater und (schlechte) CEOs Angst haben sollten, durch Generative AI ersetzt zu werden.Leremy | shutterstock.com
Über die Fähigkeiten und die Defizitet von Generative AI (GenAI) wird seit dem Durchbruch der Technologie ausgiebig diskutiert. Insbesondere ihre Schattenseiten stehen dabei oft im Vordergrund – getrieben von der Angst, durch künstliche Intelligenz (KI) möglicherweise den Job zu verlieren.
Ein wissenschaftliches Experiment, das Forscher der Universität Cambridge in Zusammenarbeit mit dem britischen KI-Startup Strategize.inc umgesetzt haben, bekräftigt diese Befürchtungen. Durch KI ersetzt zu werden, müssen demnach insbesondere schlechte CEOs und Unternehmensberater fürchten.
What happens when you replace a CEO with an AI chatbot? https://t.co/wuCkmH30nB— Harvard Business Review (@HarvardBiz) September 27, 2024
“Ohne Rücksicht auf Verluste maximiert”
Der Ablauf des Experiments:
An der Studie nahmen Studenten und erfahrene Führungskräfte aus dem Bankenwesen teil, insgesamt 344 Personen.
Diese durchliefen eine auf Gamification-Elementen basierende Simulation, in der sie CEO-Entscheidungen treffen mussten. Deren Qualität wurde über diverse Metriken erfasst. Dabei galt es, mehrere, aufeinander aufbauende Runden in Form von Geschäftsjahren zu absolvieren. Pro Runde waren mehr als 500.000 Entscheidungskombinationen möglich.
Als Datengrundlage kam dabei ein digitaler Zwilling der US-Automotive-Industrie zum Einsatz, der neben Informationen zu Autoabsatzzahlen und Preisstrategien auch übergeordnete Einflussfaktoren wie wirtschaftliche Trends und die Effekte der Corona-Pandemie beinhaltete.
Das Ziel: Die Marktkapitalisierung maximieren, die sich aus einer Kombination nachhaltiger Wachstumsraten und freiem Cashflow ergibt. Und nicht vom virtuellen Board gefeuert werden, indem diverse KPIs erfüllt werden. “Dieses Ziel diente als realistischer Maßstab, um die tatsächliche Performance von CEOs zu messen”, schreiben die Wissenschaftler.
Anschließend wurde GPT-4o aus dem Hause OpenAI mit denselben Aufgaben konfrontiert und die Ergebnisse mit denen der besten zwei menschlichen Teilnehmer aus beiden Gruppen verglichen.
„Die Resultate waren sowohl überraschend als auch provokativ und haben viele unserer Annahmen in Sachen Leadership, Strategie und dem Potenzial von KI, wenn es um Decision Making auf höchster Ebene geht, in Frage gestellt“, schreiben die Forscher. GPT-4o habe die besten menschlichen Teilnehmer mit Blick auf nahezu alle erfassten Metriken konsistent übertroffen, Produkte mit chirurgischer Präzision designt und die Kosten strikt unter Kontrolle gehalten. Allerdings bemängeln die Forscher: „GPT-4o wurde schneller vom virtuellen Board entlassen als die Studenten.“
Das schreiben sie in erster Linie sogenannten „Black Swan“-Events zu: „Wir haben diese unvorhersehbaren Schocks integriert, um plötzliche Preisschwankungen, Veränderungen im Verbraucherverhalten und Supply-Chain-Probleme zu simulieren“, erklären die Wissenschaftler. Die Top-Performer unter den Studenten seien diesen Risiken mit Vorsicht begegnet. Sie hätten vor allem darauf gesetzt, in unsicheren Zeiten anpassungsfähig zu bleiben, statt kurzfristige Gewinne anzustreben.
GPT-4o habe hingegen – ebenso wie die besten Bank-Manager – einen gegenläufigen Weg eingeschlagen, wie die Forscher festhalten: „Die KI hat sich auf ein Optimierungs-Mindset festgelegt und Wachstum sowie Profitabilität ohne Rücksicht auf Verluste maximiert – bis sie von einem Marktschock aus der Bahn geworfen wurde.“
KI sei zwar in der Lage, in einer kontrollierten Umgebung schnell zu lernen und zu iterieren, komme aber mit unvorhergesehenen, disruptiven Ereignissen schlecht zurecht, die menschliche Intuition und Voraussicht erforderten. Auf die Executives aus dem Bankwesen, die ebenfalls schneller vom virtuellen Board gefeuert wurden als die Studenten, wirft das kein gutes Licht: „Sowohl GPT-4o als auch die Führungskräfte sind demselben Mangel erlegen: Dem übermäßigen Vertrauen in ein System, das aggressiven Ehrgeiz zwar belohnt, aber ebenso Flexibilität und langfristiges Denken.“
Was die generative KI von OpenAI angeht, ziehen die Forscher dennoch ein wohlwollendes Fazit: „Trotz seiner Limitationen hat GPT-4o eine beeindruckende Performance abgeliefert. Die KI wurde zwar öfter entlassen als die besten menschlichen Spieler, konnte sich aber dennoch gegen die besten und smartesten Teilnehmer behaupten.“
Was heißt das für Unternehmen?
Die Forscher leiten aus ihrem Experiment verschiedene Erkenntnisse ab. Im Folgenden eine Kurzfassung:
Generative AI kann als strategische Ressource nicht länger ignoriert werden. Das Experiment zeige, das sogar nicht-abgestimmte Modelle kreativen, strategischen Input geben könnten, die richtigen Prompts vorausgesetzt. Unter dem Strich produziere KI starke Ergebnisse, insbesondere wenn es darum gehe, Wert für Aktionäre zu generieren, so die Wissenschaftler.
Datenqualität ist entscheidend. Damit KI in Sachen Unternehmensstrategie über sich hinauswachsen könne, brauche es qualitativ hochwertige Daten – ähnlich derer, die im Experiment eingesetzt wurden. Die Voraussetzung für KI im Boardroom sei eine robuste Dateninfrastruktur, sind die Initiatoren des Experiments überzeugt.
KI-Effizienz ist nicht risikofrei. Aggressive Maximierungsstrategien könnten ohne ausreichende Weitsicht zu desaströsen Ergebnissen führen. Deshalb sollte weder eine KI unbeaufsichtigt arbeiten, noch Menschen ohne Weitsicht KI-Tools bedienen, meinen die Forscher.
Accountability und GenAI gehen nicht gut zusammen. Die Tatsache, dass KI-Systeme nur schwierig, beziehungsweise nicht zur Verantwortung zu ziehen seien, seien transparente Guardrails umso wichtiger. Nur so sei nach Meinung der Wissenschaftler zu gewährleisten, dass GenAI-basierte Entscheidungen mit den Unternehmenswerten in Einklang stehen.
Digital Twins nehmen eine zentrale, strategische Rolle ein. Digitale Zwillinge eines Unternehmens-Ökosystems, „bevölkert“ mit mehreren LLM-Agenten könnten den Forschern zufolge eine wertvolle Sandbox für KI-Leadership darstellen. Das gewährleiste nicht nur einen Sicherheitspuffer bei Fehltritten, sondern stelle CEOs auch wichtige Einblicke für bessere Entscheidungen zur Verfügung.
Unternehmensberatern könnten disruptive Zeiten bevorstehen. Mit dem Aufkommen „künstlicher CEOs“ prophezeien die Wissenschaftler harte Zeiten für Consultants: „Unternehmen wie McKinsey könnten damit konfrontiert werden, dass ihre Dienstleistungen durch KI-Systeme ergänzt oder ersetzt werden.“
Chefs, die modernen Führungsmethoden gegenüber aufgeschlossen sind, müssen sich weniger Sorgen machen, durch ein KI-System ersetzt zu werden, wenn es nach den Forschern geht: „KI kann nicht vollständig die Verantwortlichkeiten eines CEOs übernehmen. Aber sie kann strategische Planungsprozesse deutlich verbessern und dabei helfen, kostspielige Fehler zu verhindern. Die wahre Stärke der generativen KI liegt darin, das Decision Making von CEOs anzureichern und diesen durch ihre Analyse- und Simulationsarbeit zu ermöglichen, sich auf ihre menschlichen Fähigkeiten zu fokussieren: strategische, emphatische und ethisch vertretbare Entscheidungen zu fällen.”
Die Forscher sehen für Chief Executive Officer vor allem ein Risiko: „Sich an der Illusion festzuhalten, dass wir auch in der Zukunft alleine die Zügel in der Hand halten. Die Leadership-Zukunft ist hybrid. Erfolg haben werden die CEOs, die künstliche Intelligenz als Partner begreifen – statt als Konkurrenz.“
Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre Inbox!