Mensch-AI-Interaktion: Drahtseilakt Glauben vs. Halluzinationen

Die globale Bereitstellung von ChatGPT kann als «iPhone-Moment» für die Mensch-AI-Interaktion bezeichnet werden. Dieser Moment markiert einen Wendepunkt, an dem wir zunehmend mit Artificial Intelligence (AI) interagieren, da die Kommunikation in natürlicher Sprache ermöglicht wurde.

Ein Blick auf die Google Trends bestätigt diesen Trend. Die Suchanfragen nach «künstlicher Intelligenz» sind seitdem stetig gestiegen:

Doch mit dieser wachsenden Bedeutung von AI gehen auch wichtige Überlegungen einher, die im Umgang mit dieser Technologie berücksichtigt werden müssen. Es ist nicht mehr nur die Frage, wie wir AI nutzen können, sondern auch, wie wir sicherstellen können, dass diese Interaktion für alle Beteiligten positiv und produktiv verläuft. Denn im Umgang mit AI können bestimmte kognitive Verzerrungen auftreten, die unsere Interaktion mit dieser Technologie beeinflussen. Eine übermässige Abhängigkeit von AI-Systemen kann beispielsweise dazu führen, dass die menschlichen Fähigkeiten verringert werden. Mitarbeitende könnten sich so stark auf die Technologie verlassen, dass ihre eigenen Fähigkeiten und Fachkenntnisse vernachlässigt werden. Es ist wichtig zu betonen, dass AI-Systeme nicht unfehlbar sind. Trotz ihrer fortschrittlichen Fähigkeiten bleiben sie anfällig für Fehler und Unvollkommenheiten.

Zwei kognitive Verzerrungen, die besonders beim Umgang mit AI berücksichtigt werden müssen, sind die Automation Bias und die Confirmation Bias.

• Der Automation Bias bezieht sich auf die Tendenz, den Empfehlungen oder Entscheidungen von automatisierten Systemen, wie AI, bedingungslos zu vertrauen, selbst wenn menschliche Intuition oder Erfahrung anderes nahelegen. Diese Neigung kann dazu führen, dass Menschen wichtige Entscheidungen unreflektiert den AI-Systemen überlassen, ohne diese kritisch zu hinterfragen.
• Der Confirmation Bias hingegen beschreibt die Tendenz, Informationen zu suchen und so zu interpretieren, dass diese unsere bestehenden Überzeugungen und Vorurteile bestätigen. Im Kontext der Mensch-AI-Interaktion könnte dies bedeuten, dass Menschen dazu neigen, die von der AI bereitgestellten Informationen zu akzeptieren, die ihren bereits vorhandenen Annahmen entsprechen, und dabei potenziell relevante oder abweichende Daten zu ignorieren. Oft hört an dieser Stelle auch die Suche nach weiteren Daten und Informationen auf.

Kognitive Verzerrungen
Menschen hinterfragen die Informationen nicht, wenn …

Aber auch die Annahme, dass eine AI immer korrekt und fehlerfrei arbeitet, ist falsch. Während menschliche Verzerrungen auf individuellen Denkmustern beruhen, können AI-Biases aufgrund verschiedener Faktoren in den Daten oder den Algorithmen auftreten, die zur Entwicklung von AI-Systemen verwendet werden.
Zu den AI-Biases gehören unter anderem der Sampling Bias sowie der Measurement Bias.

• Der Sampling Bias tritt auf, wenn die Daten, die zur Entwicklung von AI-Systemen verwendet werden, nicht repräsentativ für die tatsächliche Vielfalt der Population sind. Dies kann dazu führen, dass das AI-System verzerrte oder unvollständige Ergebnisse produziert, die nicht auf die Gesamtpopulation generalisierbar sind. Zum Beispiel könnten Daten, die hauptsächlich bestimmte demografische Gruppen repräsentieren, zu Vorurteilen führen, wenn das AI-System auf dieser Grundlage Entscheidungen trifft.
• Der Measurement Bias tritt auf, wenn die verwendeten Messinstrumente oder Metriken ungenau oder nicht angemessen sind. Dies kann dazu führen, dass das AI-System falsche Annahmen über die Daten trifft oder Ergebnisse produziert, die nicht mit der Realität übereinstimmen. Wenn beispielsweise zur Bewertung der Kundenzufriedenheit die Faktoren «Kundenbeschwerden» oder «Rücksendungen» nicht berücksichtigt werden.

Diese AI-Biases können schwerwiegende Folgen haben, da sie zu einer Halluzination von Ergebnissen und falschen Aussagen führen können. Wenn AI-Systeme auf der Grundlage verzerrter oder unvollständiger Daten trainiert werden, besteht das Risiko, dass sie Entscheidungen treffen oder Vorhersagen treffen, die nicht zuverlässig sind. 

AI Biases

Diese kognitiven Verzerrungen zu verstehen, ist entscheidend, damit die Interaktion zwischen Menschen und AI zielführend und gewinnbringend erfolgen kann. Es ist daher wichtig, dass Mitarbeitende in der Anwendung von AI geschult werden, um diese Verzerrungen zu erkennen und zu vermeiden. Ein gründliches Verständnis der Funktionsweise von AI und ihrer potenziellen Grenzen kann dazu beitragen, falsche Annahmen und übermässiges Vertrauen in die Technologie zu vermeiden.

Fazit:
Um die Herausforderungen der Mensch-AI-Interaktion erfolgreich zu bewältigen, ist es entscheidend, dass Unternehmen proaktiv handeln und ihre Belegschaft über die potenziellen Gefahren informieren. Durch gezielte Schulungen und Aufklärungskampagnen können Mitarbeitende hinsichtlich der eigenen kognitiven Verzerrungen sowie der AI-Biases sensibilisiert werden. Darüber hinaus sollten Unternehmen aktiv die Nutzung von AI-Lösungen beobachten, um die User-Adoption erfassen zu können. Durch die Überwachung von Nutzungsmetriken können Unternehmen feststellen, wie Mitarbeitende die AI-Systeme einsetzen, welche Probleme auftreten und wo Schulungsbedarf besteht. 
Im Allgemeinen sollte der Einsatz von AI im Büro nicht als Ersatz für menschliches Urteilsvermögen und Fachwissen gesehen werden, sondern als ein Werkzeug, das diese ergänzen und verbessern kann. Schliesslich ist es die Kombination aus menschlicher Intuition und Artificial Intelligence, die das grösste Potenzial für den Erfolg in der modernen Arbeitswelt bietet. Die BitHawk hat bereits viel Erfahrung im Umgang mit Changes, welche durch neue Technologien getrieben werden. Lass dich von unseren Experten beraten, wie du AI-Tools zielführend und gewinnbringend in deinem Unternehmen einführen kannst.

Wie bereits in den letzten Blogs haben wir wieder eine kleine anonyme Umfrage für dich. Teile deine Meinung mit uns. Wir freuen uns über dein Feedback.

*Ergebnisse werden anonymisiert gespeichert

Stelle sicher, dass du keinen Beitrag zum Thema AI verpasst und in Zukunft direkt über Neuigkeiten im Bereich Artificial Intelligence informiert bleibst. Registriere dich jetzt für das kostenlose Blog-Abo.

Hast du weitere Fragen? Dann zögere nicht und melde dich bei uns. Wir stehen dir gerne persönlich zur Verfügung. Du erreichst uns unter marketing@bithawk.ch oder 058 226 01 01.

Weitere Themen auf unserem Blog