Artificial Intelligence

Was wir bisher wissen:
OpenAI, ein Branchenriese, wurde vor 10 Jahren gegründet, beschäftigt rund 4.500 Mitarbeiter und hat bisher 6,6 Milliarden Dollar an Kapital aufgenommen.

DeepSeek hingegen ist ein echter Newcomer: Das Unternehmen existiert seit weniger als 2 Jahren, beschäftigt nur 200 Mitarbeitende und soll mit einem vergleichsweise geringen Budget von rund 5 Millionen Dollar entwickelt worden sein – eine Zahl, die jedoch schwer unabhängig zu verifizieren ist.

Large Language Models (LLMs) haben sich als direkte Schnittstelle zwischen Mensch und Maschine etabliert. Sie verstehen und erzeugen Sprache, was sie für viele Anwendungsfälle extrem nützlich macht. Von der Beantwortung von Fragen über die Zusammenfassung von Texten bis hin zur Erstellung von neuen Kommunikationsslogans – die Einsatzmöglichkeiten sind vielfältig. Doch eine Sache können diese Modelle nicht: tatsächliche Handlungen ausführen. Genau hier kommen Bots und Large Action Models (LAMs) ins Spiel.

Die Entwicklung humanoider Roboter hat eine lange Geschichte, die mit einfachen Prototypen wie «Shakey» begann und sich bis zu den fortgeschrittenen Modellen wie Hondas ASIMO erstreckt. Diese frühen Modelle waren zwar wegweisend, aber aufgrund ihrer hohen Kosten und begrenzten Funktionalität nicht weitverbreitet. Heute jedoch ermöglichen technologische Fortschritte, wie die Miniaturisierung und Kostensenkung von LiDAR-Technologie, sowie Durchbrüche in der Künstlichen Intelligenz, die Schaffung nützlicher und erschwinglicher humanoider Arbeitsroboter. Diese werden in der Massenproduktion hergestellt und sind in der Lage, Seite an Seite mit Menschen zu arbeiten.

LLMs brillieren im Spiel «Errate das nächste Wort». Sie sind absolut überlegen durch algorithmische Mustererkennung. Aber wie gut sind sie wirklich im Vergleich zum Menschen und wie sieht es mit ihrer Sozialkompetenz aus?

Die Erwartungen betreffend Produktivitäts-Boost sind riesig. Viele CEOs
werden nervös, denn wer nicht dabei ist, scheint zu verlieren.

Grosse Sprachmodelle finden vielfältige Anwendungen. Das RAG-Modell stellt dabei nicht ein neues AI-Modell dar, sondern eine Methode, wie man ein grosses
Sprachmodell geschickt in eine Gesamtarchitektur integriert. Microsoft M365 Copilot ist ein Beispiel, das auf einem solchen RAG-Modell aufbaut.

Grosse Sprachmodelle lernen aus «Büchern», indem sie Texte in kleine Einheiten,
sogenannte Tokens, zerlegen. Diese Modelle achten genau darauf, was links und
rechts von jedem Wort steht und erstellen für jedes Wort riesige Vektoren. Diese
Vektoren enthalten alle möglichen Wahrscheinlichkeiten der Wörter, die in der
Nachbarschaft auftauchen können, wodurch die Modelle das Zusammenspiel der
Wörter «verstehen».

Neuronale Netzwerke, besonders grosse Sprachmodelle, sind aus Parametern aufgebaut und «nähren» sich von Tokens. Die Menge dieser Tokens zeigt, wie viele Informationen – vergleichbar mit Büchern – die AI «gelesen» hat. Doch die Tokens finden nicht nur hier Verwendung; sie spielen auch in anderen Bereichen eine wichtige Rolle als Masseinheit.

Neuronale Netzwerke, einschliesslich der beeindruckenden Large Language Models, sind eine Art digitale Gehirne, vollgepackt mit Parametern, die den Neuronen in unserem Gehirn ähneln. Ein Grössenvergleich zur Biologie verdeutlicht, wie enorm gross und leistungsfähig diese neuen Modelle geworden sind.

Warum erlebt das Feld der AI gerade jetzt einen solchen Boom? Eine Analyse der Treiber, die den bedeutenden Fortschritt in Deep Neural Networks und Large Language Models wie ChatGPT ermöglichen.