Warum immer mehr KI-Unternehmen ihren Kunden erlauben, Modelle selbst auszuführen

Für die meisten Unternehmen bedeutet der Einsatz generativer KI nach wie vor, eine Anfrage an das System eines anderen Anbieters zu senden. Das Modell befindet sich in einer externen Cloud-Umgebung, der Anbieter steuert dessen technische Weiterentwicklung, und der Zugriff besteht so lange, wie die Geschäftsbeziehung andauert. Dies hat die Einführung künstlicher Intelligenz bemerkenswert vereinfacht. Gleichzeitig hat es dazu geführt, dass viele Unternehmen nur begrenzte Kontrolle über eine der Technologien haben, die sie zunehmend in sensible Geschäftsprozesse integrieren möchten.

Ein anderer Ansatz gewinnt nun zunehmend an Bedeutung. Einige KI-Unternehmen ermöglichen es ihren Kunden, Modelle herunterzuladen, anzupassen und in einer vom Kunden gewählten Infrastruktur zu betreiben. Thinking Machines Lab, gegründet von der ehemaligen OpenAI-Technologieleiterin Mira Murati, hat mit seinem ersten Modell „Inkling“ diesen Weg eingeschlagen. Anstatt nur um die höchste Benchmark-Punktzahl zu konkurrieren, stellt das Unternehmen Anpassungsfähigkeit, Kontrolle und zuverlässigen Betrieb als Prioritäten für Unternehmenskunden in den Vordergrund. Kunden können das Modell herunterladen und selbst ausführen, während eine begleitende Plattform die Anpassung erleichtern soll.

Diese Entwicklung spiegelt einen umfassenderen Wandel im Bereich der Unternehmens-KI wider. Der Markt lässt sich nicht mehr einfach in Unternehmen unterteilen, die KI einsetzen, und solche, die dies nicht tun. Technologieführer müssen nun entscheiden, wo die Modelle ausgeführt werden sollen, wer sie betreiben soll, inwieweit sie angepasst werden sollen und wie einfach das Unternehmen später zu einem anderen Anbieter wechseln könnte.

Diese Entscheidungen erfordern mehr Präzision, als die übliche Sprache im Zusammenhang mit Open AI normalerweise bietet.

„Open“ bedeutet nicht immer „Open Source“

Begriffe wie offenes Modell, offene Gewichtsklassen und Open Source werden oft so verwendet, als würden sie dasselbe Produkt beschreiben. Das tun sie jedoch nicht.

Der Zugriff auf ein herkömmliches gehostetes Modell erfolgt über eine Anwendungsprogrammierschnittstelle (API). Der Kunde sendet Daten an den Anbieter und erhält eine Antwort. Das Modell selbst bleibt unter der Kontrolle des Anbieters. Für viele Unternehmen ist dies die einfachste Lösung, da sie keine spezielle IT-Infrastruktur anschaffen, das Modell warten oder den zugrunde liegenden Software-Stack verwalten müssen.

Ein Modell mit offenen Gewichten ermöglicht den Nutzern den Zugriff auf die während des Trainings erstellten numerischen Parameter. Diese Gewichte können in der Regel heruntergeladen und auf der eigenen Infrastruktur des Kunden oder über einen Cloud-Anbieter seiner Wahl verarbeitet werden. Das Unternehmen erhält dadurch deutlich mehr Kontrolle über die Bereitstellung und Anpassung, auch wenn die Lizenz bestimmte kommerzielle Nutzungen, Änderungen oder Formen der Weiterverbreitung weiterhin einschränken kann.

Ein wirklich offenes Open-Source-System geht noch einen Schritt weiter. Es stellt den Quellcode und die Lizenzrechte bereit, die erforderlich sind, um die Software zu prüfen, zu ändern und weiterzuverbreiten. Doch selbst hier bleiben möglicherweise die vollständigen Trainingsdaten und der Trainingsprozess geheim. Ein Modell kann daher in wichtigen technischen Aspekten offen sein, ohne vollständige Transparenz darüber zu bieten, wie es erstellt wurde.

Unter „Self-Hosting“ versteht man etwas ganz anderes. Dabei geht es darum, wo das System betrieben wird, und nicht darum, ob die Technologie offen ist. Ein Unternehmen kann ein Open-Weight-Modell in seinem eigenen Rechenzentrum betreiben, es über einen Schweizer Cloud-Anbieter bereitstellen oder eine dedizierte Umgebung nutzen, die von einem externen Technologiepartner verwaltet wird. In jedem Fall hat der Kunde mehr Kontrolle über die Betriebsumgebung, als dies bei einer standardmässigen öffentlichen API der Fall wäre. Das macht das Modell jedoch nicht automatisch zu Open Source, sicher oder wirtschaftlich.

Diese Unterscheidung ist wichtig, da jede Option dem Kunden die Kontrolle über eine andere Ebene ermöglicht. Der Zugriff auf die Modellgewichte bietet technische Flexibilität. Eine Open-Source-Lizenz gewährt rechtliche Berechtigungen. Das Selbsthosting ermöglicht operative Kontrolle. Keine dieser Optionen allein garantiert jedoch Datensouveränität oder wirtschaftliche Unabhängigkeit.

Die Steuerung wird zum integralen Bestandteil des Produkts

Die größten KI-Anbieter haben ihren frühen Vorsprung auf Leistung und einfachen Zugang aufgebaut. Ein Unternehmen konnte auf ein hochentwickeltes Modell zugreifen, ohne Server kaufen, Machine-Learning-Ingenieure einstellen oder verstehen zu müssen, wie das System trainiert worden war.

Das ist nach wie vor attraktiv für Experimente, allgemeine Büroanwendungen und Dienste, bei denen keine besonders sensiblen Informationen verarbeitet werden. Weniger geeignet ist es hingegen, wenn das Modell interne Verträge auswerten, mit Betriebssystemen interagieren, Investitionsentscheidungen unterstützen oder mit vertraulichen Kundendaten arbeiten soll.

Für Unternehmen in der Schweiz geht es nicht nur darum, ob Daten physisch im Land gespeichert werden. Sie müssen auch wissen, wer darauf zugreifen kann, ob Protokolle aufbewahrt werden, inwiefern Unterauftragsverarbeiter beteiligt sind, was geschieht, wenn der Anbieter seine Geschäftsbedingungen ändert, und wie das System übertragen werden könnte, falls die Geschäftsbeziehung endet.

Die Ausführung eines Modells in einer kontrollierten Umgebung kann einige dieser Bedenken ausräumen. Die Daten verbleiben in der vom Unternehmen ausgewählten Infrastruktur, Zugriffskontrollen können an bestehende Sicherheitsrichtlinien angepasst werden, und Verbindungen zu internen Systemen lassen sich genauer steuern. Modellaktualisierungen können zudem getestet werden, bevor sie in die Produktion übernommen werden, anstatt sie nach dem Zeitplan des Anbieters einzuführen.

Dies ist insbesondere in den Bereichen Bankwesen, Versicherungen, Gesundheitswesen, Pharmazie und fortschrittliche Fertigung von Bedeutung, wo wertvolle Informationen weit mehr als nur personenbezogene Daten umfassen können. Technische Spezifikationen, Produktionsaufzeichnungen, Preisbildungslogik, Anlageanalysen und interne Entscheidungsprozesse können alle Teil des Kontexts werden, der einem KI-System zur Verfügung gestellt wird.

Durch die eigenverantwortliche Bereitstellung kann ein Unternehmen das Modell als Teil seiner eigenen Technologiearchitektur betrachten und nicht als einen externen digitalen Dienst.

Die höchste Benchmark-Punktzahl ist möglicherweise nicht die beste Wahl für ein Unternehmen

Inkling ist unter anderem deshalb bemerkenswert, weil seine Entwickler nicht behaupten, dass es in den üblichen Leistungsrankings marktführend ist. In Vergleichstests liegt das Modell hinter mehreren Open-Source-Alternativen zurück. Thinking Machines Lab scheint sich dennoch an Unternehmen zu richten, die mehr Wert auf Anpassungsfähigkeit, Zuverlässigkeit und Kontrolle legen als auf einen marginalen Vorteil in einem Benchmark-Test.

Dieser Kompromiss ist in der Unternehmens-IT nichts Ungewöhnliches. Unternehmen entscheiden sich selten für eine Kernsoftware im Bereich Rechnungswesen, für Datenbanken oder Industriesysteme, nur weil diese in einem Labortest die beste Leistung erbringen. Sie prüfen auch die Integrationsmöglichkeiten, die Dokumentation, den Support, die Sicherheit, die Kompatibilität und die erwartete Lebensdauer des Produkts.

Auch im Bereich der KI-Beschaffung geht der Trend allmählich in dieselbe Richtung.

Ein etwas weniger leistungsfähiges allgemeines Modell kann innerhalb eines bestimmten Unternehmens bessere Ergebnisse erzielen, sobald es an die Terminologie, die Dokumente und die Prozesse der Organisation angepasst wurde. Es lässt sich möglicherweise auch leichter testen, ist bei hohen Datenmengen kostengünstiger im Betrieb und nach der Einführung besser vorhersehbar.

Die Benchmark-Leistung spielt nach wie vor eine Rolle, insbesondere bei komplexen Schlussfolgerungen und technisch anspruchsvollen Aufgaben. Der Unterschied zwischen dem führenden Modell und einer glaubwürdigen Alternative hat jedoch möglicherweise nur geringe wirtschaftliche Relevanz, wenn das System in erster Linie interne Dokumente klassifiziert, Informationen aus einer kontrollierten Wissensdatenbank abruft oder Mitarbeiter bei festgelegten Abläufen unterstützt.

Ein Unternehmen benötigt ein Modell, das innerhalb seines eigenen Arbeitsablaufs zuverlässig funktioniert – nicht unbedingt das Modell, das in einem breiten öffentlichen Vergleich am besten abschneidet.

Durch Selbsthosting werden die Kosten verändert, anstatt sie zu eliminieren

Die wirtschaftlichen Aspekte des eigenständigen Betriebs eines Modells können attraktiv erscheinen. Ein Unternehmen muss einen Anbieter nicht mehr für jeden Ein- und Ausgang bezahlen, und Anwendungen mit hohem Datenaufkommen können kostengünstiger werden, sobald die erforderliche Infrastruktur vorhanden ist.

Die Berechnung ist komplizierter, als einfach nur eine API-Rechnung durch einen Server zu ersetzen.

Modelle erfordern Rechenkapazität, Speicherplatz, Überwachung und technische Wartung. Sicherheitspatches und Modellaktualisierungen müssen verwaltet werden. Die Leistung kann nachlassen, wenn das System auf neue Datentypen stößt oder wenn das Unternehmen seine Prozesse ändert. Es muss stets jemand für das Testen, die Zugriffsverwaltung und die Reaktion auf Vorfälle verantwortlich sein.

Große Modelle erfordern unter Umständen auch teure Grafikprozessoren, während kleinere Modelle oft eng definierte Unternehmensaufgaben mit weitaus geringeren Infrastrukturanforderungen bewältigen können. Die finanziell sinnvolle Wahl hängt daher von der jeweiligen Anwendung ab. Eine öffentliche API ist möglicherweise kostengünstiger für einen gelegentlich genutzten Assistenten, der von wenigen Mitarbeitern verwendet wird. Ein selbst gehostetes Modell ist möglicherweise attraktiver für ein System, das Tausende sich wiederholender Anfragen verarbeitet oder Informationen verwaltet, die eine kontrollierte Umgebung nicht ohne Weiteres verlassen dürfen.

Hybride Architekturen werden sich voraussichtlich durchsetzen. Ein Unternehmen könnte beispielsweise ein kleineres Modell lokal für vertrauliche oder Routineaufgaben einsetzen, während es für gelegentliche Aufgaben, die eine höhere Rechenleistung erfordern, auf ein externes „Frontier“-Modell zurückgreift. Anfragen können je nach ihrer Sensibilität, Komplexität und den damit verbundenen Kosten weitergeleitet werden.

Das Ergebnis ist keine vollständige Unabhängigkeit von externen Anbietern. Es handelt sich vielmehr um eine bewusstere Verteilung der Abhängigkeiten.

Durch Individualisierung kann eine neue Form der Bindung entstehen

Die Möglichkeit, ein Modell anzupassen, ist eines der stärksten Argumente für den selbstgesteuerten Einsatz. Ein Unternehmen kann es mit internem Wissen verknüpfen, sein Verhalten anpassen, es anhand von Fachbeispielen verfeinern oder für eine bestimmte Aufgabe optimieren.

Jede Ebene der individuellen Anpassung kann jedoch den Austausch erschweren.

Ein Modell, das umfassend optimiert, mit zahlreichen internen Systemen verknüpft und in die Arbeitsabläufe der Mitarbeiter eingebettet wurde, lässt sich nicht unbedingt ohne erheblichen Entwicklungsaufwand austauschen. Das Unternehmen vermeidet zwar die Abhängigkeit von einer gehosteten API, gerät jedoch möglicherweise in die Abhängigkeit von einer bestimmten Modellarchitektur, einem Implementierungspartner oder einem Infrastrukturanbieter.

Die Portierbarkeit sollte daher bereits vor Beginn der Bereitstellung berücksichtigt werden. Unternehmen müssen wissen, ob ihre Eingabeaufforderungen, Bewertungsdaten, Abrufsysteme und Datensätze zur Feinabstimmung mit einem anderen Modell wiederverwendet werden können. Schnittstellen sollten so gestaltet sein, dass das Modell ausgetauscht werden kann, ohne die gesamte Anwendung neu erstellen zu müssen. Bei Leistungstests sollten zudem mehrere Modelle im Hinblick auf die unternehmensspezifischen Aufgaben verglichen werden, anstatt davon auszugehen, dass ein Anbieter dauerhaft die beste Option bleibt.

Ein selbst gehostetes Modell bietet einem Unternehmen die Möglichkeit, unabhängiger zu agieren. Die technische Architektur entscheidet darüber, ob diese Möglichkeit auch tatsächlich genutzt werden kann.

Eine größere Auswahl macht eine Regulierung nicht überflüssig

Die zunehmende Verbreitung offener Modelle eröffnet europäischen Unternehmen eine größere Auswahl an Anbietern aus den Vereinigten Staaten, China und Europa. Zudem entkräftet sie die Annahme, dass der Unternehmensmarkt zwangsläufig von einer kleinen Gruppe geschlossener amerikanischer Anbieter dominiert werden wird.

Die zugrunde liegenden Modelle sind zunehmend international miteinander vernetzt. Berichten zufolge stützt sich Inkling auf eine Architektur, die mit DeepSeek V3 in Verbindung steht, sowie auf Trainingsdaten, die von einem anderen chinesischen Modell erzeugt wurden. Das Beispiel zeigt, wie schwierig es ist, ein KI-System allein anhand des Standorts seines Unternehmenssitzes eindeutig einzuordnen.

Für Unternehmenskunden ist das Herkunftsland des Anbieters nur der Ausgangspunkt der Bewertung. Sie müssen zudem die Herkunft des Modells, die Lizenz, die Trainingsmethodik, die Softwareabhängigkeiten und die Betriebsumgebung prüfen. Ein von einem amerikanischen oder europäischen Unternehmen angebotenes Modell kann Forschungsergebnisse, Code oder synthetische Daten enthalten, die aus anderen Ländern stammen. Umgekehrt kann ein in China entwickeltes Modell vollständig innerhalb einer europäischen Infrastruktur betrieben werden.

Durch Selbsthosting werden Fragen zum geistigen Eigentum, zur Herkunft der Modelle oder zu eingebetteten Sicherheitslücken nicht geklärt. Vielmehr wird die Verantwortung für deren Klärung verstärkt auf den Kunden verlagert.

Der Markt für Unternehmens-KI wird immer modularer

Die Bedeutung herunterladbarer Modelle geht über den Datenschutz hinaus. Sie zeigt, dass KI zunehmend eher einem Technologie-Stack für Unternehmen ähnelt als einem einzelnen Dienst, der von einem einzigen Anbieter bezogen wird.

Unternehmen können das Modell von einem Entwickler beziehen, es über einen anderen Infrastrukturanbieter betreiben, eine separate Plattform für die Anpassung nutzen und einen Implementierungspartner beauftragen, um es an interne Anwendungen anzubinden. Sie können einzelne Komponenten ändern, ohne dabei zwangsläufig das gesamte System aufgeben zu müssen.

Dieser modulare Markt ist weniger komfortabel als die Eröffnung eines Kontos bei einem gehosteten KI-Dienst. Er verschafft Unternehmen zudem mehr Verhandlungsmacht und größere Freiheit bei der Gestaltung von Systemen, die genau auf ihre tatsächlichen Anforderungen zugeschnitten sind.

Die entscheidende Frage bei der Beschaffung lautet daher nicht mehr nur, welches Modell die beste Leistung erbringt. Unternehmen müssen entscheiden, welche Teile des KI-Systems sie auslagern möchten und welche sie selbst kontrollieren müssen.

Für viele Schweizer Unternehmen, … insbesondere bei Unternehmen, die mit regulierten oder geschäftlich sensiblen Informationen umgehen, wird die Lösung nicht in einem vollständigen Eigenbetrieb oder einer vollständigen Abhängigkeit von externen APIs bestehen. Vielmehr wird es sich um eine Architektur handeln, die sensible Prozesse im eigenen Haus belässt, externe Dienste selektiv nutzt und die Möglichkeit offenhält, den Anbieter zu wechseln.

KI-Unternehmen ermöglichen es ihren Kunden, Modelle selbst auszuführen, da Unternehmenskunden mittlerweile mehr als nur Zugriff verlangen. Sie wollen einen glaubwürdigen Weg zur Kontrolle.