Startseite > Praxis > Offene Modelle, offener Code

Offene Modelle und offener Code: Was "offen" bei KI bedeutet

Neben den Modellen großer Anbieter, die nur über deren Dienste erreichbar sind, gibt es eine wachsende Zahl von Modellen, deren Gewichte frei herunterladbar sind. "Offen" bedeutet dabei sehr Unterschiedliches.

Code, Gewichte, Daten

Bei klassischer Software ist die Sache klar: Open Source heißt, der Quellcode ist einsehbar und darf unter einer anerkannten Lizenz genutzt, verändert und weitergegeben werden. Bei KI-Modellen gibt es mindestens drei Bestandteile, die offen sein können oder nicht:

der Code für Training und Ausführung,
die trainierten Gewichte, also das eigentliche Modell,
die Trainingsdaten und die Dokumentation, wie sie ausgewählt und aufbereitet wurden.

Die meisten als offen bezeichneten Modelle veröffentlichen nur die Gewichte und den Code zum Ausführen. Fachleute sprechen dann von "Open Weights". Die Open Source Initiative hat im Oktober 2024 eine eigene Definition für Open-Source-KI vorgelegt. Sie verlangt neben Code und Gewichten ausreichend detaillierte Informationen über die Trainingsdaten, damit ein vergleichbares Modell nachgebaut werden kann.

Ein Spektrum statt zwei Lager

Beispiele (Stand der jeweiligen Veröffentlichung)
Modell	Gewichte	Lizenz und Einschränkungen
Llama (Meta)	herunterladbar	eigene Lizenz, Sonderregeln für Dienste mit sehr vielen Nutzern
Mistral 7B	herunterladbar	Apache 2.0, kaum Einschränkungen
BLOOM	herunterladbar	Lizenz mit Nutzungsbeschränkungen (RAIL)
OLMo (Allen Institute for AI)	herunterladbar	Code, Daten und Trainingsprotokolle ebenfalls offen
DeepSeek-R1	herunterladbar	MIT-Lizenz, Trainingsdaten nicht veröffentlicht

Hinzu kommt der Code drumherum: Trainingsbibliotheken, Inferenzserver und Werkzeuge wie llama.cpp oder vLLM sind überwiegend klassische Open-Source-Projekte, die auf Plattformen wie GitHub öffentlich entwickelt werden. Auf dem Modellverzeichnis Hugging Face lagen bereits 2024 über eine Million Modelle, die meisten davon Ableitungen bekannter Grundmodelle.

Offener Code als gemeinsames Fundament

Auch die Modelle großer Anbieter, deren Gewichte geheim bleiben, stehen auf offenem Code. Das Framework PyTorch etwa wird seit 2022 unter dem Dach einer eigenen Stiftung der Linux Foundation weiterentwickelt, mit Beiträgen vieler Unternehmen und Hochschulen. Kommunikationsbibliotheken, Compiler für Beschleuniger und Werkzeuge zum Messen der Auslastung entstehen ebenfalls oft in öffentlichen Repositorien. Für die Infrastruktur hat das zwei Seiten: Fehler werden schneller gefunden und behoben, und Wissen verbreitet sich rasch. Gleichzeitig hängen sehr viele Systeme von denselben Bausteinen ab. Eine Sicherheitslücke oder ein manipuliertes Paket in einer verbreiteten Bibliothek kann daher weite Kreise ziehen, weshalb Rechenzentren zunehmend prüfen, aus welchen Quellen ihre Software stammt.

Was Offenheit für die Infrastruktur bedeutet

Offene Gewichte verlagern Rechenarbeit. Wer ein Modell herunterlädt, betreibt die Inferenz selbst: auf dem eigenen Laptop (siehe lokale KI), im eigenen Rechenzentrum oder bei einem Cloud-Anbieter der eigenen Wahl. Für Behörden, Krankenhäuser oder Unternehmen mit sensiblen Daten ist das oft die Voraussetzung, KI überhaupt einsetzen zu dürfen. Das teure Vortraining bleibt dagegen bei wenigen Akteuren mit großen Clustern; offene Modelle werden meist nur feinabgestimmt, was auf wenigen GPUs möglich ist.

Für die Forschung ist Offenheit zentral. Nur an Modellen mit zugänglichen Gewichten lässt sich untersuchen, was im Inneren passiert, wie Verzerrungen entstehen oder wie wirksam Sicherheitsmaßnahmen sind. Öffentliche Supercomputer haben mehrfach offene Modelle hervorgebracht, etwa BLOOM auf dem französischen Rechner Jean Zay (mehr unter Supercomputer).

Risiken

Die Kehrseite: Einmal veröffentlichte Gewichte lassen sich nicht zurückholen. Sicherheitsfilter, die ein Anbieter in sein Modell trainiert hat, können durch Feinabstimmung mit vergleichsweise wenig Aufwand entfernt werden. Ob die Vorteile für Forschung und Wettbewerb die Missbrauchsrisiken überwiegen, wird kontrovers diskutiert und hängt stark von den Fähigkeiten des jeweiligen Modells ab.

Die Rechtslage in der EU

Die KI-Verordnung (EU) 2024/1689 enthält Erleichterungen für KI-Modelle mit allgemeinem Verwendungszweck, die unter einer freien und quelloffenen Lizenz mit veröffentlichten Gewichten bereitgestellt werden. Sie entfallen allerdings, wenn ein Modell als systemisches Risiko eingestuft wird, und einige Pflichten gelten in jedem Fall, etwa eine Strategie zur Einhaltung des Urheberrechts und eine Zusammenfassung der Trainingsinhalte. Eine Lizenz, die kommerzielle Nutzung ausschließt oder an Bedingungen knüpft, erfüllt die Voraussetzungen für die Erleichterungen in der Regel nicht.

Woran man ein offenes Modell erkennt

Lizenztext lesen: Ist es eine bekannte Open-Source-Lizenz oder eine eigene mit Einschränkungen?
Modellkarte prüfen: Gibt es Angaben zu Trainingsdaten, Rechenaufwand und bekannten Schwächen?
Code suchen: Sind Trainings- und Auswertungscode öffentlich?
Herkunft klären: Stammen die Gewichte vom ursprünglichen Herausgeber oder von einer Kopie unbekannter Herkunft?

Feinabstimmung mit wenig Rechenleistung

Dass offene Modelle so verbreitet sind, liegt auch an Verfahren, die das Anpassen billig machen. Bei LoRA (Hu und andere, 2021) bleiben die ursprünglichen Gewichte unverändert; trainiert werden nur kleine Zusatzmatrizen, die oft weniger als ein Prozent der Parameter ausmachen. QLoRA (Dettmers und andere, 2023) kombiniert das mit 4-Bit-Quantisierung und machte es möglich, sehr große Modelle auf einer einzelnen leistungsstarken GPU anzupassen. Für Hochschulen, Behörden und kleine Unternehmen heißt das: Ein eigenes, fachlich angepasstes Modell erfordert keinen Supercomputer, sondern einige Stunden auf einem gut ausgestatteten Server. Die Zusatzmatrizen sind klein und lassen sich getrennt vom Grundmodell weitergeben.

Stand: November 2026, Redaktion fast project