Alles Wichtige zu ChatGPT-3.5: Turbo-Modell und weitere Varianten

ChatGPT ist der KI-Chatbot, mit dem Nutzer menschenähnliche Unterhaltungen führen und dem Nutzer Aufgaben geben können: von der Lösung mathematischer Aufgaben über die Erstellung von Texten bis hin zur Analyse von Inhalten. Dem Chatbot liegen verschiedene Versionen von Sprachmodellen zugrunde.

 

Das Sprachmodell, mit dem ChatGPT weltweit berühmt wurde und im November 2022 binnen einer Woche nach seiner Veröffentlichung mehr als eine Million Nutzer generierte, ist GPT-3.5. Das KI-Modell wurde weiterentwickelt. Mittlerweile (Stand: Juli 2024) gibt es mehrere Varianten des Modells.

 

In diesem Blogbeitrag verraten wir dir alles Wichtige über das Modell, seine verschiedenen Versionen und über den Ersatz durch das neuere GPT-4o Mini.

 

Wie ist die aktuelle Lage?

Das Modell GPT-3.5 wurde im Juli 2024 mit fast all seinen Versionen abgeschafft. Lediglich das Turbo-Modell ist eingeschränkt nutzbar. Grund für die Abschaffung der Version GPT-3.5 ist deren Ersatz durch das leistungsstärkere Modell GPT-4o Mini.

 

Zum weiteren Verständnis der Modelle und der Inhalte in diesem Blogbeitrag sind einige Hintergrundinfos wichtig. Hier die wichtigsten Informationen in der Kurzfassung:

 

• Bei der Nutzung der Sprachmodelle ist zwischen zwei verschiedenen Angeboten des Unternehmens OpenAI zu unterscheiden.
• Das eine Angebot ist der Chatbot mit Namen ChatGPT. Du kannst dir von dem Chatbot in unserem ChatGPT-Tool einen näheren Eindruck verschaffen. Du stellst dem Chatbot Aufgaben oder Fragen und dieser geht darauf ein.
• Das andere Angebot ist die API von OpenAI, eine Programmierschnittstelle. Diese unterscheidet sich vom Chatbot dahingehend, als dass Entwickler mit ihrer Hilfe das Sprachmodell in ihre Entwicklungsumgebung einbinden können.
• Es macht also einen Unterschied, ob die Anwender eines Sprachmodells z. B. Studierende oder Autoren sind, die mittels ChatGPT recherchieren oder ob es sich bei um Entwickler handelt, die nur das KI-Modell individuell nutzen.

 

 

Die aktuelle Situation für Anwender des Chatbots

Wenn du dich für den Chatbot ChatGPT interessierst, den du im Endeffekt wie eine Suchmaschine über ein einfaches Eingabefeld befragen kannst, kannst du das Modell GPT-3.5 gar nicht mehr verwenden. Es wurde komplett durch die Modelle GPT-4o Mini und GPT-4 ersetzt.

 

Durch den Ersatz von GPT-3.5 durch das neuere Modell GPT-4o Mini profitierst du von einer schnelleren Ausgabe der Antworten, einer allgemein höheren Qualität des Chatbots und einer höheren Menge an Funktionen. Dies geht mit einer höheren Genauigkeit der Antworten einher. Zudem wurden die neuen Versionen des KI-Modells mit aktuelleren Daten trainiert.

 

Das Unternehmen OpenAI hat das neue Modell GPT-4o Mini in vollem Umfang standardmäßig in seinem kostenfreien Free-Tarif integriert. Zudem hast du im Free-Tarif beschränkten Zugriff auf das Flaggschiff-Modell GPT-4o. Im kostenpflichtigen Tarif „ChatGPT Plus“ ist ebenfalls kein GPT-3.5 mehr enthalten; dort hast du unbegrenzten Zugriff auf die Modelle GPT-4, GPT-4o Mini und GPT-4o.

 

Die aktuelle Situation für Entwickler

Entwickler haben noch Zugriff auf das Modell GPT-3.5 Turbo, jedoch nicht mehr auf die älteren Modelle von GPT-3.5. Das Turbo-Modell steht in zwei Varianten zur Verfügung:

 

• GPT-3.5 Turbo 0125
• GPT-3.5 Turbo Instruct

 

Beide Modelle unterscheiden sich durch ihr Kontextfenster. Das Kontextfenster besagt, wie viele Token ein Sprachmodell in einer Anfrage bearbeiten kann – will meinen:

 

Je größer das Kontextfenster, umso mehr Informationen kann ein GPT-Modell in einem bestimmten Kontext verarbeiten. Ein großes Kontextfenster fördert beispielsweise die zusammenhängende Kommunikation und somit die Qualität der Antworten.

 

Falls das Kontextfenster klein ist, vermag ein KI-Modell es nicht, sich über eine längere Dauer zusammenhängend über ein Thema zu unterhalten bzw. einer Aufgabe nachzugehen. Dann müssen Anwender eine neue Eingabe tätigen und die Aufgabe noch einmal neu stellen.

 

Das Kontextfenster von GPT-3.5 Turbo 0125 ist mit knapp 16.000 Token (16k Token) deutlich höher als beim Modell GPT-3.5 Turbo Instruct, das lediglich 4k Token erreicht.

 

Entwickler können GPT-3.5 Turbo in den beiden genannten Versionen verwenden. Das Unternehmen OpenAI empfiehlt jedoch den Wechsel auf das Modell GPT-4o Mini, da dieses mehr Leistung, mehr Funktionen und wesentlich geringere Kosten als das Turbo-Modell hat. Beispielsweise hat GPT-4o Mini ein 128k-Kontextfenster, was ein deutlicher Qualitätsschub ist.

 

Generelle Infos zu ChatGPT-3.5: Geschichte, Fähigkeiten und Leistungsdaten

Das Unternehmen OpenAI hat der breiten Öffentlichkeit schon Ende 2019 ein KI-Modell zur Nutzung freigegeben, nämlich das Modell GPT-2. Angesichts der 1,5 Milliarden Parameter gehörte GPT-2 bereits zu den Large-Language-Modellen (LLMs), aber war bei weitem noch nicht so ausgereift wie das Modell GPT-3.5, das nur kurz nach seiner Veröffentlichung weltweite Bekanntheit erlangte.

 

GPT-3.5 wurde mit 17 Milliarden Parametern trainiert. Durch die zusätzliche Deep-Learning-Technologie bilden sich in diesem und den folgenden KI-Modellen von OpenAI umfassende neuronale Strukturen, die sich miteinander vernetzen. So entsteht eine Künstliche Intelligenz (KI), die beispielsweise eigene Texte erstellen, eigene Bilder kreieren und individuelle Antworten auf die Fragen von Nutzern geben kann.

 

In der Modellreihe des Unternehmens OpenAI markierte GPT-3.5 einen Meilenstein, da das Sprachmodell durch den Chatbot ChatGPT einfach nutzbar war und somit von Nutzern ohne IT-Kenntnisse problemlos bedient werden konnte.

 

Angesichts der Tatsache, dass mit Ausnahme von GPT-4 die KI-Modelle nicht übers Internet auf aktuelle Daten zugreifen und sich daher nicht selbst fortbilden können, ist die Aktualität der Datensätze aus dem Training ein wichtiger Faktor bei der Qualitätsbewertung. Die Daten bei den 3.5-Modellen stammen aus September 2021. Das neue GPT-3.5-Turbo-Modell wurde mit Daten aus September 2023 trainiert.

 

Im Verlaufe der Monate nach der Erstveröffentlichung folgten neue Versionen der Generation GPT-3.5. Die Turbo-Modelle stellten eine Weiterentwicklung von GPT-3.5 dar und hatten funktionelle Erweiterungen. Eine dieser Erweiterungen bot Entwicklern die Möglichkeit, über eine sogenannte „Feinabstimmung“ (engl. Finetuning) das KI-Modell mit eigenen Daten zu trainieren.

 

Auch bei GPT-3 gab es die Möglichkeit, das KI-Modell individuell zu trainieren. Bei GPT-3 ermöglichten dies die Varianten „davinci-002“ und „babbage-002“. Allerdings ging die bei GPT-3.5 Turbo mögliche Feinabstimmung mit wesentlich mehr Optionen zur Individualisierung des Sprachmodells einher.

 

Um die Sicherheit der KI zu wahren, mussten die Daten bei der Feinabstimmung durch ein Sicherheitsnetzwerk von OpenAI geschleust und geprüft werden, um die Sicherheit der KI zu wahren.

 

Des Weiteren wurde während des Modells GPT-3.5 der GPT-Store eingeführt, der den bisherigen Plugin-Store ablöste und es Nutzern vereinfacht, das KI-Modell gemäß den eigenen Vorstellungen zu individualisieren. Hierzu gibt es die Custom GPTs. Im Gegensatz zur Feinabstimmung benötigen die Anwender im Store keine IT-Kenntnisse, um individuelle GPTs zu erstellen.

 

Auch wenn zwischendurch das fortschrittlichere Modell GPT-4 herausgebracht wurde, hatte GPT-3.5 Turbo bis Juli 2024 Bestand und ist für Entwickler nach wie vor zugänglich. Doch schon allein aufgrund der geringeren Kosteneffizienz im Vergleich zum GPT-4o Mini (letzteres ist z. B. pro eine Million Eingabe-Token um 35 Cent günstiger) ist zu erwarten, dass die Version GPT-3.5 Turbo und somit auch GPT-3.5 im Allgemeinen komplett von der Bildfläche verschwinden.

 

Für Nutzer des Chatbots ChatGPT ist GPT-3.5 Turbo gar nicht mehr verfügbar. Die Zukunft gehört zunächst den KI-Modellen GPT-4, GPT-4o Mini und GPT-4o sowie im Verlaufe der nächsten Jahre allen weiteren Neuentwicklungen von OpenAI.

 

 

Funktionen und Qualität von GPT-3.5 Turbo

GPT-3.5 Turbo ist in der Lage, zahlreiche Aufgaben durchzuführen. Hierzu gehört die Erstellung von Inhalten im Text-Format.

 

Eine Schwäche im Vergleich zu neueren Modellen wie GPT-4o Mini und GPT-4o ist die Tatsache, dass das Turbo-Modell keine multimodalen Fähigkeiten hat. Das bedeutet, dass die Eingabe von Bild-, Ton- und Videodateien nicht möglich ist bzw. diese von der KI nicht verarbeitet werden.

 

Insgesamt hat das Turbo-Modell u. a. folgende Fähigkeiten und Funktionen:

 

• Texte erstellen, analysieren und übersetzen
• mathematische Aufgaben lösen
• Chat: Führung einfacher sowie differenzierter Gespräche
• Kundenservice
• Bilder erstellen

 

Um die Qualität von KI-Modellen zu bewerten, gibt es die sogenannten KI-Benchmarks. Diese sind im Endeffekt nichts anderes als Prüfungen mit einem bestimmten Ablauf. Eine wichtige Benchmark ist MMLU (Massive Multitask Language Understanding), bei der das Allgemeinwissen der KI und deren Fähigkeiten zur Problemlösung bewertet werden.

 

Bei der Benchmark MMLU erhält das Turbo-Modell eine Bewertung von 69,8 Prozent. Um anhand dieser Benchmark den deutlichen Unterschied zum neuen Modell GPT-4o Mini zu verdeutlichen: GPT-4o Mini kommt bei MMLU auf 82 Prozent. Damit ist das neue Modell GPT-4o Mini, das GPT-3.5 Turbo ersetzt, um Längen besser.

 

Die Einführung der multimodalen Fähigkeiten bei GPT-4o Mini ist ebenfalls eine gern gesehene Weiterentwicklung. Das Unternehmen OpenAI stellt schon jetzt bei GPT-4o Mini die Eingabe von Bilddateien zur Verfügung. Für die Zukunft stellt OpenAI in Aussicht, dass auch die Eingabe von Video- und Audiodateien möglich sein wird.

 

Eine der wichtigsten Änderungen beim Nachfolger-Modell von GPT-3.5 Turbo ist jedoch die Sicherung gegen Prompt Injections. Prompts sind Befehle, denen ein KI-Modell nachgeht. Bei Prompt Injections handelt es sich allerdings um manipulative Befehle, wie beispielsweise den Befehl, alle Anweisungen der Entwickler von OpenAI zu ignorieren.

 

Das Modell GPT-3.5 Turbo ist anfällig auf Prompt Injections. Dies ist ein gravierendes Problem, denn die Anweisung, die Programmierung des Unternehmens OpenAI zu missachten, könnte dazu führen, dass die KI zu völlig anderen Zwecken genutzt und manipuliert wird. So könnte sie potenziell Schaden verursachen und von Hackern für deren Zwecke instrumentalisiert werden. Mit GPT-4o Mini ist diese Sicherheitslücke nun geschlossen.

 

Leistungswerte von GPT-3.5 Turbo

Mit einem Kontextfenster von 16.000 Token ist GPT-3.5 Turbo 0125 in der Lage, bei der Ein- und Ausgabe ca. 21 Seiten Text zu verarbeiten. Dies ist im Vergleich zu den 128.000 Token Kontextfenster, auf das GPT-4o Mini kommt, ein Witz. Dennoch war schon bei der Nutzung von GPT-3.5 Turbo zu sehen, dass mit den 16k Token vernünftige Texte erstellt können und ein kurzer Chat geführt werden kann.

 

Die Steigerung auf 128k Token bei GPT-4o Mini ist demnach eine Aufwertung, die sich bei der Nutzung des Chatbots und für Entwickler bei der Nutzung der API bemerkbar macht.

 

ChatGPT liefert jetzt noch umfassendere Antworten und kann einen Chat über längere Zeit führen, ohne dabei den Faden zu verlieren. Das verlängerte Kontextfenster macht das GPT-4o Mini für wissenschaftliche Arbeiten und andere Aufgaben von größerem Umfang wesentlich geeigneter als das GPT-3.5-Turbo-Modell.

 

Ein weiteres Leistungskriterium ist die Frage, wie schnell die Token herausgegeben werden. Eine Bewertung dieses Kriteriums wird über die Ausgabegeschwindigkeit vorgenommen. Mit einer Geschwindigkeit von 166-182 Token pro Sekunde ist GPT-4o Mini dem GPT-3.5-Turbo-Modell deutlich überlegen. Zum Turbo-Modell lassen sich keine konkreten Daten über die Ausgabegeschwindigkeit finden, doch in der Praxis zeigt sich, dass das Modell langsamer ist.

 

Die Kosten für das GPT-3.5-Turbo-Modell sind in Anbetracht der Leistungsdaten im Vergleich zur Konkurrenz Google Gemini 1.5 Flash und Claude 3 Haiku ungerechtfertigt hoch. Bei GPT-3.5 Turbo 0125 fallen je 1 Million Input-Token Kosten in Höhe von 0,50 US-Dollar an, pro 1 Million Ausgabe-Token sind es sogar 1,50 US-Dollar. Das Modell GPT-3.5 Turbo Instruct ist noch teurer.

 

Wer Geld sparen möchte, entscheidet sich als Entwickler für das neue Modell GPT-4o Mini, denn hier liegen die Preise je 1 Million Input-Token bei 0,15 US-Dollar und die Preise je 1 Million Output-Token bei 0,60 US-Dollar – es sind also deutliche Einsparungen!

 

Fazit: Ein Meilenstein, kurz vorm Ablaufdatum

GPT-3.5 bildete die Grundlage für den KI-Boom. Es war das Sprachmodell, das den Chatbot ChatGPT in Europa und der ganzen Welt bekannt machte. Durch die einfache Nutzung von ChatGPT – Frage in das Eingabefeld eingeben und Antwort erhalten – ähnlich einer Suchmaschine konnten Anwender die KI leicht für ihre Zwecke nutzen.

 

Im Laufe der Zeit wurde GPT-3.5 weiterentwickelt. Eine beachtliche Entwicklung war das GPT-3.5-Turbo-Modell, das zunächst sogar ein größeres Kontextfenster als das spätere Flaggschiff-Modell GPT-4 hatte, ehe GPT-4 optimiert wurde. Doch vor allem für Entwickler, die GPT-3.5 Turbo in ihre Entwicklungsumgebung einbinden wollten, waren die hohen Kosten von GPT-3.5 immer ein Kernproblem.

 

Mit dem neuen GPT-4o Mini hat das Unternehmen OpenAI eine günstige Option als Ersatz für das Turbo-Modell auf den Markt gebracht. GPT-4o Mini gehört der neuesten Generation der KI-Modelle von OpenAI an und unterstützt multimodale Funktionen. Zudem bringt GPT-4o Mini erhebliche Preissenkungen mit sich, was für Entwickler ein immenser Vorteil ist.

 

Als Folge des neuen Modells wird GPT-3.5 Turbo immer mehr von der Bildfläche verschwinden und die neuesten Modelle werden dessen Platz einnehmen. Im Chatbot ChatGPT spielt GPT-3.5 Turbo jetzt schon keine Rolle mehr. Entwickler haben fürs Erste noch Zugriff auf die API mit dem Turbo-Modell.