Die GPT-4-API, die ab heute für alle zahlenden API-Kunden verfügbar ist, stellt Open AI leistungsfähigstes Modell dar. Seit ihrer Einführung im März haben Millionen von Entwicklern Zugang zur GPT-4-API angefragt. Die Bandbreite der innovativen Produkte, die GPT-4 nutzen, wächst täglich. Neben der Bereitstellung von GPT-3.5 Turbo, DALL·E und Whisper APIs für die allgemeine Verfügbarkeit arbeiten wir daran, die Feinabstimmung für GPT-4 und GPT-3.5 Turbo sicher zu ermöglichen, und erwarten, dass diese Funktion im Laufe dieses Jahres verfügbar sein wird.
Im März führte Open AI die Chat Completions API ein, die nun 97% unserer GPT-API-Nutzung ausmacht. Diese API bietet eine strukturiertere Aufforderungsschnittstelle und ermöglicht Entwicklern, Gesprächserfahrungen und eine breite Palette von Aufgaben zu erstellen. Sie hilft auch dabei, das Risiko von Prompt-Injektionsangriffen zu senken, da nutzergenerierte Inhalte strukturell von Anweisungen getrennt werden können. Nachfolgend sind einige Beispiele:
Textzusammenfassung
System: Fasse diese Nachricht in maximal 10 Wörtern zusammen. User: Jupiter ist der fünfte Planet von der Sonne und der größte im Sonnensystem… Assistant: Jupiter: Größter Planet, nachts mit bloßem Auge sichtbar.
Codevervollständigung
System: Vervollständige den folgenden Code. User: def fibonacci(num): Assistant: if num == 0:…
Few-shot learning
System: Du übersetzt Unternehmensjargon in einfaches Englisch. User: Neue Synergien werden dazu beitragen, das Top-Line-Wachstum zu fördern. Assistant: Gemeinsam gut zu arbeiten wird mehr Geld einbringen.
Wir planen, den Großteil unserer Plattformbemühungen in diese Richtung zu investieren und arbeiten daran, die letzten wenigen verbleibenden Lücken der Chat Completions API schnell zu schließen, wie z.B. Log-Wahrscheinlichkeiten für Abschlusstoken und erhöhte Steuerbarkeit zur Reduzierung der “Gesprächigkeit” von Antworten.
Abschaltung älterer Modelle in der Completions API
In sechs Monaten wird Open AI einige der älteren Modelle, die die Completions API verwenden, aus dem Verkehr ziehen. Diese API wird zwar weiterhin zugänglich bleiben, wir werden sie jedoch ab heute in unserer Entwicklerdokumentation als “Legacy” kennzeichnen. Zukünftige Modell- und Produktverbesserungen werden sich auf die Chat Completions API konzentrieren und wir planen nicht, neue Modelle mit der Completions API öffentlich freizugeben.
Ab dem 4. Januar 2024 werden ältere Vervollständigungsmodelle nicht mehr verfügbar sein und durch die folgenden Modelle ersetzt:
| Älteres Modell | Neues Modell |
|---|---|
| ada | ada-002 |
| babbage | babbage-002 |
| curie | curie-002 |
| davinci | davinci-002 |
| davinci-instruct-beta | gpt-3.5-turbo-instruct |
Anwendungen, die stabile Modellnamen für Basis-GPT-3-Modelle (ada, babbage, curie, davinci) verwenden, werden am 4. Januar 2024 automatisch auf die oben aufgeführten neuen Modelle aktualisiert. Entwickler, die andere ältere Vervollständigungsmodelle (wie text-davinci-003) verwenden, müssen ihr Integration manuell aufrüsten, indem sie bis zum 4. Januar 2024 “gpt-3.5-turbo-instruct” im “model”-Parameter ihrer API-Anfragen angeben.
Entwickler, die ihre feinabgestimmten Modelle über den 4. Januar 2024 hinaus weiter nutzen möchten, müssen Ersatzmodelle auf den neuen Basis-GPT-3-Modellen (ada-002, babbage-002, curie-002, davinci-002) oder neueren Modellen (gpt-3.5-turbo, gpt-4) feinabstimmen.
Abschaltung älterer Einbettungsmodelle
Benutzer älterer Einbettungsmodelle (z.B. text-search-davinci-doc-001) müssen bis zum 4. Januar 2024 auf text-embedding-ada-002 umsteigen. Wir haben text-embedding-ada-002 im Dezember 2022 veröffentlicht und haben festgestellt, dass es leistungsfähiger und kostengünstiger ist als frühere Modelle. Heute macht text-embedding-ada-002 99,9% der gesamten Einbettungs-API-Nutzung aus.
Ältere Modelle, die nicht mehr verfügbar sein werden, und ihre entsprechenden neuen Modelle sind in der folgenden Tabelle aufgeführt:
| Älteres Modell | Neues Modell |
|---|---|
| code-search-ada-code-001 | text-embedding-ada-002 |
| text-search-ada-doc-001 | |
| text-search-davinci-doc-001 |
Abschaltung der Edits API
Benutzer der Edits API und ihrer zugehörigen Modelle (z.B. text-davinci-edit-001 oder code-davinci-edit-001) müssen bis zum 4. Januar 2024 auf GPT-3.5 Turbo umsteigen.
System: Wende die vom Benutzer angeforderte Änderung am Code an. User: def fibonacci(num):… User: Benenne die Funktion in fib um. Assistant: def fib(num):…
Die Autoren dieses Artikels sind die Entwickler und das Team von Open AI.
OpenAI Blog