Verfügbarkeit der Modelle
Groq und HUMAIN haben die sofortige Verfügbarkeit von zwei neuen offenen Modellen von OpenAI auf der GroqCloud bekannt gegeben. Diese Modelle, gpt-oss-120B und gpt-oss-20B, bieten Echtzeitleistung und sind weltweit zugänglich. Zudem wird lokaler Support in Saudi-Arabien bereitgestellt.
Leistungsmerkmale der Modelle
Die neuen Modelle verfügen über einen vollen Kontext von 128K Tokens und integrierte serverseitige Tools. Dazu gehören Funktionen wie Codeausführung und Websuche, die es ermöglichen, relevante Informationen in Echtzeit bereitzustellen und komplexe Arbeitsabläufe zu unterstützen.
Zusammenarbeit zwischen Groq und HUMAIN
Die Partnerschaft zwischen Groq, einem Vorreiter in der schnellen Inferenztechnologie, und HUMAIN, einem führenden KI-Dienstleister in Saudi-Arabien, zielt darauf ab, den Zugang zu modernen KI-Technologien zu verbessern. Die Zusammenarbeit soll Entwicklern in der Region helfen, effizienter und innovativer zu arbeiten.
Kosteneffizienz und Leistung
Groq hat einen speziell entwickelten Technologie-Stack, der die niedrigsten Kosten pro Token für die neuen OpenAI-Modelle bietet. gpt-oss-120B erreicht eine Geschwindigkeit von über 500 t/s, während gpt-oss-20B mehr als 1000 t/s liefert. Die Preisgestaltung für die Modelle ist ebenfalls wettbewerbsfähig, mit günstigen Tarifen für Eingabe- und Ausgabe-Token.
Fazit
Die Einführung dieser offenen Modelle von OpenAI durch Groq und HUMAIN stellt einen bedeutenden Fortschritt im Bereich der KI dar. Mit einem Fokus auf Geschwindigkeit, Kosteneffizienz und lokaler Unterstützung wird erwartet, dass diese Modelle eine neue Welle von Innovationen in Saudi-Arabien und darüber hinaus fördern.
