Together AI – Open Source LLM Infrastruktur

Die Firma Together AI, erst im Juni 2022 gegründet, gehört zu den Unternehmen im KI Business, von denen wir wohl noch viel hören werden. Mit einer kürzlichen Kapitalaufnahme von 102 Mio. USD zielt das Unternehmen darauf ab, zu den führenden Anbietern für Generative KI auf Basis von Open Source Modellen zu werden.

Als forschungsgetriebenes KI-Unternehmen spielt Together AI eine wichtige Rolle in der Entwicklung von Open-Source-Modellen und Datensätzen. Sie tragen wesentlich zur Weiterentwicklung der künstlichen Intelligenz bei und bieten dezentralisierte Cloud-Dienste an, die Entwickler und Forscher in Organisationen jeder Grösse in die Lage versetzen sollen, generative KI-Modelle zu trainieren, zu verfeinern und einzusetz​​en.

Ein zentraler Punkt ist die Transparenz: Kunden sollen nachvollziehen können, wie Modelle trainiert werden und welche Daten zur Steigerung der Genauigkeit und zur Minimierung von Risiken verwendet werden. Ein weiterer wichtiger Aspekt ist der Besitz: Die Kunden behalten das Eigentum an den von ihnen verfeinerten Modellen, auch wenn sie ihren Cloud-Anbieter wechse​ln. Es soll also keinen Lock-In-Effekt geben.

Zusätzlich zum Zugriff auf diverse Open Source Modelle via API, stellt Together AI auch Trainingsdaten für das Training eigener LLMs und das Finetuning existierender Modelle bereit. Dabei bleiben die Modelle und die Daten im Eigentum der Kunden.

Kürzlich hat Together AI den Datensatz RedPajama-Daten-v2 veröffentlicht – einen umfangreichen offenen Datensatz mit 30 Billionen Tokens, der speziell für das Training grosser Sprachmodelle entwickelt wurde.

Aus Schweizer Perspektive besonders interessant ist, dass Ce Zhang, der CTO und Mitgründer von Together AI, zuvor das DS3Lab an der ETH Zürich leitete und dort zu Machine Learning Plattformen forschte.

Kommentare

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert