Das von der ehemaligen OpenAI-Technikchefin Mira Murati gegründete und zuletzt mit zwölf Milliarden US-Dollar bewertete KI-Start-up Thinking Machines hat sein erstes KI-Modell namens Inkling veröffentlicht. Anders als die Spitzenmodelle von Anthropic, OpenAI und Google stellt das Unternehmen die trainierten Gewichte, also Modellparameter, offen bereit. Dadurch können Entwickler und Unternehmen Inkling auf eigener Hardware oder in einer selbst gewählten Cloud betreiben und an ihre jeweiligen Anforderungen anpassen.
Inkling nutzt eine sogenannte Mixture-of-Experts-Architektur (MoE), bei der nicht das gesamte Modell gleichzeitig arbeitet. Von insgesamt 975 Milliarden Parametern sind für jedes verarbeitete Token jeweils nur 41 Milliarden aus spezialisierten Teilnetzen aktiv. Das reduziert den Rechenaufwand und damit auch Antwortzeiten und Betriebskosten.
Vortrainiert wurde Inkling mit 45 Billionen Tokens aus Texten, Bildern, Audio- und Videodaten. Innerhalb einer Anfrage kann Inkling bis zu einer Million Tokens gleichzeitig verarbeiten. Thinking Machines zufolge wertet das Modell dabei Informationen aus Texten, Bildern und Audiodaten gemeinsam aus und leitet daraus Schlussfolgerungen ab. Derzeit erzeugt Inkling textbasierte Inhalte, darunter Fließtext, Programmcode, strukturierte Daten sowie Code für formatierte Dokumente und Webanwendungen.
