Zusammen mit sieben Kollegen veröffentlichte der damalige Google-Forscher Jakob Uszkoreit 2017 das Forschungspapier „Attention Is All You Need“. Darin beschreiben sie eine neue Architektur für neuronale Netze, den sogenannten Transformer. Er befähigt Maschinen, große Mengen Text, Bild oder Code nicht Wort für Wort abzuarbeiten, sondern im Zusammenhang zu erfassen, ihre „Attention“ also länger zu halten. Auf dieser Technik basieren heute praktisch alle großen KI-Modelle hinter ChatGPT, Gemini oder Claude. Das T in ChatGPT steht für Transformer.
FAZ Premium
Zugriff auf alle Inhalte inklusive FAZ+
(Originalpreis: 26,80 €) jetzt nur 1,99 €
Zugriff auf alle Inhalte inklusive FAZ+
