Handy-Nutzerin: Desinformation, gleichberechtigt neben anderen Quellen
Die Berliner Denkfabrik Agora Digitale Transformation untersucht für eine neue Studie, wie KI-Modelle Fragen zu aktuellen Nachrichten beantworten und welche Verzerrungen es dabei geben kann. Das am Mittwoch erscheinende Papier mit dem Titel »Meinungsbildung im Wandel: wie KI-Modelle Nachrichtenquellen selektieren« lag dem SPIEGEL vorab vor.
Aus Sicht der Hauptautorin Vivien Benert, die sich bei der Denkfabrik mit »digitaler Öffentlichkeit« befasst, entwickeln sich KI-Systeme wie ChatGPT zu zentralen Gatekeepern in der Vermittlung aktueller Nachrichten. Das habe weitreichende Auswirkungen für die Meinungsbildung wie auch für die Geschäftsmodelle etablierter Medien.Quellenauswahl sei »eine Blackbox«Die eigenen Erhebungen zeigten unter anderem, dass »KI-Systeme aus einer schmalen Quellenbasis schöpfen und Aufmerksamkeitsverzerrungen verstärken«, ohne dass die Auswahlkriterien dokumentiert oder nachvollziehbar seien, so Benert in einem Begleitpapier. Die Quellenauswahl führender Systeme bezeichnet sie darin als »eine Blackbox«.
Die Analyse untersuchte, welche Quellen unter anderem die KI-Chatbots ChatGPT und Claude und die KI-Angebote Gemini und AI Overview von Google bei Antworten zu Nachrichtenthemen heranziehen. Dazu stellten die Autoren in diesem Mai an fünf Werktagen 675 Anfragen zu fünf Themen und werteten rund 4.800 daraus resultierende Quellenverweise aus. Es handelt es sich also eher um eine Stichprobe als um eine Langzeituntersuchung.
