Big Tech
Studie: 35 % der KI-generierten Nachrichten sind fehlerhaft
Dr. Adrian Vale
Spezialist für LLMs, AI Agents und KI-Infrastruktur
3 Min. Lesezeit
OriginalquelleSpezialist für LLMs, AI Agents und KI-Infrastruktur
Eine Studie der European Broadcasting Union (EBU) und BBC zeigt, dass 35 % der KI-generierten Antworten auf Nachrichten fehlerhaft oder irreführend sind. Häufige Fehler umfassen das Auslassen von Details, Erfinden von Fakten und die Vermischung von Meinungen und Fakten. Die Ergebnisse verdeutlichen die Notwendigkeit strengerer Regulierungen, wie den EU AI Act, und von Mechanismen zur Fehlerkorrektur.
Eine neue Studie der European Broadcasting Union (EBU) und der BBC hat alarmierende Ergebnisse zur Genauigkeit von KI-generierten Antworten auf Nachrichten veröffentlicht. Laut der Studie, die im Mai 2026 erschien, enthalten 35 % der Antworten von KI-Systemen wie OpenAIs GPT-4 und Anthropics Claude 4 Fehler oder irreführende Informationen. Die Untersuchung beleuchtet die potenziellen Risiken dieser Fehler für das öffentliche Vertrauen in KI und den Journalismus.
Die Studie identifizierte mehrere wiederkehrende Probleme in den analysierten KI-generierten Inhalten:
Obwohl diese Systeme oft als glaubwürdige Informationsquellen angesehen werden, tragen solche Fehler zur Verbreitung von Desinformationen bei.
Fehlerhafte KI-generierte Inhalte haben erhebliche Auswirkungen auf das Vertrauen der Öffentlichkeit in technologische Systeme. Laut einer Erhebung von Canaltech sank das Vertrauen in KI-basierte Nachrichten im Jahr 2025 um 18 %, nachdem mehrere Desinformationsvorfälle bekannt wurden. Ein besonders gravierender Fall ereignete sich in Europa, als ein KI-gestützter virtueller Assistent fälschlicherweise von einem Terroranschlag berichtete, was zu weit verbreiteter Panik führte. Solche Vorfälle rücken die Frage der Verantwortung für KI-Fehler ins Rampenlicht.
Die Studienergebnisse unterstreichen die Dringlichkeit von Maßnahmen zur Regulierung und Verantwortung bei der Entwicklung und Nutzung von KI-Systemen. Die Europäische Union hat mit dem AI Act, einem umfassenden Gesetz zur Regulierung von KI basierend auf ihrem Risiko für die Gesellschaft, bereits reagiert. Medienanwendungen gehören dabei zu den priorisierten Bereichen.
Allerdings fehlt bislang eine globale Koordination bei der Regulierung, was die Bewältigung der Herausforderungen in diesem Bereich erschwert. Technologiekonzerne wie OpenAI, Google und Meta stehen unter Druck, ihre Systeme transparenter zu gestalten und die Fehlerquote zu minimieren.
Fehler treten häufig auf, weil KI-Modelle auf unvollständigen oder fehlerhaften Datensätzen trainiert werden und manchmal Fakten halluzinieren oder mit Meinungen vermischen.
Der AI Act ist ein rechtlicher Rahmen, der KI-Systeme nach ihrem Risiko für die Gesellschaft klassifiziert und strengere Regeln für Anwendungen mit höherem Risiko, wie z. B. in den Medien, vorschreibt.
Unternehmen können durch hochwertige Trainingsdaten, kontinuierliche Fehlerüberprüfungen und die Integration automatisierter Faktenprüfungsmechanismen die Genauigkeit ihrer KI-Systeme verbessern.
💡 Dica Pro: Eine effektive Methode zur Reduzierung von KI-Fehlern ist der Einsatz von "Fact-Checking-Layern", die die Antworten von Sprachmodellen gegen verifizierte Datenbanken abgleichen, bevor sie veröffentlicht werden.
