KI-generierte Texte erkennen: Möglichkeiten und Grenzen

Ob ein Text von einer künstlichen Intelligenz geschrieben wurde, lässt sich in den meisten Fällen nicht sicher feststellen. KI-Detektoren liefern Wahrscheinlichkeiten und irren sich in beide Richtungen. Für die Frage, ob du einem Text vertrauen kannst, ist das aber zweitrangig: Entscheidend ist, ob seine Aussagen stimmen, ob die genannten Quellen existieren und wer dafür geradesteht. Wie du Inhalte grundsätzlich prüfst, erklärt der Ratgeber Faktencheck: Methoden und Werkzeuge.

Warum KI-Texte so schwer zu erkennen sind

Sprachmodelle erzeugen Texte, indem sie Wort für Wort berechnen, welche Fortsetzung am wahrscheinlichsten passt. Weil sie mit riesigen Mengen menschlicher Texte trainiert wurden, klingen ihre Ergebnisse menschlich. Es gibt kein unsichtbares Siegel im Text, das seine Herkunft verrät. Hinzu kommt, dass viele Texte gemischt entstehen: Ein Mensch schreibt einen Entwurf und lässt ihn von einer KI glätten, oder eine KI liefert die Rohfassung, die ein Mensch überarbeitet. Die Grenze zwischen „KI-Text“ und „menschlichem Text“ ist damit oft gar nicht klar zu ziehen.

Wie KI-Detektoren arbeiten

Die meisten Detektoren messen, wie vorhersehbar ein Text ist. Zwei Begriffe tauchen dabei häufig auf:

• Perplexität: Wie überraschend sind die Wörter für ein Sprachmodell? KI-Texte wählen oft die naheliegende Formulierung und sind daher wenig überraschend.
• Burstiness: Wie stark schwanken Satzlänge und Satzbau? Menschen schreiben oft unregelmäßiger, mit kurzen und langen Sätzen im Wechsel.

Andere Detektoren wurden mit Beispieltexten trainiert und klassifizieren neue Texte nach Ähnlichkeit. Alle Ansätze haben dasselbe Grundproblem: Sie erkennen Muster, die auch in menschlichen Texten vorkommen.

Die Grenzen der Detektoren

Wer einen KI-Detektor nutzt, sollte seine Schwächen kennen:

Wie schwierig die Aufgabe ist, zeigt ein bekanntes Beispiel: OpenAI, das Unternehmen hinter ChatGPT, hatte 2023 ein eigenes Werkzeug zur Erkennung von KI-Texten veröffentlicht und es nach wenigen Monaten wegen zu geringer Treffsicherheit wieder zurückgezogen.

Forschende arbeiten an Wasserzeichen für Texte, also an unauffälligen statistischen Mustern, die ein Sprachmodell beim Schreiben einbaut und die sich später nachweisen lassen. Solche Verfahren funktionieren aber nur, wenn der Anbieter sie einsetzt, und sie lassen sich durch Umformulieren abschwächen. Eine allgemeine Lösung sind sie bisher nicht.

Sprachliche Hinweise: mit Vorsicht zu genießen

Trotzdem gibt es Muster, die bei KI-Texten häufig auffallen. Sie sind keine Beweise, denn viele Menschen schreiben genauso, aber sie können ein Anlass sein, genauer hinzusehen:

• gleichförmige Absätze, die alle nach demselben Schema aufgebaut sind
• allgemeine Aussagen ohne konkrete Namen, Orte, Zahlen oder Erlebnisse
• häufige Aufzählungen und Zusammenfassungen, oft mit einem Fazit, das nur wiederholt
• eine durchgehend gleiche, glatte Tonlage ohne erkennbare Haltung
• übertrieben ausgewogene Formulierungen, die jede Aussage relativieren
• Reste von Anweisungen oder Antworten, etwa „Gern, hier ist ein Text über …“

Je kürzer und je sachlicher ein Text ist, desto weniger sagen solche Muster aus.

Besser: den Inhalt prüfen

Statt zu rätseln, wer einen Text geschrieben hat, prüfst du, ob er stimmt. Das schützt auch vor Fehlern menschlicher Autoren. Bei KI-Texten lohnt der Blick auf typische Schwachstellen besonders.

Quellen nachschlagen

Sprachmodelle erfinden mitunter Quellen, die plausibel klingen: Studien mit echten Autorennamen und falschen Titeln, Gerichtsurteile mit erfundenen Aktenzeichen, Zeitungsartikel, die nie erschienen sind. Diesen Effekt nennt man Halluzination. Suche jede genannte Quelle selbst. Existiert sie nicht oder steht dort etwas anderes, ist der Text unzuverlässig, egal wer ihn geschrieben hat.

Zahlen, Daten, Zitate kontrollieren

Prüfe konkrete Angaben gegen Primärquellen: Statistiken bei den Ämtern oder Instituten, die sie erheben, Zitate im Originalzusammenhang, Daten in Chroniken seriöser Medien. KI-Texte vermischen gelegentlich richtige und falsche Details so, dass das Ergebnis glaubwürdig wirkt.

Den Absender prüfen

Ein Text ohne Autorin, ohne Impressum und ohne Kontaktmöglichkeit verdient Zurückhaltung. Wie du einschätzt, wer hinter einer Website steht, erklärt der Ratgeber Quellen prüfen und bewerten.

Beispiel: einen verdächtigen Ratgebertext prüfen

Das folgende Beispiel ist ausgedacht. Du stößt auf eine Website mit einem Gesundheitsratgeber zum Thema Schlaf. Der Text ist flüssig geschrieben, gut gegliedert und beruft sich auf „eine aktuelle Studie einer renommierten Universität“, nennt deren Namen und ein Erscheinungsjahr, nach der ein bestimmtes Teerezept die Einschlafzeit halbiere. Ein Autorenname fehlt, das Impressum nennt nur eine Firma im Ausland.

So gehst du vor:

• Studie suchen: Du suchst nach der Studie in Literaturdatenbanken und auf den Seiten der Universität. Du findest keine Veröffentlichung, die zu der Beschreibung passt.
• Kernaussage prüfen: Seriöse Gesundheitsportale und Fachgesellschaften nennen zwar Tipps für besseren Schlaf, aber keine Belege für eine derart starke Wirkung des Rezepts.
• Absender prüfen: Die Website veröffentlicht täglich Dutzende Artikel zu Reisen, Finanzen, Haustieren und Gesundheit, alle ohne Autorinnen und Autoren.

Ergebnis: Ob eine KI den Text geschrieben hat, bleibt offen. Für dein Urteil spielt das keine Rolle. Die zentrale Quelle lässt sich nicht finden, die Aussage ist unbelegt, und hinter der Seite steht niemand, der Verantwortung übernimmt. Diesem Text solltest du nicht vertrauen.

KI-generierte Nachrichtenseiten

Ein wachsendes Problem sind Websites, die wie Nachrichtenportale aussehen, aber weitgehend automatisch mit KI-Texten befüllt werden. Organisationen, die Nachrichtenseiten beobachten, haben zahlreiche solcher Angebote dokumentiert. Oft geht es um Werbeeinnahmen, manchmal um gezielte Beeinflussung. Typische Kennzeichen:

KI-Texte in Schule und Studium

In Schulen und Hochschulen ist die Frage besonders heikel, weil es um Noten geht. Ein Detektor-Ergebnis reicht nicht aus, um jemandem Täuschung nachzuweisen. Viele Bildungseinrichtungen setzen deshalb auf andere Wege: Gespräche über den Text, Zwischenstände und Notizen, mündliche Prüfungsanteile oder klare Regeln, wann und wie KI genutzt und angegeben werden darf. Wer selbst KI-Werkzeuge verwendet, sollte die Vorgaben der eigenen Schule oder Hochschule kennen und offen angeben, wofür sie genutzt wurden.

Fazit: Der Inhalt zählt, nicht die Maschine

Die Frage „Mensch oder Maschine?“ lässt sich oft nicht beantworten, und sie ist auch nicht die wichtigste. Ein Text wird nicht vertrauenswürdig, weil ein Mensch ihn geschrieben hat, und nicht unglaubwürdig, weil eine KI beteiligt war. Was zählt, sind überprüfbare Fakten, echte Quellen und ein Absender, der Verantwortung übernimmt. Wie KI den Journalismus insgesamt verändert, beschreibt der Ratgeber Die Zukunft der Nachrichten.