Mit Google fortfahren
Generative KI verstehen und sicher nutzen
Generative KI erzeugt auf einen Prompt hin neue Inhalte, zum Beispiel Texte, Bilder, Audio, Videos oder Programmcode. Sie setzt dabei gelernte Muster aus Trainingsdaten fort. Das Ergebnis kann nützlich und überzeugend wirken, ist aber nicht automatisch richtig, aktuell oder fair.
Auf dieser Seite erfährst du, wie generative KI grundsätzlich funktioniert. Du lernst außerdem, ihre Ausgaben systematisch zu prüfen und verantwortungsvoll zu verwenden.
Hake ab, was du schon kannst — und komm am Ende hierher zurück!
Woran erkennst du generative KI?
Nicht jedes KI-System erzeugt neue Inhalte. Manche Systeme ordnen Eingaben einer vorhandenen Kategorie zu oder treffen eine Vorhersage. Ein Spamfilter entscheidet beispielsweise, ob eine Nachricht wahrscheinlich Spam ist.
Generative KI erzeugt dagegen eine neue Ausgabe. Ein Textgenerator formuliert eine Antwort, ein Bildgenerator erzeugt ein Bild und ein Codegenerator schlägt Programmcode vor.
Generative KI
Generative KI ist ein Teilgebiet der künstlichen Intelligenz. Ihre Modelle lernen Muster und Beziehungen aus großen Datenmengen und erzeugen daraus neue Inhalte mit ähnlichen Strukturen.
Neu bedeutet dabei nicht automatisch originell, wahr oder noch nie dagewesen. Die Ausgabe entsteht aus gelernten Mustern.
Du gibst zwei Systemen dieselbe Beschreibung eines Tierfotos:
- System A wählt das vorhandene Label Hund aus. Es klassifiziert.
- System B schreibt eine neue kurze Bildergeschichte über den Hund. Es generiert.
Der Unterschied liegt im Hauptergebnis: vorhandene Kategorie bei A, neu zusammengesetzter Inhalt bei B.
Wie wird aus Daten eine Ausgabe?
Der vereinfachte Lernweg besteht aus vier Schritten:
- Das Modell verarbeitet viele Trainingsdaten, etwa Texte oder Bilder.
- Beim Training erkennt es darin statistische Muster und Beziehungen.
- Diese Muster werden in zahlreichen veränderbaren Parametern des Modells kodiert.
- Nach einem Prompt erzeugt das trainierte Modell eine dazu passende Ausgabe.
Trainingsdaten
Trainingsdaten sind die Beispiele, aus denen ein Lernverfahren Muster ableitet. Auswahl, Qualität und Zusammensetzung dieser Daten beeinflussen, was das Modell lernen kann.
Textmodelle zerlegen Text in Token. Ein Token kann ein Wort, ein Wortteil oder eine andere Zeichenfolge sein. Das Modell berechnet mögliche Fortsetzungen und erzeugt schrittweise weitere Token. Jedes bereits erzeugte Token wird dabei Teil des folgenden Kontexts.
Ein Textmodell schlägt nicht in einem eingebauten Lexikon die einzig richtige Antwort nach. Es erzeugt eine statistisch passende Fortsetzung aus erlernten Mustern und dem aktuellen Kontext.
Der Satzanfang „Im Winter fällt manchmal …“ lässt mehrere sprachlich passende Fortsetzungen zu. Ein Textmodell bewertet mögliche nächste Token und wählt eine Fortsetzung aus. Danach setzt es den Vorgang mit dem erweiterten Text fort.
So können zusammenhängende Texte entstehen. Derselbe Mechanismus garantiert aber nicht, dass jede enthaltene Behauptung wahr ist.
Wähle in jeder Lücke die passende Form und prüfe anschließend deine Antworten.
Ein Modell lernt aus statistische Muster. Eine Nutzereingabe heißt . Textmodelle verarbeiten Text in Einheiten, die heißen. Die erzeugte Fortsetzung ist .
Welche Modelle erzeugen welche Inhalte?
Generative KI ist keine einzelne Technik. Verschiedene Modellfamilien eignen sich für unterschiedliche Daten und Aufgaben.
Transformer und Sprachmodelle
Transformer können Beziehungen zwischen Teilen einer Sequenz gewichten. Ihr Attention-Mechanismus hilft dabei, für die Verarbeitung wichtige Stellen des Kontexts zu berücksichtigen. Transformer bilden die Grundlage vieler großer Sprachmodelle, kurz LLMs.
Weitere Modellfamilien
- Variational Autoencoder, kurz VAE: Ein Encoder verdichtet Merkmale in einer Repräsentation. Ein Decoder rekonstruiert daraus Inhalte und kann ähnliche Varianten erzeugen.
- Generative Adversarial Networks, kurz GAN: Ein Generator erzeugt Inhalte, während ein Diskriminator sie beurteilt. Der Wettbewerb kann besonders realistisch wirkende Bilder hervorbringen.
- Diffusionsmodelle: Beim Training wird mit verrauschten Daten gearbeitet. Das Modell lernt, Rauschen schrittweise zu entfernen und daraus etwa ein gewünschtes Bild zu erzeugen.
Ein breit trainiertes Foundation Model kann viele Aufgaben bearbeiten. Für einen bestimmten Einsatz lässt es sich mit geeigneten Daten, menschlichem Feedback oder anderen Verfahren anpassen.
Ein generatives Modell erzeugt hauptsächlich Inhalte. Ein KI-Agent geht darüber hinaus: Er kann ein Ziel verfolgen, Arbeitsschritte planen und Werkzeuge oder Dienste verwenden. Ein guter Textgenerator ist deshalb nicht automatisch ein selbstständig handelnder Agent.
Wie nutzt und prüfst du eine Ausgabe?
Ein Prompt kann kurz oder ausführlich sein. Für die Zuverlässigkeit entscheidend ist jedoch nicht nur seine Formulierung, sondern auch die anschließende Prüfung.
Ein sinnvoller Arbeitsablauf:
- Aufgabe festlegen: Entscheide, welche Ausgabe du brauchst und wofür du sie verwenden willst.
- Prompt eingeben: Beschreibe Aufgabe, nötigen Kontext und gewünschte Form so eindeutig wie möglich.
- Ausgabe untersuchen: Markiere Behauptungen, Zahlen, Namen und Schlussfolgerungen, die falsch oder veraltet sein könnten.
- Verbessern: Präzisiere den Prompt oder korrigiere die Ausgabe.
- Verantwortung übernehmen: Verwende das Ergebnis erst, wenn du die entscheidenden Aussagen geprüft hast.
Du lässt einen Textgenerator eine Erklärung für ein Referat formulieren. Der Text klingt flüssig, nennt aber eine konkrete Jahreszahl.
Du übernimmst sie nicht allein wegen des überzeugenden Stils. Du trennst zunächst die verständliche Formulierung von der überprüfbaren Tatsachenbehauptung. Erst nach der Prüfung verwendest oder korrigierst du die Jahreszahl.
Retrieval-Augmented Generation, kurz RAG, ergänzt einen Prompt automatisch um gefundene Dokumente. Das kann aktuellere und fachlich passendere Antworten ermöglichen. Es garantiert aber keine Fehlerfreiheit: Unpassende Dokumente, ein fehlerhafter Abruf oder eine falsche Schlussfolgerung können weiterhin zu einer schlechten Antwort führen.
Welche Fehler und Risiken musst du kennen?
Halluzinationen
Eine Halluzination ist eine plausible wirkende, aber falsche oder unsinnige KI-Ausgabe. Sie kann entstehen, weil das Modell eine sprachlich passende Fortsetzung erzeugt, ohne die Aussage zuverlässig zu belegen.
Bias und Automation Bias
Bias bedeutet hier eine systematische Verzerrung. Sind bestimmte Gruppen in den Trainingsdaten einseitig dargestellt, kann das Modell diese Schieflage übernehmen oder verstärken.
Automation Bias ist ein anderer Fehler: Menschen vertrauen einer technischen Ausgabe zu schnell, weil sie von einem automatischen System stammt.
In einem erfundenen Test erzeugt ein Bildmodell zu zehn Prompts mit dem Wort „Pflegekraft“ neun Bilder von Frauen und eines von einem Mann. Dieses kleine Ergebnis beweist noch nicht die Ursache. Es ist aber ein prüfbarer Hinweis auf eine mögliche systematische Verzerrung.
Ein sinnvoller nächster Schritt wäre, weitere gleich aufgebaute Prompts zu testen, die Ergebnisse zu dokumentieren und mögliche Folgen der Darstellung zu bewerten.
Datenschutz, Rechte und Missbrauch
Vertrauliche, personenbezogene oder geschützte Informationen können durch Prompts, Trainings- oder Anpassungsdaten offengelegt werden. Generative Systeme können außerdem für Phishing, Deepfakes, falsche Identitäten und Desinformation missbraucht werden.
Gib keine sensiblen Daten in ein System ein, dessen Regeln für Speicherung und Nutzung du nicht kennst. Prüfe außerdem, ob du Texte, Bilder oder Daten überhaupt verwenden darfst.
Wie bewertest du eine Anwendung verantwortlich?
Eine KI-Anwendung besteht nicht nur aus einem Modell. Zu ihr gehören Daten, Betreiber, Nutzerinnen und Nutzer, betroffene Personen, Regeln und mögliche Folgen. Deshalb hilft eine Akteurs- und Datenflussanalyse.
Frage in dieser Reihenfolge:
- Ziel: Welches Problem soll das System lösen?
- Akteure: Wer entwickelt, betreibt und verwendet es? Wer ist von seinen Ausgaben betroffen?
- Datenfluss: Welche Daten werden eingegeben, gespeichert, abgerufen oder weitergegeben?
- Fehlerfolgen: Wer trägt den Schaden bei falschen oder verzerrten Ausgaben?
- Alternativen: Kann ein weniger riskantes Verfahren dasselbe Ziel erreichen?
- Anforderung: Welche technische oder organisatorische Maßnahme soll das Risiko begrenzen?
- Prüfkriterium: Woran lässt sich erkennen, ob die Maßnahme tatsächlich wirkt?
Eine Schule erwägt einen Textgenerator für Rückmeldungen zu Aufsätzen.
Analyse: Lehrkräfte verwenden das System, Lernende erhalten die Rückmeldungen und der Betreiber verarbeitet die Eingaben. Vollständige Aufsätze können persönliche Informationen enthalten. Fehlerhafte Rückmeldungen könnten Lernende unfair beurteilen.
Anforderung: Namen und andere personenbezogene Angaben werden vor der Eingabe entfernt. Keine Rückmeldung wird ungeprüft als Bewertung übernommen.
Prüfkriterium: Eine dokumentierte Stichprobe wird darauf kontrolliert, ob sie noch identifizierende Angaben enthält und ob jede verwendete Rückmeldung von einer Lehrkraft fachlich geprüft wurde.
Karteikasten
Überlege zuerst selbst und drehe die Karte anschließend zum Prüfen um.
Alles auf einen Blick
- Generative KI
- lernt Muster aus Trainingsdaten
- erzeugt Inhalte nach einem Prompt
- nutzt Modellfamilien wie Transformer, VAE, GAN und Diffusionsmodelle
- ermöglicht Entwürfe, Varianten, Analysen und Unterstützung
- kann halluzinieren oder Verzerrungen übernehmen
- verlangt Schutz sensibler Daten
- braucht menschliche Prüfung und Verantwortung
- lässt sich mit Maßnahmen und Prüfkriterien gestalten
Abschluss-Check
Wenn du alle drei Entscheidungen begründen kannst, hast du den Kern verstanden: Generative KI ist ein leistungsfähiges Werkzeug zur Inhaltserzeugung, aber keine automatische Wahrheits- oder Fairnessmaschine.