Mit Google fortfahren
Digitale Systeme: Chancen und Risiken beurteilen
Digitale Systeme können Aufgaben erleichtern, Informationen auswerten und Menschen unterstützen. Dieselbe Funktion kann aber auch Nachteile haben. Deshalb solltest du nicht nur fragen: „Ist die Technik gut oder schlecht?“, sondern: Wem nützt sie, wer trägt ein Risiko und welche Regel macht ihre Nutzung fairer und sicherer?
Auf dieser Seite lernst du, wie digitale Systeme arbeiten, wie du verschiedene Interessen erkennst und wie du ein begründetes Urteil bildest.
Hake ab, was du schon kannst — und komm am Ende hierher zurück!
So verarbeitet ein digitales System Informationen
Stell dir einen Saugroboter vor. Er nimmt seine Umgebung wahr, verarbeitet die aufgenommenen Daten und steuert anschließend seine Räder und Bürsten. Dahinter steckt ein Grundmuster, das bei vielen digitalen Systemen vorkommt:
- Eingabe: Das System erhält Daten. Sie können von Menschen eingegeben oder von Sensoren aufgenommen werden.
- Verarbeitung: Das System verarbeitet die Daten nach festgelegten oder gelernten Regeln.
- Ausgabe: Es zeigt Informationen an oder steuert eine Handlung.
Sensor
Ein Sensor ist ein technisches Bauteil, das etwas aus der Umgebung erfasst, zum Beispiel Abstand, Helligkeit oder Bewegung.
Aktuator
Ein Aktuator setzt einen Steuerungsbefehl in eine körperliche Wirkung um. Bei einem Roboter bewegen Aktuatoren zum Beispiel Räder oder Greifarme.
Ein Saugroboter erfasst mit Sensoren ein Hindernis. Das ist die Eingabe. Seine Software verarbeitet die Sensordaten und entscheidet, die Richtung zu ändern. Das ist die Verarbeitung. Anschließend steuern Aktuatoren die Räder. Das ist die Ausgabe.
Die Ausgabe wirkt hier unmittelbar in der körperlichen Welt. Ein Fehler kann deshalb nicht nur falsche Informationen liefern, sondern auch zu einem Zusammenstoß führen.
Eingabe → Verarbeitung → Ausgabe hilft dir zu untersuchen, was ein digitales System tut und an welcher Stelle ein Nutzen oder ein Problem entstehen kann.
Eine Funktion kann Chance und Risiko zugleich sein
Eine Chance ist eine mögliche positive Wirkung. Ein Risiko ist die Möglichkeit, dass ein Schaden oder Nachteil entsteht. Ob eine Wirkung positiv oder negativ ist, hängt vom System, seiner Nutzung und den betroffenen Menschen ab.
Eine Navigations-App wertet Standortdaten aus.
- Chance: Sie kann eine passende Route finden und Umwege vermeiden.
- Risiko: Standortdaten können die Privatsphäre betreffen. Bei einer falschen Empfehlung kann die Person außerdem einen ungeeigneten Weg nehmen.
Die Datenauswertung ist also nicht automatisch gut oder schlecht. Entscheidend ist, welche Daten verwendet werden, wie zuverlässig das System arbeitet und welche Folgen seine Ausgabe hat.
Auch Automatisierung hat zwei Seiten. Sie kann Routineaufgaben übernehmen und Zeit sparen. Gleichzeitig kann eine starke Abhängigkeit entstehen: Fällt das System aus, fehlt möglicherweise eine menschliche Alternative.
Beurteile immer dieselbe Funktion von beiden Seiten. Eine unverbundene Vorteils- und Nachteilsliste erklärt noch nicht, wo der Zielkonflikt liegt.
Verschiedene Menschen verfolgen verschiedene Ziele
An einem digitalen Dienst sind oft mehrere Gruppen beteiligt. Nutzende verwenden ihn. Anbietende entwickeln oder betreiben ihn. Betroffene spüren Folgen, obwohl sie den Dienst vielleicht gar nicht selbst gewählt haben.
Eine Schule prüft eine Lern-App. In diesem Beispiel gelten folgende Ziele:
- Eine Schülerin möchte passende Aufgaben üben und verständliche Rückmeldungen erhalten.
- Der Anbieter möchte, dass die App genutzt wird und zuverlässig funktioniert.
- Die Lehrkraft möchte Lernfortschritte erkennen, ohne sich blind auf die App zu verlassen.
- Mitschülerinnen und Mitschüler möchten fair behandelt werden.
- Eltern möchten, dass persönliche Daten geschützt bleiben.
Ein Ziel darf nicht einfach alle anderen Ziele verdrängen. Eine hilfreiche App wäre zum Beispiel nicht fair, wenn sie einzelne Kinder wegen ungeeigneter Daten systematisch benachteiligt.
Betroffene Person
Eine betroffene Person erlebt die Folgen eines Systems. Sie muss das System weder entwickelt noch selbst benutzt haben.
Beim Beurteilen helfen vier Fragen:
- Wer nutzt oder betreibt das System?
- Welches Ziel verfolgt jede Gruppe?
- Wer erhält einen Vorteil?
- Wer könnte einen Nachteil tragen?
Wo typische Risiken entstehen
Risiken entstehen nicht zufällig. Du kannst sie an bestimmten Eigenschaften digitaler Systeme erkennen.
Daten können ungeeignet oder verzerrt sein
Lernfähige Systeme gewinnen Muster aus Trainingsdaten. Sind diese Daten schlecht ausgewählt, fehlerhaft oder einseitig, können auch die Ergebnisse fehlerhaft oder unfair werden. Das wird oft mit „schlechte Daten hinein – schlechte Ergebnisse heraus“ zusammengefasst.
Lernen erschwert die Vorhersage
Bei klassischer Software geben Programmierende Regeln vor. Ein lernfähiges System erzeugt oder verändert einen Teil seiner Verarbeitungsregeln beim Training. Dadurch kann es sich an komplexe Aufgaben anpassen. Sein Verhalten ist aber oft schwerer vollständig vorherzusagen und zu erklären.
Vernetzung schafft Verbindungen und Angriffsflächen
Vernetzte Systeme können Daten austauschen und zusammenarbeiten. Jede zusätzliche Schnittstelle kann jedoch Fehler oder Angriffe weitertragen. Wichtige Schutzziele sind:
- Vertraulichkeit: Daten gelangen nur zu berechtigten Personen.
- Integrität: Daten und Befehle werden nicht unbemerkt verändert.
- Verfügbarkeit: Das System funktioniert, wenn es gebraucht wird.
Roboter können körperlich handeln
Software zeigt oft nur eine Information an. Ein Roboter steuert mit Aktuatoren seine Hardware. Fehler oder manipulierte Befehle können dadurch unmittelbar Menschen oder Sachen gefährden.
Mehr Technik bedeutet nicht automatisch mehr Gesamtrisiko. Ein gut geprüftes Assistenzsystem kann Fehler vermeiden. Vergleiche deshalb das digitale System auch mit der Lösung, die es ersetzt.
So begründest du eine faire und sichere Regel
Eine gute Regel nennt nicht nur ein Verbot. Sie verbindet ein erkanntes Risiko mit einer passenden Schutzmaßnahme und berücksichtigt die betroffenen Menschen.
Nutze diese fünf Schritte:
- System und Funktion nennen: Was genau soll das System tun?
- Beteiligte erkennen: Wer nutzt, betreibt oder erlebt Folgen des Systems?
- Chance erklären: Welcher konkrete Nutzen kann entstehen?
- Risiko erklären: Welcher konkrete Nachteil ist möglich?
- Regel begründen: Wie bleibt der Nutzen erhalten, während das Risiko kleiner wird?
Situation: Eine Lern-App schlägt Übungen anhand bisheriger Antworten vor.
Chance: Kinder erhalten Aufgaben, die besser zu ihrem Lernstand passen.
Risiko: Fehlerhafte oder ungeeignete Daten können zu unpassenden Empfehlungen führen. Persönliche Lerndaten müssen außerdem geschützt werden.
Regel: Die Empfehlung darf eine Lehrkraft unterstützen, aber nicht allein über Förderung oder Bewertung entscheiden. Es sollen nur notwendige Daten verwendet und vor unberechtigtem Zugriff geschützt werden.
Begründung: So bleibt die hilfreiche Anpassung erhalten. Gleichzeitig kann ein Mensch Fehler erkennen, Entscheidungen erklären und die Interessen der betroffenen Kinder berücksichtigen.
Eine tragfähige Regel folgt dem Muster: Weil dieses Risiko besteht, soll diese Schutzmaßnahme gelten. Dadurch bleibt diese Chance möglichst erhalten.
Karteikasten
Überlege zuerst selbst und drehe die Karte anschließend zum Prüfen um.
Alles auf einen Blick
- Digitale Systeme beurteilen
- Funktionsweise: Eingabe, Verarbeitung und Ausgabe
- Wirkungen: Chance und Risiko derselben Funktion
- Perspektiven: Nutzende, Anbietende und Betroffene
- Risikofaktoren: Daten, Lernfähigkeit, Vernetzung und Aktuatoren
- Gestaltung: Sicherheit, Datenschutz, Erklärbarkeit und menschliche Kontrolle
Abschluss-Check
Prüfe dein eigenes Urteil zum Schluss mit drei Fragen: Habe ich dieselbe Funktion von beiden Seiten betrachtet? Habe ich alle wichtigen Betroffenen berücksichtigt? Passt meine Regel genau zu dem erkannten Risiko?