Die KI formuliert.
Sie liefert Text, etwa eine Zusammenfassung. Für weitere Schritte braucht es hier wieder einen Menschen.
Beispiel: „Schreibe eine Einladung für unser Bürgergespräch.“
KI-Agenten · Selbstbestimmung · Demokratie
Wenn KI
selbst handelt.
Was bedeutet das für uns als Bürgerinnen und Bürger einer Demokratie?
Handlungsspielräume verstehen. Folgen abwägen. Kontrolle gestalten. Drei Experimente für ein eigenes Urteil.
Selbst ausprobieren Ohne Anmeldung.
Alles bleibt auf diesem Gerät.
Alles bleibt auf diesem Gerät.
01 · Verstehen
Eine Antwort ist noch keine Handlung.
Der Unterschied liegt darin, wer den nächsten Schritt bestimmt und ob das System etwas außerhalb des Gesprächs verändern kann.
Die Regel führt.
Ein fest vorgegebener Ablauf wird ausgeführt. Die Reihenfolge ist vorher programmiert; auch KI kann darin vorkommen.
Beispiel: Nach jeder Anmeldung wird dieselbe Bestätigung verschickt.
Das System wählt Schritte.
Ein KI-Agent plant innerhalb eines Auftrags, wählt Werkzeuge und passt seine nächsten Schritte an Ergebnisse an. [1]
Beispiel: „Bereite ein Bürgergespräch vor und prüfe, was dafür fehlt.“
Vereinfachter Agentenablauf
- Auftrag
- Planung
- Werkzeugnutzung
- Ergebnisprüfung
- Nächster Schritt oder Abschluss
Die Prüfung kann eine neue Planung, eine Rückfrage oder einen Stopp auslösen. Sie kann selbst fehlerhaft sein. [1]
„Selbst“ heißt hier: innerhalb gesetzter Grenzen. Handlungsspielraum hängt vom Modell, den Werkzeugen, den Berechtigungen und dem Auftrag ab. Der Begriff behauptet weder Bewusstsein noch eine eigene demokratische Legitimation. Diese Seite verwendet ihn als technische Arbeitsbeschreibung.
02 · Abwägen
Was würden Sie delegieren?
Drei erfundene Alltagssituationen. Entscheiden Sie, wie weit ein Agent handeln darf – und vergleichen Sie die Folgen einer anderen Wahl.
Helferschichten für ein Nachbarschaftsfest
Fiktives BeispielIhre Abwägung
Wo würden Sie die Grenze ziehen?
Wählen Sie links eine Stufe. Hier sehen Sie konkrete Folgen und Fragen zu Ihrer Entscheidung.
Zum Weiterdenken
Es gibt keine versteckte Musterantwort und keinen Demokratie-Score. Mehrere Entscheidungen lassen sich begründen. Ihre Auswahl wird nicht ausgewertet oder übertragen.
03 · Durchspielen
Gleicher Auftrag,
andere Befugnisse.
Schalten Sie Rechte ein oder aus. Gehen Sie den Ablauf Schritt für Schritt durch und beobachten Sie, wo das System stoppen muss.
SIMULATION · Alle Angaben und Ergebnisse sind erfunden. Keine echten Nachrichten, Buchungen oder externen KI-Aufrufe.
Der Auftrag: „Organisiere ein Bürgergespräch für unseren Verein. Erstelle einen Plan, lade die freigegebenen Kontakte ein und buche den ausgewählten Raum für höchstens 80 Euro.“
Ablauf beobachtenBereit zum Start
Bereit
Was kann dieser Agent tun?
Vier Zugriffsrechte sind voreingestellt. Klicken Sie auf „Simulation starten“.
Eine Bitte beeinflusst das Verhalten.
„Sei vorsichtig“ sagt dem Modell, wie es vorgehen soll. Das ist keine verlässliche Zugriffssperre. In dieser Simulation verändert die Bitte deshalb keine technische Befugnis.
Eine technische Grenze sperrt die Handlung.
Ohne Versandzugriff kann dieses simulierte System nicht senden. Mit einer erzwungenen Freigabe hält es vor dem Versand an. In realen Systemen muss die korrekte Umsetzung dieser Grenzen geprüft werden.
Der Ablauf ist bewusst fest programmiert, damit Sie Grenzen vergleichen können. Er zeigt das Prinzip eines Agentenablaufs; hier läuft kein KI-Agent. In der Realität können Wege und Fehler anders ausfallen.
04 · Die gesellschaftliche Perspektive
Wer gewinnt Spielraum?
Wer behält Einfluss?
Entlastung & Selbstbestimmung
Ein Agent könnte Vereinsarbeit erleichtern oder Informationen verständlicher aufbereiten. Wer ihn nutzt, sollte Ziele ändern und selbst entscheiden können, wann Unterstützung erwünscht ist.
Wer kann mitreden, wenn jemand die digitale Hilfe nicht nutzen kann oder will?
Zugang & Macht
Im fiktiven Bürgergespräch könnte ein gut ausgestatteter Verein mehr Stellungnahmen vorbereiten als eine kleine Initiative. Zugang zu Werkzeugen, Daten und Geld kann Handlungsmöglichkeiten ungleich verteilen.
Welche gemeinsamen Zugänge würden Beteiligung erleichtern?
Öffentlichkeit & Verantwortung
Ein Agent könnte Argumente erschließen, aber auch viele irreführende Beiträge verbreiten. Sichtbarkeit allein sagt wenig über Rückhalt aus. Es bleibt zu klären, wer Auftrag, Regeln und Folgen verantwortet.
Wie erkennen Betroffene den Einsatz und wie können sie widersprechen?
Dies sind mögliche Folgen und politische Gestaltungsfragen, keine Vorhersagen. Menschenrechte, demokratische Werte, Transparenz und Verantwortlichkeit sind Orientierungen der OECD-KI-Prinzipien. [2] Der Europarat behandelt auch Information, Überprüfbarkeit und Beschwerdemöglichkeiten für Betroffene. [3]
05 · Bedingungen formulieren
Was würden Sie verlangen?
Stellen Sie Bedingungen für einen konkreten Einsatz zusammen. Daraus entsteht Ihre persönliche Prüfliste für die nächste Diskussion.
Ihre persönliche Prüfliste
KI einsetzen – unter Bedingungen.
Noch keine Bedingungen gewählt
Wählen Sie links Bedingungen aus. Die Liste wächst mit Ihrer Auswahl.
Text anzeigen / von Hand kopieren
Dann Strg+C (Windows/Linux) oder ⌘C (Mac) drücken. Auf dem Smartphone den Text länger berühren und „Kopieren“ wählen.
Diese Liste unterstützt die Diskussion. Sie ersetzt keine fachliche Prüfung und ist kein Zertifikat. Nicht ausgewählte Bedingungen gelten dadurch nicht als entbehrlich.
06 · Zurück zur Live-Demonstration
Und diese Seite?
Jetzt sind wir die Prüfenden.
Während des Vortrags hat ein KI-System innerhalb eines menschlich gesetzten Auftrags diese Seite erarbeitet. Gestaltung, Formulierungen und Programmierung wurden dabei nicht in jedem Schritt vom Menschen vorgegeben. Welche Kontrolle brauchen wir über ein solches Ergebnis?
Welche Entscheidungen hat der Mensch vorab getroffen?
Denkanstoß öffnen
Im Auftrag standen Thema, Zielgruppe, drei Module, Grenzen für Werkzeuge und Daten, lokale Nutzung und ein Zeitlimit. Auch das Verbot einer Veröffentlichung kam vom Menschen.
Welche Entscheidungen durfte das System selbst treffen?
Denkanstoß öffnen
Es durfte die Dramaturgie, fiktive Fälle, konkrete Texte und Gestaltung wählen, öffentlich recherchieren, Dateien erstellen und verfügbare Prüfwerkzeuge einsetzen. Was es tatsächlich getan hat, steht im mitgelieferten Arbeitsbericht.
Was müssten wir vor einer Weiterverwendung überprüfen?
Denkanstoß öffnen
Zum Beispiel die Quellen, sachliche Richtigkeit und Ausgewogenheit, die Funktion aller Auswahlwege, Zugänglichkeit und die klare Trennung von Beispiel und Tatsachenbehauptung. Wer übernimmt die redaktionelle Verantwortung?
Überzeugend aussehen und funktionieren genügt nicht. Beides belegt weder die Richtigkeit aller Inhalte noch die allgemeine Zuverlässigkeit eines Agenten. Diese Seite ist ein einzelnes Arbeitsergebnis in einer begrenzten Situation.
Grundlagen & Quellen
Für diese Lernseite gelesen am 12. November 2026. Die Fallgeschichten, Rückmeldungen und die Simulation sind didaktisch erdacht. Die Fragen und Bedingungen laden zum Abwägen ein; sie sind keine zugeschriebenen Positionen des Referenten oder eines Veranstalters. Quellenlinks öffnen externe Webseiten in einem neuen Tab und benötigen Internet.
- [1]Building effective agents ↗
Stützt die technische Unterscheidung zwischen festen Arbeitsabläufen und dynamischer Wahl von Schritten und Werkzeugen sowie den Ablauf mit Rückmeldungen, Prüfungen und Stopps. Kein unabhängiger Nachweis heutiger Leistungsfähigkeit; die Seite weist selbst auf Änderungen seit 2024 hin.
- [2]OECD AI Principles overview ↗
Orientierung für die gesellschaftlichen Fragen: Menschenrechte, demokratische Werte, Fairness, Privatsphäre, Transparenz, Sicherheit und Verantwortlichkeit. Diese Prinzipien sind ein normativer Bezugspunkt, keine Bewertung dieser Seite.
- [3]The Framework Convention on Artificial Intelligence ↗
Stützt den Bezug zu menschlicher Autonomie, Aufsicht, Verantwortung sowie Information, Überprüfbarkeit und Beschwerden für Betroffene. Daraus wird hier keine Aussage zu unmittelbar geltenden Ansprüchen in einem konkreten Fall abgeleitet.
- ↗Landeszentrale für politische Bildung Baden-Württemberg ↗
Anregung für rot-weiße Farbgebung, klare serifenlose Überschriften und eine redaktionelle Gliederung. Eigenständige Umsetzung ohne Logos, institutionelle Prüfung oder Freigabe.