Skip to content
Schritt 1 / –
flag Einführung

Das Ergebnis prüfen

KI kann Fehler machen, ohne dass Sie eine Warnung bekommen. Prüfen Sie deshalb, was Sie versenden oder als Grundlage für eine Entscheidung verwenden. In diesem Modul lernen Sie, worauf Sie achten.

target Was Sie in diesem Modul lernen
  • check_circle Was Sie immer prüfen, bevor Sie KI-Text verwenden
  • check_circle Wie sich Vorurteile in KI-Antworten einschleichen
  • check_circle Warum eine echte menschliche Beurteilung nötig ist
draw Sie unterschreiben

Sie unterschreiben, nicht die KI

KI erfindet manchmal Zahlen, Zitate, Gesetzesartikel oder Quellen, die nicht existieren. Das nennt man Halluzinieren Ein KI-Tool, das mit großer Sicherheit etwas behauptet, das nicht stimmt: eine erfundene Zahl, ein Zitat, das nirgends steht, oder eine Quelle, die nicht existiert. Das passiert bei allen KI-Tools, auch den besten. . Die Antwort klingt genauso überzeugend wie dann, wenn sie stimmt.

Prüfen Sie deshalb immer:

  • Zahlen und Berechnungen: rechnen Sie nach oder vergleichen Sie mit der Quelle;
  • Namen, Daten und Zitate: stehen sie wirklich im Originaldokument?
  • rechtliche oder steuerliche Aussagen: lassen Sie sie von jemandem prüfen, der sich auskennt;
  • Ton und Inhalt: würden Sie das selbst so an diesen Kunden oder diese Kollegin schreiben?
balance Vorurteile

Achten Sie auf Vorurteile

KI kann aus Daten mit Vorurteilen lernen, etwa aus Texten aus dem Internet. Diese können unbemerkt in die Antworten gelangen.

So kann das aussehen:

  • Bei Stellenanzeigen: KI schlägt vor allem Männer für technische Jobs und Frauen für Pflegejobs vor.
  • Bei Kandidaten: ein Lebenslauf mit einem bestimmten Namen oder Wohnort bekommt eine niedrigere Bewertung.
  • Bei Texten: Beispiele und Bilder zeigen immer dieselbe Art von Menschen.
balance Was Sie tun

Lesen Sie kritisch, besonders wenn die Antwort Menschen betrifft. Fragen Sie sich: Würde ich dasselbe entscheiden, wenn die KI das nicht vorgeschlagen hätte?

groups Über Menschen entscheiden

Sorgen Sie für eine echte menschliche Beurteilung

Die praktische Regel für Mitarbeitende: Ergreifen Sie keine Initiative, KI eigenständig über Menschen entscheiden zu lassen. Verwenden Sie nur eine vorab geprüfte und freigegebene Anwendung, mit echter menschlicher Beurteilung. Denken Sie an:

  • Kandidaten auswählen oder ablehnen;
  • Leistungen von Mitarbeitenden beurteilen;
  • einen Kunden ablehnen oder einen Preis anhand eines Profils festlegen.

KI kann innerhalb einer freigegebenen Anwendung helfen, etwa bei Lebenslauf-Zusammenfassungen. Die beurteilende Person muss die relevanten Quellinformationen prüfen können, über ausreichend Kenntnisse und Befugnisse verfügen und den KI-Vorschlag ablehnen können. Nur auf „Einverstanden“ zu klicken ist keine echte Beurteilung.

Die DSGVO beschränkt vollständig automatisierte Entscheidungen mit rechtlichen Folgen oder vergleichbar erheblichen Auswirkungen. Es gibt Ausnahmen mit Voraussetzungen und Garantien. Die wenden Sie nicht selbst an: Lassen Sie eine solche Anwendung vorab von der zuständigen Person in Ihrer Organisation prüfen. Auch mit menschlicher Beurteilung ist der KI-Einsatz bei der Personalauswahl nicht automatisch erlaubt.

gavel Keine Emotionserkennung

KI zu verwenden, um Emotionen am Arbeitsplatz oder im Bildungsbereich aus biometrischen Daten wie Gesichts- oder Stimmmerkmalen abzuleiten, ist in der EU verboten, außer zu medizinischen oder Sicherheitszwecken. Einen Text auf Ton oder Stimmung zu analysieren fällt nicht unter dieses spezifische Verbot. Das bedeutet nicht, dass jede Nutzung davon erlaubt ist: Verwenden Sie solche Tools für Kolleginnen und Kollegen, Kandidaten oder Kunden nicht auf eigene Initiative.

quiz Was würden Sie tun?

Eine Zusammenfassung, die nicht stimmt

description
Sie lassen die KI einen 20-seitigen Vertrag zusammenfassen. Die Zusammenfassung nennt eine Kündigungsfrist von drei Monaten, aber Sie finden diese Klausel nirgends im Vertrag.

Was tun Sie?

quiz Selbsttest · Frage 1 von 2
info Nur zur Übung, das zählt nicht für Ihren Fortschritt
Die KI schreibt ein Angebot mit einem Rabatt, den Sie nie vereinbart haben. Was tun Sie, bevor Sie es versenden?
Richtig: KI ist ein Hilfsmittel. Was Sie auf Basis von KI versenden oder entscheiden, prüfen Sie selbst.
quiz Selbsttest · Frage 2 von 2
Was darf KI in einem Bewerbungsverfahren tun?
Richtig: zuerst muss diese Anwendung geprüft und freigegeben sein. Eine befugte Person prüft die relevanten Quellinformationen, wägt die Kandidaten selbst ab und kann den KI-Vorschlag ablehnen.
summarize Zusammenfassung

Das nehmen Sie aus Modul 4 mit

  • bolt KI erfindet manchmal Fakten, Zitate und Quellen und kann dabei überzeugt klingen.
  • bolt Prüfen Sie Zahlen, Namen, Zitate und rechtliche Aussagen, bevor Sie etwas verwenden.
  • bolt KI kann Vorurteile aus den Daten übernehmen, aus denen sie gelernt hat. Lesen Sie kritisch.
  • bolt Verwenden Sie KI bei Entscheidungen über Menschen nur innerhalb einer freigegebenen Anwendung mit echter menschlicher Beurteilung.
  • bolt Biometrische Emotionserkennung am Arbeitsplatz ist verboten, mit Ausnahmen für medizinische und Sicherheitszwecke. Verwenden Sie solche Tools nicht auf eigene Initiative.
workspace_premium Modul abgeschlossen

Modul 4 abgeschlossen 🎉

Sie wissen jetzt, wie Sie das Ergebnis von KI prüfen. In Modul 5 lernen Sie, wann Sie sagen, dass KI mitgeschrieben hat, und wie Sie mit KI umgehen, die Besprechungen aufzeichnet.

lock_open 4 von 8 Modulen

Auf dem Weg zum Übungsquiz „KI sicher nutzen“

Schließen Sie alle 8 Module ab und machen Sie das kostenlose Übungsquiz. Die offizielle Prüfung mit Zertifikat finden Sie in der GDPRWise-App.

check_circle Module 1-4 abgeschlossenradio_button_unchecked Module 5-7radio_button_unchecked Abschlussprüfung ≥ 70 %
workspace_premium