KI & Sicherheit

Wenn Betrug glaubwürdig klingt: So schützen Unternehmen ihre Freigaben im KI-Zeitalter

ki-phishing-betrug-freigaben-unternehmen-titelbild

Eine Nachricht kann sprachlich einwandfrei sein, ein reales Projekt nennen und trotzdem von einem Betrüger stammen. Wer Sicherheit vor allem an Rechtschreibfehlern festmacht, prüft die Verpackung. Bei sensiblen Vorgängen muss zusätzlich geklärt werden, ob Absender, Anliegen und Berechtigung tatsächlich zusammenpassen.

Der Berliner Datenabfluss gibt dieser Frage aktuelle Bedeutung. Die Datenschutzaufsicht warnt in ihren Hinweisen vor Phishing und empfiehlt bei zweifelhaften Kontaktaufnahmen eine eigenständige Rückversicherung über verlässliche Wege. Welche einzelnen Personen und Datenbestände betroffen sind, war im dort dokumentierten Sachstand noch nicht abschließend geklärt. Berliner Datenschutzbeauftragte: Hinweise zum Cyberangriff, Stand 11.09.2026

Die folgenden Beispiele sind illustrative Szenarien aus typischen Geschäftsabläufen. Sie beschreiben keine nachgewiesenen Folgeangriffe in Berlin und keine Kundenfälle von peistrup24.

Was künstliche Intelligenz verändert

Generative KI kann überzeugende Texte erzeugen und unterschiedliche Formulierungen für verschiedene Empfänger vorbereiten. Bereits die NCSC-Analyse vom Januar 2024 ordnete KI als Verstärker für Aufklärung und Social Engineering ein. Das ist eine technische Hintergrundquelle, kein Beleg für einen KI-Einsatz beim Berliner Angriff. NCSC, 24.01.2024: The near-term impact of AI on the cyber threat – Hintergrundquelle

Für Unternehmen ist eine nüchterne Schlussfolgerung hilfreich: Ob eine konkrete Nachricht mit KI geschrieben wurde, muss nicht zuerst geklärt werden. Wichtiger ist, ob sie eine unzulässige Handlung auslösen kann. Eine gute Freigaberegel wirkt auch dann, wenn ein erfahrener Mensch den Betrugsversuch formuliert hat.

Die Prüfung sollte deshalb an der Handlung ansetzen. Eine Terminrückfrage, eine neue Bankverbindung und die Anforderung einer vollständigen Kundenakte verdienen unterschiedliche Aufmerksamkeit. Wer jede Nachricht gleich behandelt, verschwendet entweder Zeit oder übersieht folgenreiche Ausnahmen.

Fall 1: Die neue Bankverbindung eines bekannten Dienstleisters

Eine Hausverwaltung erhält eine Nachricht zu einer tatsächlich erwarteten Rechnung. Projekt, Rechnungsbetrag und Ansprechpartner stimmen. Lediglich das Konto habe sich geändert. Die E-Mail verlangt eine schnelle Anpassung, damit die Zahlung pünktlich eingeht.

Das Problem liegt hier nicht darin, dass der Text unplausibel wäre. Es liegt darin, dass richtige Sachinformationen als Identitätsnachweis behandelt werden. Würde eine E-Mail allein genügen, könnte die Person, die den Zahlungsvorschlag bearbeitet, zugleich unbemerkt den Empfänger austauschen.

Unser Vorschlag für den Prozess: Bankverbindungsänderungen werden als eigener Vorgang erfasst. Eine zuständige Person bestätigt die Änderung über einen bereits bekannten Kontaktweg. Die Bestätigung und die zweite Freigabe werden am Vorgang dokumentiert. Bis dahin bleibt die bisherige, verifizierte Bankverbindung maßgeblich beziehungsweise die Zahlung wird zur Prüfung angehalten.

Die Telefonnummer aus der verdächtigen Nachricht eignet sich nicht als unabhängiger Prüfweg. Nutzen Sie bestehende Vertragsunterlagen oder bereits verifizierte Kontaktdaten. Auch bei kleinen Beträgen sollte eine Kontenänderung nicht zwischen gewöhnlichen Rechnungskorrekturen verschwinden.

Fall 2: Die vermeintliche Rückfrage zu einer Immobilie

Ein Maklerbüro erhält eine dringende Anfrage zu einem laufenden Objekt. Der Absender kennt Anschrift und beteiligte Personen und fordert zusätzliche Eigentümerunterlagen. Im Arbeitsalltag wirkt die Nachricht wie die Fortsetzung eines bekannten Vorgangs.

Hier lohnt es sich, drei Fragen getrennt zu beantworten: Gehört die Anfrage wirklich zum Vorgang? Ist die Person berechtigt? Und benötigt sie genau diese Unterlagen? Ein passender Objektbezug beantwortet die beiden letzten Fragen noch nicht.

Unser Vorschlag für den Prozess: Vertrauliche Unterlagen werden nur an einen verifizierten Empfänger und für einen dokumentierten Zweck bereitgestellt. Für einen neuen Empfänger oder einen erweiterten Dokumentenumfang ist eine zusätzliche Prüfung vorgesehen. Der Bearbeiter sieht vor der Freigabe, welche Dateien tatsächlich übermittelt werden.

Ein sicherer Übertragungskanal bleibt wichtig. Er kann jedoch keine fehlende Berechtigung ersetzen. Auch über ein ordentlich eingerichtetes Portal können falsche Unterlagen an die falsche Person gelangen, wenn die Zuordnung zuvor ungeprüft übernommen wurde.

Fall 3: Der ungewöhnliche Auftrag einer Führungskraft

In einem Vermittlerteam kommt die Bitte an, kurzfristig eine komplette Kontaktliste zu exportieren. Die Nachricht klingt vertraut und begründet die Eile mit einem anstehenden Termin. Weil die Führungskraft unterwegs ist, soll auf weitere Rückfragen verzichtet werden.

Der auffällige Punkt ist die Kombination aus Umfang, Dringlichkeit und übersprungener Freigabe. Gerade in eingespielten Teams kann persönliche Vertrautheit dazu führen, dass diese Abweichungen akzeptiert werden.

Unser Vorschlag für den Prozess: Umfangreiche Exporte brauchen eine benannte Freigabe und einen festgelegten Empfänger. Eine Rückfrage wird über einen vorher vereinbarten Kanal gestellt. Dieselbe Regel gilt für Geschäftsführung, Teamleitung und externe Partner. Eine Bitte um Geheimhaltung hebt sie nicht auf.

Eine kleine Freigabematrix schafft Klarheit

Für den Einstieg empfehlen wir eine einfache Zuordnung. Die folgende Matrix ist ein Organisationsvorschlag, der an Aufgaben, Daten und Teamgröße angepasst werden muss.

  • Vorgang: Bankverbindung ändern
  • Prüfung: Unabhängig bestätigen, zweite Person prüft
  • Verantwortung / Vertretung: Buchhaltung / benannte kaufmännische Vertretung
  • Freigabenachweis: Verifizierter Kontaktweg, Bestätigung, freigegebene Kontodaten, Zeitpunkt

  • Vorgang: Vertrauliche Unterlagen versenden
  • Prüfung: Identität, Berechtigung, Empfänger und Umfang
  • Verantwortung / Vertretung: Vorgangsverantwortliche Person / eingewiesene Vertretung
  • Freigabenachweis: Zweck, Empfänger, genaue Dokumentauswahl, Freigebender

  • Vorgang: Größeren Datenbestand exportieren
  • Prüfung: Begründeter Bedarf, Ziel und Umfang
  • Verantwortung / Vertretung: Datenverantwortliche Person / benannte Vertretung
  • Freigabenachweis: Freigegebener Datenumfang, Speicherziel, ausführende Person

  • Vorgang: Dringliche Ausnahme
  • Prüfung: Abweichung begründen und zulässigen Weg festlegen
  • Verantwortung / Vertretung: Vorab benannte entscheidungsbefugte Person / Stellvertretung
  • Freigabenachweis: Ausnahmegrund, Begrenzung, Entscheidung und Nachkontrolle

Die Rollen sind Vorschläge. Hinterlegen Sie intern konkrete Namen. Die vertretende Person muss eingewiesen und erreichbar sein; bei zwei erforderlichen Prüfungen darf sie nicht zugleich beide Rollen ausfüllen. Kann keine unabhängige Prüfung stattfinden, bleibt der Vorgang bis zur Klärung angehalten.

Warum zwei Personen denselben Irrtum bestätigen können

Stellen Sie sich vor, die erste Person hält eine gefälschte Kontenänderung für plausibel. Eine zweite Person liest dieselbe Nachricht, erkennt denselben Geschäftsvorgang und stimmt zu. Es gab zwei Zustimmungen, aber keine zusätzliche belastbare Information.

Unser Vorschlag: Definieren Sie für folgenreiche Änderungen, welchen eigenständigen Nachweis die zweite Prüfung benötigt. Das kann die dokumentierte Bestätigung über einen schon zuvor verifizierten Kontaktweg sein. Auch dieser Weg muss zur Risikolage passen; bei Verdacht auf kompromittierte Konten genügt eine Antwort im selben E-Mail-Verlauf nicht.

Eine Freigabe ist nur so belastbar wie die Informationen, auf denen sie beruht. Der Name einer bekannten Person, die Eile des Vorgangs oder zwei gesetzte Häkchen ersetzen diese Grundlage nicht. Die Schlussfolgerung ist eine organisatorische Empfehlung anhand des illustrierten Falls.

Wie Automatisierung hier sinnvoll unterstützt

Ein Workflow kann eine angekündigte Kontenänderung zur Prüfung markieren, Pflichtfelder verlangen und die Freigabe an die zuständige Person weitergeben. Bei einem Dokumentenversand kann er eine übersichtliche Vorschau vorbereiten. Ob die technische Umsetzung das zuverlässig leistet, muss am konkreten System geprüft werden.

KI kann dabei helfen, Anliegen aus frei formulierten Nachrichten zu strukturieren. Die eigentliche Berechtigung sollte durch feste Regeln im System geprüft werden. Ein als unauffällig eingestufter Text ist keine Zahlungsfreigabe. Ebenso darf eine nicht erkannte Auffälligkeit nicht dazu führen, dass ein vorgeschriebener Prüfschritt entfällt.

Schulungen sollten Entscheidungen trainieren

Gehen Sie mit dem Team typische Nachrichten durch und fragen Sie: Was würde diese Anfrage im Betrieb auslösen? Welche Information fehlt für eine Entscheidung? Woher bekommen wir eine unabhängige Bestätigung? Ein gutes Ergebnis ist nicht, dass jemand jeden Angriff errät. Es ist, dass sensible Handlungen auch bei überzeugender Täuschung an nachvollziehbare Voraussetzungen gebunden bleiben.

Die Regeln müssen im Alltag erreichbar sein. Ein kurzes Merkblatt direkt am Arbeitsplatz, eine Vertretungsliste und ein einfaches Meldeverfahren sind für den Einstieg oft hilfreicher als eine lange Präsentation ohne Bezug zu den eigenen Aufgaben.

Zehn Minuten Teamübung: Was fehlt zur Entscheidung?

Verwenden Sie einen vollständig fiktiven Übungsfall: Ein bekannter Dienstleister verlangt kurz vor Zahlungslauf eine neue Bankverbindung. Die zuständige Ansprechperson ist angeblich nicht erreichbar. Diskutieren Sie drei Fragen:

  1. Welche Handlung soll ausgelöst werden? Nicht nur eine Nachricht beantworten, sondern Stammdaten ändern und eine Zahlung anweisen.
  2. Welcher Nachweis fehlt? Eine belastbare Bestätigung des Änderungsauftrags durch eine berechtigte Person.
  3. Wie wird unabhängig geprüft? Über einen schon vorher verifizierten Kontaktweg; bis zur Klärung wird der Vorgang nicht ausgeführt.

Das Ergebnis wird in der eigenen Freigabematrix festgehalten. Wiederholen Sie die Übung mit einem Dokumentenversand. Prüfen Sie anschließend, ob die Regeln tatsächlich an der Stelle sichtbar sind, an der das Team entscheidet.

Der Beratungsansatz: an einer konkreten Freigabe beginnen

Wählen Sie einen Vorgang aus, bei dem ein Fehler Geld, Vertraulichkeit oder Kundenvertrauen gefährden könnte. Prüfen Sie gemeinsam, wie die Anfrage eingeht, wie sie bestätigt wird und wer die Ausführung freigibt. Automatisieren Sie anschließend die wiederkehrenden Schritte, deren Voraussetzungen eindeutig feststehen.

peistrup24 unterstützt Sie bei der Gestaltung solcher Abläufe und bei praxisnahen KI-Schulungen für Ihr Team. Die Einstiegsfrage für unser kostenfreies Erstgespräch lautet: Welche sensible Änderung lässt sich bei Ihnen heute allein durch eine E-Mail auslösen? Wir betrachten den konkreten Ablauf und klären, welche Regel, Schulung oder Automatisierung die Prüfung unterstützen kann. Erstgespräch vereinbaren.

Stand: 11. September 2026. Die Beispiele dienen der Veranschaulichung und sind keine Berichte über tatsächliche Betrugsfälle.

← Alle Beiträge