Das Bundesamt für Sicherheit in der Informationstechnik gibt eine laufend aktualisierte Broschüre zum Thema Chancen und Risiken generativer KI-Modelle heraus, die unter dem folgenden Link abrufbar ist. 

Die wichtigsten Aspekte haben wir hier zusammengefasst:

Sicherheit bei der Nutzung von KI-Chatbots

KI-gestützte Chatbots sind heute weit verbreitet – sie beantworten Fragen, unterstützen im Kundenservice oder helfen bei der Informationssuche. Doch während sie viele Vorteile bieten, gibt es auch Sicherheitsrisiken, die Nutzer:innen kennen sollten. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) weist darauf hin, dass der Umgang mit Chatbots bewusst und vorsichtig erfolgen sollte, um Datenschutzprobleme und Betrugsversuche zu vermeiden.

Datenschutz: Welche Informationen gibt man preis?

Viele KI-Chatbots verarbeiten große Mengen an Daten. Diese Informationen sind nicht nur für die Anbieter selbst interessant, sondern können auch von Dritten missbraucht werden. Nutzer:innen sollten daher vor der Nutzung die Datenschutzbestimmungen der jeweiligen Plattform prüfen. Welche Rechte räumt sich das Unternehmen ein? Werden die eingegebenen Daten gespeichert oder weiterverarbeitet? Besonders sensible Informationen wie Adressen, Passwörter oder Finanzdaten sollten niemals in Chatbot-Anwendungen eingegeben werden.

Cyberkriminalität: Wie Kriminelle KI ausnutzen

Kriminelle nutzen KI-Technologien zunehmend für Betrugsmaschen. So können manipulierte Chatbot-Interaktionen dazu führen, dass Nutzer:innen unbewusst persönliche Daten preisgeben. Cyberkriminelle setzen zudem KI ein, um täuschend echte Phishing-Nachrichten oder betrügerische E-Mails zu erstellen. Ein bekanntes Beispiel sind gefälschte Banknachrichten, die Nutzer:innen dazu bringen sollen, vertrauliche Daten weiterzugeben.

Fehlende Verlässlichkeit von KI-Chatbots

KI-Modelle sind nur so gut wie die Daten, mit denen sie trainiert wurden. Das bedeutet, dass sie falsche oder unvollständige Informationen liefern können. Diese sogenannten „Halluzinationen“ entstehen, wenn ein Chatbot Antworten generiert, die plausibel klingen, aber faktisch falsch sind. Nutzer:innen sollten daher die Antworten eines Chatbots immer kritisch hinterfragen und bei wichtigen Themen zusätzliche Quellen zur Verifizierung heranziehen.

Tipps für eine sichere Nutzung

Um sicher mit KI-Chatbots zu interagieren, sollten einige grundlegende Schutzmaßnahmen beachtet werden:

• Keine sensiblen Daten eingeben: Passwörter, Kreditkarteninformationen oder vertrauliche Unternehmensdaten haben in Chatbot-Dialogen nichts verloren.
• Persönliche Daten begrenzen: Je weniger private Informationen online geteilt werden, desto geringer ist das Risiko eines Missbrauchs.
• Ergebnisse überprüfen: Antworten von KI-Systemen sollten nicht ungeprüft übernommen, sondern immer mit anderen Quellen abgeglichen werden.
• Vorsicht bei verdächtigen Links: Falls ein Chatbot eine Webseite empfiehlt, sollte die URL sorgfältig überprüft werden, um Phishing-Angriffe zu vermeiden.
• Datenschutzbestimmungen lesen: Vor der Nutzung eines Chatbots lohnt es sich, die AGB und Datenschutzrichtlinien zu prüfen, um die eigenen Daten besser zu schützen.

Quelle: https://www.bsi.bund.de/DE/Service-Navi/Presse/Alle-Meldungen-News/Meldungen/Chancen-Risiken-generative-KI_250121.html

Da KI, Risiken und Herausforderungen jedoch ein sehr dynamisches Thema ist, dem sich viel verändert, empfehlen wir, die Broschüre immer im aktuellen Stand abzurufen.