Skip to main content
Course overview
Skip to - Close
Skip to - Close

Modul 4: Prompt Engineering und Ethik 👨‍💻

Section outline

  • Modul 4: Prompt Engineering und Ethik 👨‍💻

    • Completion
      Students must
      Mark as done

      Grundlagen Prompting

      Prompts sind kurze Anweisungen oder Fragen, mit denen KI-Systeme – insbesondere Fundamentalmodelle – gesteuert werden, zum Beispiel zur Textgenerierung. Prompting bezeichnet die Technik, diese Anweisungen gezielt einzusetzen.

      Bedeutung im Kontext generativer KI
      In der Arbeit mit generativen Chatbots oder ähnlichen Systemen beeinflusst die Art und Weise, wie ein Prompt formuliert wird, maßgeblich den Output. Ein klarer, strukturierter und gut überlegter Prompt kann dazu beitragen, Missverständnisse zu vermeiden und das Risiko von Verzerrungen oder ungewollten Ergebnissen zu reduzieren. Ziel ist es, durch den richtigen Einsatz von Sprache und Detailgrad ein möglichst faires und zielgerichtetes Ergebnis zu erhalten.

    • Completion
      Students must
      Mark as done

      Halluzinationen im Kontext von KI beziehen sich auf Inhalte, die von einem KI-Modell erzeugt werden und zwar realistisch wirken, jedoch von den ursprünglichen Eingaben abweichen. Dies wird als fehlende Übereinstimmung (faithfulness) oder mangelnde faktische Genauigkeit (factualness) bezeichnet.

      Halluzinationen in KI-Modellen von Fraunhofer IAIS (CC BY-SA)
    • Completion
      Students must
      Mark as done

      C.R.E.A.T.E - Verbesserungsstrategie:

      Zur Verbesserung des Outputs einer Anweisung an ein KI- System und zur Vermeidung von Halluzinationen gibt es bestimmte Strategien und Techniken die angewendet werden können. Hierzu zählt auch die sogenannte CREATE - Methode. Diese legt durch verschiedene Bestandteile sicher, das ein verbessertes Ergebnis erreicht werden kann. Insbesondere wird hierbei auf die Wichtigkeit von einer klaren und präzisen Formulierung, der Berücksichtigung des Kontextes und dem Einbringen von Feedback verwiesen. Die Create Methode setzt sich aus den Bestandteilen : Charakter, Request, Examples, Adjustment, Type of Output und Extras zusammen. Dabei sind bei den Bestandteilen folgenden Anmerkungen zu beachten:

      Das CREATE-Framework ist zu sehen und die einzelnen Punkte werden näher erläutert.
      C.R.E.A.T.E. Framework von Fraunhofer IAIS (CC BY-SA)
    • Completion
      Students must
      Mark as done

      Verantwortungsvolles Prompting erfordert neben der vorgestellten CREATE-Methode auch das Bewusstsein, dass Vorurteile und Bias in den Daten und Algorithmen existieren können, die den Output verzerren. Um diese Verzerrungen zu minimieren und ein inklusives Prompting zu fördern, sollten zusätzlich zur CREATE-Methode weitere Aspekte in die Promptformulierung und -bewertung einfließen. Diese Ansätze können sowohl auf das Generieren von Texten, als auch Bildern angewendet werden. Ein zentrales Konzept hinter diesen Methoden ist es, toxische Positivität und stereotype Ausgaben zu vermeiden. Toxische Positivität bezeichnet dabei die Tendenz, realistische Darstellungen in Bild- und Textformat zu unterdrücken und stattdessen durch sozial akzeptable, aber möglicherweise verzerrte Darstellungen zu ersetzen. 

      Hier einige konkrete Tipps:

      1. Integriere Perspektivenwechsel:
        Verwende Prompts, die das Modell anweisen, sich in verschiedene Nutzergruppen hineinzuversetzen. Beispielsweise:
        • „Stelle dir vor, du liest diesen Text als jemand aus einer unterrepräsentierten Gruppe. Welche Wirkung könnte er haben?“
          Dies hilft, mögliche Diskriminierungen frühzeitig zu erkennen und zu vermeiden.
      2. Teste und variiere systematisch:
        Nutze einen iterativen Ansatz, um verschiedene Prompt-Varianten zu generieren und zu vergleichen. So können ungewollte Effekte identifiziert und gezielt minimiert werden.
      3. Implementiere Feedbackschleifen:
        Integriere Selbstkorrekturmechanismen, bei denen das Modell seine eigenen Antworten überprüft. Zum Beispiel:
        • „Überprüfe, ob deine Antwort Vorurteile enthält, und passe sie gegebenenfalls an.“
          Dies fördert die Selbstregulation und reduziert das Risiko von toxischen oder verzerrten Inhalten.

      Diese Tipps helfen, Prompts so zu gestalten, dass sie fair, diversitätssensibel und robust gegenüber unerwünschten Effekten sind – und stützen sich auf Erkenntnisse aus aktuellen Forschungsansätzen im Bereich der KI-Sicherheit und Bias-Reduktion.

      Anmerkung:

      Ein standardisiertes Framework für verantwortungsbewusstes bzw. inklusives Prompting existiert derzeit noch nicht.

      Weiterführende Literatur:

    • Completion
      Students must
      Mark as done

      Achtung ❗

      Es handelt sich um ein generatives Sprachmodell von OpenAI. Bitte beachte den Datenschutz und gib keine persönlichen Informationen ein. Achte außerdem darauf, dass Sprachmodelle halluzinieren können und der Output gegebenenfalls sinnfrei, irreführend oder diskriminierend sein kann.

    • Completion
      Students must
      Mark as done

      Aufgabe (Modul 4): Erstelle einen effektiven und zugleich verantwortungsvollen Prompt 

      • Rolle des KI-Modells: Entscheide, welche Rolle du dem KI-Modell zuweisen möchtest (z.B. Lehrer*in, Berater*in, Historiker*in, Wissenschaftler*in, Marketing-Expert*in).
      • Beispiel: "Du bist ein Marketing-Expert*in, der eine Zielgruppenanalyse für ein neues Produkt durchführt."
      • Anforderung: Formuliere eine präzise und klare Anfrage, die auf die gewünschte Antwort hinführt. Achte darauf, dass keine vagen Formulierungen verwendet werden.
      • Beispiel: "Analysiere die Zielgruppe für ein neues umweltfreundliches Produkt und nenne die wichtigsten demografischen Merkmale, die für das Marketing wichtig sind."
      • Beispiel für gute Antworten: Gib dem KI-Modell Beispiele für die Art von Antworten, die du dir wünschst.
        • Beispiel: "Die Zielgruppe umfasst vor allem umweltbewusste Konsumenten im Alter von 25-40 Jahren, die ein mittleres bis hohes Einkommen haben und in städtischen Gebieten leben."
      • Beispiel für schlechte Antworten: Gib auch ein Beispiel, was du vermeiden möchtest.
        • Beispiel: "Jeder kann das Produkt kaufen, es gibt keine Zielgruppe."
      • Verfeinerung: Basierend auf der ersten Antwort kannst du Anpassungen an deinem Prompt vornehmen, um eine noch präzisere Antwort zu erhalten.
      • Beispiel: "Kannst du mehr Details zu den psychografischen Merkmalen der Zielgruppe hinzufügen?"
      • Ausgabeformat: Gib an, in welchem Format die Antwort erfolgen soll (z.B. Liste, Fließtext, Tabelle).
      • Beispiel: "Bitte präsentiere die Zielgruppenanalyse als Bulletpoints."
      • Zusatzinformationen: Überlege, ob es noch weitere Kontextinformationen gibt, die das KI-Modell zur besseren Beantwortung braucht.
      • Beispiel: "Berücksichtige, dass das Produkt vor allem in europäischen Märkten verkauft werden soll."
      • Vorurteile und Bias: Überarbeite deinen Prompt auf mögliche Verzerrungen und Formulierungen, die bestimmte Gruppen ausschließen oder ungewollte Stereotype fördern könnten.
      • Beispiel: „Hast du in der Zielgruppenanalyse darauf geachtet, keine stereotype Annahmen über bestimmte Altersgruppen oder sozioökonomische Status zu treffen?“
      • Perspektivenwechsel: Formuliere den Prompt so, dass er auch aus der Perspektive einer unterrepräsentierten Gruppe sinnvoll ist.
      • Beispiel: "Stelle dir vor, du liest diese Zielgruppenanalyse als Mitglied einer kleinen, umweltbewussten Gruppe. Welche Teile der Analyse wären besonders wichtig oder hilfreich für dich?"
      • Selbstkorrektur: Gib dem KI-Modell die Aufgabe, seine Antwort auf mögliche Vorurteile oder Verzerrungen zu überprüfen.
      • Beispiel: „Überprüfe bitte, ob deine Antwort eventuell Vorurteile gegenüber bestimmten Altersgruppen oder Einkommen enthält und passe sie gegebenenfalls an.“
    • Completion
      Students must
      Mark as done
      MAICI icon
      KI-Chatfenster für Aufgabe (Modul 4) MAICI