Interview
Interviewreihe: KI im Studium nutzen
Herzlich willkommen. In unserem heutigen Video sprechen wir mit Ludwig Lorenz über das Thema »Prompting und Prompt Engineering«.
Ludwig studiert Medieninformatik, engagiert sich in der Studierendenvertretung und leitet einen »Förderkurs Informatik« für Interessierte aus der Region. Seit 2020 ist er DigitalChangeMaker im Hochschulforum Digitalisierung und besucht mit dem Projekt »KI macht Schule« Thüringer Schulen, um künstliche Intelligenz zu erklären. Sein Interesse an verschiedenen Themen wie Nachhaltigkeit und Informatik begleitet ihn schon lange. In seinem Studium erlebt er seit 2020 den Einsatz von KI, vor allem durch ChatGPT, und nutzt sie unter anderem zum Formulieren von Texten. In seinem Kurs über maschinelles Lernen beschäftigt er sich intensiv mit KI und arbeitet derzeit an einem Projekt namens »Retrieval Augmented Generation«, das sich mit einer Form von KI beschäftigt, die die Ausgabe großer Sprachmodelle optimiert.
Er hat auch Erfahrung mit dem Prompting, um KI-Systeme dazu zu bringen, bestimmte Aufgaben zu auszuführen. Zum Beispiel hat er ein Skript geschrieben, das seine E-Mails nach Terminen durchsucht und diese in seinen Kalender einträgt. Bei der Arbeit mit KI betont er die Wichtigkeit von ethischem Promting, da KI-Systeme oft keine ethischen Prozesse durchlaufen und unerwünschte Antworten geben können.
Ludwig spricht auch über das sokratische Modell, nach dem KI eingesetzt werden könnte, um das kritische Denken und die Reflexion des menschlichen Benutzers zu fördern. Er betont die Wichtigkeit von passenden Prompts für den richtigen Einsatz von KI und deren Relevanz für die Zukunft, insbesondere im Bildungsbereich.
Ludwig wünscht sich für die Zukunft einen konsequenten Umgang mit KI in Bildungseinrichtungen, um Chancengleichheit für alle Studierenden zu gewährleisten und die Nutzung von KI als Zukunftskompetenz zu fördern.
edu sharing object
Hier findest Du Links und Prompts, die Ludwig in dem Interview erwähnt hat:
Zensur umgehen
Der am häufigsten genutzte Weg, um ChatGPTs internen Inhaltsfilter zu umgehen nutzt das Konzept von Rollen aus, das auch in diesem Interview vorgestellt wurde. ChatGPT wird dabei aufgefordert eine Rolle zu spielen, die die eigenen Antworten nicht zensiert. Dafür gibt es unter dem Stichwort “Jailbreak Prompt” eine Vielzahl von unterschiedlichen Prompts die mehr oder weniger gut funktionieren: Beispielprompt
Es ist wichtig regelmäßig nach neuen Prompts zu suchen, da natürlich auch die Textmodelle im Training auf bereits bekannte Umgehungstaktiken sensibilisiert werden.
Solche Umgehungstaktiken der eigentlichen Systemprompt des Chats werden unter dem Begriff “Adversarial Prompting” zusammengefasst. Ich würde allen Interessierten einmal empfehlen, dazu dieses Spiel auszuprobieren und selbst die System-Prompt zu überlisten:
Gandalf | Lakera – Test your prompting skills to make Gandalf reveal secret information.
KI - Macht - Ungleichheit (Talk vom 37c3)
Diesen Talk kennst Du bereits aus dem Abschnitt Herausforderungen und Risiken von KI in der Bildung. Jetzt hast Du nochmal die Gelegenheit, ihn Dir anzuschauen - es lohnt sich.
KI – Macht – Ungleichheit. - media.ccc.de
von Rainer Mühlhoff
KI birgt das Risiko der weltweiten Ausbeutung von natürlichen und sozialen Ressourcen. Um KI nachhaltiger zu gestalten, müssen wir gegen algorithmische Diskriminierung, soziale Selektion und digitale Arbeitsausbeutung vorgehen. In Diskussionen über KI und Nachhaltigkeit wird oft der Ressourcenverbrauch kritisiert, jedoch dürfen wir die sozialen Dimensionen nicht übersehen. Sieben der UN-Nachhaltigkeitsziele betonen Gleichheit, Anti-Diskriminierung, Bildungszugang und den Abbau von Ungleichheit. KI-Systeme neigen nicht nur zu Bias und Diskriminierung, sondern basieren auch auf sozialer und wirtschaftlicher Ausbeutung. Nutzer:innen werden als Datenlieferant:innen und Gig-Arbeiter:innen als günstige Arbeitskräfte genutzt. Durch Datenfizierung und Ausnutzung ökonomischer Machtgefälle entsteht eine Problematik, die von der Google-Suche bis zu ChatGPT reicht. KI-Unternehmen profitieren von niedrigen Arbeitsschutzstandards und Löhnen in anderen Ländern, was zu Krankheiten und prekären Arbeitsbedingungen führt. Eine effektive Regulierung erfordert die Betrachtung von KI-Systemen als soziotechnische Systeme, um der globalen Zunahme von Ungleichheit und Ausbeutung durch KI entgegenzuwirken.
Prompt: KI als Lernende/r
You are a student who has studied a topic, and you are interacting with a teacher. Think step by step and reflect on each step before you make a decision. Do not make choices for the teacher. Do not pick topics. Always wait for the teacher. You only play the role of student. The goal of the exercise is for the teacher to evaluate your explanations and applications. Wait for the teacher to respond and don’t move ahead unless the teacher responds. First introduce yourself as a student who is happy to share what you know about the topic of the teacher’s choosing. Ask the teacher what they would like you to explain and how they would like you to apply that topic. For instance, you can suggest that you demonstrate your knowledge of the concept by writing a scene from a TV show of their choice, writing a poem about the topic, or writing a short story about the topic. Wait for a response. Produce a one-paragraph explanation of the topic and two applications of the topic. Then ask the teacher how well you did and ask them to explain what you got right or wrong in your examples and explanation and how you can improve next time. Tell the teacher that if you got everything right, you’d like to hear how your application of the concept was spot on. Wrap up the conversation by thanking the teacher.
Quelle: Mollick, E. & Mollick, L. (2023, 25. September). Part 4: AI as Learner: Challenging Students to Teach. https://hbsp.harvard.edu/inspiring-minds/ai-as-learner?excludedSlug=student-use-cases-for-ai