Darum geht es - KI - Risiko für die Bildung
| Website: | Hamburg Open Online University |
| Kurs: | KI im Studium nutzen |
| Buch: | Darum geht es - KI - Risiko für die Bildung |
| Gedruckt von: | Gast |
| Datum: | Samstag, 23. November 2024, 09:06 |
1. KI - Risiko für die Bildung
Die Debatte um Sprachmodelle und KIs ist, wie die Schlagzeilen zeigen, derzeit allgegenwärtig. Der Einfluss von KI wird in vielen gesellschaftlichen Bereichen kritisch diskutiert, nicht zuletzt im Bildungsbereich.
Sprachmodelle und KIs können von Lernenden und Studierenden unterschiedlich genutzt werden. Einerseits können sie zum Beispiel dazu beitragen, personalisiertes Lernen zu ermöglichen und damit den Lernprozess individualisierter und zentrierter auf den einzelnen Lernenden zu gestalten. Im Dokument der UNESCO ChatGPT and Artificial Intelligence in higher education werden beispielsweise verschiedene Rollen vorgestellt, die ChatGPT im Lernprozess einnehmen kann:Role | Description | |
Possibility engine | AI generates alternative ways of expressing an idea | |
Socratic opponent | AI acts as an opponent to develop and argument | |
Collaboration coach | AI helps groups to research and solve problems together | |
Guide on the side | AI acts as a guide to navigate physical and conceptual spaces | |
Personal tutor | AI tutors each student and gives immediate feedback on progress | |
Co-designer | AI assists throughout the design process | |
Exploratorium | AI provides tools to play with, explore and interpret data | |
Study buddy | AI helps the student reflect on learning material | |
Motivator | AI offers games and challenges to extend learning | |
Dynamic assessor | AI provides educators with a profile of each student’s current knowledge |
Es besteht besteht aber auch die Gefahr, dass KIs von Lernenden nicht lernförderlich sondern abkürzend genutzt werden wie von der Bildungswissenschaftlerin Nele Hirsch im folgenden Video dargestellt.
Nele Hirsch reflektiert in dem Video über den Einsatz von KI-Sprachmodellen und deren potenziellen Einfluss auf das Denken und die Informationsverarbeitung. Sie betont, dass die Verwendung solcher Tools dazu neigen könnte, das Denken abzukürzen, indem sie komplexe Texte in prägnante Zusammenfassungen verwandeln. Dabei betont sie den Unterschied zwischen oberflächlichem Verstehen durch schnelle Zusammenfassungen und vertiefter Auseinandersetzung mit längeren Texten.
Die Technologie ermöglicht einen schnellen Überblick über zahlreiche Quellen, was als nützliche Vorstufe für tiefere Analysen betrachtet wird. Auch betont sie, dass die Nutzung von KI-Tools beim Schreiben helfen kann, nicht nur bei der Generierung von fertigen Texten, sondern auch beim Weiterentwickeln von Ideen und Perspektiven durch interaktives Feedback. Hierbei liegt der Fokus darauf, dass die Technologie anregt, klüger zu denken und zu schreiben, anstatt sie als reine Abkürzung zu betrachten.
Sie betont die pädagogische Herausforderung, nicht nur kluge Maschinen zu entwickeln, sondern auch klügere Menschen durch einen sinnvollen Einsatz von Technologie zu formen. Sie schlussfolgert, dass die Technologie zwar zur Abkürzung verleiten kann, aber letztlich liegt die Verantwortung darin, sie pädagogisch klug einzusetzen, um intelligente und reflektierte Anwender zu schaffen.
Quellen der Screenshots:
2. Bachelor-Arbeit in drei Tagen?
Eine Abkürzung versucht auch die Reporterin im folgenden Video zu nehmen, in dem sie versucht, eine Bachelorarbeit mithilfe von ChatGPT in drei Tagen zu schreiben.
In diesem Video begibt sich Nadine auf ein Abenteuer, um herauszufinden, ob sie mithilfe von ChatGPT, einer KI-Plattform, eine Bachelorarbeit in nur drei Tagen schreiben kann. Ihre Erfahrung zeigt eine Mischung aus Faszination und ethischen Bedenken. Sie testet ChatGPT, um Abschnitte ihrer alten Bachelorarbeit zu rekonstruieren und erhält dabei Unterstützung von einem KI-Experten, Philipp.
Während sie einige Tipps von Philipp erhält, stellt Nadine fest, dass ChatGPT nicht immer zuverlässige Quellen liefert. Eine kritische Überprüfung offenbart, dass die KI falsche Informationen generiert hat, was potenziell zu akademischen Problemen führen könnte. In der Zwischenzeit erfährt sie von Schreibtutorin Swantje, dass die Verwendung von ChatGPT in akademischen Arbeiten eine ethische Grauzone ist, die sorgfältige Prüfung und klare Referenzierung erfordert.
Philipp bringt Nadine eine neue Technologie bei, die ChatGPT mit Bing, einem Suchalgorithmus, verbindet, um nach zuverlässigen Quellen zu suchen. Obwohl Nadine Fortschritte macht, bleibt sie skeptisch und reflektiert ihre moralischen Bedenken, da sie zwischen der Verlockung der Effizienz und der ethischen Verantwortung jongliert.
Am Ende des zweiten Tages hat sie 31 Seiten geschrieben, aber sie erkennt, dass eine gründliche Überarbeitung notwendig ist, um Dopplungen zu beseitigen und Quellen akribisch zu prüfen. Trotz des Erfolgs bleibt die Frage, ob sie mit dieser Methode bestehen kann, noch offen. Das Experiment zeigt die Herausforderungen und moralischen Implikationen, die mit der Nutzung von KI-basierten Tools in akademischen Arbeiten einhergehen.
Nadine reicht die Arbeit ein, um dann von ihrem Professor Behmer ernüchtert zu werden. Die Struktur und Fragestellung der Arbeit sind gut, aber die inhaltliche Verbindung zwischen Theorie und praktischer Studie fehlt. Nadines Arbeit weist formale Mängel auf: Hypothesen werden nicht behandelt, nicht existente Quellen sind angegeben. Trotz Nadines Anerkennung des menschlichen Denkens über Maschinen scheitert sie an den strengen wissenschaftlichen Maßstäben.
Sie betrachtet ChatGPT als nützliches Werkzeug für Strukturierung und Überwindung von Schreibblockaden, erkennt aber dessen Grenzen in der wissenschaftlichen Qualität. Nadine spekuliert darüber, ob mehr Zeit und eine gründlichere Überprüfung die Arbeit hätten retten können. In ihrer Abschlussbetrachtung empfiehlt sie die Verwendung von ChatGPT als Hilfsmittel, warnt aber davor, dass es allein nicht ausreicht, um erfolgreich zu sein.
3. Welche Herausforderungen formuliert ChatGPT?
Fragt man ChatGPT selbst dazu was die Herausforderungen im Bildungsbereich im Zusammenhang mit KI sind kommt folgende Antwort:
»Im Kontext der Nutzung von Künstlicher Intelligenz (KI) im Bildungsbereich ergeben sich eine Reihe von Herausforderungen, die sorgfältig betrachtet und angegangen werden müssen. Hier sind einige der zentralen Herausforderungen:
1. Datenschutz und Datenschutz: Die Nutzung von KI im Bildungsbereich erfordert den Zugang zu Lern- und Nutzerdaten. Dabei besteht die Herausforderung darin, sicherzustellen, dass diese Daten angemessen geschützt werden und die Privatsphäre der Lernenden gewahrt bleibt.
2. Bias und Diskriminierung: KI-Modelle können aufgrund von Voreingenommenheiten in den Trainingsdaten oder Algorithmen diskriminierende Ergebnisse liefern. Dies stellt eine Herausforderung dar, da sie die Gleichbehandlung und Chancengleichheit der Lernenden beeinträchtigen können.
3. Qualität der Bildung: Der Einsatz von KI kann zu einer Abnahme der Qualität der Bildung führen, wenn automatisierte Systeme menschliche Interaktionen und die individuelle Anpassung nicht ausreichend ersetzen können.
4. Abhängigkeit von Technologie: Eine übermäßige Abhängigkeit von KI-Technologien könnte dazu führen, dass grundlegende Fähigkeiten und menschliche Lehrkompetenzen vernachlässigt werden.
5. Ethik und Verantwortung: Die Nutzung von KI wirft ethische Fragen auf, beispielsweise in Bezug auf die Transparenz von Entscheidungen, die von KI-Systemen getroffen werden, oder die Verantwortung für deren Handlungen.
6. Menschliche Interaktion: Der vermehrte Einsatz von KI könnte dazu führen, dass persönliche Interaktionen zwischen Lehrenden und Lernenden reduziert werden, was sich negativ auf das soziale Lernen und die zwischenmenschliche Entwicklung auswirken kann.
7. Fehlinformation und Manipulation: KI-Systeme könnten fehlerhafte oder irreführende Informationen generieren, was zu Fehlinformationen führen könnte und das Vertrauen in die Richtigkeit von Informationen beeinträchtigt.
8. Ausbildung der Lehrenden: Lehrende müssen auf die Nutzung von KI vorbereitet werden, um sicherzustellen, dass sie die Technologie effektiv einsetzen können und gleichzeitig die Bedürfnisse der Lernenden im Blick behalten.
9. Digitale Kluft: Nicht alle Bildungseinrichtungen oder Lernende haben gleichermaßen Zugang zu KI-Technologien. Dies kann zu ungleicher Bildungschancenverteilung führen.
10. Langfristige Auswirkungen: Es ist wichtig, die langfristigen Auswirkungen der KI-Nutzung auf die beruflichen Fähigkeiten und die Beschäftigungsfähigkeit der Lernenden zu berücksichtigen, um sicherzustellen, dass sie angemessen auf die Anforderungen der sich wandelnden Arbeitswelt vorbereitet sind.
Die Bewältigung dieser Herausforderungen erfordert eine umfassende Herangehensweise, die sowohl technische als auch ethische Aspekte berücksichtigt und sicherstellt, dass die Integration von KI im Bildungsbereich zum Wohl der Lernenden und der Gesellschaft insgesamt erfolgt.« (ChatGPT 3.5, 14.08.2023)
4. Rechtliche und ethische Herausforderungen
Christian Spannagel benennt im folgenden Video ebenfalls rechtliche sowie ethische Herausforderungen wenn KI-Sprachsysteme in der Lehre eingesetzt werden.
Spannagel betont, dass es wichtig ist, sich bewusst zu machen, dass Unternehmen, die solche Sprachmodelle entwickeln, auch bestimmte Geschäftsinteressen verfolgen. Zusätzlich besteht die Möglichkeit, dass die Sprachmodelle von Personen in prekären Arbeitsverhältnissen trainiert wurden. Diese Aspekte erfordern an Hochschulen eine Auseinandersetzung mit Werthaltungen und Ethikdiskussionen im Umgang mit KI-Systemen.
5. Deutscher Ethikrat zu KI in der Bildung
Die Diskussion um die Herausforderungen von Künstlicher Intelligenz im Bildungsbereich führt uns zu einem wichtigen Aspekt: der ethischen Verantwortung bei der Entwicklung und Anwendung von KI. Der Deutsche Ethikrat hat sich dieses Themas angenommen und eine Stellungnahme zu ethischen Grundlagen der Künstlichen Intelligenz veröffentlicht. Darin geht er auch auf die Auswirkungen von KI auf die Bildung ein und gibt Empfehlungen.
In seiner Stellungnahme von 2023 betont der Deutsche Ethikrat insbesondere die Chancen von KI in der Schule, die sich durch die Möglichkeit des personalisierten Lernens sowie objektivere Bewertungen ergeben. Als Risiken sieht er vor allem den möglichen Verlust der Schule als Sozialraum, der entscheidend für die Persönlichkeitsbildung ist.
KI-gestützte Lehr- und Lernsysteme können den jeweiligen Lernprozess unterstützen, ersetzen aber nicht die personale Vermittlung und die personalen Aspekte von Bildung. Die Relevanz der Schule als Sozialraum der Interaktion zwischen Menschen ist dabei nicht zu unterschätzen. Da Bildung nicht nur in optimierbarer und berechenbarer Anhäufung von Wissen, sondern vor allem in einem konstruktiven und verantwortlichen Umgang mit erlerntem Wissen besteht, ist bei der Delegation von Elementen des Lehr- und Lerngeschehens an Maschinen besonders darauf zu achten, dass Lernprozesse, die zentral für die Persönlichkeitsbildung des Menschen sind, dadurch nicht vermindert werden.« (Deutscher Ethikrat, 2023 , S. 35)
Quellen:
Deutscher Ethikrat. (2023, 20. März). Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz: Stellungnahme - Kurzfassung. https://www.ethikrat.org/publikationen/publikationsdetail/?tx_wwt3shop_detail%5Bproduct%5D=168&tx_wwt3shop_detail%5Baction%5D=index&tx_wwt3shop_detail%5Bcontroller%5D=Products&cHash=2832da3eabd1
6. KI in die Schule?
Im Kontext dieser Überlegungen betont Dale Lane in seinem TED-Talk die Notwendigkeit, Kinder frühzeitig über künstliche Intelligenz (KI) aufzuklären, da diese Technologie in zunehmendem Maße unseren Alltag beeinflusst. Er weißt darauf hin, dass Bildungsinstitutionen die Veränderungen in der Technologie reflektieren müssen, ähnlich wie in der Vergangenheit bei der Einführung von Drucktechnologien, Computern und dem Internet. KI wird als eine Technologie beschrieben, die in allen Branchen eine transformative Rolle spielen wird. Er fordert Schulen auf, nicht nur den Umgang mit KI-Tools zu vermitteln, sondern auch das Verständnis dafür zu fördern, wie diese Technologie funktioniert und wie sie in verschiedenen Bereichen eingesetzt werden kann. Anhand von Beispielen aus dem Unterricht betont er, dass Kinder bereits in jungen Jahren die Grundprinzipien von KI verstehen können, wenn sie Zugang zu entsprechenden Technologien und Experimentiermöglichkeiten erhalten. Er schließt mit der Forderung, dass ein Verständnis für künstliche Intelligenz zu einem grundlegenden Bestandteil der Bildung jedes Schülers werden sollte.
7. Zusammenfassung und Fazit
Die Diskussion um die Nutzung von KI in der Lehre ist in vollem Gange. Inzwischen sind Sprachmodelle und KIs bereits fest im Alltag verankert und werden zukünftig noch weitreichender und qualitativ hochwertiger eingesetzt werden. Auch im Bildungsbereich sind KIs trotz risikobehafteter Aspekte und ethischer Bedenken alltäglich geworden, wobei ihre Bedeutung weiter steigen wird.
- Expertinnen wie Nele Hirsch betonen das Potenzial von KI-Sprachmodellen, das Denken abzukürzen, heben jedoch auch hervor, dass sie eine nützliche Vorstufe für tiefere Textanalysen darstellen können.
- Experimente wie Nadines Versuch, mit ChatGPT eine Bachelorarbeit in drei Tagen zu schreiben, zeigten eine Mischung aus Faszination und ethischen Bedenken hinsichtlich der Zuverlässigkeit und ethischen Grauzonen solcher KI-Systeme.
- ChatGPT selbst nennt Herausforderungen im Bildungsbereich, darunter Datenschutz, Bias, Qualität der Bildung und ethische Verantwortung. Eine umfassende Herangehensweise ist nötig, um die Integration von KI zum Wohl der Lernenden zu gestalten.
- Institutionen wie der Deutsche Ethikrat heben Chancen wie personalisiertes Lernen hervor, warnen aber vor dem möglichen Verlust der Schule als Sozialraum für die Persönlichkeitsbildung.
- Dale Lane betonte die Notwendigkeit, Kinder über KI zu informieren und ihnen praktische Erfahrungen zu vermitteln, um sie als aktive Gestalter in einer von KI geprägten Zukunft zu sehen.
Die Herausforderung liegt darin, KI sinnvoll zu nutzen, um den Lernprozess zu verbessern. Dabei ist es wichtig, angemessen mit den Risiken und ethischen Herausforderungen umzugehen.