Protokoll AK Künstliche Inteligenz

Konferenz: 25. KaWuM in Aachen Datum: 07. Mai 2023

Leitung: Valeria (UdS)

Protokoll: Steven (KIT)

Beginn: 10:15 Uhr

Ende: 11:51 Uhr

Anwesende Fachschaften: KIT, Uds, Dresden, Jena, Stuttgart, Kiel, Ilmenau, Darmstadt, Freiberg

Ziel ist es die Stellungnahmen der einzelnen Unis zu chatGPT zu sammeln.

KIT: keine Stellungnahme der Uni Stuttgart: größere Seite als Sammlung mit den potentialen von ChatGPT ohne Richtlinien/Stellungnahme. Neue Infos vom Rektorat sollen zum Beginn des SoSe folgen. „Jeder sollte sich damit beschäftigen, aber dadurch wird der Wert der Lehre erhöht.“ –> uniweite Aussage Ilmenau: keine Stellungnahme der Uni Jena: Stellungnahme vorhanden, ohne viel Inhalt. Einige Lehrkräfte haben sich positiv geäußert - viele Aspekte/Arbeiten werden vereinfacht. Dresden: Stellungsnahme, dass es kein zulässiges Hilfsmittel für Prüfungen/Abschlussarbeiten ist; am 26.04.23 gab es eine Podiumsdiskussion mit dem Thema und es gibt eine Studium Generale Vorlesung zum Umgang mit ChatGPT. Es sind Uniweite Richtlinen vorgesehen. Freiberg: Aufgrund einesHackerangriffs ist auf der Website nichts zu finden, es soll aber noch was kommen. Möglicherweise gab es schon Anweisungen an die ProffessorInnenschaft Darmstadt: keine offizielle Stellungsnahme auf Website zu finden; ein Workshop von „Hochschuldidaktische Arbeitsstelle“ ; Dekan scherzt über das Thema UdS: ausführliche Handreichung, die fünf Punkte zum Umgang umfasst: kann genutzt werden, aber nicht als wissenschaftliche Quelle; Aufgabenstellung, die nur Reproduktion enthält, wird nicht empfohlen, als zulässiges Hilfsmittel wird ChatGPT ebenfalls nicht empfohlen Kiel: kein Statement bekannt, angeblich soll ein Abschlusskolloqium eingeführt werden

- Eigenverantwortung zur Wissensaneigung steigt - lästige/zeitaufwenige Arbeiten werden können von ChatGPT übernommen werden - Auseinandersetztung bzw. Interpretation des Outputs von ChatGPT kann zur Wissensaneigung beitragen - ChatGPT kann beim formulieren helfen - wurde schon genutzt um Formeln zu sammeln - Je nach Thema ist es möglich einen Einheitlichen Text zu erhalten - Gefahr, dass man sich zu sehr auf ChatGPT verlässt - persönliche Formulierungsfähigkeit könnte leiden - Bezahlversion schon vorhanden, es ist nicht sicher, dass in Zukunft die Fähigkeiten der Bezahlversion und Gratisversion divergieren - Bezahlversion: Gefahr, dass dadurch finanziell schwächer aufgestellte Student*innen benachteiligt werden, da Prüfungsniveau ggf. angebhoben werden muss - möglicherweise ähnlich wie bei DeepL, bessere Fähigkeiten bei der Anwendung führen zu besseren Ergebnissen - Klausuren: finden meist auf Papier statt –> an der Stelle stellt ChatGPT kein Problem dar; fraglich bei Open-Book-Klausuren - Lehrende werden vor die Herausforderung gestellt, erkennen zu sollen, ob ein vorliegender Text von einer KI geschrieben wurde oder nicht - für Dozent*innen: Unterscheidung Person hat Thema nicht verstanden oder KI hat schlecht formuliert nicht mehr möglich –> Dadurch Lehre weniger gezielt möglich - möglicherweise werden schriftliche Abgaben abgewertet - Bsp. Praktika; zukünftig könnten Abtestate wichtiger/länger/aufweniger werden - Kolloquien könnten dadurch verpflichtend werden, auch bei Abschlussarbeiten

Zu nennende Punkte:

1. bietet Chancen, sollte daher nicht vollständig verboten werden
2. klar formulierte Äußerung der Haltung der Universität
3. Festlegung von Rahmenbedingungen sowohl für Studierende als auch Lehrende zur Nutzung von KI.

ChatGPT Nutzung an Hochschulen

Resolution zur Bekanntmachung der erlaubten Nutzung von ChatGPT durch Studierende an Hochschulen

Die Mitglieder dieser Versammlung erkennen an, dass Künstliche Intelligenz (KI) wie ChatGPT viele Möglichkeiten bietet und nicht vollständig verboten werden sollte. Wir fordern daher alle Hochschulen auf, eine klare Haltung zur Nutzung von KI wie ChatGPT für Studierende zu formulieren.

Diese Haltung sollte die folgenden Elemente enthalten:

• Eine klare Erklärung, dass die Nutzung von KI wie ChatGPT für Studienprojekte erlaubt ist, solange sie in Übereinstimmung mit ethischen Richtlinien und akademischen Standards erfolgt.
• Eine klare Erklärung, dass die Nutzung von KI wie ChatGPT für andere Zwecke als Studienprojekte (z. B. Plagiat oder Betrug) nicht akzeptabel ist und zu Konsequenzen führen kann.
• Rahmenbedingungen für die ordnungsgemäße Verwendung von KI wie ChatGPT, einschließlich der Einhaltung ethischer Richtlinien und der Vermeidung von Plagiaten.
• Empfehlungen für Alternativen oder Ressourcen, die den Studierenden und Lehrenden helfen können, KI wie ChatGPT ordnungsgemäß zu nutzen.

Wir glauben, dass eine solche Haltung dazu beitragen wird, dass Studierende und Lehrende die Chancen von KI wie ChatGPT nutzen können, ohne gegen akademische Standards zu verstoßen oder unangemessene Risiken einzugehen. Wir fordern daher alle Hochschulen auf, schnellstmöglich eine entsprechende Haltung zur Nutzung von KI wie ChatGPT zu formulieren.

Bing AI: Operative Klauseln:

• Fordert die Hochschulen auf, klare und transparente Richtlinien für den Einsatz von KI Tools wie chat GPT in der Lehre und im Studium zu entwickeln und zu kommunizieren;
• Empfiehlt den Lehrenden, die Studierenden über die Möglichkeiten und Grenzen von KI Tools wie chat GPT aufzuklären und sie zu einem kritischen und verantwortungsvollen Umgang damit anzuhalten;
• Unterstützt die Einrichtung von Ethikkommissionen an den Hochschulen, die sich mit den ethischen, rechtlichen und sozialen Fragen im Zusammenhang mit KI Tools wie chat GPT befassen und entsprechende Empfehlungen aussprechen;
• Begrüßt die Initiative des Bildungsministeriums NRW, einen Handlungsleitfaden zum Umgang mit textgenerierenden KI-Systemen zu erarbeiten und fordert eine bundesweite Umsetzung dieses Leitfadens;
• Verurteilt jeglichen Missbrauch oder Betrug mit KI Tools wie chat GPT in der akademischen Welt und fordert eine angemessene Sanktionierung solcher Verstöße;
• Ermutigt die Hochschulen, die Potenziale von KI Tools wie chat GPT für die Verbesserung der Qualität und Innovation der Lehre und des Lernens zu nutzen und dabei die akademischen Standards und Werte zu wahren.

Präambel:

• In Anbetracht dessen, dass KI Tools wie chat GPT immer mehr Verbreitung und Anwendung in der akademischen Welt finden und sowohl Chancen als auch Herausforderungen für die Lehre und das Lernen darstellen;
• In Anbetracht dessen, dass KI Tools wie chat GPT die Fähigkeit haben, Texte zu generieren, die von menschlichen Texten kaum zu unterscheiden sind und somit das Risiko von Plagiaten, Betrug oder Manipulation erhöhen;
• In Anbetracht dessen, dass KI Tools wie chat GPT auch positive Effekte für die Förderung von Kreativität, Interaktivität oder Diversität in der akademischen Welt haben können;
• In Anbetracht dessen, dass es bisher keine einheitlichen oder verbindlichen Regelungen oder Standards für den Umgang mit KI Tools wie chat GPT an den Hochschulen gibt;
• Unter Berufung auf die Artikel 5 und 12 der Allgemeinen Erklärung der Menschenrechte, die das Recht auf Bildung und das Recht auf Achtung der Menschenwürde beinhalten;
• Unter Berufung auf die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz vom 13. November 2022, die die Prinzipien der Menschenwürde, der Menschenrechte und Grundfreiheiten, des Gemeinwohls, der Solidarität, der Zusammenarbeit und des Friedens sowie der Nachhaltigkeit und des Umweltschutzes als Leitlinien für den Umgang mit KI festlegt;

Schlussfolgerung:

* Zusammenfassend fordert diese Resolution die Hochschulen auf, klare und transparente Richtlinien für den Einsatz von KI Tools wie chat GPT in der Lehre und im Studium zu entwickeln und zu kommunizieren; die Lehrenden aufzufordern, die Studierenden über die Möglichkeiten und Grenzen von KI Tools wie chat GPT aufzuklären und sie zu einem kritischen und verantwortungsvollen Umgang damit anzuhalten; Ethikkommissionen an den Hochschulen einzurichten, die sich mit den ethischen, rechtlichen und sozialen Fragen im Zusammenhang mit KI Tools wie chat GPT befassen; die Initiative des Bildungsministeriums NRW zu unterstützen, einen Handlungsleitfaden zum Umgang mit textgenerierenden KI-Systemen zu erarbeiten; jeglichen Missbrauch oder Betrug mit KI Tools wie chat GPT in der akademischen Welt zu verurteilen; und die Hochschulen zu ermutigen, die Potenziale von KI Tools wie chat GPT für die Verbesserung der Qualität und Innovation der Lehre und des Lernens zu nutzen.

• Abschließend appelliert diese Resolution an alle Beteiligten in der akademischen Welt, sich bewusst zu sein, dass KI Tools wie chat GPT kein Ersatz für menschliche Intelligenz oder Kompetenz sind, sondern nur ein Hilfsmittel oder eine Ergänzung. Diese Resolution ruft auch dazu auf, einen ständigen Dialog und Austausch über die ethischen, rechtlichen und sozialen Implikationen von KI Tools wie chat GPT zu fördern und gemeinsam nach Lösungen zu suchen, die dem Wohl aller dienen.

Anfrage an Chat GPT: Verfasse eine Resolution von Studierenden an die Hochschulen, dass seitens der Studierenden ein Leitfaden gewünscht ist/wird, indem ein Umgang mit Künstlichen Intelligenzen wie ChatGPT klar geregelt wird. ChatGPT: Resolution der Studierenden an die Hochschulen: Umgang mit Künstlichen Intelligenzen wie ChatGPT

Die Studierenden fordern von den Hochschulen einen klaren Leitfaden zum Umgang mit Künstlichen Intelligenzen wie ChatGPT. Als Teil des digitalen Wandels sind KI-Technologien wie Chatbots und Sprachassistenten in unserem Alltag zunehmend präsent, auch im akademischen Umfeld. Jedoch sind die ethischen und datenschutzrelevanten Aspekte im Umgang mit KI noch nicht vollständig geklärt.

Daher fordern wir als Studierende eine klare Regelung, die den Umgang mit Künstlichen Intelligenzen an den Hochschulen regelt. Der Leitfaden soll folgende Punkte umfassen:

Transparenz: Die Hochschulen müssen transparent darstellen, welche Daten von den KI-Systemen wie ChatGPT erhoben, verarbeitet und gespeichert werden. Die Studierenden haben das Recht zu erfahren, welche personenbezogenen Daten verarbeitet werden und zu welchem Zweck.

Datenschutz: Der Datenschutz muss gewährleistet sein. Die Hochschulen müssen sicherstellen, dass personenbezogene Daten geschützt und nicht ohne Zustimmung der Studierenden an Dritte weitergegeben werden. Auch die Löschung der Daten muss gewährleistet sein.

Ethik: Der Einsatz von Künstlicher Intelligenz muss ethischen Grundsätzen folgen. Die Hochschulen müssen sicherstellen, dass die KI-Systeme nicht diskriminierend wirken oder Entscheidungen aufgrund von Vorurteilen treffen.

Haftung: Die Hochschulen müssen die Verantwortung für den Einsatz von KI-Systemen übernehmen. Im Falle von Fehlern oder Missbrauch müssen klare Verantwortlichkeiten geregelt sein.

Wir als Studierende erwarten von den Hochschulen, dass sie unsere Bedenken und Forderungen ernst nehmen und einen klaren Leitfaden zum Umgang mit Künstlichen Intelligenzen wie ChatGPT erarbeiten und umsetzen. Nur so können wir sicherstellen, dass der Einsatz von KI im akademischen Umfeld ethisch und datenschutzrechtlich verantwortungsvoll erfolgt.

User: Der Leitfaden soll außerdem beinhalten, dass berücksichtigt werden soll, dass die Nutzung von KI auch Vorteile mit sich bringt und Rahmenbedingungen für die Nutzung für Studierende und Lehrende ChatGPT: Der Leitfaden zum Umgang mit Künstlichen Intelligenzen wie ChatGPT sollte auch berücksichtigen, dass der Einsatz von KI-Technologien für Studierende und Lehrende auch Vorteile mit sich bringt. Künstliche Intelligenzen können beispielsweise dazu beitragen, dass Lerninhalte individualisiert und personalisiert werden, um den Lernprozess zu unterstützen.

Daher sollten im Leitfaden auch Rahmenbedingungen für die Nutzung von KI-Systemen für Studierende und Lehrende festgelegt werden. Diese sollten beinhalten:

Schulung und Training: Die Hochschulen sollten Schulungen und Trainings für die Nutzung von KI-Systemen anbieten, um sicherzustellen, dass Studierende und Lehrende über das notwendige Wissen verfügen, um die Technologien effektiv zu nutzen.

Offene Kommunikation: Es sollte eine offene Kommunikation zwischen den Hochschulen, Studierenden und Lehrenden darüber geben, wie KI-Systeme eingesetzt werden und welche Vorteile und möglichen Herausforderungen damit verbunden sind.

Freiwilligkeit: Die Nutzung von KI-Systemen sollte auf freiwilliger Basis erfolgen. Studierende und Lehrende sollten die Wahl haben, ob sie KI-Systeme nutzen möchten oder nicht.

Rückmeldungen: Die Hochschulen sollten Mechanismen zur Verfügung stellen, um Feedback von Studierenden und Lehrenden zur Nutzung von KI-Systemen zu sammeln. Dadurch können Anregungen und Verbesserungsvorschläge zur weiteren Entwicklung und Anwendung von KI-Systemen berücksichtigt werden.

Die Einbeziehung dieser Aspekte in den Leitfaden zum Umgang mit Künstlichen Intelligenzen wie ChatGPT wird sicherstellen, dass der Einsatz von KI-Technologien an Hochschulen sowohl ethisch als auch effektiv erfolgt und die Bedürfnisse von Studierenden und Lehrenden berücksichtigt werden.

-evt. sinnvoll eine Resolution/Positionspapier vorzubereiten, damit Unis Handlungsempfehlungen erstellen und veröffentlichen

- für ein Eingreifen unsererseits ist es wahrscheinlich zu spät, zur nächsten KaWuM erst recht

- wir könnten uns trotzdem überlegen was in eine Resolution reingeschrieben werden könnte z.B. Kennzeichungspflicht,