Unter ?generativer KI“ verstehen wir hier Computermodelle, die in der Lage sind, neue Inhalte wie Bilder, Texte oder Musik autonom unter Berücksichtigung einer durch Menschen oder maschinell erfolgten Eingabe zu generieren, nachdem sie Muster und Strukturen aus einem Trainingsdatensatz erlernt haben.

KI-basierte Werkzeuge besitzen ein immenses Potential für die Steigerung der Effizienz und Effektivit?t unserer Arbeit. Dort wo generative KI gewinnbringend und ohne Risiken angewendet werden kann, soll eine Nutzung daher m?glich sein. Als Anleitung und Sensibilisierung zum verantwortungsbewussten, reflektierten und rechtskonformen Einsatz haben wir im Kapitel ?Was muss bei der Nutzung von generativen KI-Tools beachtet werden?“ relevante Eckpunkte zusammengetragen.

Bei der Nutzung müssen wir stets im Blick behalten, dass eine textgenerierende KI zwar anhand statistischer Wahrscheinlichkeiten wohlformulierte Texte erzeugen mag, dabei im Grunde jedoch nicht deren Bedeutung erkennt oder deren Sinn bzw. inhaltliche Richtigkeit bewertet.

Zur Beschaffung von kommerziellen KI-Tools wenden Sie sich per ServiceportalExterner Link an den Software-Service des URZ.

Für die Verwendung der Produkte von OpenAI (ChatGPT Plus und API) wird folgendes Vorgehen etabliert:

Die Verrechnung der Kosten erfolgt durch Sammelbuchung auf das im Serviceportal angegebene PSP-Element. Die Kosten werden in der jeweiligen Abrechnungsperiode über alle Nutzerinnen und Nutzer gemittelt, um Wechselkursschwankungen und Fremdw?hrungsgebühren fair zu verteilen. Um die Abrechnung durchführen zu k?nnen, muss das URZ die Abrechnungsinformationen aus dem OpenAI Webportal erhalten. Das genaue Vorgehen unterscheidet je nach Art des verwendeten Produkts.

Für die ChatGPT Plus Nutzerinnen und Nutzer wird ein Abonnement i. H. v. 20,00 $ pro Monat zuzüglich Transaktionskosten (Wechselkursschwankungen und Fremdw?hrungsgebühren i. H. v. ca. 4,00 $) abgeschlossen. Alle Nutzerinnen und Nutzer sind verpflichtet, die von OpenAI im Webportal für ihr Konto bereitgestellten Abrechnungsdokumente monatlich herunterzuladen und dem URZ zur Verfügung zu stellen (via Serviceportal im gleichen Vorgang, in dem der Zugang beantragt wurde).

ChatGPT API: Bei der API-Nutzung sind die Kosten in Abh?ngigkeit von der tats?chlichen Nutzung variabel. Für die Finanzbuchhaltung ist eine Sch?tzung der monatlich oder j?hrlich zu erwartenden Kosten hilfreich. In jedem API-Zugang (Organisation) k?nnen mehrere Mitglieder berechtigt werden (?Mannschaft“). Um dem URZ Zugriff auf die Abrechnungsinformationen zu erm?glichen, muss softwarebeschaffung@uni-jena.de als Nutzender hinzugefügt und als Eigentümer berechtigt werden.

Daten bzw. Informationen, die im Kontext der beruflichen T?tigkeit verarbeitet werden, sollten nicht in das Training einer KI einflie?en. Dies gilt insbesondere für urheberrechtlich geschützte Werke, z. B. wissenschaftliche Hausarbeiten von Studierenden, und personenbezogene Daten. Achten Sie vor einer Nutzung bitte auf die Einstellungen im KI-Tool. Meist gibt es eine Option, um der Verwendung zu Trainingszwecken zu widersprechen. Ist dies nicht der Fall raten wir von der Nutzung des Tools im universit?ren Kontext ab. Nach M?glichkeit sollte in den Einstellungen auch die Eingabe-Historie und, falls vorhanden, die Memory-Funktion abgew?hlt werden.

Bitte achten Sie bei Ihren Eingaben in ein KI-Tool darauf, dass keine Daten, die sich auf eine Person beziehen oder sensible Informationen der Universit?t darstellen, eingegeben oder hochgeladen werden. Dies betrifft auch urheberrechtlich geschützte Werke und als vertraulich deklarierte Unterlagen sowie Informationen, die gegebenenfalls über Umwege Rückschlüsse auf Personen erlauben. Es ist empfehlenswert, personenbezogene Daten vor der Eingabe zu verfremden (z. B. statt Verwendung des Namens ein Synonym verwenden).

Auch bei Angaben zur eigenen Person in KI-Tools ist zu bedenken, dass ggf. Nutzerprofile mit pers?nlichen Informationen angelegt und Dritten überlassen werden.

Generative KI-Tools dürfen nicht als Grundlage oder gar Letztentscheidung für personenbezogene Entscheidungen herangezogen werden (vgl. Art. 22 Datenschutz-Grundverordnung). Zum Beispiel sollte keine KI zum Einsatz kommen bei der Auswahl von Bewerberinnen und Bewerbern, bei der Bewertung von Prüfungsleistungen von Studierenden oder Drittmittelantr?gen von Forschenden. Die Verarbeitung von Daten in einer KI auf deren Grundlage bestimmte pers?nliche Aspekte ?bewertet“ werden, darf nicht erfolgen.

Bitte behalten Sie hierbei stets im Blick, dass eine KI weder den Sinn bzw. die Bedeutung noch die Implikationen der von ihr erstellten Texte erkennt.

Das Ergebnis einer generativen KI sollte mit Vorsicht behandelt und genau evaluiert werden. Die vom System erzeugten Informationen k?nnen fehlerhaft sein, und Zusammenh?nge werden m?glicherweise nicht richtig dargestellt (Ph?nomen der Konfabulation). Auch Quellenangaben sollten von Nutzerinnen und Nutzern abschlie?end auf ihre Richtigkeit überprüft werden. Es sollte au?erdem auf Diskriminierung und Ungleichheit im KI-generierten Werk geprüft werden, so dass keine Benachteiligung bestimmter Gruppen erfolgt und bestehende gesellschaftliche Ungerechtigkeiten nicht verst?rkt werden, denn durch KI k?nnen Verzerrungen oder Voreingenommenheit (Bias) erzeugt bzw. verst?rkt werden. Die Nutzerinnen und Nutzer tragen letztendlich die Verantwortung dafür, den generierten Inhalt kritisch zu hinterfragen und sicherzustellen, dass er korrekt und ethisch akzeptabel ist.

Beachtet werden muss au?erdem, dass es zu keiner Reproduktion geschützter Werke oder Teilen dieser kommt. Die Rechte des Urhebers oder der Urheberin bestehen fort, auch wenn die KI das Ergebnis daraus erzeugt hat.

Gehen Sie offen mit dem Einsatz einer generativen KI um. Der Einsatz sollte klar gekennzeichnet sein und deren Verwendung und die zugrundeliegenden Zwecke offen kommuniziert werden. Es ist zudem ratsam zum Beispiel bei der Arbeit an gr??eren Texten, eine Dokumentation über den Einsatz zu führen. Au?erdem sollte bei KI-generierten Bildern die KI auch als Quelle benannt werden. Zum Beispiel kann im Multimediabereich unseres Contentmanagementsystems für Bilddokumente im Feld ?Urheber“ auch der Wert ?KI-generiert“ ausgew?hlt werden.