Künstliche Intelligenz und die rechtlichen Herausforderungen in der Schule

Einstiegsfall

Einstiegsfall

Schulleiter B möchte ein neues Bild in seinem Büro aufhängen. Er gibt in das Eingabefeld einer KI-Anwendung ein: „Generiere ein Bild auf Grund der folgenden Beschreibung im Stil „Gemälde“: Auf dem Bild befindet sich im Hintergrund das Schulgebäude, im Vordergrund der Schulhof mit Kindern. Der Himmel ist blau. Am Rand des Schulhofs sind Bäume.“

Wer wird Urheber des Bildes?

Sachinformation

Aktuelle Meldungen

In den letzten Jahren hat sich die Diskussion um Künstliche Intelligenz (KI) zunehmend von technischen Fragen hin zu rechtlichen und ethischen Überlegungen verlagert. Während KI-Systeme immer leistungsfähiger werden, treten neue Herausforderungen auf, die weit über die technischen Aspekte hinausgehen. Zu klären sind insbesondere Fragen zu Urheberrecht, Datenschutz und Persönlichkeitsrechten sowie was beim Einsatz von KI im Unterricht und bei der Erledigung von Hausaufgaben zu beachten ist. In diesem Baustein werden die komplexen Wechselwirkungen zwischen KI und den diversen Bereichen in der Schule in rechtlicher Hinsicht beleuchtet.

Künstliche Intelligenz und Urheberrecht

Mit Hilfe von KI lassen sich verschiedene Arten von Werken wie Bilder, Texte oder Musik erstellen. Um den Schutz des Urheberrechts genießen zu können, muss ein Werk drei zentrale Voraussetzungen erfüllen:

  1. Es muss eine natürliche Person geben, die das Werk erschaffen hat.
  2. Es muss sich um ein Werk handeln, das der Literatur, Wissenschaft oder Kunst zuzuordnen ist.
  3. Es muss eine besondere kreative Eigenleistung vorliegen, die das Urheberrecht rechtfertigt. Diese kreative Eigenleistung wird im Gesetz als „persönliche geistige Schöpfung“ bezeichnet.

Siehe hierzu im Einzelnen Baustein 3.3 - Veröffentlichung von Werken.

Im Einstiegsfall ist die Frage, ob Schulleiter B Urheber des Werkes wird. Er nutzt ein KI-System, um ein Bild zu generieren. Allerdings hat er lediglich den Prompt, also quasi den Arbeitsauftrag, formuliert und nicht das Bild selbst erstellt. Hinsichtlich des Bildes wurde daher keine Schöpfungshöhe erreicht, § 2 II Urheberrechtsgesetz (UrhG). Die kreative Eigenleistung besteht lediglich in der Formulierung des Prompts, nicht aber in der eigentlichen Erschaffung des Bildes. Danach hat B kein Urheberrecht an dem Bild.
Auch das KI-System kann kein Urheberrecht beanspruchen, da es keine natürliche Person ist, §§ 1, 7 UrhG. Es ist lediglich ein Werkzeug, das auf Basis der erhaltenen Trainingsdaten Inhalte generiert.
Die Anbieter der KI, also diejenigen, die das KI-System entwickelt haben und bereitstellen, werden ebenfalls nicht Urheber des Bildes. Sie haben zwar die Technologie bereitgestellt, nicht aber das Bild geschaffen.

Bilder, die durch eine KI generiert werden, werden daher nach herrschender Meinung gemeinfrei. Das bedeutet, sie gehören niemandem und dürfen von jedermann genutzt werden.

Dennoch ist bei der Verwendung von KI-generierten Inhalten einiges zu beachten. Möchte Schulleiter B das Bild auf der Schul-Website veröffentlichen, so ist dies insbesondere nur unter Beachtung der Nutzungsbedingungen des jeweiligen KI-Anbieters, zulässig.

Solche Nutzungsbedingungen könnten Einschränkungen enthalten, etwa das Verbot der Generierung oder Veröffentlichung von schädigenden Inhalten, oder auch der kommerziellen Nutzung. Außerdem sollte beachtet werden, dass sich die Herausgeber der KI-Systeme möglicherweise umfangreiche Nutzungsrechte an den generierten Inhalten einräumen.

Ein Urheberrecht an generierten Bildern kann dann entstehen, wenn jemand sich eine Vielzahl an Bildern generieren lässt und diese - mit der erforderlichen individuellen und kreativen Eigenleistung - als Gesamtkonzept zusammenstellt, auch wenn die einzelnen KI-generierten Bilder gemeinfrei bleiben. So wurde etwa von einer amerikanischen Urheberrechtsbehörde entschieden, dass ein Comic, der aus vielen KI-generierten Einzelbildern besteht, als Gesamtwerk urheberrechtlich geschützt sein kann, während die Einzelbilder gemeinfrei bleiben.

Außerdem entsteht das Urheberrecht bei der Bearbeitung eines Bildes, § 23 UrhG. Wird ein von der KI generiertes Bild so weit verändert, dass das ursprüngliche Bild kaum noch zu erkennen ist, und erreicht diese Bearbeitung ihrerseits die erforderliche Schöpfungshöhe, entsteht ein neues Werk, welches Urheberrechtsschutz genießt.

Zuletzt ist zu beachten, dass durch die Verbreitung eines KI-generierten Bildes das Urheberrecht an einem anderen urheberrechtlich geschützten Werk verletzt werden kann, wenn das generierte Bild diesem Werk ähnelt.

KI-generiertes Bild
Beispiel für ein KI-generiertes Bild

Bild generiert mit OpenAI DALL E 2 über fobizz

Fortbildungsplattform "fobizz"

Rheinland-pfälzischen Schulen steht über die Fortbildungsplattform „fobizz“ die Möglichkeit des datenschutzkonformen Einsatzes von KI-Werkzeugen zur Verfügung. Weitere Informationen siehe Quellen und Links.

Künstliche Intelligenz und Hausaufgaben

Ein weiteres Feld ist die Verwendung von KI bei der Erledigung von Hausaufgaben. Lösen Schülerinnen und Schüler ihre Hausaufgaben über ein KI-System und geben das Ergebnis am nächsten Tag bei ihrer Lehrkraft ab, stellt sich die Frage, ob es sich hier um einen Täuschungsversuch handelt.

Da an dem von der KI generierten Inhalt kein Urheberrecht entstehen kann, sondern dieses gemeinfrei ist (siehe oben), liegt durch eine Verbreitung des Inhalts kein urheberrechtlicher Verstoß vor.

Da die Schülerin oder der Schüler die Aufgabe aber nicht eigenständig bearbeitet, sondern sich fremde Inhalte zu eigen gemacht hat, hat sie bzw. er einen Täuschungsversuch begangen.

Für Lehrkräfte stellt sich die Herausforderung, solche Fälle zu erkennen und angemessen darauf zu reagieren, denn der vollständige Nachweis, dass ein KI-System für die Hausaufgaben verwendet wurde, wird in aller Regel nicht zuverlässig gelingen. Neben der Möglichkeit, Schülerinnen und Schüler mündlich zu befragen, könnten klare Verhaltensregeln und schulische Richtlinien für den Umgang mit KI sinnvoll sein, etwa zur Zulässigkeit der Nutzung von KI für die Bearbeitung von Hausaufgaben (zum Beispiel grundsätzlich keine Nutzung von KI, nur nach ausdrücklicher Erlaubnis).

Künstliche Intelligenz als Werkzeug im Unterricht

Schulische Richtlinien könnten außerdem festlegen, in welchen Fällen die Nutzung von KI-Systemen als Hilfsmittel akzeptabel ist und wie diese gekennzeichnet werden muss. Beispielsweise könnte verlangt werden, dass Schülerinnen und Schüler bei der Abgabe einer Arbeit angeben, ob und in welchem Umfang sie KI genutzt haben. Solche Richtlinien können etwa im Rahmen einer Gesamtkonferenz erstellt werden. Dort werden alle Beteiligten, Kollegium, Schülerinnen und Schüler- und Elternvertretungen einbezogen, siehe hierzu auch Baustein 2.2 - Schulintranet und Lernmanagementsysteme.

Die Verwendung von KI-Systemen im Unterricht als legitimes Werkzeug kann durchaus sinnvoll sein. Generiert eine Schülerin oder ein Schüler einen Text und verwendet ihn lediglich als Grundlage, überarbeitet ihn, fügt eigene Abschnitte hinzu und verfeinert das Ergebnis weiter, wurde eine zu bewertende Eigenleistung erbracht und KI-Kompetenz an den Tag gelegt. Wird eine derartige Anwendung im Unterricht besprochen und erlaubt, kann dies als zulässige Nutzung der KI-Systeme gewertet werden.

Für einen Verstoß gegen die Richtlinien sollten klare Sanktionen gelten. Folgende schulische Sanktionen kommen bei der unzulässigen Nutzung von KI-Systemen in Betracht:

  • Herabstufung der Note
  • Pflicht, die Hausaufgabe nachzuholen
  • Gespräch mit den Eltern
  • Tadel

Bei besonders schwerwiegenden Vergehen, wie etwa dem unerlaubten Verfassen einer Facharbeit per KI, können folgende Sanktionen eingeleitet werden:

  • schriftlicher Verweis durch die Schulleitung, Untersagung der Teilnahme am Unterricht von einem Tag bis zu einer Woche
  • Androhung des Ausschlusses von der Schule
  • Ausschluss von der Schule auf Dauer

Es ist außerdem wichtig, mit Schülerinnen und Schülern zu vereinbaren, wie die Verwendung der KI gekennzeichnet werden soll. Es besteht die Möglichkeit, die Quelle zu nennen, z. B. „OpenAI's ChatGPT, 2024“ oder einen in der Schule üblichen Zitierstil zu verwenden. Schulen können auch eigene Regeln für die Kennzeichnungspflicht entwerfen.

Abschließend ist festzuhalten, dass Schülerinnen und Schüler im Umgang mit KI-Systemen geschult werden müssen. Dabei sollte vermittelt werden, dass KI als Werkzeug genutzt werden kann, um die eigenen Fähigkeiten zu erweitern, und nicht, um Arbeiten vollständig von der KI erledigen zu lassen. Dies ist besonders wichtig in einer Berufswelt, in der der eigenständige Umgang mit digitalen Werkzeugen immer wichtiger wird.

Künstliche Intelligenz und Datenschutz

Der Datenschutz ist ein weiterer zentraler Aspekt, welcher bei der Anwendung von KI-Systemen in Schulen beachtet werden muss. Schulen unterfallen als öffentliche Stellen (Privatschulen: als juristische Personen) im Sinne des Datenschutzrechts der DS-GVO und müssen daher die dort festgelegten Grundsätze beachten. Das bedeutet etwa, dass sie transparent und sparsam mit personenbezogenen Daten umgehen müssen und verpflichtet sind, Schülerinnen und Schüler, Eltern und Lehrkräfte über die Datenerhebungen zu informieren und darüber falls erforderlich Auskunft zu geben.

Werden KI-Systeme in der Schule verwendet, können in verschiedenen Bereichen personenbezogene Daten anfallen. Gegebenenfalls sind sie für die Registrierung in einem KI-System erforderlich oder sie könnten als sogenannte Inhaltsdaten in einen Prompt eingegeben werden. Vom KI-Anbieter können diese Daten als Trainingsdaten verwendet und wiederum als Ergebnis ausgegeben werden. In all diesen Fällen muss die Schule als datenschutzrechtlich verantwortliche Stelle die Einhaltung der geltenden Regeln beachten. Lehrkräfte sollten Schülerinnen und Schüler über die davon ausgehenden Risiken aufklären, um zu verhindern, dass bei der Anmeldung ihr Klarname verwendet wird oder personenbezogene Daten in einen Prompt eingegeben werden.

Die am 1. August 2024 in Kraft getretene europäische KI-Verordnung verpflichtet auch öffentliche Stellen, bei dem Einsatz von KI Grundrechte wie den Datenschutz zu gewährleisten und gleichzeitig Kompetenzen und Innovation zu fördern. Dabei wird ein risikobasierter Ansatz verfolgt. Bereiche mit einem hohen Risiko für Grundrechtsverletzungen – wie beispielsweise die automatisierte Notengebung - werden verboten, Anhang III Nr. 3. KI-Verordnung (KI-VO). Bereiche mit einem geringen oder gar keinem Risiko - wie das Vokabelabfragen durch ein KI-System – sind zulässig Umgesetzt wird die Verordnung in zeitlichen Stufen, spätestens am 2. August 2026 werden alle Bereiche Geltung finden.

Vermittlung von KI-Kompetenz

Betreiben das Land oder die Schulen im Bildungsbereich KI-Systeme, haben sie Maßnahmen zu ergreifen, die dafür sorgen, dass Lehrkräften sowie Schülerinnen und Schüler ein ausreichendes Maß an KI-Kompetenz vermittelt wird. Das heißt, sie sollen erforderliche Fähigkeiten, wie Medienkompetenz und kritisches Denken, erwerben und austauschen, um sich aktiv an den veränderten gesellschaftlichen Prozessen beteiligen zu können.

Für Schulen bedeutet dies, dass sie sorgfältig abwägen müssen, welche KI-Systeme sie einsetzen und wie diese genutzt werden.

Eine wichtige Regel dabei ist, dass personenbezogene Daten nur verarbeitet werden dürfen, wenn es durch eine rechtliche Bestimmung erlaubt ist. Existiert eine solche nicht, wird eine Einwilligung für die Datenverarbeitung benötigt.

Die wichtigste Rechtsgrundlage zur Datenverarbeitung an Schulen für Lehrkräfte in RLP ist der § 67 SchulG. Er deckt den größten Teil der Datenerhebungen im Schulalltag ab, siehe hierzu auch den Baustein 1.5 – Eltern- und SchülerInnenvertretung. § 67 SchulG kommt grundsätzlich auch für Datenverarbeitungen im Zusammenhang mit KI-Systemen in Betracht. Maßgeblich ist hierbei jedoch der konkrete Verarbeitungsvorgang.

Lehrkräfte sollten sich vor dem Einsatz von KI-Systemen mit deren Arbeitsweise, Stärken und Schwächen vertraut machen. Wichtig ist beispielsweise, dass keine personenbezogenen Daten in die KI eingegeben oder erfragt werden dürfen, und das Wissen um die Unberechenbarkeit dieser Systeme. Ebenfalls sollten Schülerinnen, Schüler und Eltern sensibilisiert werden, ob und wie sie Tools für Unterrichtszwecke nutzen dürfen.

Mit Blick auf die Umsetzung in der Schule können die oder der schulische Datenschutzbeauftragte sowie erforderlichenfalls die Personalvertretungen einbezogen werden. Diesen steht möglicherweise ein Informations- oder Mitspracherecht zu, im Übrigen können sie beratend tätig werden.

Auch innerhalb der verschiedenen KI-Systeme müssen datenschutzkonforme Einstellungen vorgenommen werden. So ist die Option „Verwendung der Daten zu Trainingszwecken“ grundsätzlich zu deaktivieren.

Wird der Unterricht mit Hilfe von Schul-Tablets oder in einem PC-Raum durchgeführt, ist zu beachten, dass in der nächsten Unterrichtsstunde unter Umständen andere Schülerinnen und Schüler an den Geräten sitzen. Daher ist wichtig darauf zu achten, dass bei der Eingabe der Daten keine Speicherung vorgenommen wird, die bei der nachfolgenden Nutzung auffindbar ist.

Die generierten Inhalte müssen grundsätzlich auf Richtigkeit geprüft werden, denn die Antworten der KI-Systeme können Fehler oder Unzulänglichkeiten aufweisen. Es kann vorkommen, dass KI-generierte Ergebnisse nicht aktuell oder korrekt sind, je nachdem, von wo und aus welcher Zeit die Trainingsdaten stammen. Möglicherweise wird nur die Vergangenheit abgebildet oder die Ergebnisse sind diskriminierend.

Ein weiterer Aspekt, der in Schulen relevant werden kann, ist der Einsatz von KI-Systemen zu Kontrollzwecken und zur Beurteilung von Lernergebnissen. Diese KI-Systeme sollen als hochriskant eingestuft und nur unter ganz bestimmten Voraussetzungen erlaubt werden (Erwägungsgrund 56 der KI-Verordnung).

Letztendlich ist ein Grundsatz besonders wichtig: die letzte Entscheidung sollte niemals einem KI-System überlassen werden. Alle Ergebnisse müssen am Ende auf Richtigkeit und Angemessenheit geprüft werden.

Rheinland-pfälzischen Schulen steht über die Fortbildungsplattform „fobizz“ die Möglichkeit des datenschutzkonformen Einsatzes von KI-Werkzeugen zur Verfügung. Weitere Informationen stellt das Ministerium für Bildung online bereit: bm.rlp.de/schule/fobizz.

Künstliche Intelligenz und Persönlichkeitsrechte

Digital veränderte Bilder gibt es schon seit langem. Daher ist dieser Bereich weitestgehend juristisch geklärt, siehe hierzu auch den Baustein 5.8 - Umgang mit Rechtsverletzungen in Sozialen Medien. KI-Systeme bringen jedoch neue, problematische Möglichkeiten mit sich und lassen Manipulationen in einem ganz neuen Umfang zu.

Wird in ein KI-System das Foto einer Person hochgeladen und in einem anderen Kontext dargestellt, kann dies einerseits einen kreativen Umgang mit dem System darstellen, andererseits werden durch diese Handlung eventuell Persönlichkeitsrechte der abgebildeten Person verletzt.

Denn nach Art. 6 (DS-GVO) dürfen personenbezogene Daten, wozu auch Fotos von Personen zählen, nur verarbeitet werden, wenn eine ausdrückliche Einwilligung vorliegt oder eine andere Rechtsgrundlage greift. Liegen diese für das Hochladen eines Fotos – wie es im schulischen Bereich regelmäßig der Fall sein wird – nicht vor, kann hier eine Rechtsverletzung bejaht werden.

Neben der DS-GVO gibt es das Kunsturhebergesetz (KUG), welches den Umgang mit Abbildungen von Personen regelt. Nach § 22 KUG dürfen Bilder grundsätzlich nur mit Einwilligung des Abgebildeten verbreitet und öffentlich gezeigt werden. Allerdings sieht § 23 KUG Ausnahmen vor, in denen Bilder auch ohne Einwilligung veröffentlicht werden dürfen. Während die Ausnahmen nach § 23 Abs. 1 Nr. 1 – 3 (Bildnisse aus dem Bereich der Zeitgeschichte, Bilder mit Personen als Beiwerk neben einer Landschaft oder sonstigen Örtlichkeit, Bilder von Versammlungen oder Veranstaltungen) bei künstlich generierten Bildern nicht greifen, da diese eine real existierende Umgebung voraussetzen, könnten solche Bilder möglicherweise unter den Schutz der Kunstfreiheit fallen, wie es § 23 Abs. 1 Nr. 4 KUG vorsieht. Doch auch hier gibt es Einschränkungen: Werden durch die Veröffentlichung des Bildes berechtigte Interessen der betroffenen Person verletzt, greifen die Ausnahmeregelungen nicht, § 23 Abs. 2 KUG. Das bedeutet, dass die Entscheidung darüber, ob ein Bild veröffentlicht werden darf, stark davon abhängt, wie das Bild von der abgebildeten Person selbst bewertet wird. Das Interesse der abgebildeten Person am Schutz seiner Persönlichkeit und das Interesse an der Verbreitung eines Werks sind gegeneinander abzuwägen, siehe auch Fallbeispiel KI und Bildrechte.

Besonders kritisch und unter Umständen auch strafrechtlich verfolgbar wird es, wenn KI-generierte Bilder Gewalt oder andere strafrechtlich relevante Inhalte darstellen, was nicht nur die Persönlichkeitsrechte, sondern auch das Strafgesetzbuch und den Jugendschutz betrifft, siehe auch Baustein 5.6 – Jugendgefährdende Inhalte und die Checkliste Jugendgefährdende Inhalte auf dem Smartphone.

Auch wenn in Schulen durch die Nutzung von KI-Systemen Kreativität und Kunst neue Dimensionen erhalten, müssen Persönlichkeitsrechte und Datenschutz also weiterhin gewahrt bleiben. Bevor Schülerinnen und Schüler mit den KI-Systemen arbeiten, sollten sie daher ausreichend über die rechtlichen Konsequenzen der Nutzung geschult werden.

Gesetze und Vorschriften

Aktualisierte Inhalte

Hier finden Sie Links zu allen Gesetzen und Vorschriften, die für Baustein 5.10 - Künstliche Intelligenz und die rechtlichen Herausforderungen in der Schule relevant sind.

Quellen und Links

Quellen und Links

Hier finden Sie eine Übersicht über die in Baustein 5.10 - Künstliche Intelligenz und die rechtlichen Herausforderungen in der Schule - verwendeten Quellen und weiterführende Links.

    Ministerium für Bildung: Mit „fobizz“ sicher, zuverlässig und kostenfrei in die KI-Welt
    Abrufbar unter https://bm.rlp.de/schule/fobizz

    Digitales Kompetenzzentrum – KI-Werkzeuge für Schulen, Informationen zur Landeslizenz fobizz
    Abrufbar unter https://bildung.rlp.de/digikomp/ki

    KI – Künstliche Intelligenz in der Wissensdatenbank des Digitalen Kompetenzzentrums DigiKomp.Wissen

    • Textgenerierende KI
    • Weiterführende Informationen zu KI
    • KI-Werkzeuge (fobizz)

    Abrufbar unter https://digikomp-wissen.bildung-rp.de/de-de/123-ki-kunstliche-intelligenz

    Schule.Medien.Recht. - Für die Praxis: Checkliste schulische Sanktionen
    Abrufbar unter https://schulemedienrecht.bildung-rp.de/fuer-die-praxis/checkliste-schulische-sanktionen/

    Alle Angebote des Pädagogischen Landesinstituts zu KI bei Fortbildung-Online
    Abrufbar unter
    https://curriculum.schulcampus-rlp.de/eventSubscriptions/embed?search=%23ki&tag=digiKomp&title=Ausgew%C3%A4hlte%20Veranstaltungen&backlinktitle=Digitales%20Kompetenzzentrum&backlinkurl=https://digikomp.bildung-rp.de/schule/

    Kultusministerkonferenz: Handlungsempfehlung für die Bildungsverwaltung zum Umgang mit Künstlicher Intelligenz (KI) in schulischen Bildungsprozessen

    KI-Kompetenzzentrum  der Akademie für Lehrerfortbildung und Personalführung Dillingen
    Abrufbar unter https://alp.dillingen.de/themenseiten/kiko/startseite/

    Künstliche Intelligenz (KI) in Schule und Unterricht – Eine Handreichung für Lehrkräfte zum Umgang mit KI-basierten Anwendungen
    Abrufbar unter https://digitale-schule.hessen.de/sites/digitale-schule.hessen.de/files/2023-07/ki_handreichung.pdf

     

    Urheberrechtsschutz für KI-Gesamtwerk

    Weitere Fallbeispiele

    Weitere Fallbeispiele

    Hier finden Sie ein zu Baustein 5.10 - Künstliche Intelligenz und die rechtlichen Herausforderungen in der Schule - passendes Fallbeispiel.

    Schüler M gibt die Aufgabenstellung seiner Deutsch-Hausaufgaben bei ChatGPT ein: „Schreibe einen Aufsatz über das Leben von Johann Wolfgang von Goethe und dessen Einfluss auf die deutsche Literatur.“ Den entstandenen Aufsatz gibt er am nächsten Tag bei seinem Lehrer ab. Wie ist das rechtlich zu beurteilen?

    Lösung:

    Dies ist als Täuschungsversuch zu werten, denn M hat die Aufgabe nicht wie vorgesehen eigenständig bearbeitet, sondern sich fremde Inhalte zu eigen gemacht.

    M gibt dreimal seine Deutsch-Hausaufgaben bei einem Chatbot ein. Die entstandenen Texte überprüft er mit Hilfe weiterer Quellen, fügt daraus einen neuen Text zusammen, löscht einen Teil, fügt eigene Abschnitte hinzu und lässt den Text noch einmal von einer KI zur Textoptimierung schöner formulieren. Den fertigen Aufsatz gibt er am nächsten Tag bei seinem Lehrer ab. Wie ist dieses Vorgehen zu beurteilen?

    Lösung:

    In diesem Fall hat Max eine zu bewertende Eigenleistung erbracht und KI-Kompetenz an den Tag gelegt. Wird eine (datenschutzkonform nutzbare) Anwendung im Unterricht besprochen und erlaubt, kann dies als zulässige Nutzung der KI-Systeme gewertet werden. Ist dies nicht der Fall und erfolgt die Abgabe der Hausaufgabe ohne entsprechenden Hinweis, handelt es sich hingegen ebenfalls um einen Täuschungsversuch, wenn M die Herkunft des Textes nicht offenlegt.

    Anlässlich des Geburtstages des Schulleiters erklärt Lehrerin B den Schülerinnen und Schülern ihrer achten Klasse, sie sollen sich bei einer KI-Anwendung anmelden und eingeben: „Schreibe ein lustiges Gedicht über Schulleiter L, der in der Hauptstraße 10 in X-Stadt wohnt, Direktor der Wilhelm-Busch-Schule ist und am 31. August seinen 50. Geburtstag feiert.“ Sie will die entstehenden Gedichte am Geburtstag des Schulleiters in der Aula aushängen. Ist das Vorgehen aus Sicht des Datenschutzes zulässig?

    Lösung:

    Dieses Vorgehen ist unzulässig. Es ist unklar, welche personenbezogenen Daten der Schülerinnen und Schüler bei der Nutzung von KI-Systemen erfasst, gespeichert, als Trainingsdaten verwendet oder evtl. weitergeleitet werden, sodass eine Nutzung der Systeme durch Schülerinnen und Schüler nicht ohne Weiteres zulässig ist. Für die Eingabe der Daten des Schulleiters fehlt es an einer Rechtsgrundlage, da ein solches Gedicht auch ohne die Angabe personenbezogener Daten generiert und stattdessen erst im Anschluss ohne Nutzung eines KI-Systems mit weiteren Daten vervollständigt werden kann.

    Anlässlich des Geburtstages des Schulleiters erstellt Schüler M mit Hilfe einer KI zur Generierung von Bildern ein Foto vom ihm, das ihn als Zirkusdirektor darstellt. Das Bild möchte er in der Schule aushängen. Hat er die Bildrechte des Schulleiters verletzt?

    Lösung:

    Wenn M keine Einwilligung oder sonstige Rechtsgrundlage für das Verwenden des Fotos hat, kommen Verstöße gegen Art. 6 DS-GVO sowie gegen § 22 KUG in Betracht. Möglicherweise könnte das Bild aber auf Grundlage des § 23 Abs. 1 Nr. 4 KUG verbreitet werden. Dafür müsste die Verbreitung zunächst zu einem der Kunstfreiheit unterfallenden Zweck erfolgen. Darüber hinaus muss die Verbreitung einem überwiegenden Interesse der Kunst dienen, das heißt, das Interesse des Schulleiters am Schutz seiner Persönlichkeit und das Interesse des M an der Verbreitung sind gegeneinander abzuwägen. Da das Ergebnis einer solchen Abwägung im Streitfall nicht vorauszusehen ist, sollte M den Schulleiter um seine Erlaubnis bitten und im Übrigen von einer Veröffentlichung absehen.