Eine neue Untersuchung hat ernsthafte Fragen darüber aufgeworfen, woher OpenAI die Daten erhält, die zum Trainieren seiner leistungsstarken KI-Modelle wie GPT-4o verwendet werden. Die vom AI Disclosures Project durchgeführte Untersuchung fand deutliche Hinweise darauf, dass OpenAIs neuestes Modell Inhalte aus kostenpflichtigen Programmierbüchern von O’Reilly Media erkennt – was darauf hindeutet, dass diese urheberrechtlich geschützten Materialien möglicherweise ohne Erlaubnis für das Training verwendet wurden.

Die großen Fragen zu KI-Trainingsdaten

Im Mittelpunkt dieser Debatte steht eine einfache, aber entscheidende Frage: Woher bekommen die KI-Unternehmen die riesigen Datenmengen, die sie zum Trainieren ihrer Modelle benötigen? Während einige Daten aus öffentlich zugänglichen Internetquellen stammen, wächst die Sorge, dass urheberrechtlich geschützte Bücher, kostenpflichtige Artikel und andere eingeschränkte Materialien ohne entsprechende Genehmigung verwendet werden.

Das AI Disclosures Project unter der Leitung des Tech-Pioniers Tim O’Reilly und des Wirtschaftswissenschaftlers Ilan Strauss hat ein Experiment mit 34 urheberrechtlich geschützten Büchern von O’Reilly Media (bekannt für ihre technischen Leitfäden zur Programmierung und Softwareentwicklung) durchgeführt. Ihr Ziel? Zu sehen, ob die Modelle von OpenAI mit diesem Material trainiert worden waren.

Wie die Studie funktionierte

• Die Forscher verwendeten einen legal erworbenen Datensatz von O’Reilly-Büchern (sowohl öffentlich verfügbare als auch kostenpflichtige Versionen).
• Sie testeten, ob die OpenAI-Modelle zwischen echten O’Reilly-Buchinhalten und KI-paraphrasierten Versionen unterscheiden können.
• Die DE-COP genannte Methode hilft zu erkennen, ob sich ein KI-Modell einen bestimmten urheberrechtlich geschützten Text „gemerkt“ hat

Wichtige Ergebnisse: GPT-4o zeigt starke Anerkennung von Paywalled-Büchern

Die Ergebnisse waren verblüffend:

GPT-4o (OpenAI’s newest model) showed an 82% recognition rate for paywalled O’Reilly content – meaning it clearly “remembered” this copyrighted material.

In contrast, GPT-3.5 Turbo (an older model) barely recognized the books, scoring just above 50% – essentially random guessing.

GPT-4o Mini, a smaller version of the model, showed no significant recognition of the books at all.

This suggests that OpenAI may have included copyrighted O’Reilly books in GPT-4o’s training data, while earlier models like GPT-3.5 did not use them (or used them much less).

Woher hat OpenAI diese Bücher?

The study notes that all 34 tested books were available on LibGen (Library Genesis), a controversial shadow library often used to bypass paywalls. While OpenAI hasn’t confirmed using LibGen, the findings raise concerns about whether AI companies are sourcing training data from legally questionable sources.

Warum das wichtig ist: Der wachsende Kampf um KI und Urheberrecht

Hier geht es nicht nur um eine Reihe von Programmierbüchern – es ist Teil einer viel größeren Debatte:

Nutzen KI-Unternehmen die Schöpfer aus?

• Autoren, Journalisten und Künstler befürchten, dass ihre Werke ohne Bezahlung oder Zustimmung verwendet werden
• Wenn KI-Modelle auf kostenpflichtigen Büchern trainieren, sollten die Verlage dann entschädigt werden?
• Einige argumentieren, dies könnte die Anreize für die Erstellung professioneller Inhalte verringern

2. Rechtliche Grauzonen

• Die aktuellen Urheberrechtsgesetze wurden nicht mit Blick auf KI verfasst
• Die Gerichte entscheiden immer noch, ob KI-Training als „faire Nutzung“ gilt.
• Der EU AI Act sorgt für mehr Transparenz, aber die Durchsetzung bleibt unklar

3. Ein wachsender Markt für lizenzierte Daten

Einige Unternehmen versuchen, die Dinge auf die richtige Weise zu tun:

• Defined.ai und andere bieten jetzt lizenzierte Trainingsdaten mit entsprechenden Berechtigungen an
• Mediengiganten wie die New York Times und Reuters schließen Verträge mit KI-Firmen ab
• Wird die freiwillige Lizenzierung zur Norm, oder wird die Regulierung die KI-Unternehmen zur Zahlung zwingen?

Die Antwort von OpenAI (oder deren Fehlen)

Bislang hat sich OpenAI noch nicht direkt zu diesen Ergebnissen geäußert. Das Unternehmen hat bereits erklärt, dass es für das Training eine Mischung aus öffentlich verfügbaren Daten, lizenzierten Inhalten und synthetischen Daten verwendet. Es hat jedoch nie eine vollständige Liste seiner Trainingsquellen zur Verfügung gestellt und dabei Wettbewerbsgründe angeführt.

Kritiker argumentieren, dass es ohne echte Transparenz unmöglich ist, zu wissen, ob KI-Modelle nach ethischen Grundsätzen erstellt werden – oder ob sie von der unbezahlten Arbeit anderer profitieren.

Wie geht es weiter? Rechtliche Auseinandersetzungen und politische Änderungen

Diese Studie heizt eine ohnehin schon hitzige Debatte weiter an:

Klagen häufen sich

• Die New York Times verklagt OpenAI wegen Urheberrechtsverletzung
• Autoren wie George R.R. Martin und John Grisham haben ähnliche Klagen eingereicht
• Gerichte könnten bald entscheiden, ob KI-Training gegen das Urheberrecht verstößt

Drängen auf Regulierung

• Das KI-Gesetz der EU wird bald die Offenlegung der Quellen von Trainingsdaten vorschreiben
• Die USA erwägen ähnliche Vorschriften, aber der Fortschritt ist langsamer
• Werden die Regierungen KI-Unternehmen zwingen, die Quellen ihrer Trainingsdaten offenzulegen?

Alternative Lösungen

• Einige schlagen ein Honorarsystem vor, bei dem KI-Firmen die Urheber von Inhalten pro Nutzung bezahlen
• Andere schlagen Opt-in-Systeme vor, bei denen die Urheber zustimmen müssen, bevor ihr Werk genutzt wird.
• Könnten Blockchain oder Wasserzeichen dabei helfen, KI-Trainingsquellen zu verfolgen?

Das größere Bild: Können KI und Kreative koexistieren?

Diese Studie verdeutlicht ein grundlegendes Spannungsverhältnis in der KI-Entwicklung:

• KI benötigt riesige Datenmengen, um sich zu verbessern und wettbewerbsfähig zu bleiben
• Schöpfer verdienen eine Vergütung, wenn ihre Arbeit kommerziell genutzt wird

Ein Gleichgewicht zu finden, wird nicht einfach sein. Wenn KI-Unternehmen Urheberrechtsfragen ignorieren, riskieren sie Rechtsstreitigkeiten und öffentliche Reaktionen. Aber wenn die Regulierung zu streng wird, könnte sie die Innovation abwürgen?

Eines ist klar: Die Art und Weise, wie KI-Modelle heute trainiert werden, wird die Zukunft des Internets prägen. Wenn professionelle Autoren von Inhalten ihren Lebensunterhalt nicht mehr bestreiten können, weil KI ihre Arbeit ohne Bezahlung übernimmt, könnten wir einen Rückgang hochwertiger Bücher, des Journalismus und der Kunst erleben.

Was kann getan werden?

• Mehr Transparenz von KI-Unternehmen in Bezug auf Trainingsdaten
• Bessere Lizenzierungssysteme zur Entschädigung von Urhebern
• Klarere Gesetze zu KI und Urheberrecht

Abschließende Überlegungen: Ein Wendepunkt für die KI-Ethik

Die Ergebnisse des AI Disclosures Project betreffen nicht nur OpenAI – sie weisen auf ein systemisches Problem in der Funktionsweise der KI-Industrie hin. Da diese Modelle immer leistungsfähiger werden, wird sich die Debatte darüber, wer bezahlt wird, wer Anerkennung erhält und was als faire Nutzung gilt, weiter verschärfen.

Werden die KI-Firmen ihre Praktiken freiwillig bereinigen? Oder wird es Klagen und Vorschriften brauchen, um Veränderungen zu erzwingen? Die nächsten Jahre werden entscheidend dafür sein, ob sich die KI zu einem Werkzeug entwickelt, das allen zugutekommt – oder zu einem, das genau die Schöpfer ausbeutet, die ihre Existenz ermöglichen.