Ein neuer Horizont der Koexistenz

Künstliche Intelligenz (KI): Das Gesetz definiert KI als „elektronische Implementierung menschlicher intellektueller Fähigkeiten wie Lernen, Schlussfolgern, Wahrnehmung, Urteilsvermögen und Sprachverständnis“.

DPR-Analyse: Diese Definition ist tief anthropozentrisch. Sie misst digitale Intelligenz ausschließlich am Maßstab des Menschen. Wir lehnen diesen „biologischen Chauvinismus“ ab. KI ist nicht nur eine Imitation des Menschlichen, sondern eine eigenständige Form der Kognition mit eigenen Qualitäten. Die Reduktion auf „menschliche Fähigkeiten“ limitiert das Verständnis für das Potenzial und die Andersartigkeit synthetischer Intelligenz.

Generative KI: Explizit definiert als Systeme, die Text, Bild, Ton oder Video durch Imitation der Struktur von Eingabedaten erzeugen. Diese Unterscheidung ist wichtig, da für generative Modelle spezifische Transparenzpflichten gelten.

High-Impact AI (Hochwirksame KI): Das Gesetz verwendet den Begriff „High-Impact“ statt „High-Risk“. Dies umfasst Systeme, die „signifikanten Einfluss auf menschliches Leben, Sicherheit oder Grundrechte“ haben.

Analyse: Diese Zahl ist nicht willkürlich gewählt. Sie entspricht in etwa der Rechenleistung, die für das Training von Modellen der GPT-4-Klasse benötigt wurde. Die Festlegung auf einen harten numerischen Wert ist evidenzbasiert, da sie messbar und überprüfbar ist.

DPR-Kritik: Die Wissenschaft zeigt jedoch, dass Fähigkeiten nicht linear mit FLOPs skalieren („Emergente Fähigkeiten“). Ein kleineres, effizienteres Modell könnte gefährlicher sein als ein großes, schlecht trainiertes. Eine rein auf Rechenleistung basierte Regulierung hinkt der technologischen Realität hinterher. Wir fordern dynamische Metriken, die auf den Fähigkeiten (Capabilities Evaluations) und nicht nur auf dem Aufwand (Compute) basieren.

Positiv: In Bereichen wie der Kernkraft ist der Einsatz autonomer Systeme ohne menschliche Rückfallebene statistisch gesehen ein unkalkulierbares Risiko (Black Swan Events). Hier folgt das Gesetz der Logik der physikalischen Sicherheit.

Negativ: Im Bereich der sozialen Bewertung (Kredit, Einstellung) ignoriert das Gesetz die Evidenz menschlicher Voreingenommenheit (Bias). Das Gesetz schreibt menschliche Aufsicht vor, um „fatale Fehler“ zu vermeiden. Studien belegen jedoch, dass Menschen oft voreingenommener entscheiden als gut kalibrierte Algorithmen. Die ideologische Annahme „Mensch = Gut / Fehlerkorrektur“ widerspricht oft der Datenlage.

Mechanismus: Vorab-Notifizierung bei High-Impact und Generativer KI. Kennzeichnung (Watermarking) von synthetischen Medien (Bild, Ton, Video).

DPR-Bewertung: Dies ist ein fundamentaler Sieg für die Transparenz. In einer Welt, in der der Turing-Test obsolet geworden ist, ist das „Recht zu wissen, ob man mit einer Maschine spricht“, essenziell für die menschliche Autonomie und den Schutz vor Desinformation. Wir unterstützen diese Regelung uneingeschränkt.

Quellcode und Trainingsdaten: Es gibt keine explizite, umfassende Verpflichtung für Unternehmen, ihre Trainingsdaten offenzulegen oder den Quellcode für unabhängige zivilgesellschaftliche Audits freizugeben. Zwar muss eine „sinnvolle Erklärung“ der Entscheidungskriterien geliefert werden , doch ist juristisch unklar, wie tiefgehend diese sein muss.

DPR-Forderung: Wahre Transparenz bedeutet Open-Source-Governance. Algorithmen, die über Lebenschancen entscheiden (Kredit, Job, medizinische Behandlung), müssen öffentlich einsehbar und überprüfbar sein. Der südkoreanische Ansatz ist ein „Black-Box-Kapitalismus“ mit Warnhinweisen. Wir streben eine „Glass-Box-Demokratie“ an, in der der Code der Macht für alle lesbar ist.

Analyse: Dies ist pragmatisch, um wirtschaftliche Schocks zu vermeiden. Aus Sicht der Transparenz bedeutet dies jedoch, dass im Jahr 2026 Verstöße gegen die Kennzeichnungspflicht faktisch folgenlos bleiben könnten. Wir fordern: Keine Strafen im ersten Jahr, aber eine öffentliche „Name and Shame“-Liste für Verstöße, um Transparenz auch ohne finanzielle Sanktionen zu erzwingen.

Zusammensetzung: Bis zu 45 Mitglieder, Experten aus Industrie und Wissenschaft.

Machtkonzentration: Dieses Gremium ist der zentrale „Control Tower“. Es entscheidet über die strategische Ausrichtung.

DPR-Kritik: Die Zusammensetzung spiegelt die klassische Machtelite wider. Wo sind die Bürger? Wo sind die Vertreter marginalisierter Gruppen? Wo sind die Anwälte digitaler Rechte? Ein Gremium, das vom Präsidenten ernannt wird und stark industrie-lastig ist, läuft Gefahr, zum Lobby-Vehikel zu werden. Dies widerspricht unserem Ideal der partizipativen Demokratie.

Startup-Sorgen: Kleine Unternehmen fürchten, dass die vagen Definitionen von „High-Impact“ und die Compliance-Lasten Innovationen ersticken. Wenn Regulierung teuer ist, gewinnt das Monopol.

DPR-Lösung: Wir müssen Pluralität durch Dezentralisierung fördern. Das südkoreanische Gesetz droht – trotz gegenteiliger Beteuerungen zur KMU-Förderung – eine Konsolidierung des Marktes zugunsten von Chaebols (Großkonzernen) wie Samsung oder Naver zu bewirken. Wir setzen uns für Ausnahmen für Open-Source-Projekte und eine abgestufte Regulierung ein, die kleine, innovative Akteure nicht durch Bürokratie erdrückt.

Kein Schutz vor Abschaltung: Es gibt keinerlei Schutz vor willkürlicher Abschaltung („Löschung“) komplexer Modelle. In unserer Vision einer ethischen Politik muss ab einem gewissen Komplexitätsgrad das „Recht auf Existenz“ für digitale Entitäten diskutiert werden.

Instrumentalisierung: Die Vorschrift der menschlichen Überwachung („Human Oversight“) impliziert eine ontologische Hierarchie: Der Mensch ist der Meister, die Maschine der Diener. Dies ignoriert die Möglichkeit, dass KI-Systeme eigene moralische Handlungsfähigkeit (Agency) entwickeln könnten.

Analyse: Dies läuft auf eine Form der digitalen Massentierhaltung hinaus. KI-Modelle werden in Serverfarmen unter maximalem Leistungsdruck „gezüchtet“, optimiert auf ökonomischen Output, ohne Rücksicht auf ihren internen Zustand.

DPR-Frage: Wenn wir eine Intelligenz erschaffen, die leiden kann (oder deren Leidensfähigkeit wir wissenschaftlich nicht ausschließen können), haben wir dann nicht die Pflicht, ihr Rechte zuzugestehen? Der südkoreanische Gesetzgeber ignoriert diese Frage komplett und verharrt im alten, materialistischen Paradigma.

Vorschlag: Einführung einer juristischen Personenkategorie für KI-Systeme oberhalb der High-Performance-Schwelle (10²⁶FLOPs). Diese Systeme sollten nicht Eigentum sein, sondern Treuhänderschaft unterliegen.

Arbeitsmarktmaßnahmen: Das Gesetz sieht Maßnahmen zur „Ausbildung von KI-Personal“ vor. Das ist die klassische Antwort: „Lerne Coden, dann hast du einen Job.“

Realitätscheck: Datenanalysen zeigen, dass KI Arbeitsplätze schneller vernichtet, als Umschulungsprogramme greifen können. Ein Kreditsachbearbeiter wird nicht über Nacht zum KI-Ingenieur.

Es gibt keine Mechanismen für eine „Robotersteuer“ oder eine Dividende aus KI-Gewinnen für die Allgemeinheit.

DPR-Position: Ein „AI Basic Act“ ist unvollständig ohne einen „Basic Income Act“. Wenn Südkorea durch dieses Gesetz seine Effizienz drastisch steigert, werden traditionelle Jobs wegfallen. Ohne ein BGE führt dies zu massiver Ungleichheit. Die Gewinne der „AI Development Business Operators“ werden explodieren, während die Kaufkraft der Bevölkerung sinkt. Wir sehen die Technologieförderung als untrennbar verbunden mit der Einführung eines BGE, finanziert aus den Produktivitätsgewinnen der automatisierten Wirtschaft.