Italien schreibt die Zukunft der KI: Das erste europäische Nationalgesetz wird verabschiedet

Der 17. September 2025 wird ein historisches Datum für die italienische Innovation bleiben. Ob im Guten oder im Schlechten, wird davon abhängen, wie wir es interpretieren. Mit 77 Ja-Stimmen und 55 Nein-Stimmen hat der Senat endgültig das verabschiedet, was wir als die erste "Straßenverkehrsordnung" für künstliche Intelligenz in Europa bezeichnen könnten. Das ist keine Rhetorik: Italien ist wirklich das erste Land der Union, das sich einen nationalen Rechtsrahmen gibt, der vollständig auf das europäische KI-Gesetz abgestimmt ist.

Als ob man plötzlich in die Zukunft katapultiert würde und die Regeln einer neuen Welt schreiben müsste, steht Italien vor einer beispiellosen Herausforderung: Wie regiert man eine Technologie, die verspricht, alles zu revolutionieren, von der Gesundheitsversorgung bis zur Wirtschaft, ohne die Innovation zu ersticken oder die Grundrechte zu gefährden. Die italienische Antwort, enthalten im Senatsgesetz Nr. 1146-B, ist ein 47-artikeliges Dokument, das ein empfindliches Gleichgewicht zwischen technologischem Ehrgeiz und verfassungsrechtlichem Schutz darstellt.

Der historische Moment: 77 Ja, 55 Nein und eine revolutionäre Regierungsführung

Die Entstehung dieses Gesetzes sagt viel über den italienischen Innovationsansatz aus. Von der Regierung Meloni am 26. Juni 2025 vorgelegt, durchlief der Gesetzentwurf einen intensiven, aber schnellen parlamentarischen Prozess und passierte die gemeinsamen Ausschüsse für Umwelt-Innovation und Soziales-Gesundheit. Diese Wahl ist kein Zufall: Die KI berührt transversal jeden Aspekt der heutigen Gesellschaft, von der ökologischen Nachhaltigkeit bis zur öffentlichen Gesundheit.

Der Text basiert auf Prinzipien, die fast wie ein humanistisches Manifest des digitalen Zeitalters klingen: anthropozentrischer, transparenter und sicherer Einsatz von künstlicher Intelligenz. Hinter diesen scheinbar abstrakten Begriffen verbirgt sich eine präzise Philosophie: Die KI muss ein Werkzeug im Dienste des Menschen bleiben, nicht umgekehrt. Wie es in Artikel 2 des Gesetzes heißt, muss jedes System der künstlichen Intelligenz "eine signifikante menschliche Aufsicht und die endgültige Verantwortung einer natürlichen Person bei Entscheidungen, die sich auf die Grundrechte und -freiheiten auswirken", gewährleisten.

Aber es ist im Entwurf der Regierungsführung, in dem sich die wahre Originalität des italienischen Ansatzes manifestiert. Wie in einem Risiko-Spiel, bei dem verschiedene Strategen erforderlich sind, um verschiedene Gebiete zu kontrollieren, hat der Gesetzgeber ein Doppelbefehlsmodell gewählt, das zwei nationale Behörden mit komplementären Zuständigkeiten einbezieht.

ACN und AgID: die neuen Sheriffs der künstlichen Intelligenz

Die Entscheidung, die Kontrolle über die KI einem Tandem anzuvertrauen, ist alles andere als zufällig. Die Nationale Agentur für Cybersicherheit (ACN) übernimmt die Rolle des "bewaffneten Sheriffs" des Systems mit Inspektions- und Aufsichtsbefugnissen über die Angemessenheit und Sicherheit von Hochrisiko-Systemen der künstlichen Intelligenz. Auf der anderen Seite wird die Agentur für das digitale Italien (AgID) zum "Vermittler" des Ökosystems, der die Meldungen verwaltet und sichere Anwendungsfälle für Bürger und Unternehmen fördert.

Diese Rollenverteilung ist nicht akademisch. Die ACN bringt die im Bereich der nationalen Cybersicherheit erworbenen Kompetenzen ins Spiel, einem Sektor, in dem sich Italien international einen soliden Ruf erworben hat. Die AgID kann ihrerseits die bei der Digitalisierung der öffentlichen Verwaltung gesammelten Erfahrungen nutzen.

Die Koordinierung zwischen den beiden Agenturen erfolgt unter der Schirmherrschaft des Departements für die digitale Transformation des Präsidiums des Ministerrates, das die Rolle des "Regisseurs" der gesamten nationalen Strategie übernimmt. Dieses Gremium wird die Aufgabe haben, die Nationale Strategie für künstliche Intelligenz alle zwei Jahre zu erstellen und zu aktualisieren und dabei die wichtigsten sektoralen Behörden in einen ständigen Konsultationsprozess einzubeziehen.

Eine Milliarde für Startups: Wenn Innovation auf Investitionen trifft

Wenn die Regierungsführung das "Betriebssystem" des Gesetzes darstellt, sind die Investitionen sein "Treibstoff". Die Bestimmung aktiviert ein Investitionsprogramm in Höhe von einer Milliarde Euro, das für Start-ups und KMU in den Bereichen KI, Cybersicherheit und aufstrebende Technologien bestimmt ist. Es handelt sich um eine präzise Industriestrategie, die darauf abzielt, ein wettbewerbsfähiges Ökosystem in der globalen Innovationslandschaft zu schaffen.

Der Finanzierungsmechanismus sieht die Unterstützung des Technologietransfers und strategischer Lieferketten vor, mit besonderem Augenmerk auf Aspekte der digitalen Souveränität. In einer Zeit, in der technologische Abhängigkeit schnell zu geopolitischer Verwundbarkeit werden kann, ist es das Ziel, autonome Fähigkeiten in kritischen Sektoren aufzubauen. Wie der Minister für technologische Innovation, Alessio Butti, erklärte, will Italien den Unternehmen klar sagen: "Investiert in Italien, ihr werdet eine zuverlässige Regierungsführung, transparente Regeln und ein Ökosystem finden, das bereit ist, konkrete Projekte zu unterstützen."

Aber Vorsicht: Die Mittel werden nicht mit der Gießkanne verteilt. Der Text sieht strenge Auswahlkriterien vor, die Projekte mit sozialer Wirkung, ökologischer Nachhaltigkeit und der Fähigkeit, qualifizierte Arbeitsplätze zu schaffen, bevorzugen. Es ist ein Versuch, den sogenannten "Dotcom-Blasen-Effekt" zu vermeiden, bei dem riesige öffentliche Mittel am Ende die Finanzspekulation anheizen anstatt echte Innovation.

Sektoren unter der Lupe: von der Gesundheit bis zur Arbeit, Regeln für alle

Der sektorale Ansatz des italienischen Gesetzes ist vielleicht der pragmatischste Aspekt der gesamten Regelung. Anstatt sich auf allgemeine Grundsätze zu beschränken, hat der Gesetzgeber beschlossen, auf die Einzelheiten spezifischer Anwendungen einzugehen und Ad-hoc-Regeln für die Kontexte zu definieren, in denen die KI die größte soziale Wirkung haben kann.

Im Gesundheitssektor legt Artikel 15 den Grundsatz der "Zentralität des Arztes" in jedem von der KI unterstützten Entscheidungsprozess fest. Dies bedeutet, dass Diagnosealgorithmen oder therapeutische Unterstützungssysteme nur als Hilfsmittel und niemals als Ersatz für das klinische Urteil verwendet werden dürfen. Es ist eine Position, die nicht nur ethische Bedenken widerspiegelt, sondern auch das Bewusstsein, dass in der Medizin ein algorithmischer Fehler dramatische Folgen haben kann. Gleichzeitig fördert das Gesetz die Nutzung von Gesundheitsdaten für die Forschung, legt aber strenge Protokolle zum Schutz der Privatsphäre fest.

Die Arbeitswelt erhält besondere Aufmerksamkeit durch die Einrichtung einer ständigen Beobachtungsstelle beim Arbeitsministerium, die die Aufgabe hat, die Auswirkungen der KI auf die Beschäftigung und die "Würde des Arbeitnehmers" zu überwachen. Letzterer Ausdruck, der vage erscheinen mag, erhält in der Ära der algorithmischen Überwachungssysteme für die Arbeitsleistung eine konkrete Bedeutung. Das Gesetz legt fest, dass jeder Arbeitnehmer darüber informiert werden muss, wenn seine Tätigkeit einer automatisierten Bewertung unterliegt, und das Recht hat, eine menschliche Überprüfung der Entscheidungen zu verlangen.

In der öffentlichen Verwaltung und im Justizwesen ist der Leitgedanke der der "Entscheidungsnachvollziehbarkeit". Immer wenn ein Algorithmus zu einer administrativen oder gerichtlichen Entscheidung beiträgt, muss es möglich sein, den logischen Prozess nachzuvollziehen und die menschlichen Verantwortlichkeiten zu identifizieren. Das ist keine Science-Fiction: In einigen italienischen Gerichten werden bereits KI-Systeme für die Zuweisung von Akten oder die automatische Erstellung von Gerichtsakten erprobt.

Deepfake: das neue Verbrechen, das Identität und digitale Würde schützt

Vielleicht zeigt das italienische Gesetz in der Einführung neuer Schutzmaßnahmen gegen Deepfakes seine innovativste und gleichzeitig umstrittenste Natur. Die Bestimmung sieht spezifische Sanktionen für jeden vor, der gefälschte audiovisuelle oder Toninhalte erstellt oder verbreitet, die mit Technologien der künstlichen Intelligenz erstellt wurden, um den Ruf, die Ehre oder die Glaubwürdigkeit einer Person zu schädigen.

Die Regelung ergibt sich aus dem Bewusstsein, dass Deepfakes heute eine der heimtückischsten Bedrohungen im digitalen Ökosystem darstellen. Wie in einer Folge von Black Mirror, in der Realität und Fiktion gefährlich verschwimmen, können diese synthetischen Inhalte Reputationen zerstören, die öffentliche Meinung manipulieren oder für Erpressung und Rache genutzt werden.

Das italienische Gesetz gehört zu den ersten weltweit, das dieses Verbrechen spezifisch typisiert und damit wahrscheinlich einen Trend vorwegnimmt, der sich in anderen Rechtssystemen verbreiten wird. Aber der Gesetzgeber hat weitere Maßnahmen vorgesehen. Das Gesetz führt die Kennzeichnungspflicht für alle mit KI generierten Inhalte ein und unterscheidet zwischen informativen und unterhaltenden Inhalten.

Für erstere muss die Kennzeichnung klar und sofort sichtbar sein; für letztere kann sie diskreter sein, muss aber dennoch vorhanden sein.

Es ist der Versuch, das zu schaffen, was wir ein "soziales Immunsystem" gegen Desinformation nennen könnten. Die von der Verordnung vorgesehenen Sanktionen sind abgestuft: Sie reichen von Verwaltungsstrafen bei fehlender Kennzeichnung bis hin zu strengeren Sanktionen bei böswilliger Verwendung synthetischer Inhalte.

Der Text sieht auch erschwerende Umstände vor, wenn diese Inhalte in Wahlkontexten oder zur gezielten Ansprache schutzbedürftiger Personen wie Minderjähriger oder Menschen mit Behinderungen verwendet werden.

Datenschutz und DSGVO: das Gleichgewicht zwischen Innovation und Datenschutz

Einer der heikelsten Aspekte der KI-Regulierung betrifft das Verhältnis zur europäischen Datenschutzgesetzgebung. Das italienische Gesetz befasst sich mit diesen Themen in mehreren Artikeln, die der Verarbeitung personenbezogener Daten gewidmet sind, und legt Grundsätze fest, die die Entwicklung und Umsetzung von KI-Systemen im Einklang mit der DSGVO leiten sollen.

Der grundlegende Grundsatz ist der der "intelligenten Minimierung": KI-Systeme dürfen personenbezogene Daten nur in dem Maße verarbeiten, wie es für die Erreichung des spezifischen Zwecks, für den sie konzipiert wurden, unbedingt erforderlich ist. Die Neuheit liegt jedoch in der Einführung des Konzepts der "dynamischen Einwilligung", das es den Nutzern ermöglicht, den Grad der Einwilligung entsprechend der Entwicklung der Funktionalitäten des Systems zu modulieren. Es ist, als hätte man einen Datenschutz-Thermostat, der in Echtzeit reguliert werden kann.

Das Gesetz sieht auch die Einrichtung von "regulatorischen Sandkästen" für die KI vor, kontrollierte Räume, in denen Unternehmen und Forscher unter der Aufsicht der Datenschutzbehörde innovative Lösungen erproben können. Es ist der Versuch, ein Umfeld zu schaffen, in dem Innovation voranschreiten kann, ohne den Schutz der Grundrechte zu gefährden.

Besondere Aufmerksamkeit wird den KI-Systemen gewidmet, die biometrische Daten verarbeiten oder eine automatisierte Profilerstellung durchführen. Für diese Fälle führt das Gesetz die Pflicht zu einer Folgenabschätzung für die Grundrechte und -freiheiten ein, ein Prozess, der unabhängige Experten und Vertreter der potenziell betroffenen Kategorien einbeziehen muss.

Der Datenschutzbeauftragte übernimmt eine zentrale Rolle im neuen Ökosystem, nicht nur als Kontrollbehörde, sondern auch als Förderer von Best Practices und technischen Standards. Die jährliche Veröffentlichung von sektoralen Leitlinien, die die technologische Entwicklung und die europäische Rechtsprechung berücksichtigen, ist vorgesehen.

Aber es mangelt nicht an Kritik

Doch hinter der Einstimmigkeit der Regierung verbirgt sich eine kritische Front, die alles andere als marginal ist. Wie bei jeder großen regulatorischen Revolution hat auch das italienische KI-Gesetz seine Kritiker, und ihre Einwände berühren wunde Punkte der Bestimmung, die Aufmerksamkeit verdienen.

Der Abgeordnete der Demokratischen Partei, Andrea Casu, Berichterstatter der Minderheit in der Kammer, nimmt kein Blatt vor den Mund, wenn er die Bestimmung als verpassten Zug bezeichnet: "Die Regierung verpasst den letzten Zug, um grundlegende Korrekturen einzufügen, um in unserem Land eine Regierungsführung und Ressourcen zu gewährleisten, die der Herausforderung gewachsen sind. Es kann sich sicherlich nicht um eine fragmentierte Verwaltung zwischen Regierungsbehörden in einem Gesetzentwurf handeln, der nicht einmal einen Euro bereitstellt." Casus Kritik trifft einen wunden Punkt: die angebliche Kluft zwischen erklärten Ambitionen und zugewiesenen Ressourcen.

Senator Lorenzo Basso legt mit einem unbarmherzigen Vergleich nach: "Dies ist ein Gesetz, das bereits veraltet geboren wird und keine Ressourcen bereitstellt: Es werden nur neue Straftaten eingeführt, anstatt Anreize für Privatpersonen und die öffentliche Verwaltung zu schaffen. Während die Regierung Zeit verschwendete, haben andere gehandelt, um nur ein Beispiel zu nennen, in Großbritannien werden 22 Milliarden Euro investiert und in Frankreich 10 Milliarden."

Aber es ist das Netzwerk für digitale Menschenrechte, eine Koalition, zu der Amnesty International Italien und The Good Lobby gehören, das den systematischsten Angriff startet. Ihre Kritik gliedert sich in drei präzise Fronten: die Regierungsführung, die Regierungsbehörden anstatt unabhängigen anvertraut wird, das Fehlen des "Rechts auf Erklärung" für algorithmische Entscheidungen und vor allem die Regelungslücke bei der biometrischen Erkennung. "Das soeben verabschiedete italienische Gesetz über künstliche Intelligenz übergibt die Kontrolle über die KI direkt an die Regierung", beklagt Laura Ferrari vom Netzwerk. "Die für die Regulierung der künstlichen Intelligenz zuständigen Behörden sind der Regierung angegliedert. Es wurden keine Verteidigungsmechanismen gegen die Fehler von KI-Systemen vorgesehen."

Der umstrittenste Punkt betrifft die biometrische Überwachung. Das Netzwerk hatte ein Verbot der biometrischen Erkennung in öffentlichen Räumen vorgeschlagen, aber das Gesetz hat sich entschieden, das Thema überhaupt nicht zu regeln. Eine Entscheidung, die laut Kritikern "der Exekutive freie Hand lässt, ihr ehrgeiziges Projekt der biometrischen Überwachung in italienischen Stadien fortzusetzen, das sich auch auf andere Orte des öffentlichen Lebens wie Plätze, Bahnhöfe, Supermärkte, Kinos und Krankenhäuser erstrecken könnte."

Es ist das Gespenst des Großen Bruders, das über der Diskussion schwebt, angeheizt durch das Fehlen dessen, was eine unabhängige Behörde für KI sein sollte, ersetzt durch das als zu nah an der Exekutive geltende Tandem ACN-AgID.

Der europäische Vergleich: Klassenbester im KI-Gesetz

Die Verabschiedung des italienischen Gesetzes erfolgt jedoch zu einem entscheidenden Zeitpunkt für die europäische Regulierungslandschaft. Das KI-Gesetz der Europäischen Union, das im August 2024 in Kraft getreten ist, legt einen allgemeinen Rahmen fest, lässt den Mitgliedstaaten aber einen großen Spielraum für die Umsetzung auf nationaler Ebene. Italien hat sich entschieden, diesen regulatorischen Raum schnell zu füllen und sich als Maßstab für andere europäische Länder zu positionieren.

Die italienische Strategie zeichnet sich durch ihren ganzheitlichen Ansatz aus, der Aspekte der nationalen Sicherheit, der wirtschaftlichen Entwicklung und des Schutzes der Rechte in einem einzigen Regelwerk integriert. Während andere europäische Länder noch ihre nationalen Strategien definieren, kann Italien einen nicht zu vernachlässigenden Wettbewerbsvorteil bei der Anziehung internationaler Investitionen im KI-Sektor vorweisen.

Das zweigleisige Governance-Modell ACN-AgID stößt auch in anderen nationalen Kontexten auf Interesse. Frankreich erwägt beispielsweise eine ähnliche institutionelle Architektur, während Deutschland seine Wertschätzung für den von Italien gewählten sektoralen Ansatz zum Ausdruck gebracht hat.

Aber der wahre Härtetest wird die Umsetzung sein. Das Gesetz sieht eine jährliche Überwachung durch das Parlament über die Wirksamkeit der getroffenen Maßnahmen und die Entwicklung des Sektors vor. Es ist eine Revisionsklausel, die es ermöglichen wird, den Kurs im laufenden Betrieb anzupassen, ein grundlegender Aspekt in einem Bereich, in dem die Innovation mit exponentieller Geschwindigkeit voranschreitet.

Wie in den besten italienischen Traditionen haben wir ein gutes Gesetz geschrieben, verbesserungsfähig, aber gut. Jetzt bleibt abzuwarten, ob wir es mit derselben Weitsicht anwenden können, mit der wir es konzipiert haben. Die Zukunft der künstlichen Intelligenz in Europa könnte auch davon abhängen.