Italien will KI an die Kette legen – bis zu fünf Jahre Haft für falsche Videos und harte Regeln in Medizin und Job

KI verändert rasant den Alltag: Bewerbungen laufen über Algorithmen, Texte entstehen per Mausklick und täuschend echte Videos machen die Runde. Italien reagiert nun als erstes EU-Land mit einem eigenen Rechtsrahmen, wie Reuters berichtet. Das neue KI-Gesetz in Italien legt fest, wo Maschinen unterstützen dürfen – und wo Menschen das letzte Wort behalten müssen.

Die Entscheidung betrifft nicht nur Unternehmen und Behörden, sondern auch Arbeitnehmer, Patienten und Nutzer sozialer Medien. Denn das Gesetz reicht von der Arbeitswelt über das Gesundheitswesen bis hin zur Justiz. Es setzt Grenzen, fordert Transparenz und führt sogar neue Straftatbestände ein.

Warum Italien schneller war als die EU

Während in Brüssel das große europäische KI-Gesetz noch in der Umsetzung steckt, hat Rom gehandelt. Das Parlament stimmte in beiden Kammern zu. Die Regierung von Giorgia Meloni spricht von einem menschenzentrierten Ansatz. Innovation solle gefördert, zugleich aber Missbrauch verhindert werden.

„Allein der Mensch darf Entscheidungen treffen, die das Leben von Bürgern direkt betreffen“, heißt es in der Begründung laut der italienischen Ausgabe von Wired. Damit setzt Italien ein Signal: KI soll nützlich sein, aber nicht über Grundrechte bestimmen.

Arbeit: Firmen müssen offenlegen

Besonders deutlich greift das Gesetz in den Berufsalltag ein. Wenn Unternehmen Bewerbungen mit Hilfe von Algorithmen sortieren oder Mitarbeiterleistungen auswerten, gilt eine Informationspflicht. Arbeitnehmer müssen erfahren, welche Daten analysiert werden und wie die Systeme arbeiten.

Das Ziel: Entscheidungen sollen nachvollziehbar bleiben. Versteckte Bewertungen durch KI sind künftig unzulässig. Auch in freien Berufen, etwa beim Schreiben von Texten oder Gutachten, gilt eine klare Linie – Inhalte brauchen menschliche Kontrolle, und Leser müssen erfahren, wenn Maschinen beteiligt waren.

Gesundheit: Ärzte bleiben verantwortlich

Im Gesundheitswesen steckt das Gesetz strenge Grenzen ab. Ärzte dürfen sich von KI-Systemen beraten lassen, doch sie treffen weiterhin alle medizinischen Entscheidungen. Kein Algorithmus darf über die Vergabe von Behandlungen bestimmen.

Für Patienten bedeutet das Sicherheit vor digitaler Diskriminierung. Gleichzeitig schafft das Gesetz Regeln für die Forschung. Wissenschaftler dürfen KI einsetzen, wenn Ethikkommissionen zustimmen. Für Projekte ohne Gewinninteresse können auch personenbezogene Daten genutzt werden – unter Aufsicht der Datenschutzbehörden.

Justiz: Kein Platz für maschinelle Urteile

Richter sollen unabhängig bleiben. KI darf keine Urteile schreiben und keine Strafen festlegen. Erlaubt ist die Nutzung höchstens zur Analyse in Verwaltungsverfahren. Betroffene müssen jedoch informiert werden, wenn ein Algorithmus mitwirkt.

Damit will Italien verhindern, dass Maschinen Einfluss auf Grundrechte nehmen. Gerade in Gerichtsverfahren gilt die Verantwortung des Menschen als unverzichtbar.

Medien: Kampf gegen täuschende Deepfakes

Besonders sichtbar wird das Gesetz im Umgang mit manipulierten Inhalten. Deepfakes müssen klar gekennzeichnet sein. Wer Videos oder Bilder ohne Hinweis verbreitet, riskiert Haftstrafen von bis zu fünf Jahren.

Die Vorschriften gelten auch für soziale Netzwerke. Ziel ist es, Vertrauen in digitale Inhalte zu stärken und Bürger vor gezielten Täuschungen zu schützen. Für Minderjährige gilt ein besonderer Schutz: Ihre Daten dürfen ohne Zustimmung der Eltern nicht verarbeitet werden.

Kritik: „Ein Gesetz, das schon alt wirkt“

Die Opposition im Parlament hält die Reform für unzureichend. Der Abgeordnete Andrea Casu sprach von einer verpassten Chance: „Der Regierung fehlt die Vision, um Italien zu einem echten Vorreiter zu machen.“

Auch Senator Lorenzo Basso äußerte sich laut Wired skeptisch. Er nannte das Gesetz ein Gesetz, das schon bei seiner Einführung alt wirke. Seine Kritik richtet sich vor allem gegen fehlende Investitionen. Während Großbritannien Milliardenbeträge in KI steckt, bleibe Italien ohne neue Mittel zurück.

Experten warnen vor Überwachung

Nicht nur Politiker äußern Zweifel. Organisationen wie Amnesty International und Privacy Network sehen Risiken. Ihrer Ansicht nach liegt die Kontrolle über KI zu stark in den Händen der Regierung. „Nicht vorgesehen sind Schutzmechanismen gegen Fehler der Systeme“, warnt ein Zusammenschluss von Digitalrechtsgruppen.

Die Sorge: Das Gesetz könnte langfristig den Ausbau biometrischer Überwachung begünstigen. Damit entstehe die Gefahr, dass Technologie nicht nur Sicherheit erhöht, sondern auch zur Kontrolle des öffentlichen Lebens eingesetzt wird.

Kurz zusammengefasst:

• Italien regelt den Umgang mit KI nun durch ein Gesetz, das klare Vorgaben für Arbeit, Medizin, Justiz und Medien festschreibt.
• Ärzte und Richter behalten das letzte Wort, Unternehmen müssen KI-Einsatz offenlegen, und Deepfakes sind nur noch mit klarer Kennzeichnung erlaubt.
• Kritiker bemängeln fehlende Investitionen und warnen vor staatlicher Überwachung, die Regierung spricht von Transparenz und Schutz der Bürger.

Übrigens: Während Italien mit seinem neuen KI-Gesetz klare Grenzen für Maschinen zieht, sehen Forscher die Kultur selbst als stärkeren Motor der Evolution als Gene. Mehr dazu in unserem Artikel.

Bild: © Pexels