Die Kernaussagen der Online-Konferenz

Datenschätze heben: Europäische Datenräume & Gaia-X

• Wie kann ein europäischer Datenraum geschaffen werden? 
• Wir brauchen bedeutende Datensätze und offene Datenräume, um in diesem digitalen Zeitalter unabhängig und im Einklang mit den europäischen Werten zu handeln. Solche Räume müssen für zivilgesellschaftliche Akteur:innen offen sein und dürfen nicht auf kommerzielle und politische Interessen beschränkt sein. 
• Die Frage, welche Daten genutzt werden können, wurde - in Bezug auf personenbezogene Daten - durch die Allgemeine Datenschutzgrundverordnung (DSGVO) beantwortet. Der Mangel an praktischen Lizenzen und Standards für solche Daten schränkt jedoch das Potenzial digitaler Räume ein.
• Wir sind immer noch auf Hardware und Software von Nicht-EU-Unternehmen angewiesen. Wir müssen in Infrastruktur und Personal investieren, um die starke regulatorische Basis durch darauf aufbauende EU-Innovationen zu ergänzen. 
• Wirtschaftsvertreter:innen kritisieren, dass der Handlungsrahmen für Unternehmen in den USA viel weiter gefasst ist als in der EU. Die Regulierungsbehörden entgegnen, dass die Vorschriften absichtlich so gestaltet sind, dass sie die Unternehmen zu Geschäftsmodellen verpflichten und drängen, die mehr mit den Werten der EU übereinstimmen.

Gesetz über digitale Märkte: Neue Regeln für fairen Wettbewerb

• Diskussion über die Notwendigkeit des Gesetzes über digitale Märkte (DMA) und die darin enthaltenen Regelungen.
• Die Organisation und Beeinflussung von Märkten sind zwei der wesentlichen Funktionen von Plattformen. Bislang haben sie sich meist auf Selbstregulierung verlassen. Aufgrund ihrer schieren Größe sind diese privaten Akteur:innen in der Lage, große Teile des Internets zu kontrollieren und zu regulieren. Ihre Macht ist nicht nur wirtschaftlicher Natur, sondern auch realitätsbestimmend.
• Das Gesetz über digitale Märkte ist ein Instrument der Rechtsharmonisierung und basiert nicht auf einer Marktregulierung. Dies wird es jedoch schwieriger machen, den DMA in die EU-Verträge zu integrieren, da es über den Handel hinausgeht. Der derzeitige Entwurf überlässt es den Mitgliedstaaten, das Gesetz durchzusetzen.
• Die Diskussionen um den DMA sind so komplex, dass sie nur für Personen mit großem Fachwissen zugänglich sind. „Normale“ Bürger:innen können an diesem Beratungsprozess nicht teilnehmen. Das bedeutet, dass es in der Bevölkerung keine breite Unterstützung für eine strengere Regelung gibt. 
• Spannend sind die Diskussionen darüber, wie weitreichend die Regelungen sein sollen. Insbesondere die Plattformen selbst argumentieren, dass zu viele Grenzen die Innovation bremsen und zu höheren Beschränkungen im Vergleich zu anderen Marktsegmenten führen würden. Die Interoperabilität wird von den meisten Unternehmen auch als Sicherheitsrisiko angesehen, während viele Regulierungsbehörden die Bedeutung von Forschung und Marktwettbewerb betonen.
• Das Gesetz über digitale Märkte ist zusammen mit dem Gesetz über digitale Dienste (DSA) nur ein erster Schritt zur Wiedererlangung der staatlichen Regulierungsbefugnis im digitalen Bereich. Diese Gesetze dienen nicht nur der Regulierung von Plattformen, sondern auch der Durchsetzung grundlegender Werte und der Veränderung der Wahrnehmung in der Öffentlichkeit. 

Regulierung von Datentreuhändern

• Es gibt eine Vielzahl von Begriffen, die darauf abzielen, ein technologisches Konzept zu beschreiben, das eine vertrauenswürdige und sichere gemeinsame Nutzung von Daten durch verschiedene Stellen ermöglicht (Datentreuhand, Datentreuhanddienst, Data Stewardship). Der Vorschlag der Europäischen Kommission für einen Data Governance Act (DGA) etabliert nun den rechtlichen Begriff des "Datenvermittlers".
• Es gibt vielfältige Anwendungsfälle für den Dienst der Datentreuhänder - darunter die Nutzung durch den öffentlichen Sektor im Gesundheitswesen, die gemeinsame Nutzung privater und öffentlicher Stellen im Bereich der Mobilität in Smart Cities, kommerzielle Personal Information Management Systems (PIMS) und gemeinsame Datenräume durch Organisationen der Zivilgesellschaft.
• Das Ziel, gute Bedingungen für vertrauenswürdige Datenvermittler auf dem europäischen Markt zu schaffen, ist vielschichtig - viele der Herausforderungen können nicht durch einen Rechtsrahmen bewältigt werden, sondern müssen durch öffentliche Mittel, private Investitionen und Marktinnovationen vorangebracht werden.
• Der DGA bietet auch einen Rechtsrahmen für den Datenaltruismus und die Nutzung von Datenvermittlern für öffentliche Zwecke.
• Der Regulierungsansatz der DGA ist umstritten - einige befürchten eine Überregulierung durch das Erfordernis einer Ex-ante-Notifizierung und schlagen eher einen "Soft-Law"-Ansatz mit Zertifizierungsmechanismen vor, während andere erwarten, dass die Verordnung aufgrund ihres engen Anwendungsbereichs nur geringe Auswirkungen auf den Markt haben wird.
• Es ist noch unklar, wie sich die DGA mit anderen Rechtsakten wie dem Data Act, der DSGVO, dem Digital Services Act, dem Digital Markets Act usw. überschneiden und zusammenwirken wird.

Datenschutz und Datensouveränität

• Datenschutz ist innovationsfördernd; die Datenschutz-Grundverordnung hat die Kreativität gefördert, datengesteuerte Anwendungen weiterhin datenschutzkonform zu betreiben.
• Die Datenschutz-Grundverordnung ist ein Fundament von Grundsätzen; die Behörden haben die Aufgabe, sie umzusetzen und durchzusetzen.
• Zum Verhältnis zwischen den Begriffen Datenschutz und Souveränität: (Digitale) Souveränität wird oft als das Gegenteil von Datenschutz gesehen, was falsch ist. Es geht um den Schutz der Grundrechte, und der Datenschutz ist ein Teil davon. Technosolutionismus" muss kritisch betrachtet werden.
• Souveränität hat keine feste Definition, und jede:r versteht sie anders. Sie kann nur im Rahmen der bestehenden Datenschutzgesetze interpretiert werden. Souveränität setzt auch voraus, dass man mit der Technik sachkundig umgehen kann. Im Bereich des Datenschutzes besteht eine große Informationslücke zwischen dem, was geschieht, und dem, was die Menschen wissen.
• Wir brauchen starke zivile Akteur:innen, die das Wissen über den Datenschutz an die Öffentlichkeit bringen.

KI-Regulierung in Europa - ein kritischer Blick auf den Vorschlag

• Die Regulierung dynamischer Technologien bleibt schwierig; es gibt keine perfekten Lösungen, vielleicht nicht einmal sehr gute. Die EU-KI-Verordnung wurde überwiegend als Schritt in die richtige Richtung gesehen.
• Die Diskussionsteilnehmer:innen waren sich überwiegend einig, dass ein risikobasierter Ansatz das richtige rechtliche Regulierungsinstrument ist. Ob Transparenz, die Einbeziehung der Zivilgesellschaft oder eine institutionelle Zertifizierung das richtige Instrument sind, ist eine offene Frage. Der Umfang der Regulierungskompetenzen der EU war umstritten.

Internationale Perspektiven zur europäischen KI-Regulierung

• Die starke Marktmacht Europas sorgt dafür, dass das Ausland die europäische Technologieregulierung aufmerksam beobachtet und teilweise übernimmt.
• Die geplante KI-Regulierung gilt als technologieoffen und damit grundsätzlich zukunftsfähig, vielleicht sogar als global durchsetzbar.
• In der Diskussion bleibt umstritten, ob der KI-Entwurf ausreicht, um menschenbezogene KI tatsächlich zum Standard in Europa zu machen, und ob der Entwurf genügend Raum für Innovationen lässt.

Desinformation: eine Bedrohung für den öffentlichen Diskurs und die Meinungsfreiheit

• Desinformation ist ein Problem, weil sie glaubwürdig erscheint. Unterbezahlte Moderator:innen und Algorithmen können der Desinformation nicht ausreichend entgegenwirken.
• Das Geschäftsmodell von Online-Plattformen muss sich ändern. Polarisierende Inhalte erzeugen mehr Aufmerksamkeit, was wiederum mehr Zeit auf der Plattform bedeutet. Das ist eine Gefahr für die Demokratie.
• Die Facebook-Leaks bestätigen, was schon vorher spekuliert wurde.
• Das Gesetz über digitale Dienste allein kann Desinformation in Europa nicht regulieren. Das Problem ist zu groß; die Menschen müssen widerstandsfähig gegen Desinformation gemacht werden.
• Technologieunternehmen versuchen oft, die Regulierungsbehörden in Komplexitätsfallen zu locken. Plattformen müssen sich an den Werten der Gesellschaft orientieren.
• Die internationale Zusammenarbeit im Kampf gegen Desinformation ist wichtig, aber sie braucht viel Zeit. Die Rolle der Organisationen der Zivilgesellschaft muss gestärkt werden, ebenso wie die Medienerziehung der Gesellschaft.

Funktionierende Datenschutzaufsicht - Lehren für die Zukunft

• Wie gut funktioniert die Datenschutz-Grundverordnung aus Sicht der Durchsetzung?
• Die Durchsetzung ist bei den nationalen Datenschutzbeauftragten zwar unterschiedlich, aber es gibt ein gemeinsames Muster von zu wenig qualifiziertem Personal und zu wenig Fachwissen bei der Untersuchung von Vorfällen in der gesamten EU. Die meisten nationalen Behörden haben einen großen Rückstand an Fällen, und viele Unternehmen hoffen einfach, unter dem Radar zu bleiben. Die Behörden führen kaum unangekündigte Datenschutzaudits durch, so dass es aus wirtschaftlicher Sicht kaum Anreize gibt, die Vorschriften einzuhalten.
• Die Öffentlichkeit muss ein stärkeres Bewusstsein für den Datenschutz entwickeln. Ein allgemeiner Kulturwandel würde die Unternehmen dazu motivieren, die Datenschutz-Grundverordnung von sich aus einzuhalten. 
• Das Hauptproblem sind die verfahrenstechnischen Hindernisse bei der Umsetzung der Datenschutzgrundverordnung. Wir brauchen bessere und schnellere Instrumente. Die Verordnung selbst ist derzeit ein weltweiter Goldstandard.
• Einige empfehlen, die Durchsetzung auf die EU-Ebene zu verlagern, in der Hoffnung, damit insbesondere chinesische und US-amerikanische Unternehmen härter anfassen zu können. Andere argumentieren, dass dies das Verfahren für Einzelpersonen noch komplizierter machen würde und der Überlastung der Fälle nicht abhelfen würde.
• Es gibt noch viele offene Fragen zur Einhaltung der Datenschutz-Grundverordnung. Verbraucher:innen und Unternehmen brauchen Gewissheit über die Auslegung der Artikel.
• Der Auftrag an die Behörden, die Betroffenen zum Datenschutzrecht zu beraten und zusätzlich die Einhaltung der Vorschriften zu überwachen, kann aufgrund fehlender Ressourcen derzeit nicht erfüllt werden. Die Datenschutz-Grundverordnung ist nicht das letzte Kapitel des EU-Datenschutzrechts. Es handelt sich um ein sich ständig weiterentwickelndes System, das nach Verbesserungen strebt. Eines der jüngsten Beispiele (für eine sektorale Angleichung an die DSGVO) ist der AI Act. 

Nachhaltigkeit und globale Gerechtigkeit der Digitalisierung

• Die Digitalisierung ermöglicht viele nachhaltige Anwendungen. Digitalpolitik und Klimaschutz müssen stärker verzahnt werden. Bislang geschieht dies nur im Diskurs, nicht auf der Arbeitsebene. Die Gesellschaft muss transparent einbezogen werden, um das Verständnis für beides zu stärken.
• KI ist weder gut noch schlecht für das Klima, sondern nur ein Werkzeug, eine Gruppe von Methoden, die wir in verschiedenen Bereichen einsetzen und die Auswirkungen auf das Klima haben können: KI kann den Klimaschutz voranbringen, aber auch zu mehr Emissionen und Ressourcenverbrauch sowie zu einem erhöhten Energieverbrauch führen.
• KI-Maßnahmen: Es gibt viele Ideen, aber viele davon sind eher akademisch/theoretisch und werden in der Praxis noch nicht angewendet. Was wir brauchen, ist eine verbindliche Messung der Klimaauswirkungen von KI.
• Die Einstufung von Hochrisikoanwendungen, die mit dem EU-KI-Gesetz eingeführt wird, sollte auch die Risiken für die Umwelt einschließen.
• Ohne Gerechtigkeit gibt es keinen Umweltschutz, und ohne Umweltschutz gibt es keine soziale Gerechtigkeit. Nur ein paar Tonnen CO2 einzusparen, hilft nicht weiter. Die Digitalisierung muss für das Gemeinwohl eingesetzt werden, um einen grundlegenderen Wandel zu bewirken.

Macht, Gerechtigkeit und Teilhabe in der digitalen Ära neu denken

• Diskussion über die notwendigen Mittel, um den digitalen Raum inklusiver und gerechter für alle Teilnehmer zu gestalten.
• Grundlegende Menschenrechte und demokratische Werte müssen in der Technologie umgesetzt werden, um ein faires digitales Zeitalter zu schaffen. Da private Unternehmen immer eine gewinnorientierte Perspektive haben werden, können sie nicht unreguliert bleiben, und es müssen Alternativen im öffentlichen Sektor angeboten werden. Die Bürger:innen müssen in die Lage versetzt werden, ihren eigenen Weg zu wählen.
• Der öffentliche Sektor ist immer noch nicht sehr stark in die Digitalisierung seines Landes eingebunden. Lösungen in diesem Bereich werden normalerweise durch den Kauf von Wissen oder Software aus dem Ausland geschaffen. Um die Abhängigkeiten aufzulösen, muss der Sektor jedoch eigene Lösungen und Ansätze entwickeln.
• Da die Digitalisierung alle Lebensbereiche betrifft, müssen regulative Denkstrukturen aufgebrochen und neu aufgebaut werden. Keine einzelne Abteilung ist in der Lage, den digitalen Raum zu regulieren.