KI und Demokratisierung

Bernd Rodler, Vorsitzender des Verwaltungsrats der VNC AG in Zug im Hintergrundgespräch mit der TREND-REPORT-Redaktion.

Herr Rodler, wie kann Open Source den Weg zu einer besseren, nachhaltigeren und demokratischeren KI ebnen?

KI steckt noch in den Kinderschuhen. Diese Tatsache spielt eine wichtige Rolle, wenn wir über die Tragweite von KI sprechen, denn wir experimentieren noch sehr viel herum, um deren Grenzen und Potenziale auszuloten. Jeder will das Beste aus der Software herausholen, dabei passieren aber auch Fehler, die heute schon eine durchaus gesellschaftliche Dimension haben – zum Beispiel dann, wenn KI unfair über Einstellungskriterien oder Kreditvergaben entscheidet. Andererseits kann KI auch missbraucht werden, etwa bei Deepfakes oder der automatischen Gesichtserkennung einer ganzen Bevölkerung, wie es zum Beispiel in China passiert.

Der Ruf nach dem Staat, KI zu regulieren, greift möglicherweise zu weit. Aber genau das ist der Inhalt des Gesetzesvorschlags, den der US-Senat bereits 2017 vorgestellt hat. Vier Jahre später hat sich dann auch die EU mit Chancen und Risiken von KI befasst und die EU-Kommission hat im Frühjahr 2021 ebenfalls einen Gesetzesentwurf zur KI-Regulierung vorgestellt. Bestimmte Anwendungen werden darin verboten, riskante Anwendungen sollen genehmigungspflichtig sein.

Das ist gut und schön. Was wir am Ende des Tages aber brauchen, ist eine KI-Software, die für alle, nicht nur für staatliche Stellen transparent sein muss: die Tragweite von KI ist einfach zu brisant als dass wir uns ausschließlich auf eine behördliche Überprüfung im Verborgenen verlassen können. Open Source ist deshalb eine wichtige Voraussetzung, denn damit kann jeder beliebige Bürger eine Anwendung und deren Prozesse jederzeit begutachten; auf dieser Basis entsteht dann, je nach Notwendigkeit, ein öffentlicher Diskurs darüber. Was ist demokratischer als diesen Weg zu gehen?

Wie kann das nötige Vertrauen in maschinengesteuerte, automatisierte Anwendungen aufgebaut werden und wie kann sichergestellt werden, dass ethische Kriterien zum Einsatz kommen?

Zunächst einmal müssen wir davon ausgehen, dass Unternehmen, die KI-Anwendungen entwickeln, das Thema Ethik nicht unbedingt in den Vordergrund stellen – sei es, weil sie Ethik nicht auf dem Radar haben oder weil ethische Aspekte im Einsatz sogar einschränkend sein könnten. Zweitens herrscht auch hier ein weltweiter Wettbewerb: Wer das meiste aus einer Anwendung herausholt, gewinnt – und da ist Ethik meist nur hinderlich.

Können wir also auf die Selbstverpflichtung von Unternehmen, Industrien und sogar Staaten vertrauen? Natürlich nicht.

Können wir auf eine regulierende Gesetzgebung vertrauen, die das Thema Ethik berücksichtigt? Vielleicht. Die EU war hier schon aktiv und hat ethische Richtlinien für vertrauenswürdige KI von einer unabhängigen Expertengruppe entwerfen lassen. Aber was sind EU-weite Richtlinien oder Gesetze in internationalen Märkten wert, in denen damit zu rechnen ist, dass auch Staaten ihre eigene, vielleicht unethische Agenda verfolgen?

Eine selbstregulatorische Dynamik kann nur dann entstehen, wenn Anwendungen jederzeit von beliebigen Personen oder Institutionen eingesehen und geprüft werden können. Sie ist nur auf der Basis von Open Source möglich.

Inwieweit kann Open-Source-Software dazu beitragen, den Digital Divide (die digitale Kluft zwischen Digitalkonzernen und dem Rest der Welt) zu verringern?

Das ist in erster Linie eine ordnungspolitische Frage, keine technisches Problem. Es gibt Digitalkonzerne, die wie Microsoft auf Closed Source setzen; andere sind mit Open Source groß geworden, Beispiel Google. Es kommt darauf an, dieser Marktmacht etwas entgegenzusetzen. Und dabei kann Open Source helfen.

Spannend könnten deshalb Initiativen wie Gaia-X sein, die einen Gegenpol zu den Digitalgiganten setzen können und Nutzern ein Stück ihrer digitalen Souveränität wiedergeben. Ohne den Einsatz von Open Source sind sie kaum realistisch umsetzbar. Damit wären auch für solche Projekte die beschriebenen Prüf- und Regulationsoptionen gegeben, die durch den Einsatz von Open Source möglich sind. Und das könnte tatsächlich dazu führen, die digitale Kluft zu verringern.

Aufmacherbild / Quelle / Lizenz
Photo by Tingey Injury Law Firm on Unsplash