Gewissenhafte Weiterentwicklung der digitalen Vernetzung

Wie IoT und KI unsere vernetzte Gesellschaft prägen werden.

Die TREND-REPORT-Redaktion sprach mit Frau Prof. Dr.-Ing. Ina Schieferdecker, Leiterin des Fraunhofer-Institutes für Offene Kommunikati­onssysteme (FOKUS) und Gründungsdirektorin des Weizenbaum-Instituts, über Chancen, Risiken und Ethik im Kontext neuer Technologien und der digitalen Transformation.

Frau Prof. Schieferdecker, welchen Fragestellungen gehen Sie nach im Kontext des IoT?
Durch die zunehmende digitale Vernetzung in allen Lebens- und Arbeitsbereichen entstehen neue Anforderungen wie auch Gestaltungsoptionen für die Architektur der zugrunde liegenden Netze. Dies gilt insbesondere für die Anbindung an die physische Umwelt, die Aufbereitung und Bereitstellung von Daten, Informationen, Mehrwertdiensten und Applikationen und deren Absicherung. Bei Fraunhofer FOKUS, dem Fraunhofer-Institut für Offene Kommunikationssysteme in Berlin, stellen wir uns den Fragen, wie wir das Internet und die dazu nötigen Kommunikations- und Softwaretechnologien bestmöglich weiterentwickeln.

Dabei betrachten wir das IoT aus drei zentralen Perspektiven: der Neuentwicklungen in der industriellen Produktion (Industrie 4.0 basierend auf dem Industrial Internet – Industrial IoT), der Unterhaltungs- und Haushaltselektronik (des Web of Things – Consumer IoT) und der öffentlichen Infrastrukturen und der Verwaltung (der Dinge in öffentlicher Hand bzw. öffentlicher Gewährleistung – Public IoT). Am Weizenbaum-Institut für die vernetzte Gesellschaft, dem Deutschen Internet-Institut, stellen wir uns den Fragen, wer welche Verantwortung in diesem Kontext trägt und wie mit der Kritikalität softwarebasierter Systeme, die in IoT-Lösungen und KI-Lösungen genutzt werden, umzugehen ist. Hier sind zentrale Fragen rund um Ethik, Qualität und Güte, Haftung oder Regulierung offen.

Welche Chancen und Gefahren gehen für uns Bürger einher mit dem IoT?
Zuvorderst sehe ich als Technikerin die Chancen, die das IoT und weitere neue Informations- und Kommunikationstechnologien für die Digitalisierung mit sich bringen. Sie können zur Lösung zentraler Herausforderungen unserer Gesellschaft, wie der alternden Bevölkerung (durch Assisted Ambient Living), Ressourcenknappheit (durch Reduktion, Opti­mie­rungen wie auch Nachverfolgbarkeit), Mobilität (durch multimodale Ende-zu-Ende-Lösungen) oder des Energiewandels (durch Smart Grids und virtuelle Kraftwerke) beitragen.

Allerdings gilt es kritisch zu überprüfen, inwiefern diese Potenziale in der praktischen Umsetzung Bestand haben. Auch dürfen die mit der steigenden Diffusion von IoT (und anderen Technologien) verbundenen Risiken für die Umwelt und Gesellschaft nicht unterschätzt werden. Herausforderungen stellen sich beispielsweise in veränderten Mensch-Maschine-Interaktionen und -Prozessen und ergeben sich aus Fragen zur passfähigen und akzeptablen Technikgestaltung, zur Steuerung offener sozio-technischer Systeme und nicht zuletzt aus Fragen zum Schutz der Privatheit und der IT-Sicherheit.

Welchen Einfluss wird das IoT auf unser Verhalten nehmen?
Mit der Digitalisierung hält unsere Gesellschaft das bis dato mächtigste technische Instrumentarium in der Hand, das nicht nur unser Verhalten, sondern auch unsere Gesellschaftssysteme verändern wird. Hier sollte IoT nicht als solitär betrachtet, sondern in Kombination mit den anderen Technologien zu Daten, Automatisierung oder maschineller Intelligenz verstanden werden. Veränderungen sind bereits im Medien-, Konsum-, Sozial- oder Freizeitverhalten nachweisbar und werden sich auch in anderen Bereichen – wie für das Lernen oder die Gesundheitsvorsorge – weiter ausprägen.

Es ist wichtig zu verstehen, dass wir die Technik entwerfen, wandeln und steuern können. Vielmehr geht es also nicht um einen unkontrollierbaren Einfluss der Technik auf uns, sondern um den bewussten, gezielten und aktiven Technikwandel entlang unserer gesellschaftlichen Prinzipien. So steht das Weizenbaum-Institut unter dem Oberthema der individuellen und gesellschaftlichen Selbstbestimmung in der vernetzten Gesellschaft.

Wo befinden wir uns ungefähr im Entwicklungsprozess der „wirklichen“ KI?
Hierbei ist zuvorderst zu verstehen, dass es nicht „eine“ KI, sondern viele verschiedene Ansätze für die maschinelle Intelligenz gibt. Der aktuelle Hype entstand vor dem Hintergrund neuer Ansätze für das Machine Learning in Kombination mit der erforderlichen Computing Power und der Verfügbarkeit der benötigten Daten, die wiederum über IoT-Lösungen erschlossen werden. Andere Ansätze nutzen Regeln und logische Schlussfolgerungen. Die kommenden Entwicklungen suchen die Kombination dieser beiden Ansätze, um eine nächste Stufe der maschinellen Kognition zu erreichen.

Wenn Sie jedoch fragen, wie nah oder weit entfernt wir von einer allgemeinen maschinellen Intelligenz, die der menschlichen Intelligenz nahekommt, stehen, so denke ich eher über die Unterschiede zwischen maschineller und menschlicher Intelligenz nach und dass diese nicht nur besser zu verstehen, aber ebenso explizit zu gestalten sind. In diesem Zusammenhang geht es darum, genauer zu definieren, welchen Leitlinien wir folgen wollen und wie wir den Wertekanon in einem gesellschaftlichen Diskurs bestimmen können.

Wo und wann hört der Spaß auf und wie sollte das Risiko- und Chancenmanagement gestaltet werden?
Noch immer haben die Ingenieurinnen und Ingenieure – zumindest die große Mehrheit – in allen Disziplinen hochprofessionelle Berufsethiken entwickelt und setzen diese täglich um. Leider werden gegenwärtig in den Medien vor allem die Fälle gezeigt, bei denen diese Professionalität ignoriert wurde, sodass unzulängliche Prozesse oder schlichtes Fehlverhalten zu Systemausfällen oder -versagen führen. Demgegenüber steht aber ebenso eine schiere Masse an Lösungen, bei denen die Technik schon heute eine Vielzahl von Fragestellungen zuverlässiger, ausdauernder, umfassender, fairer wie auch schneller löst als der Mensch.

Dabei geht es mit jeder neuen Technologie schließlich auch darum, wie die Berufsethiken, die Entwicklungs-, Betreiber- und Absicherungsprozesse weiterzuentwickeln sind. Aktuell laufen dazu diverse Diskurse, die sich mit den Fragen rund um Ethik, Kritikalität, Qualifizierung, Zertifizierung wie auch Regulierung beschäftigen. Rein mit dem Hintergrundwissen rund um das Engineering resilienter, robuster, sicherer und vertrauenswürdiger Systeme bin ich zuversichtlich, dass wir auch für die kommende KI oder weitere IoT-Lösungen zeitnah die nötigen gesellschaftlichen, regulatorischen und technischen Ansätze entwickeln werden.

Digitalisierung ist ein mächtiges Instrumentarium. Sie kann gesellschaftliche Effekte verstärken oder abschwächen, sowohl im Positiven als auch im Negativen.

Können wir Maschinen Moral beibringen?
Maschinen werden vom Menschen programmiert, auch die sich „selbst programmierenden“ Maschinen sind auf einer Meta-Ebene vom Menschen programmiert. Das ist der Zugang, über den wir die Qualitätsanforderungen und Gütekriterien, inklusive der Operationalisierung von Ethik und Moral, gewährleisten können. Dabei kommt es neben Ansätzen wie beispielsweise Safety by Design oder eben Fairness by Design auf die Überprüfung an, dass die vereinbarten Kriterien algorithmisch umgesetzt, softwaretechnisch angemessen implementiert, datenmäßig wohl repräsentiert und betriebstechnisch zuverlässig betrieben werden.

Wird Ihrer Meinung nach die KI die Zweiklassengesellschaft weltweit fördern?
Als Technikerin möchte ich diese Frage dahin gehend beantworten, dass Digitalisierung als mächtiges Instrumentarium gesellschaftliche Effekte verstärken oder abschwächen kann, sowohl im Positiven als auch im Negativen. Hierbei kommt es auf die bewusste, verantwortungsvolle und aktive Technikgestaltung und ihre Einbettung in die Gesellschaft an. Hier stehen viele Herausforderungen an, die sehr gezielt zu lösen sind. Und wenn es uns dabei gelingt, eine öffentliche IT zu gestalten, die über offene Standards, Formate und Schnittstellen eine Teilhabe aller gewährleistet und gleichzeitig die Digital Commons befördert und absichert, kommen wir hoffentlich einer balancierten Weiterentwicklung unserer Gesellschaft näher.

Inwieweit kann heute KI für Nachhaltigkeit sorgen?
Wir erarbeiten gerade im WBGU, dem Wissenschaftlichen Beirat der Bundesregierung für Globale Umweltveränderungen, ein Hauptgutachten zu einer allgemeineren Frage: Wie kann die digitale Transformation für die Erreichung der Nachhaltigkeitsziele genutzt und gezielt zum Ansatz gebracht werden? Dieses Gutachten ist für die erste Hälfte 2019 geplant.

Hier definieren wir unter anderem alle „Sustainable Development Goals“ (SDGs) bezüglich der Potenziale, Risiken und des aktuellen Stands im Hinblick auf die digitale Transformation. Dabei ist KI eine Technologie, die uns helfen kann, mögliche Zusammenhänge wie auch Parameter besser und auch schneller zu erkennen. Beispielsweise kann das durch Digitalisierung (multimedial, Virtual Reality, Simulation) gestärkte Verständnis zu ökologischen, sozialen und ökonomischen Effekten helfen, die nötigen Transformationsprozesse für Nachhaltigkeit zu stützen.

Inwieweit braucht künstliche Intelligenz das IoT und umgekehrt?
Aus zweierlei Gründen: KI kann nicht ohne Daten Entscheidungshilfen bieten oder Entscheidungen fällen. Die Daten über die Umgebung und den realen Kontext liefert die Sensorik des IoT. Zudem wirkt KI über Entscheidungsangebote oder Entscheidungen, die über die Aktuatorik des IoT realisiert werden.

Wie kann sichergestellt werden, dass zukünftige KI nicht für den Angriff auf kritische Infrastrukturen genutzt werden kann?
„Absicherung, Absicherung, Absicherung“ lautet die Devise! Wir müssen uns gesellschaftlich der Bedeutung der Kritikalität von kritischen Infrastrukturen noch mehr bewusst werden und uns dieser stellen. Schon jetzt werden enorme Anstrengungen unternommen, kritische Infrastrukturen abzusichern. Mit der zunehmenden digitalen Vernetzung entstehen dabei nicht nur neue Möglichkeiten, sondern auch neue Risiken. Aufgrund der Flexibilität, Dynamik und Offenheit (selbst wenn sie beschränkt werden) müssen neue Methoden und Techniken, die die Wissenschaft und angewandte Forschung erarbeitet haben, möglichst weltweit abgestimmt werden und an den nötigen Stellen zum Einsatz kommen. Die dafür nötigen Ressourcen gilt es bereitzustellen.

Kann die Blockchain-Technolgie das Internet und die IT sicherer machen?
Es werden nun auch in Zukunft nicht überall Blockchains eingesetzt werden – und noch ist offen, welche Anwendungen in welchen Branchen passen und skalieren. Werden aber die Zielbestimmungen mehr und mehr realisiert, so kann die Blockchain-Technologie das Internet und die IT sicherer machen – aber bis dahin ist es noch ein langer Weg der angewandten Forschung und des Rollouts.

Weizenbaum Institut

Bildquelle / Lizenz: Jan Kopankiewicz