Home | english  | Impressum | Datenschutz | Sitemap | KIT

Schlaue Gedanken zu smarter Technik

Schlaue Gedanken zu smarter Technik
Autor: A. Bauer, A. Bogner, L. Capari, D. Fuchs, N. Gudowsky, K. Kastenhofer, M. Ornetzeder, W. Peissl, T. Sinozic Link:
Quelle: Nr. 2, 25. Jahrgang, S. 91-95
Datum: August 2016
Tagungsberichte

Schlaue Gedanken zu smarter Technik

Konferenzbericht von der TA16

Wien, Österreich, 30. Mai 2016

von A. Bauer, A. Bogner, L. Capari, D. Fuchs, N. Gudowsky, K. Kastenhofer, M. Ornetzeder, W. Peissl und T. Sinozic, Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ITA), Wien

Die diesjährige TA16 stand unter dem Motto „Smart New World – Was ist smart an smarten Technologien?“ Das Thema hat sichtlich viele KollegInnen angesprochen, mit über 120 TeilnehmerInnen war die TA16 eine der bestbesuchten jährlichen Konferenzen des ITA der letzten 16 Jahre. Dies zeichnete sich bereits im Vorfeld durch viele interessante Einreichungen ab. Die ausgewählten Beiträge deckten in neun Sessions die Frage der zunehmenden Digitalisierung aller Lebensbereiche in großer thematischer Breite ab.

1     Die digitale Gesellschaft und die ethische Maschine

In seinem Eröffnungsvortrag ging Dirk Helbing (ETH Zürich) der Frage nach, wie eine krisenfeste digitale Gesellschaft aussehen könnte. Zunächst setzte er sich kritisch mit „Big Nudging“ auseinander. Darunter versteht Helbing die Verbindung von Big Data und Nudging. Bereits heute würden große Mengen an Daten über das Verhalten von Menschen gesammelt, mit dem Ziel, ihre Aufmerksamkeit, ihr Verhalten und ihre Meinungen unbemerkt zu beeinflussen (Nudging). In weiterer Folge kann es über das subtile Beeinflussen des Verhaltens hinausgehen und zu Strafen für unerwünschtes Verhalten führen. In China habe etwa die Regierung bereits begonnen, das Verhalten der BürgerInnen auf diese Weise zu bewerten. In weiterer Folge sollten diese Bewertungen als Entscheidungsgrundlage bei der Zuteilung von Jobs, bei Kreditvergaben oder bei der Genehmigung von Ausreisebewilligungen dienen. Hier bestehe die Gefahr einer „Fernsteuerung“ der Menschen, die äußerst kritisch zu sehen sei. Letztlich seien damit zentrale Errungenschaften der Menschheit wie Menschenwürde, Gerechtigkeit, Pluralismus oder Demokratie in Gefahr.

Diesem pessimistischen Bild einer digitalen Gesellschaft setzte Helbing anschließend die Vision einer Gesellschaft entgegen, in der die Digitalisierung gezielt zur Bewältigung der großen Herausforderungen (Mangel an Nachhaltigkeit, Krisen und Kriege, Überbevölkerung, begrenzte natürliche Ressourcen) genutzt werde. Ziel sei eine resiliente Gesellschaft, die auch in Krisenzeiten Freiheit und Selbstbestimmung zu garantieren vermag. Dazu müsse sowohl die Demokratie als auch der Kapitalismus weiterentwickelt werden. Um das Überleben des Planeten zu sichern, brauche es eine pluralistische Gesellschaft mit dezentralen Systemen, die ein hohes Ausmaß an persönlicher Autonomie garantiere. Die digitale Vernetzung biete die Voraussetzung dafür, dass Daten dezentral gesammelt und darauf aufbauendes Wissen kollektiv zum Wohle der Gesellschaft genutzt werden könne.

Im zweiten Eröffnungsvortrag präsentierte Sarah Spiekermann (Wirtschaftsuniversität Wien) „die ethische Maschine“, einen Ansatz, bei dem die klassischen Innovationsprozesse aus Informatik und betrieblichem Management um ethische Entscheidungsprozesse ergänzt werden. Es sei nämlich nicht zu erwarten, dass breit akzeptierte gesellschaftliche Werte durch Technik gefördert würden, wenn der primäre Sinn und Zweck etwa von IT-Investitionen heute nahezu ausschließlich in Effizienz- und Gewinnsteigerungen bestehe. Vielmehr gefährde Technik, die unter solchen Bedingungen entsteht, die persönliche Freiheit, Privatsphäre oder sogar die menschliche Gesundheit. Wichtig bei der Entwicklung von neuer Software sei daher, dass ethische Fragen bereits frühzeitig berücksichtigt werden. Neben den Zielen und der Haltung von Investoren sei entscheidend, dass gesellschaftliche Werte auch einen direkten Einfluss auf das Design und die Programmierung hätten. In diesem Zusammenhang stellte Spiekermann eine konkrete Methode vor: die konzeptionelle Wertanalyse. Mit dieser Methode sei es nicht nur möglich, allgemeine Werte für bestimmte Programmieraufgaben zu konkretisieren, sondern auch unterstützende und hinderliche Faktoren frühzeitig in der Planung von Softwareprojekten zu identifizieren. Auf Grundlage derartiger Analysen sei es beispielsweise möglich, neue Entwicklungsziele und Anforderungen zu definieren. Insgesamt seien solche Strategien von großer Bedeutung, weil sie eine stärker an ethischen Zielen orientierte Gestaltung von Technik ermöglichen.

In der ersten Parallelsession wurden weitere theoretische Überlegungen zur „Digitalen Gesellschaft“ vorgestellt und diskutiert. Hier kreisten die Ideen v. a. um Self-Tracking-Devices, Big Data, autonome Entscheidungen von Maschinen und nicht zuletzt um Überlegungen zum doppeldeutigen Begriff der Transparenz.

Stefan Selke (Hochschule Furtwangen University) stellte eine mögliche positive Diskriminierung in den Mittelpunkt seines Vortrags. Er diskutierte, ob gesammelte Daten auch als gemeinwohlsteigernde Instrumente fungieren könnten, z. B. in Form von Preisstaffelung entsprechend der jeweiligen ökonomischen Situation. Michael Decker vom Karlsruher Institut für Technologie (KIT) nahm sich möglicher Implikationen autonomer Entscheidungen von Maschinen für das (menschliche) Gegenüber an und verdeutlichte dies u. a. am Beispiel der Krankenpflege. Hier wurde v. a. die Frage nach der Notwendigkeit einer Spezifizierung des Autonomiebegriffs im technischen Zusammenhang diskutiert. Reinhard Heil vom Institut für Technikfolgenabschätzung und Systemanalyse (KIT-ITAS) regte in seinem Vortrag zu einer kritischen Auseinandersetzung mit der allgegenwärtigen Forderung nach umfassender Transparenz an. Während Vertrauen immer mehr durch Kontrolle ersetzt werde, plädierte er für den Erhalt eines geschützten (= nicht-transparenten) Raumes, welcher für ein Funktionieren gesellschaftlicher und politischer Prozesse notwendig scheine. Bewertungskriterien für Transparenz erscheinen daher unerlässlich, da sie als reiner Selbstzweck kritisch zu betrachten sei.

2     Das drohende Primat der Maschine und die Frage der Governance

Je enger die Digitalisierung an die konkrete Lebenswelt der Menschen heranrückt, umso wichtiger werden Fragen der Ausgestaltung von Mensch-Maschine-Schnittstellen. In dieser Session wurde deutlich, dass die zunehmende Mensch-Maschinen-Interaktion v. a. die Gefahr berge, die Maschine vor den Menschen zu stellen. Die zentrale Herausforderung für künftige Entwicklungen bliebe somit, den Menschen in den Mittelpunkt zu rücken und seine Kontrolle und Autonomie zu sichern. Anknüpfend an die beiden Keynotes widmeten sich Frank Heidmann (mit Anouk Meissner) von der Fachhochschule Potsdam „smarten“ Mensch-Technik-Schnittstellen. Entwicklungen in den Bereichen Smart Home, Smart City und Self-Tracking verdeutlichen, wie Mensch-Technik-Schnittstellen kontinuierlich erweitert und die „usability“ gesteigert werde. Jedoch verstärkten sich auch klassische Probleme wie Einengung von Autonomie und Privatsphäre. Um einer zu technikzentrierten Orientierung von DesignerInnen entgegenzuwirken, plädierte Heidmann für ein Human Centred Design, in dem humanistische Paradigmen, interdisziplinäre Zusammenarbeit und die Einbeziehung von NutzerInnen die Technikentwicklung bestimmen. Sebastian Sünkler (Hochschule für Angewandte Wissenschaften, Hamburg) untersuchte Sprachsteuerung und Personal Assistants auf Smartphones. NutzerInnenstudien zeigten, dass die Systeme v. a. im privaten Umfeld, weniger jedoch im öffentlichen Raum genutzt würden und dass die Zufriedenheit sehr hoch sei. Sprachsteuerung und Personal Assistants böten bessere Zugänglichkeit, schnellere Suchergebnisse, vereinfachte Dateneingabe, interaktives Nutzungserlebnis und Personalisierung. Dieser gesteigerten Nützlichkeit stünden jedoch Risiken im Bereich Datenschutz und NutzerInnenautonomie gegenüber. Eher generisch fragte Stefan Strauß (ITA, Wien), ob ein neuer Datenpragmatismus der Wegbereiter für Künstliche Intelligenz (KI) sei. Big Data begünstige die Entwicklung von KI, jedoch anders als in den ursprünglichen Visionen angedacht. So beruhten KI-Systeme auf der Verarbeitung großer Datenmengen, Wahrscheinlichkeitsrechnungen und dem Prinzip des „trial and error“. Ein echtes Lernen, ein Zeichen für Intelligenz, finde jedoch nicht statt. Problematisch seien die Rational Choice-Logik und pragmatischen Denkmodelle in KI-Systemen. Die Fähigkeit „smarter“ Systeme, menschliches Verhalten zu imitieren, werfe zudem neue Fragen der Verantwortlichkeit auf.

Wird der digitale Nomade autonome Fahrzeuge nutzen oder eigene Wettermessstationen betreiben? Wie wirkt sich eine „intelligente“ Lebenswelt auf die Autonomie aus? Die Digitalisierung der Städte, deren BewohnerInnen und von Fahrzeugen wirft komplexe Fragen auf. Die Beiträge in der sehr vielschichtig angelegten Session zeigten aber, dass Technikfolgenabschätzung antizipierend eingreifen kann. Michael Nentwich und Jaro Krieger-Lamina (ITA, Wien) untersuchten mögliche Implikationen autonomer Fahrzeuge für die Gesellschaft. Inwiefern das Versprechen der Senkung der Unfallraten um bis zu 90 Prozent haltbar sei, müsse erst noch geprüft werden. Die TA lenke die Aufmerksamkeit zudem auf einen bisher vernachlässigten Aspekt: Der steigende Autonomiegewinn bei Fahrzeugen führe zu einem Autonomieverlust beim Menschen. Weshalb sie für einen breiten gesellschaftlichen und politischen Diskurs darüber plädierten. Dieser Diskurs beinhaltet auch die Frage nach dem zugrundeliegenden Menschenbild. Welche Konstruktionen von Menschenbildern lassen sich in Smart City-Narrativen erkennen? Claus Seibt (Wuppertal Institut für Klima, Umwelt und Energie) identifizierte drei Menschentypen in den untersuchten Narrativen zu „smarten Städten“: Die digitalen NomadInnen als Pioniere des Wandels, die vernetzten BürgerInnen als Internet-LiteratInnen und die konsensualen InteressensvertreterInnen als normativ anpassungsfähige BewohnerInnen. Seibt rief die TA-Community auf, Smart City-Narrative als neues Forschungsfeld zu sehen. Zu fragen bliebe in diesem Zusammenhang, welche Rolle die BewohnerInnen der smarten Städte spielen sollten. Eine ins Auge gefasste Anwendung könnte das sog. „participatory sensing“ sein. Dabei nutzen die BürgerInnen die Sensoren ihrer Smartphones, um ein umfangreiches Messnetzwerk aufzubauen. Die Messdaten ließen sich zur Wetterbestimmung, Frühwarnung vor Überflutungen oder Blitzeiswarnung nutzen. Das setze aber eine hohe Sensordichte und Validität der Daten voraus, um Missbrauch vorzubeugen. Karsten Weber von der Ostbayerischen Technischen Hochschule (OTH) in Regensburg kam in seinem Vortrag zum Schluss, dass die Sensordichte noch zu gering sei und daher derzeit noch kein unmittelbarer Regelungsbedarf bestehe.

Neue Technologien beinhalten auch immer die Frage nach Regulierung und Förderung. Wie also mit den zu erwartenden Effekten der Digitalisierung umgehen? Florian Saurwein (Institut für vergleichende Medien- und Kommunikationsforschung (CMC) der Österreichischen Akademie der Wissenschaften und der Alpen-Adria-Universität Klagenfurt) zeigte zunächst die Risiken der algorithmischen Selektion auf, die nicht nur im Datenschutz lägen, sondern auch Manipulation, Marktmachtmissbrauch und potenzielle Diskriminierung betreffen. Diese Risiken würden derzeit durch verschiedene Governance-Ansätze (Marktregulierung, Ko-Regulierung, staatliche Regulierung) in recht unterschiedlicher Weise adressiert, wobei einige Risiken, wie Verselbstständigung, derzeit noch kaum berücksichtigt würden. Es gäbe keine allgemeine Strategie für den Umgang mit den sehr verschiedenen Risiken; Verantwortlichkeit müsse verteilt und Lösungen angepasst werden. Ingrid Schneider (Universität Hamburg) plädierte im Hinblick auf internetbasierte Dienstleistungen für stärkere staatliche Regulierung, v. a. auf EU-Ebene. Es bestehe ein klares Ungleichgewicht zwischen Anbietern und KonsumentInnen, da letztere meist keine Wahl hätten, wenn sie den jeweiligen Dienst in Anspruch nehmen wollten. Damit allerdings stehe die Legitimation der zugrunde liegenden Verträge in Frage. Ähnlich argumentierte Carsten Orwat (KIT-ITAS): Verträge erforderten freiwillige Zustimmung, um legitim zu sein. Allerdings müssten dazu die EndnutzerInnen bzw. KonsumentInnen Kenntnisse über zugrundeliegende Vertragsinhalte sowie deren Auswirkungen haben, und sie müssten Möglichkeiten haben, Vertragsbedingungen zu verhandeln und zu gestalten. Das ist aber oft nicht der Fall. Insbesondere wenn im Rahmen solcher Verträge Verfügungsrechte über Daten an Betreiber abgegeben werden, bleibe die Tragweite für die NutzerInnen oft unerkannt. Wie Verträge verbessert werden könnten, sei derzeit noch unklar. Denkbar wären die Freigabe des Quellcodes, staatlich kontrollierte Anreize oder (extern überprüfbare) Vorschriften, die Verbraucherinformation sicherstellen.

3     Die unterschiedlichen Anwendungsfelder: Industrie 4.0

Gleich zwei Sessions der Konferenz beschäftigten sich mit dem Konzept von Industrie 4.0. Dabei kamen unterschiedliche Perspektiven zum Tragen. Einerseits die gesamtstaatliche, die Georg Aichholzer (ITA, Wien), Matthias Weber, Susanne Giesecke und Bernhard Dachs (Austrian Institute of Technology, Wien) in ihrem Bericht über ein Projekt für das Österreichische Parlament vorstellten. Dabei wurde deutlich, dass insbesondere die Frage der Auswirkungen auf die Beschäftigung von politischem Interesse sei und Wege zur Bewältigung, wie neue Anforderungen an Ausbildung und Qualifikation, diskutiert wurden. Konkrete Erfahrungen mit potenziell betroffenen MitarbeiterInnen machten Alfons Bora und Ulf Ortmann (Universität Bielefeld) in ihrer partizipativen Technikfolgenabschätzung in Betrieben zu Industrie 4.0. Beteiligte waren hier Elektro- und MaschinenbauingenieurInnen, SoftwareentwicklerInnen, FertigungsplanerInnen und VertriebsmitarbeiterInnen. Die Studie zeigte, dass die Wahrnehmungen und Erwartungen der Beteiligten deutlich von den Umsetzungsplänen der Unternehmen abwichen. Die unternehmerische Perspektive brachte dann Björn Sautter (Festo, Esslingen) ein, der durch verstärkte Mensch-Maschine-Interaktion, kollaborative Fabrikarbeit mit intelligenten Assistenzsystemen die Komplexität in den Systemen ansteigen sieht. In seiner Darstellung fürchten sich die MitarbeiterInnen nicht, von Maschinen ersetzt zu werden, sondern freuen sich darauf, mit ihnen zu arbeiten. Die erhöhte Komplexität nahm Herbert Saurugg zum Anlass, über die Risiken erhöhter Vernetzungsgrade in Industrie 4.0, am Beispiel eines Strom- und Infrastrukturausfalls („Blackout“), zu berichten. Aus einer theoretischen Metaperspektive referierte schließlich Linda Nierling (KIT-ITAS) zu Visionen einer „smarten Arbeitswelt“. Eines der angestrebten Ziele war es, das Potenzial für die Gestaltung der Beziehungen zwischen Arbeit und technischem Wandel im Rahmen des „smarten“ Paradigma zu erforschen, insbesondere in Bezug auf Flexibilisierung, Entgrenzung und Rationalisierung. In der anschließenden Diskussion wurde vorrangig die Frage der IT-Sicherheit hervorgehoben und diskutiert, in welche IT-Bereiche besonders einfach einzudringen sei. Die Verwundbarkeit von Systemen habe zugenommen, und Europa habe nicht jene Backup-Lösungen, die beispielsweise die USA hätten.

4     Sicherheit, Gesundheit und Alter

Besonders heftig diskutiert wurde in der Session zu Smarter Sicherheit. Thilo Hagendorff (Universität Tübingen) thematisierte den informationellen Kontrollverlust, der durch die Verwendung smarter Technologien entstehe. Seiner These nach funktioniere IT-Sicherheit eher lückenhaft, weshalb er eine Methode zum Resilienzaufbau vorschlug, die den Kontrollverlust erwartet und totale Überwachung antizipiert. Der „empowering exhibitionism“ (Koskela) würde im Sinne der Post-Privacy-Debatte gesellschaftliche Toleranzniveaus verändern und negative Auswirkungen großer Offenheit hintanhalten. Privatheit, so Hagendorff, sei nur in radikal analogen Räumen möglich. Dieser Standpunkt rief regen Widerspruch hervor und führte zu lebhaften Diskussionen unter den TeilnehmerInnen. Dies umso mehr, als im Vortrag von Thomas Länger (Université de Lausanne) und Henrich C. Pöhls (Universität Passau) gezeigt wurde, wie mit Hilfe von Kryptographie die Sicherheit bei Cloud-Anwendungen erhöht werden kann. Einen nicht unwesentlichen Aspekt der Sicherheitsdebatte deckten Andreas Baur-Ahrens und Marco Krüger (Universität Tübingen) auf, die smarte Sicherheitskonzepte und -einrichtungen auf Flughäfen untersuchten. Die Untersuchung zeigte deutlich, dass die Erhöhung der Sicherheit rhetorisch im Vordergrund stand, dahinter das ökonomische Kalkül (Kostensenkungen) aber dominierte. Insgesamt kamen die beiden Vortragenden zu dem Schluss, dass Investitionen in „Smarte Sicherheit“ auf Flughäfen die Sicherheit nicht verbessern, jedoch die Gewinne der Betreiber und auch die sozialen Kosten für die NutzerInnen steigen lassen.

Eine sehr lebhafte Diskussion ergab sich auch in der Session zu Smarter Gesundheit. Nach Vorträgen von Nadine Kleine und Karsten Weber (OTH, Regensburg) über „wearables“ – also smarte Armbänder, Brillen oder Kleidungsstücke – und von Dennis Kirschsieper (Universität Duisburg-Essen) und Melike Şahinol (Orient-Institut Istanbul) zu unterschiedlichen Kulturen der Privatheit in Deutschland und der Türkei wurde als künstlerischer Zugang zum Thema der Kurzfilm „Wertfreiheit“ von Esper Postma gezeigt. Dieser rückte UnternehmensberaterInnen als wirkmächtige Akteursgruppe in den Mittelpunkt. Der niederländische Künstler hatte ehemalige BeraterInnen großer Unternehmen eingeladen, gemeinsam neue Strategien für ein vorsorgendes betriebliches Gesundheitsmanagement zu erstellen. Der Film verdeutlichte die immanente Orientierung an Effizienz und Kostenkalkül, wie auch das fehlende medizinische Fachwissen und gesellschaftspolitische Desinteresse der ProtagonistInnen. In der anschließenden Diskussion wurde die Betroffenheit deutlich, die dieses Filmexperiment beim Publikum auslöste, wie auch eine gewisse Ratlosigkeit, wie diese Intervention von Seiten der TA aufgegriffen werden könnte.

Von Smarter Gesundheit ist es nicht weit zum „Smarten Altern“. Das Förder- und Forschungsfeld Active Assisted Living (AAL) beschäftigt sich mit der Unterstützung älterer Menschen für mehr Selbständigkeit und Unabhängigkeit. Carolin Kollewe (Universität Heidelberg) berichtete über zwei Praxistests mit einem Hausnotrufsystem, das mit Sensoren in der Mikrowelle, der Besteckschublade oder der Haustür erweitert wurde, um Aktivitätsverhalten zu erkennen und gegebenenfalls eine Kontaktperson zu alarmieren. Einige AnwenderInnen fühlten sich durch die Technologie sicherer, andere veränderten ihr Verhalten aufgrund der installierten Technologie: So berichtete eine Anwenderin, dass sie morgens die Rollläden hochzöge, damit dies als Aktivität erfasst würde, um sich danach noch einmal für ein Nickerchen hinzulegen. Andernfalls würde eine zu lange Ruhephase automatisch Alarm auslösen.

In der darauffolgenden Podiumsdiskussion stellte Ulrike Bechtold (ITA, Wien) das im Juni erschienene „DiaLogbuch AAL“ vor, welches die österreichische Debatte zu AAL zusammenfasst. Für dieses Buch diskutierten Fokusgruppen aus ExpertInnen verschiedene Aspekte von AAL: Pflege und Technik, Netzwerke, Sozio-Ökonomie, Innovation und Ethik. Auf der TA16 konnte das Publikum mit einigen dieser ExpertInnen aus den o. a. Themenbereichen diskutieren und bekam die fiktive Möglichkeit je eine Millionen Euro Forschungsgeld zu investieren und durch ein Daumen-Symbol Sympathie zu bekunden. Am meisten monetäre aber auch ideelle Unterstützung vergaben die TeilnehmerInnen an „Netzwerke“ und „Innovation“. Viele Sympathien, aber geringe monetäre Unterstützung erhielt das Thema Ethik. Einig waren sich alle TeilnehmerInnen darin, dass der Einsatz technischer Innovationen allein noch lange kein „smartes Altern“ bedinge. Gepaart mit glaubwürdiger Bedürfnisorientierung und sozialen sowie auch organisationalen Innovationen, könne Technik aber sehr vielversprechend und intelligent eingesetzt werden.

Über den gesamten Tag verteilt zeigte sich, dass die Vision der „Digitalen Gesellschaft“ Form anzunehmen beginnt, aber auch noch Gestaltungsspielraum und -notwendigkeit besteht. Ein klarer Auftrag ergeht an die TA-Community, sich hier einzubringen und an der Gestaltung der Zukunft mitzuarbeiten. Wenn ein ganzer Tag dem Thema Digitalisierung gewidmet wurde, konnte der Abschluss analog gestaltet werden. Traditionell wurde bei einem Wiener Heurigen mit Jause und Wein und der Weiterführung interessanter Diskussionen die Konferenz beendet.

Die Tagungswebseite mit Programm, den Abstracts und den Vorträgen unter http://www.oeaw.ac.at/ita/ta16.