Digi, Nano, Bio, Neuro – oder warum uns konvergierende Technologien kümmern sollten

In meiner Forschung beschäftige ich mich mit den Folgen der Digitalisierung für Mensch, Gesellschaft und Demokratie. Dabei muss man auch die Konvergenz in den Computer- und Biowissenschaften im Blick haben – also das, was möglich wird, wenn digitale Technologien immer mehr mit Biotechnologie, Neuro- und Nanotechnologie zusammenwachsen.

Konvergierende Technologien gelten als Nährboden für tiefgreifende Innovationen. Doch sie lassen die Grenzen zwischen der physischen, biologischen und digitalen Welt zunehmend verschwinden. Herkömmliche fachspezifische Regulierungen werden dadurch unwirksam.

In einer gemeinsamen Studie haben mein Co-Autor Marcello Ienca und ich kürzlich die Risiken und gesellschaftlichen Herausforderungen der technologischen Konvergenz untersucht – und kommen zu dem Schluss, dass die Auswirkungen für Individuen und die Gesellschaft einschneidend sind.

Es ist uns ein Anliegen, auf diese Herausforderungen und Risiken konvergierender Technologien hinzuweisen und zu erklären, warum wir es für notwendig erachten, die technologischen Entwicklungen international mit einer starken Regulierung zu begleiten.

Was die Folgen sind, wenn man den technologischen Wandel unkontrolliert den Marktkräften überlässt, können wir seit einigen Jahre bei der Digitalisierung gut beobachten.

Falschinformation und Manipulation im Web

2015, vor fast 10 Jahren, erschien das Digital-Manifest.¹ Einer von uns sowie acht weitere europäische Expert:innen warnten damals eindringlich vor Scoring, also der Bewertung von Menschen, sowie vor Big Nudging², einer subtilen Form der digitalen Manipulation. Letztere beruht auf Persönlichkeitsprofilen, die mithilfe von Cookies und anderen Überwachungsdaten erstellt werden. Wenig später führte der Cambridge-Analytica-Skandal der Welt vor Augen, wie die Datenanalyse-Firma mittels personalisierter Anzeigen (Microtargeting) versuchte, das Stimmverhalten bei demokratischen Wahlen zu beeinflussen.

Inzwischen stehen Demokratien weltweit unter Druck. Propaganda, Fake News und Hassrede polarisieren und säen Zweifel, während die Privatsphäre schwindet. Wir befinden uns in einer Art Informationskrieg um unsere Köpfe, in dem Werbefirmen, Techkonzerne, Geheimdienste und Militärs um Einfluss auf unser Denken und Verhalten ringen. Indessen versucht der gerade beschlossene AI Act der Europäischen Union die zuvor genannten Gefahren zu bändigen.

Doch digitale Technologien entwickeln sich rasant weiter, und es zeichnen sich bereits neue Manipulationsmöglichkeiten ab. Denn wenn digitale und Nanotechnologie mit der modernen Bio- und Neurotechnologie zusammenwachsen, werden revolutionäre Anwendungen möglich, die zuvor kaum vorstellbar waren.

Mikroroboter für die Präzisionsmedizin

Etwa in der personalisierten Medizin: Die fortschreitende Miniaturisierung der Elektronik erlaubt es zusehends, lebende Organismen und den Menschen mit vernetzten Sensoren und Rechenleistung zu erschliessen. Das WEF rief bereits 2020 das «Internet der Körper» aus. ^{3, 4}

Ein Beispiel sind digitale Pillen, die herkömmliche Medikamente mit einer Überwachungsfunktion kombinieren. Diese könnten die Medikation kontrollieren und physiologische Daten der Patient:innen aufzeichnen (siehe diesen Blogbeitrag).

Fachleute erwarten, dass Sensortechnologie früher oder später auch die Nanoskala erreicht. Magnetische Nanopartikel oder nanoelektronische Komponenten von bis zu 100 Nanometern Durchmesser würden es erlauben, Wirkstoffe zu transportieren, mit Zellen zu interagieren und grosse Datenmengen über Körperfunktionen zu erfassen. So könnte man Krankheiten bereits im Frühstadium erkennen und personalisiert behandeln, hofft man. Man spricht auch oft von Präzisionsmedizin (High Precision Medicine).

Nano-Elektroden erfassen Hirnfunktion

Miniaturisierte Elektroden, die gleichzeitig die Aktivität von tausenden Neuronen messen und manipulieren können, sowie immer bessere KI-Werkzeuge für die Analyse von Hirnsignalen sind zwei Ansätze, die aktuell zu viel diskutierten Fortschritten an der Gehirn-Computer-Schnittstelle führen. Dank Nano-Neurotechnologie, so die Idee, liessen sich vielleicht schon bald das Smartphone und andere KI-Anwendungen direkt mit Gedanken steuern.

Davon dürften auch die Grossprojekte zur Kartierung des menschlichen Gehirns profitieren.⁵ Künftig könnte Brain Activity Mapping im Prinzip unsere Gedanken und Gefühle auslesen, aber auch extern beeinflussen – letzteres wahrscheinlich deutlich effektiver als bisherige Manipulationsmethoden wie Big Nudging.

Für eine dauerhafte Verbindung zwischen Zellen und Elektronik sind klassische Elektroden allerdings nicht geeignet – dazu braucht es langlebige und biokompatible Schnittstellen. Ein Vorschlag ist daher, Signale optogenetisch zu übertragen, das heisst mit Lichtimpulsen Gene in speziellen Zellen zu steuern.⁶  So liessen sich erstaunliche Schaltkreise implementieren (siehe ETH-News «Mit Gedanken Gene steuern»).

Die Kehrseite der Konvergenz

Zugegeben: Die genannten Anwendungen mögen futuristisch klingen. Noch sind es überwiegend Visionen oder sie befinden sich in frühen Entwicklungsstadien. Doch weltweit wird daran mit Hochdruck geforscht. Auch militärische Kreise sind interessiert, konvergierende Technologien für ihre Zwecke zu nutzen.^{7, 8}

Die Kehrseite der Konvergenz sind erhebliche Risiken, etwa dass staatliche oder private Akteure an hochsensible Daten gelangen und diese missbräuchlich verwenden, um Menschen zu überwachen und zu beeinflussen. Je vernetzter unsere Körper, desto anfälliger werden wir auch für Cyberkriminalität und Hacking. Ferner ist nicht auszuschliessen, dass bereits militärische Anwendungen existieren.⁷ Sicher ist jedoch: Lange bevor Präzisionsmedizin und Neurotechnologie zuverlässig funktionieren, werden diese Technologien bereits gegen Menschen einsetzbar sein.

Das Problem: Die bisherigen fachspezifischen Regelwerke reichen nicht aus, um die technologische Konvergenz im Zaum zu halten. Wie sollen wir die Kontrolle über unser Leben behalten, wenn es zunehmend möglich wird, unser Denken, Fühlen und Entscheiden mit digitalen Mitteln zu beeinflussen?

Konvergenz erfordert konvergierende Kontrolle

In unserem kürzlich erschienenen Paper kommen wir zum Schluss, dass konvergierende Technologien eine ebenso konvergierende internationale Regulierung erfordern. Wir skizzieren einen neuen globalen Rechtsrahmen und schlagen zehn Governance-Prinzipien vor, um die drohende Regulierungslücke zu schliessen.⁹

Unser Rahmen betont die Notwendigkeit von Schutzmassnahmen, um die Körper- und Geistesfunktionen vor unbefugten Eingriffen zu bewahren und die persönliche Integrität und Privatsphäre zu gewährleisten, etwa durch Neurorechte.

Um Risiken zu mindern und Missbrauch vorzubeugen, sollten künftige Regulierungen inklusiv, transparent und vertrauenswürdig sein. Zentral ist das Prinzip der partizipativen Governance, welche alle relevanten Gruppen einbezieht und sicherstellt, dass auch die Anliegen betroffener Minderheiten in Entscheidungsprozesse einfliessen.

Schliesslich braucht es echte informationelle Selbstbestimmung – wir müssten die Kontrolle über unsere persönlichen Daten zurückgewinnen. Das gilt auch für die digitalen Zwillinge unseres Körpers und unserer Persönlichkeit. Denn damit lässt sich unsere Gesundheit und unser Denken hacken – im Guten wie im Bösen.¹⁰

Mit unserem Beitrag möchten wir eine öffentliche Diskussion über konvergierende Technologien anstossen. Denn trotz der grossen Relevanz wird das Thema unserer Ansicht nach zu wenig beachtet. Ein kontinuierlicher Diskurs über Nutzen, Risiken und sinnvolle Regeln kann helfen, die technologische Konvergenz so zu lenken, dass sie den Menschen dient, nicht schadet.

Dirk Helbing verfasste diesen Beitrag zusammen mit Marcello Ienca, der an der ETH Zürich und der EPFL arbeitete und nun Assistenzprofessor für Ethik der KI und Neurowissenschaften an der Technischen Universität München ist.