Im Sommer geht das Konsortialprojekt Responsible Robotics & AI zu Ende. Worum geht es darin?
In dem vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) geförderten Forschungsprojekt beschäftigen wir uns mit der Transformation von Arbeitsprozessen durch den Einsatz von Robotik und künstlicher Intelligenz. Wir betrachten soziale, ethische und rechtliche Aspekte. Und zwar sehr pragmatisch, indem wir in einem bottom-up-Ansatz mit Menschen und Berufsgruppen sprechen, die primär betroffen sind. Dazu gehören etwa im Bereich von Robotik im Gesundheitswesen Pflegewissenschaftler:innen, Pflegestudierende, Experten für die Validierung von robotischen Systemen im Krankenhaus sowie Chirurgen. Mit ihnen haben wir Chancen und Herausforderungen diskutiert und ein Kaleidoskop an Meinungen und Perspektiven bekommen.
Was überwiegt, Optimismus oder Skepsis?
Das ist sehr kontextspezifisch. Pflegestudierende haben oft die Chancen gesehen, die im Einsatz von Robotik und Automatisierungen von Prozessen liegen, gerade in Sachen Dokumentationspflicht. In der Pflegewissenschaft wird stärker die Frage gestellt, inwiefern der Einsatz von Robotik wirklich hilft. Den Kollegen aus diesem Bereich ist wichtig, evidenzbasierte Studien unter gut überlegten Rahmenbedingungen aufzusetzen, um letztlich zu einem fairen Vergleich zu kommen. Etwa unter der Fragestellung, was Pflege unter optimalen Bedingungen leisten kann und wie sich diese Leistung durch den Einsatz von Robotik und KI verändert.
Datarecorder ermöglicht Nachweis für Entscheidungen der KI
Schon 2017 hat die Professorin für „Human centered Computing“ Marina Jirotka von der Universität Oxford den Ausdruck Ethical Blackbox geprägt. Sie soll sämtliche Daten enthalten, die in der Interaktion von Menschen mit dem Roboter entstehen …
Das macht unser System auch, wir nennen es nur nicht Blackbox, sondern etwas neutraler „Datarecorder“, damit gar nicht erst die Assoziation mit einer undurchsichtigen Black-Box entsteht, in die man keinen Einblick hat. Für den Einsatz von KI haben unsere Gesprächspartner viele Fragen der Verantwortung noch unbeantwortet gesehen, z.B., wer ist denn verantwortlich, falls etwas schiefgeht? Um das zu untersuchen und nachher auch Entscheidungen der KI nachweisen zu können, nehmen wir die Interaktion des Menschen mit dem Roboter auf. Diese Dokumentation ist gerade bei den vulnerablen Bevölkerungsgruppen wie älteren, eingeschränkten oder auch behinderten Menschen, mit denen es im Gesundheitswesen tätige Berufsgruppen zu tun haben, unheimlich wichtig. Das Besondere bei uns liegt darin, dass wir nicht einfach Daten aufnehmen und in einer Datei ablegen. Wir bereiten sie auf und zeigen etwa sämtliche Kräfte, die auftreten, in einem virtuellen Umfeld. Das macht die Mensch-Roboter-Interaktion transparenter und nachvollziehbar. Ein entsprechendes Anwendungsbeispiel hat das Munich Institute of Robotics and Machine Intelligence (MIRMI) für den Serviceroboter Garmi bereits entwickelt, und zwar für eine Rehaanwendung.
Sie sind Wirtschaftsingenieur, haben einen Master an der TU in Science and Technology Studies (STS) gemacht und schreiben Ihre Doktorarbeit über KI und Robotik. Worum geht es darin genau?
Ich schaue mir an, welche Forschungs- und Wissenskultur rund um die Geriatronik-Forschung entsteht. Im Projekt geht es viel um Demos, Prototypen und lehrstuhlübergreifende Kollaboration. Der Erfolg von Forschung in diesem Bereich hängt sehr stark von der interdisziplinären Zusammenarbeit ab. Ich versuche zu verstehen, wie gerade Forschende in frühen Karrierephasen dieses Umfeld wahrnehmen, wie sie mit forschungsspezifischen Herausforderungen umgehen und wie sie sich organisieren.
Weitere Informationen zum Konsortialprojekt „Responsible Robotics (RRAI)
Ethische und soziale Aspekte von KI-basierten Transformationen in der Arbeits- und Wissensumgebung des Gesundheitswesens“: https://www.bidt.digital/forschungsprojekt/responsible-robotics-rraiethische-und-soziale-aspekte-von-ki-basierten-transformationen-in-der-arbeits-und-wissensumgebung-des-gesundheitswesens/
An dem Forschungsprojekt sind Prof. Alena Buyx vom Institut für Geschichte und Ethik der Medizin, Prof. Sami Haddadin vom Munich Institute of Robotics and Machine Intelligence (MIRMI) sowie dem Lehrstuhl für Robotik und Systemintelligenz und Prof. Ruth Müller von der TUM School of Social Sciences and Technology der Technischen Universität München (TUM) beteiligt.