Mein Kollege, der Roboter – KI in der Pflege #111 BGW-Podcast "Herzschlag - Für ein gesundes Berufsleben" 

Stimme aus dem Off:

Eine Firma aus München hat einen Sozialroboter namens „Navel“ entwickelt, der derzeit in Seniorenheimen getestet wird. „Navel“ hat das Potenzial, die Pflege zu revolutionieren. Er animiert Menschen mit Demenz dazu, zu sprechen und aktiv zu interagieren. Seine Fähigkeiten gehen aber noch weiter. „Navel“ kann die Mimik und Gestik von Menschen erkennen, interpretieren und darauf reagieren. Das ermöglicht eine noch individuellere Ansprache und Betreuung. Kürzlich wurde „Navel“ mit einem renommierten digitalen Gesundheitspreis ausgezeichnet.

Moderator:

Die einen fürchten sich davor. Die anderen sehen es als Chance. Das Thema KI wird immer präsenter, ob im Teammeeting, auf der Arbeit oder beim Geburtstagsbrunch von Papa Wolfgang. An jeder Ecke wird darüber gesprochen.

Auch in Pflegeberufen ist die KI präsent. Immer mehr Roboter oder robotergestützte Systeme, die kommen hier zum Einsatz. Aber wie können Roboter bei der Arbeit in der Pflege unterstützen und welche Herausforderungen gibt es? Was hat es in diesem Zusammenhang mit dem BGW Projekt auf sich?

Ich bin Ralf Podszus und ich spreche heute mit Prof. Dr. Oliver Bendel. Er ist Professor für Informationsroboter- und Maschinenethik an der Hochschule für Wirtschaft FHNW in Windisch in der Schweiz. Deswegen sage ich schon mal gleich „Grüezi“. Was die KI schon alles kann, welche Herausforderungen und welche Chancen die Künstliche Intelligenz bietet, das wird uns Oliver gleich erzählen. Ich bin gespannt.

Jingle:

Herzschlag! Für ein gesundes Berufsleben, der BGW-Podcast.

Moderator:

Hallo Oliver.

Prof. Dr. Oliver Bendel:

Hallo Ralf.

Moderator:

Schön, dass du dabei bist. Dann starten wir doch gleich mal. Wo kommen bereits Roboter in der Pflege zum Einsatz? Wie genau wird die KI dort genutzt?

Prof. Dr. Oliver Bendel:

Roboter in der Pflege gibt es vor allem natürlich in Pflegeeinrichtungen, in Pflegeheimen, in Altenheimen, in Krankenhäusern und so weiter, denn nur solche Einrichtungen können sich Roboter überhaupt leisten. Wir schielen natürlich schon nach vorne und denken, dass Roboter auch zu Hause durchaus eine Lösung sein könnten. Ich möchte aber erst mal unterscheiden zwischen verschiedenen Typen von Robotern. Ich glaube, das ist ganz wichtig, damit man weiß, dass sie ganz unterschiedliche Dinge tun und man sollte sie nicht in einen Topf werfen, die Roboter und die KI-Systeme. Ich versuche das kurz ein bisschen auseinander zu bröseln.

Moderator:

Gerne.

Prof. Dr. Oliver Bendel:

In der Pflege findet man zum einen Assistenzroboter, die Tätigkeiten übernehmen oder unterstützen. Zum Beispiel heben die etwas auf oder sie reichen etwas den Patienten oder sie machen eine Flasche auf, beispielsweise was vielleicht manche nicht mehr können, die im Bett liegen, oder sie sammeln Patienten ein. Es gibt Roboter, die wirklich von Tür zu Tür rollen können, klopfen können, was reinrufen können: „Um 16:00 Uhr ist Physiotherapie, bitte denk doch daran!“, und sie machen ganz diskret wieder die Tür zu und rollen weiter.

Moderator:

Also nicht so marsch, marsch, aber jetzt mal hier los.

Prof. Dr. Oliver Bendel:

Das könnte er auch. Es kommt vielleicht nicht bei allen gut an. Wir sehen, wir haben jetzt ein Typ von Pflegerobotern, wie ich sie auch mal nennen will, übergreifend oder vielleicht präziser genannt, Assistenzroboter in der Pflege. Die können wirklich was physisch tun, die können sich bewegen, die können Leute einsammeln, die können was reichen und so weiter.

Jetzt gibt es noch einen anderen Typ in der Pflege, der fast dominant geworden ist. Das sind sogenannte soziale Roboter. Assistenzroboter und Pflege können auch soziale Roboter sein. Ich habe schon erwähnt, dass sie was rufen können, dass sie vielleicht eine bestimmte Nähe haben zu Patienten. Dann kann man sie auch als soziale Roboter einordnen. Aber worauf ich hinaus will: E,s gibt einen eigenen Typ von Robotern, der in der Pflege einfach dafür eingesetzt wird, dass sie kommunizieren mit Patienten mit Pflegebedürftigen, dass sie interagieren mit ihnen, dass sie Bewegungsübungen machen beispielsweise oder dass sie Patienten einfach unterhalten.

Das ist schon was ganz anderes. Man kann sich jetzt vorstellen, der Roboter muss sich gar nicht bewegen können, er kann auf dem Tisch sitzen oder stehen. Er sollte vielleicht eher Augen haben, die einen freundlich anschauen oder einen Mund, oder sollte vielleicht auch tier- oder menschenähnlich gestaltet sein. Damit kann er mit Patienten oder Pflegebedürftigen in eine Interaktion treten, kann sich mit ihnen unterhalten. Dabei sind andere Faktoren wichtig und notwendig als bei den Assistenzrobotern, die ich geschildert habe.

Zum Beispiel, dass solche Roboter Empathie zeigen oder Emotionen. Was ich unterm Strich noch sagen kann, das mag vielleicht erstaunen, während Therapieroboter sehr verbreitet sind, zum Beispiel für Autisten oder für Demente und oft in Form von Produkten vorliegen, ist es bei Pflegerobotern nicht der Fall. Die eisten sind Prototypen und es gibt ganz wenige, die als Kleinserie vorliegen.

Moderator:

Nun kann man ja mit so einem, ich sage mal Gesprächsroboter, nicht richtig in den Dialog treten und über das letzte Lieblingsbuch quatschen oder über die Reiseerfahrungen aus dem Lieblingsreiseland. Wie rudimentär muss ich mir da so ein Gespräch vorstellen und ist das für Menschen, die sich schon jetzt nach Interaktion sehen, nicht vielleicht auch ein bisschen dürftig am Ende?

Prof. Dr. Oliver Bendel:

Jetzt sprichst du einen guten Punkt an, denn vor vier, fünf Jahren hätte ich gesagt, ja, absolut. Die Gespräche sind sehr eingeschränkt und sich über persönliche Dinge zu unterhalten, ist schwierig. Das bleibt es bis heute tatsächlich. Das muss ich einräumen. Aber warum ich jetzt doch antworten würde, nein: Die Gespräche können doch komplex sein und sie können Tage dauern, Wochen dauern und der Roboter kann sich auch an etwas erinnern, was man gesagt hat. Das liegt an den sogenannten großen Sprachmodellen.

Du hast ja auch schon neben der Robotik die KI erwähnt. Während die beiden Disziplinen sich viele Jahre lang nebeneinander entwickelt haben, sind sie vielleicht vor zehn Jahren doch zusammengekommen. Haben sich versöhnt, kann man fast sagen, denn ich würde wirklich sagen, sie lagen fast im Streit miteinander und was heute passiert, man baut KI-Systeme in Roboter ein. Ein großes Ding ist natürlich, dass man große Sprachmodelle LLMS, wie man sie auch nennt, einbaut in Roboter. Damit haben sie weitreichende Sprachfähigkeiten.

Die Patientenpflegebedürftigen werden nicht ohne weiteres merken, dass hier überhaupt eine Maschine nur im Gespräch ist. Die Maschine kann lange, vernünftige Gespräche führen. Wie weit die Gespräche dann persönlich sind, das müssten wir noch genauer anschauen. Es ist aber tatsächlich möglich, auch diese Softwareroboter, die in harten Robotern hausen, mit persönlichen Details zu füttern von Patienten und Pflegebedürftigen. Ob man das tun sollte, das ist eine ganz andere Frage, denn damit gibt man auch den Systemen und den Anbietern dahinter womöglich einige Informationen, die sie gar nicht haben sollten.

Moderator:

Du öffnest gerade ganz viele weitere Türen mit verschiedenen Fragen, die sich anbieten. Ich komme jetzt noch einmal auf die KI in Verbindung mit Roboter und eben dem Gespräch zurück, ich kenne das ja auch von der KI. Ich möchte jetzt einfach wissen: „Hey KI, welche Länder grenzen eigentlich alle an den Panamakanal?“. Da will ich einfach nur diese Information haben. Dann spricht schon die KI zu mir und sagt: „Hey, Ralf, schön, dass du wieder mit mir sprichst. Sag mal, wie war denn bisher dein Tag, hast du schon etwas Schönes unternommen“, und ich will einfach nur wissen, welche Länder grenzen jetzt an diesen Panamakanal an. Also wird hier auch sinnvoll mit der KI umgegangen, gerade wenn sie in so einen sensiblen Bereich unterwegs ist wie Pflege? Man muss mit den Menschen aufpassen, was man mit denen bespricht.

Prof. Dr. Oliver Bendel:

Ja, wenn wir jetzt bei dem großen Sprachmodell bleiben, kann man schon sagen, man kann sie so prompten, dass sie beim Thema bleiben, mehr oder weniger. Man kann diesen Chatbots in den Robotern bestimmte Persönlichkeitsmerkmale geben. Man kann ihnen bestimmte Eigenschaften geben und man kann ihnen verbieten, über bestimmte Dinge zu sprechen. Das funktioniert nicht immer. Das ist sehr interessant. Wir bauen zum Beispiel Chatbots für gefährdete Sprachen, und manchmal kippt der Chatbot, der eigentlich nur Baskisch sprechen sollte oder Rätoromanisch, kippt dann doch ins Englische.

So ganz perfekt ist das noch nicht, aber es ist schon so, man kann mit diesen Chatbots doch erreichen, dass sie beim Thema bleiben. Man kann zum Beispiel auch einstellen, ob sie viel oder wenig Emotionen zeigen sollen, ob sie eher sachlich oder euphorisch sein sollen, ob sie duzen oder siezen sollen. Das kann man alles einstellen. Von daher würde ich sagen, wenn man im Chat gegenübertritt, der völlig versagt in diesem Gebiet um das es geht, dann ist das schlechte Gestaltung, ist das schlechtes Design. Das kann man tatsächlich ändern.

Natürlich muss auch das Äußere dazu passen. Wir reden ja jetzt auch von Robotern und wenn es um soziale Roboter geht, dann haben die ein bestimmtes Äußeres natürlich. Über das Sprechen hinaus, auch über die Stimme hinaus, auch über die Sprechweise hinaus, gibt es ja das pure Äußere, das dem Patienten erst mal entgegentritt und gegenübersteht. Da stellen sich schon ganz wichtige Fragen: Soll das eher dinghaft sein? Das kommt bei Assistenzrobotern oft vor. Oder soll das wirklich die Gestalt eines Tiers oder eines Menschen haben? Bei Tieren gibt es vielleicht ganz viele Fragezeichen.

Moderator:

Habe ich auch gerade. Warum soll mich da jetzt eine Katze vollschwafeln?

Prof. Dr. Oliver Bendel:

Genau. Das Interessante ist: Gerade bei den Therapierobotern gibt es viele Tierformen, weil hier die Tiertherapie fortgesetzt wird. Auch in der eigentlichen Pflege gibt es Tierformen. Die wurden dann aber vor allem in asiatischen Ländern entwickelt. Zum Beispiel gibt es das schöne Projekt „ROBEAR“ oder ich muss sagen, gab es das Projekt, denn das wird inzwischen nicht mehr weiterentwickelt. Das war ein bärenhafter Roboter, sehr groß, sehr schwierig, der geholfen hat beim Umbetten oder Aufrichten. Damit solche Tätigkeiten funktionieren, braucht der Roboter ein großes Gewicht und dieses große Gewicht ist gleichzeitig die große Gefahr. Denn wenn ein solcher Roboter umkippt, dann kann man nur flüchten, wenn man schnell genug ist. Wenn ein Kind da ist oder jemand im Bett liegt, kann es wirklich sehr schädlich sein.

Dieses Design ist möglich, das kennt man vor allem aus asiatischen Ländern und bei uns wendet man tatsächlich eher ein humanoides Design an, also nicht animaloides, tierhaftes, sondern humanoides Design bei Pflegerobotern. Das bedeutet zumindest, dass sie Augen haben, einen Mund haben, Arme haben. Das sind so die Grundzüge scheinbar von uns Menschen. Was noch interessant ist: Wie weit man uns reduzieren kann. Dann muss man wieder unterscheiden, ist das ein karikaturenhaftes Äußeres oder ist das ein sehr realistisches Äußeres?

Was wir im Moment haben, sind Pflegeroboter, die oft karikaturenhaft gestaltet sind. Wo man es sofort erkennt, das ist ein Roboter, aber er sieht niedlich aus. Ich vertraue ihm erstmal und ich schütte ihm vielleicht mein Herz aus, oder ich unterhalte mich über diesen Roboter, der da vor mir steht. Solche Roboter kennen wir zum Teil auch in der Öffentlichkeit, das ist „Pepper“, das ist „Now“, das ist „Navel“ und das sind Produkte, die humanoid sind und die sehr sympathisch wirken.

Moderator:

Dass hier nicht die Vermischung Mensch und Maschine zu deutlich ist, das ist bestimmt da der Hintergedanke und dass wir da ja auch Raushören in Bezug auf Roboter in der Pflege. Sie sollen Arbeit abnehmen für die Menschen, die eben dort arbeiten. Das klingt erstmal prima. Haben die Beschäftigten dann auch wirklich weniger zu tun oder haben sie dann für andere und weitere Aufgaben mehr Zeit? Was ist da der Hintergrund?

Prof. Dr. Oliver Bendel:

Ja, das wird so schnell behaftet und ich liebe natürlich Roboter, aber ich programmiere keine Roboter. Die Behauptung ist erst mal, dass die Pflegekräfte mehr Zeit haben beim Einsatz von Robotern. Das kann schon irgendwann sein. Aber in einer langen Übergangsphase machen Roboter erstmal Arbeit und sie stehen im Weg herum und von daher ist dieser Zeitgewinn nicht ohne weiteres da, muss ich ganz ehrlich sagen. Aber natürlich, die Idee ist schon, dass Assistenzroboter bestimmte Tätigkeiten abnehmen, unterstützen, vielleicht auch Tätigkeiten, die sehr anstrengend sind, die vielleicht gefährlich sind.

Das können eben Assistenzroboter, die physisch was manipulieren können, und die Idee ist, dass wir auch soziale Roboter haben, die informieren. Die insgesamt interagieren, kommunizieren vielleicht auch einfach nur Leute unterhalten. Während die Patienten dann sich unterhalten lassen, können die Pflegekräfte natürlich auch ihrer Arbeit nachgehen, die mal zu bestimmten Zeitpunkten nicht unbedingt was mit den Pflegebedürftigen zu tun haben muss. Übrigens, auch Pflegekräfte müssen sich erholen und müssen mal loslassen können. Dabei können solche Roboter helfen. Jetzt denke ich die ganze Zeit in irgendeinem Areal in meinem Kopf noch weiter mit, weil ich mir vorstellen kann ...

Moderator:

… du promptest dich gerade selbst durch.

Prof. Dr. Oliver Bendel:

Ja, das ist verwirrend. Was natürlich passieren kann, wenn wir solche Roboter hinsetzen vor die Pflegebedürftigen, so wie wir den Fernseher hinsetzen vor Kinder, dann kann irgendwann passieren, und das darf nicht passieren, das die Pflegebedürftigen alleine gelassen sind mit dem System, mit dem Gerät. Das Ganze insofern aus dem Ruder läuft, als sich die Pflegekraft wirklich anderen Dingen zuwendet oder dass die Unternehmen, die Betriebe, sagen: Da können wir doch Geld sparen.

Wenn alle Patienten und Pflegebedürftigen vor den Robotern sitzen, sich unterhalten lassen, da können wir doch Menschen abziehen. Das ist im Moment überhaupt nicht der Plan, und das darf auch nicht sein, und das müssen wir politisch, aus der Ethik heraus verhindern, aus den Betrieben heraus verhindern. Aber eben deshalb musste ich gerade selber über meine Aussagen nachdenken, weil es so, sobald es um Unterhaltung geht, Leute vor etwas setzen, dann besteht diese Gefahr, dass man die Leute damit allein lässt mit den Systemen und davor würde ich einfach gerne warnen.

Es darf nicht so sein, das Pflegeheim der Zukunft, das Krankenhaus der Zukunft, dass dort die Maschinen mit den Menschen alleine sind, das müssen wir unter allen Umständen verhindern. Ich möchte noch einen Einschub machen. Es gibt natürlich schon sinnhafte Automatisierung in manchen Bereichen. Das sind Bereiche wie Transportsicherheit oder Reinigung. Dort ist es super und wir sehen solche Beispiele auch überall in der Welt und in Bahnhöfen, in Flughäfen, in der Schweiz, in den USA, überall, wo ich unterwegs bin, treffe ich auf bestimmte Reinigungsroboter, zum Beispiel, die alleine ihre Arbeit machen. Dort kann man schon automatisieren.

Moderator:

In Deutschland habe ich jetzt noch nicht so einen Reinigungsroboter gesehen. Wir brauchen ja auch immer ein bisschen mehr in Bezug auf Digitalisierung.

Prof. Dr. Oliver Bendel:

Ich habe tatsächlich das Gefühl, die Schweiz oder die USA sind mehr Gefäße, wo man experimentiert und ich habe nicht übertrieben. In der Schweiz haben wir wirklich viele. Man kann zum Beispiel in ein Restaurant gehen, in der Züricher Innenstadt und sieht einen Servierroboter oder Transportroboter zwischen Buffet und Küche hin und her rollen. Man kann in einen Flughafen gehen und sieht dort zwei Reinigungsroboter, die interessanterweise auch soziale Roboter sind. Man hat ihnen soziale Merkmale gegeben, Augen, Mund und so weiter. Doch in der Schweiz kann man einiges entdecken aber das Entscheidende nicht.

Moderator:

In Tschechien hatten wir auch einen Roboter, der meinen Kuchen an den Platz gebracht hat. Ich war sehr überrascht.

Prof. Dr. Oliver Bendel:

Oh genau das, das war bestimmt „Bellabot“ oder „Plato“ oder irgendein System in der Weise. Darf ich dich Fragen, ist der auf dich zugerollt? Also er rollte vermutlich und du hast den Kuchen dann wahrscheinlich von ihm weggenommen, oder?

Moderator:

Genau, er kam auf meinen Platz zu und so ganz zielstrebig. Ich war doch etwas überrascht, weil das wusste ich gar nicht. Ich hatte auch früher keinen Roboter gesehen. Eine echte Bedienung hat die Bestellung aufgenommen. Der Roboter fuhr dann mein Gebäck an den Platz. Es war ziemlich eng dort in dem Café. Auf dem Rückweg ist er so ein bisschen hängen geblieben, da musste er kurz mal wieder auf Spur gebracht werden, weil da war halt irgendeine Tasche im Weg. Aber ich habe meinen sehr leckeren Kuchen bekommen, von Roboterhand gereicht.

Prof. Dr. Oliver Bendel:

Ja, Touch ist natürlich fies. Nein, die ist ziemlich weit unten. Vielleicht ist da sein Leitersystem oder sein Radar oder was auch immer nicht hängen geblieben, hat drüber hinweg geguckt. Normalerweise sind die Roboter wahnsinnig gut in der Hinderniserkennung und das ist im Restaurant wichtig. Aber auch im Pflegeheim oder Krankenhaus. Normalerweise stoppen die spätestens einen halben Meter vor dir und versuchen, um das Hindernis herumzugehen. In diesem Falle war die Tasche der Bösewicht.

Moderator:

Interessant, wie du es halt auch sagst. Du bist ja in der Schweiz, dort ist es eben schon weiter fortgeschritten mit der Technik als hier in Deutschland und interessant, was dann auch noch mal zu uns kommt. Du hast ja jetzt erzählt, was die Pflegeroboter alle schon können. Wir Linsen mal in die Zukunft, was können sie denn so demnächst?

Prof. Dr. Oliver Bendel:

Ich habe ja auch ein bisschen drüber geredet, was Pflegeroboter im Moment schon können. Das ist eine ganze Menge, auch wenn manche vielleicht sagen werden, das sind nicht die Kerntätigkeiten unbedingt in der Pflege. Vielleicht noch eine Sache, was sie immer noch nicht können und worüber man verwundert ist. Denn zur Pflege gehören Dinge wie Nahrung reichen, despektierlich Füttern genannt. Zur Pflege gehören Aus- und Anziehen oder Waschen. Jetzt werden wieder manche sich fragen, hä? Aber das ist doch ganz einfach und das können doch alle möglichen Menschen, das sollten doch Roboter auch können.

Das Interessante ist, nein, all diese Tätigkeiten, die ich gerade geschildert habe, können Roboter nicht oder kaum. Natürlich, man hat einen Roboterarm irgendwann mal programmiert, dass er eine bestimmte Patientin füttert, als er ihr Nahrung reicht. Das kann man schon machen bei Einzelfalllösungen. Aber man kann sagen, man kann im Moment kaum ein Produkt von der Stange kaufen. Unter diesen Assistenzrobotern, die ich geschildert habe, die Leute an- und ausziehen oder sie waschen. Man muss auch sagen, das sind gefährliche Dinge. Natürlich gibt es hier auch bestimmte Normen für Roboter, so dass bestimmte Tätigkeiten auch überhaupt ausgeschlossen werden oder nicht gemacht werden sollten. Es gibt bestimmte Schutzzonen am menschlichen Körper, Schläfe, Augen, Mund und an alles Mögliche sollte der Roboter gar nicht rangehen.

Jetzt fragst du nach der Zukunft. Ich will jetzt etwas kurz vor die Augen führen, was vielleicht nicht alle kennen. Im Moment gibt es Roboter wie „Digit“ oder „Figure One“, „Figure Two“ oder „Atlas“. Der gute alte „Atlas“, der inzwischen nicht mehr hydraulisch ist, sondern elektrisch. Manche kennen diese Roboter, die werden vermarktet im Moment unter dem Begriff Allzweckroboter. Das ist ein Wort, was schon ziemlich,  Marketing-Sprache ist. Das würde ich mal sagen, weil es sind natürlich keine Allzweckroboter. Aber es gibt noch einen Begriff der dahinter lauert, nämlich universelle Roboter. Sagen wir es so, der ganze Markt schielt im Moment, die ganzen Unternehmen schielen genau in diese Richtung. Es gibt gerade ein humanoides zweibeiniges Modell nach dem anderen.

Was diese Roboter können sollen, kann ich vielleicht auch kurz an einem Alltags- oder Tagesablauf skizzieren. Ein universeller Roboter könnte mit mir aufstehen. Er muss natürlich nicht wirklich schlafen. Könnte mir das Frühstück zubereiten. Die Kaffeemaschine bedienen. Alles Mögliche. Könnte mit mir zur Arbeit gehen, vielleicht meine schweren Dinge heben. Ich habe tatsächlich viele Roboter, vielleicht trägt er die Roboter selbst unter dem Arm, weil sie mir zu schwer sind. Dann geht er mit mir zur Arbeit. Ich bin vielleicht auch in der Technik unterwegs und will dort was fräsen oder bohren, dabei hilft er mir. Jetzt komme ich vielleicht zum interessanteren Teil. Am Nachmittag geht er mit mir heim, dann gehen wir auf den Sportplatz, auf den Tennisplatz, und der Roboter spielt mit mir Tennis. Sammelt auch gleich die Bälle. Das heißt, er ist nicht nur Tennisspielpartner, sondern auch Balljunge oder Ballmädchen. Am Abend singt er mir noch ein schönes Lied vor. Ich habe jetzt mal versucht einen Tag zu skizzieren.

Moderator:

Hört sich ein bisschen an, wie Hauselfen bei Harry Potter. Ein bisschen Sklaventum auch.

Prof. Dr. Oliver Bendel:

Genau das ist noch Science-Fiction, aber tatsächlich wollen die Unternehmen in diese Richtung. Jetzt bin ich auch aus mehreren Gründen fasziniert, aber auch irritiert oder etwas skeptisch. Wenn ich im Moment diese Roboter sehe, die tatsächlich schon in Fabriken vorkommen, also in Fabriken tragen sie Kartons hin und her. Wenn ich die im Moment sehe, kann ich zusammenfassend eines sagen: Sie wirken unheimlich. Das liegt gar nicht an diesem „Uncanny-Valley-Effekt“, der oft diskutiert wird. Es sollte was anderes bedeuten, dass Maschinen sehr menschenähnlich sind, dass ihre Haut, dass ihre Augen, alles sehr echt aussieht, dass sie Androiden sind in diesem Sinne und dadurch immer mehr versprechen.

Eigentlich wächst unsere Akzeptanz gegenüber solchen Robotern immer mehr, je menschenähnlicher sie sind, je mehr sie Androiden sind. Dann gibt es da einen Kipppunkt. Die Roboter versprechen sehr viel durch ihr Äußeres, aber halten nicht mehr alles. Zum Beispiel grinsen sie schief, vergreifen sich im Ton oder mit der Hand. Das ist der ankernible Effekt, auf den wollte ich gar nicht hinaus. Ich will eher sagen, die universellen Roboter, die wir bald haben, werden heute die Allzweckroboter. Die stapfen so ungelenk vor sich hin. Haben solche Bewegungen, dass sie zwar sehr gut funktionieren, dass sie sich gut halten können, dass sie sogar Treppen steigen können. Aber dass sie aussehen wie in Science-Fiction-Filmen wie Roboter, die uns umbringen wollen.

Das ist ein Riesenproblem, weil solche Roboter jetzt ins Pflegeheim oder ins Altenheim einzuführen, wäre fatal. Die Idee könnte sein, dass man die Roboter noch viel mehr machen lässt als die heutigen Roboter. Dass sie auch beide Dimensionen in sich vereinen, Assistenzroboter und soziale Roboter. Aber ich glaube, das ist viel zu viel und viel zu früh erstens. Zweitens glaube ich, auch in zehn Jahren könnte die Zeit nicht reif dazu sein. Ich glaube, ein viel geschickteres Design für Pflege und Altenheime sind karikaturenhafte Roboter oder dinghaft gestaltete Roboter. Wir brauchen nicht zu viel Lebensechtheit in Robotern, in Pflegeheimen und Krankenhäusern, die erschrecken dort eher.

Moderator:

Du hast das Gruselige auch eben erwähnt. Mir kommt das auch so ein bisschen gruselig vor. Kann man so einem Pflegeroboter auch wirklich trauen? Vertauscht der nicht mal die Medikamente oder bemerkt er gar nicht, dass er gerade was grundlegend falsch macht? Also mein Staubsaugerroboter zum Beispiel, der ist jetzt nicht die hellste Kerze auf der Torte.

Prof. Dr. Oliver Bendel:

Genau. Das mit den Medikamenten geben ist natürlich ein tolles Thema. Ich habe immer wieder zu tun gehabt mit einem dinghaft gestalteten Roboter in der Schweiz. Ist im Grunde ein „Cobot“, ein Roboterarm der auf eine mobile Plattform montiert wurde. Auch so kann man mächtige Serviceroboter bekommen. Man nimmt Teile aus der Industrie, man nimmt einen Industrieroboter, diesen Roboterarm und montiert ihn auf eine mobile Plattform. Ich habe mit der Firma gesprochen. Sie will diesen Roboter keine Medikamente abgeben lassen. Die Gefahr ist viel zu groß. Der ganze Bereich ist nicht durchgehend geregelt und man wäre dann in schwerwiegenden Verantwortungs- und Haftungsfragen drin. Die Anbieter, die Hersteller, schließen bestimmte Tätigkeiten auch aus und so wie du sagst, Roboter sind auch nur Menschen und können Fehler machen und das liegt noch nicht mal unbedingt an den Robotern selbst, sondern an einer Umgebung, die sich sehr schnell ändert.

Du hast eine Sache schon genannt, die Tasche, die da auf dem Boden liegt. Das ist so etwas, womit der Roboter nicht gut zurechtkommt bis heute. Das, obwohl man inzwischen nicht nur große Sprachmodelle verbaut in Robotern, die bei der Kommunikation helfen, sondern auch multimodale große Sprachmodelle. Mit denen kann der Roboter eigentlich die Umgebung sehr gut wahrnehmen, analysieren, evaluieren und könnte heute eigentlich allmählich die Tasche erkennen. Trotzdem, jetzt rede ich mal von einer fliegenden Tasche. Ein anderer Gast hätte die Tasche in diesem Moment vor den Roboter geworfen und wir sehen, solche Situationen kommen immer vor. Jetzt nicht unbedingt fliegende Taschen, aber rennende Menschen, rennende Kinder, heranrasende Autos und es ist klar, dass da Unfälle passieren. Warum sind solche Unfälle auch naheliegend? Im Moment nicht durchgehend überall.

Du hast gesagt, du siehst selten Roboter, vielleicht mal in einem Restaurant oder sonst wo. Jetzt stellen wir uns vor, es gibt eine viel höhere Roboterdichte. Wir reden auch seit Jahren über das autonome Fahren und was wir oft vergessen, dass wir mit diesen autonomen Autos neue Instanzen einführen, die zu einer viel höheren Komplexität noch führen können. Der Gegeneinwand ist, sie reduzieren auch Komplexität. Das kann ich gut verstehen. Jetzt gibt es aber auch nicht nur autonome Autos, es gibt auch Transportroboter auf den Straßen. In Santa Monica habe ich Transportroboter gesehen, die Lebensmittel zugestellt haben und mit jedem Roboter bringt man mehr Komplexität in die Straßen, in die Städte, und das wird unübersichtlich.

Der Roboter wird nicht nur gefordert durch Kinder, durch fliegende Vögel, durch Wetter übrigens auch, sondern auch durch andere Roboter. Ich würde davon abraten, zu viele Roboter auf zu kleinem Raum unterzubringen. Aber das sind ja schon sehr spezifische, aber total interessante Fragen. Übrigens noch eine Fußnote: Der Roboter in Santa Monica war ferngesteuert, den ich gesehen habe. Das war ganz verblüffend. Ich stand an der Ampel, der Roboter wartete, ich wartete, der Roboter rollte los, ich rannte ihm hinterher.

Moderator:

Aus purem Interesse.

Prof. Dr. Oliver Bendel:

Ich mache immer Fotos von Robotern und will mit ihnen reden. Ich rannte ihm nach, er war viel zu schnell. Dann habe ich recherchiert, weil ich dachte, dass ist nicht normal. Das kann kein autonomer Roboter eigentlich sein und tatsächlich: Er ist ferngesteuert. Wir müssen uns das so vorstellen: Es gibt bei Transportrobotern dieser Art Leute zu Hause oder in Callcentern, die die Roboter steuern und mit ziemlicher Wahrscheinlichkeit sind das mehrere Roboter für eine Person, also auch das ist wichtig.

Moderator:

Spannend.

Prof. Dr. Oliver Bendel:

Wir konstruieren hier nicht nur komplexe Welten, in die immer mehr Roboter eindringen, sondern diese Roboter sind zum Teil Cyborgs oder umgekehrte Cyborgs. Also es stehen zum Teil Menschen hinter ihnen, die entscheiden und sie kontrollieren.

Moderator:

Es gibt eine Vermischung, nicht nur jetzt. Das ist Mensch, das ist Maschine, sondern hier gibt es eine Zusammenarbeit. Wie auch immer die sich dann noch entwickelt. Wenn jetzt Fehler passieren, wer trägt da die Verantwortung? Wie sind die Betroffenen dann geschützt, jetzt gerade auch im Bereich der Pflege?

Prof. Dr. Oliver Bendel:

Ja, ich möchte mal als Ethiker, der ich auch bin, unterscheiden zwischen ethischer Verantwortung und rechtlicher Verantwortung. Für die Ethik kann ich das relativ schnell sagen, ich habe mich in den 90er-Jahren schon tatsächlich mit Fragen beschäftigt, ob Computersysteme oder Roboter Verantwortung tragen können. Und es gab dafür ausgezeichnete Texte. Man muss sich festhalten aus den 70er- und 80er-Jahren. Es gab eine hochkarätige philosophische und technische Diskussionen in den 70er- und 80er-Jahren darüber, ob Computersysteme Verantwortung tragen können.

Ich bin damals zum Schluss in den 90ern gekommen: Sie können das nicht. Maschinen können nie Verantwortung tragen aus ethischer Sicht. Aus rechtlicher Sicht müsste ich etwas anderes antworten, denn wie wir von der juristischen Person wissen, können Juristen alles konstruieren, oder? Wir Ethiker sind nicht so. Wir Philosophen fühlen uns dann, obwohl man das nicht denken würde, doch der Wirklichkeit ein Stück weit verpflichtet. Juristen dürfen alles und können alles. Worüber Juristen nachgedacht haben, ist zum Beispiel die elektronische Person.

Man könnte tatsächlich zum Beispiel einen Roboter ausstatten mit einem Budget oder mit einem Fonds verbinden. Bei bestimmten Bagatelldelikten oder überhaupt im Zivilrecht könnte man tatsächlich sagen, der Roboter trägt Verantwortung, hat hier auch Haftung, um noch einen rechtlichen Begriff zu verwenden. Er kann zum Beispiel jemand anderen, entweder einen anderen Roboter oder einen anderen Menschen, entschädigen, indem er ihr oder ihm Geld überweist. Das könnte man machen.

Moderator:

Manch ein Versicherer, den machst du richtig glücklich gerade, Oliver. Der denkt sich, ich habe eine Haftpflichtversicherung für Roboter jetzt auf einmal inkludiert.

Prof. Dr. Oliver Bendel:

Aber im Strafrecht ist das viel schwieriger. Wenn der Roboter Fehler gemacht hat und man ihn wirklich in die Verantwortung auch im rechtlichen Sinne ziehen will, wenn man ihn haftbar machen will – was soll man tun? Soll man ihn verurteilen, soll man ihn in die Ecke stellen oder einsperren? Man kann ihn natürlich ausschalten, aber das ist eine funktionale Sache, die man dann macht. Das Lustige ist, ich muss in dem Moment denken, es gab tatsächlich Zeiten und Länder, wo man zum Beispiel auch Tiere vor Gericht gestellt hat, und das finde ich auch extrem unfair.

Neben der Maschinenethik treibt mich die Tierethik sehr um. Ich verbinde auch oft Maschinenethik und Tierethik. Tatsächlich gab es Zeiten und Länder, wo man zum Beispiel Hunde vor Gericht gestellt hat, und das ist sehr unfair. Was soll der Hund antworten vor Gericht? Wuff oder irgendetwas in der Art? Genauso unfair ist es bei Maschinen. Aber was man tatsächlich machen kann. Man kann der Maschine aus juristischer Sicht Verantwortung und Haftung zusprechen, und das sind Konstrukte wie die elektronische Person.

Aber um deine Frage noch abzurunden oder die Antwort darauf. Tatsächlich ist es letzten Endes eine gemischte Haftung, von der wir hier ausgehen müssen. Wir müssen versuchen, die Schuldigen zu finden. Wir müssen schauen, ist der Hersteller schuld, der Entwickler schuld, der Programmierer schuld, der Betreiber schuld? Vielleicht das Krankenhaus oder das Pflegeheim oder ist der Benutzer schuld? Kann man alles machen und vielleicht sind mehrere Parteien schuld, so dass man mehrere Personen oder Parteien hier in die Pflicht nehmen kann. Das Problem ist, das will ich auch nicht verschweigen. Gerade bei der Entwicklung von KI-Systemen und Robotern sind erstens sehr viele Menschen beteiligt. Nicht alle sind namentlich bekannt. Und zweitens haben wir es hier mit Maschinen zu tun, die in der Regel mit anderen Maschinen vernetzt sind.

Es sind vernetzte Systeme, die oft von anderen Systemen abhängen, in der Kommunikation, im Betrieb, in Bezug auf die Daten, die hereinkommen. Das heißt, man kann heute sagen, hinter jedem Roboter stehen womöglich zehn Maschinen oder 100 Maschinen und oft auch noch mehrere Menschen. Das heißt, es sind nicht nur Cyborgs oder umgekehrte Cyborgs in dem Sinne, dass sich hier Mensch und Maschine vermischen oder zumindest zusammenfinden. Die Maschine ist oft eine mit 1.000 Köpfen. Deshalb ist es ganz schwierig, den Schuldigen zu finden.

Moderator:

Es ist rechtlich fast unmöglich. Wo sind denn die Grenzen bei dem Einsatz von KI in der Pflege genau?

Prof. Dr. Oliver Bendel:

Ja, ich würde abraten bei allen möglichen Tätigkeiten, die wirklich menschliche Wärme ersetzen, die Berührungen ersetzen, Umarmungen ersetzen. Das muss ich dazu sagen, wir haben tatsächlich über Umarmungsroboter geforscht, wir haben sogar eingebaut. Woran ich bei Robotern oft denke, wenn ich sie entwickle oder auch bei Chatbots und Sprachassistenten, dass wir sie einsetzen in Krisensituationen, bei Kriegen, bei Katastrophen, bei Pandemien, und dort kann sowas sinnvoll sein. Dort kann auch sinnvoll sein, wenn mich der Roboter umarmt.

Aber ich würde davon abraten Roboter zu schaffen oder Systeme, die solche grundlegenden menschlichen Anliegen und Tätigkeiten ersetzen. Das sind für mich Grenzen im Einsatz. Das ist fast das Wichtigste. Wir dürfen dort keine Roboter einsetzen, wenn es um menschliche Wärme geht, um Zuwendung, um echte Empathie, um echte Emotionen. Ich habe gesagt, Roboter können Empathie und Emotionen zeigen, manchmal ist es auch sinnvoll, dass sie eine solche simulieren, eine solche Empathie, dass sie Emotionen simulieren. Ein Beispiel, wenn wir einen Lehrerroboter schaffen und Kinder mit ihm lernen, dann wäre das kontraproduktiv, wenn der Lehrerroboter sie nicht loben dürfte.

Der Roboter muss in der Situation funktionieren. Aber es wäre nicht gut, wenn wir Roboter schaffen, die uns in ständigem Betrug, in ständiger Täuschung suggerieren, dass sie interessiert an uns sind, dass sie uns mögen. Und so weiter. Das führt zu weit. Also wir dürfen keine Betrugsinstanzen schaffen, das wären für mich Bereiche, wo Roboter ausgeschlossen sind. Dann der zweite Bereich, wo Verletzungen, Unfälle passieren, also Roboter, die zu schwer sind, die zu schnell sind, die zu heftig sind. Wo Verletzungen, Todesfälle passieren können. Der dritte große Bereich, das finde ich zum Teil immer noch ein ungelöstes Problem: der Bereich von Privat- und Intimsphäre, von informationeller Autonomie. Die Gefahr, dass den Patienten und Pflegebedürftigen Daten genommen werden, die sie nicht nur übersehen können, die sie nicht löschen können, deren Verbreitung sie auch nicht kontrollieren können. Das ist ein großes Problem.

Gehen wir nochmals einen Schritt zurück. Wir stellen uns nochmals den Roboter vor. Ich habe Assistenzroboter geschildert, soziale Roboter. Bei den sozialen Robotern habe ich betont, sie haben Augen, sie haben Mund. Sie haben natürlich sprachliche Möglichkeiten, hinter solchen Möglichkeiten und Fähigkeiten stecken Kameras, stecken bestimmte Systeme, die Daten erfassen, Mikrofone natürlich. Vielen anderen in der Kommunikation mit der Maschine gebe ich Daten preis und all das führt dazu, dass solche Roboter Spione sein können. Jetzt muss ich auch sagen, natürlich kann man das verhindern. Krankenhäuser oder Pflegeheime können Strukturen aufbauen, die rechtssicher sind, aber auch recht sichere Strukturen kann man hacken. Jetzt sind wir bei einer weiteren Gefahr: Man kann Roboter hacken. Man kann ihre Daten abgreifen, man kann sie entführen und man kann sie zu Waffen machen.

Jetzt habe ich vier große Probleme geschildert und man sieht, das sind nicht nur Probleme von Pflegerobotern. Es sind Probleme von Robotern überhaupt. Wenn ich doch eine Lanze für Roboter brechen darf: Eine Grundidee von Robotern war ja, dass sie uns Tätigkeiten abnehmen, die für uns zu gefährlich sind, zu anstrengend oder sogar tödlich. Das können auch Tätigkeiten sein in Schluchten, in Tunneln, auf dem Mars und sonst wo. Da muss ich sagen, sind die Roboter genial.

Moderator:

Mit Oliver kann man tagelang über dieses Thema sprechen und es kommen auch ganz viele Informationen und wichtige Geschichten dabei herum. Ihr wisst ja, dass er Wissenschaftler und Ethiker ist. Also bedient er da gleich mehrere Felder. An dieser Stelle machen wir erstmal einen Cut, verdauen das, was wir bisher gehört haben. Ich freue mich, Oliver, wenn wir in der nächsten Folge bei Herzschlag weiter über dieses Thema Roboter, KI, Pflege und die Zukunft darin sprechen.

Prof. Dr. Oliver Bendel:

Das ist perfekt und ich freue mich auch sehr darauf.

Moderator:

Heißt, du hast jetzt wieder genügend Zeit, mit deinen zahlreichen Robotern zu Hause durch die Gegend zu düsen. Was machst du eigentlich mit denen? Was hast du eigentlich alles für Roboter? Du, weil die sind ja ein ständiger Begleiter und du hast die auch zu Hause.

Prof. Dr. Oliver Bendel:

Ja, aber die meisten habe ich in Büros, sonst wird es ein bisschen voll zu Hause. Ich habe vor allem kleine Roboter wie „Cosmo Vektor“, „Alpha Mini“. „Alpha Mini“ ist ein sehr schönes Modell. Humanoid mit sehr schön gemachten Augen. Also, der Trend geht heute dahin, dass man zwei Displays hat für die Augen und auf diesen Displays beliebige Ausdrücke der Augen darstellen kann. Dann habe ich auch besondere Roboter wie „Unity Go To“, das ist ein Vierbeiner. Sowas wird normalerweise als Roboterhund bezeichnet. Sonst habe ich noch so klassische Spielzeugroboter wie „Furby“ aus den 90ern. Dann gibt es wieder das „Tamagotchi“ aus den 90ern, sowas habe ich. Ich habe meinen Umarmungsroboter, ich habe „Huggie“ eine Umarmungspuppe, die man aufrüsten kann und so weiter.

Moderator:

Ich kann auch wieder erzählen heute Abend: „Schatz, ich habe jemanden kennengelernt, der hat einen Umarmungsroboter, der ist ganz wirklich und zufrieden“. Das geht halt auch, aber du lebst doch nur mit echten Menschen zusammen oder hast du auch eine Partnerin oder einen Partner als Maschine?

Prof. Dr. Oliver Bendel:

Nein, meine Partnerin ist aus Fleisch und Blut und ich würde fast sagen, je mehr Roboter man um sich hat, und obwohl man viel Spaß mit ihnen hat, lernt man immer mehr schätzen, was echte Menschen können.

Moderator:

Sehr spannend auf jeden Fall. Wenn ihr mehr zu Prof. Dr. Oliver Bendel erfahren möchtet und zu seinen Forschungsprojekten, dann schaut in die Show-Notes dieser Podcast-Folge. Natürlich könnt ihr Herzschlag auf allen Podcast-Plattformen hören und auch auf der Webseite der www.bgw-online.de/podcast. Oliver, es wird noch sehr interessant in der nächsten Folge, wo wir weiter reden werden über KI-Roboter und was geht da eigentlich alles in der Pflege. Für den Moment erstmal vielen Dank.

Prof. Dr. Oliver Bendel:

Dir vielen Dank. Ich freue mich darauf.

Moderator:

Bis zum nächsten Mal.

Jingle:

Herzschlag! Für ein gesundes Berufsleben, der BGW-Podcast.