Ethikerin Buyx für kritischen Umgang mit KI – sie darf nicht als Beziehungsersatz dienen

„Es sieht menschlich aus, aber es ist pure Statistik.“ Mit diesen deutlichen Worten warnte Alena Buyx vor allzu hohen Erwartungen an die Künstliche Intelligenz (KI). 

Die Medizinethikerin bereicherte die Nürnberger Tagung über „Künstliche Intelligenz – die digitale Zukunft in der Pflege gestalten“ mit ihrem Vortrag zum Thema „Horror oder Heilsbringer? Ethische Aspekte von KI in der Pflege“. Die Evangelische Hochschule Nürnberg hatte interdisziplinär dazu eingeladen. Alena Buyx brachte viele Aspekte auf den Punkt – ohne zu vereinfachen. Durch ihren lebendigen und anschaulichen Vortrag riss sie mit.

Bereits in ihrem aktuellen und gut verständlichen Buch „Leben & Sterben: Die großen Fragen ethisch entscheiden“ beleuchtet sie neben Dilemmata am Anfang und Ende des Lebens auch den Einsatz von KI und Robotik in Medizin und Pflege. Sie führt die Lesenden zu Entscheidungsfragen. Als Professorin am „Institut für Geschichte und Ethik der Medizin“ in München und als Ex-Vorsitzende des Deutschen Ethikrats war und ist sie oft damit konfrontiert. 

Inhaltlich blickt Buyx mit eher geringer Sorge auf den Einsatz von KI in Seniorenheimen. Sie haben viele Vorteile: So erinnern sie passgenau an die Einnahme von Medikamenten. Sie unterstützen die Pflegenden bei der Dokumentation. Sie bieten passgenau Rätsel oder Gedächtnisspiele an. Ein verantwortungsvoller Einsatz kommunikativer KI zur Unterhaltung Pflegebedürftiger bietet vielfältigen Austausch. Als „Puppe“ eingeführt bringen sie viel Freude. So etwa der „Dancing Cactus“, von Studierenden der Evangelischen Hochschule entwickelt, der verbal und nonverbal auf Menschen reagieren kann, aber wohl nur schwerlich als Mensch empfunden wird. 

Wildwuchs im weiten Netz

Nein, viel eher macht der Ethikerin Buyx der Wildwuchs im weltweiten Netz Kopfzerbrechen. Allerlei Anwendungen sind von ihren menschlichen Entwicklern so entwickelt, dass sie ihre Nutzer möglichst intensiv und anhaltend an sich binden sollen. Menschen sollen sie für ein Gegenüber halten, mit dem sie in Beziehung treten können, so warnte sie auch bei ihrem Nürnberger Vortrag. Dabei habe KI keine Leiberfahrung, kein Seinsbewusstsein. 

Ihre Stärke ist es jedoch, Muster zu erkennen – auch beim Austausch mit dem menschlichen Gegenüber. Sie verstärken diese personalisiert. „Ihre“ Menschen fühlen sich verstanden – bis hin zum Verliebtsein. Aber wenn sie einem depressiven Nutzer suizidale Vorschläge macht? Online gibt es genug Zusammenhänge. Spektakulär der Fall eines 14-Jährigen aus Florida, der in den Suizid ging, um ganz bei „seiner“ KI zu sein. 

KIs für therapeutische Gespräche sind ein großer Wachstumsmarkt. Bereits in ihrem Buch zeigte Buyx wie diese Werkzeuge über einen großen Schatz von Übungen und Aufgaben verfügen, aus denen sie je nach Stimmung ihres Gegenübers gezielt Vorschläge machen. Sie melden sich regelmäßig bei „ihrem Menschen“ und fragen nach dem Befinden. Sie sind immer hellwach.

Gleichzeitig kann die KI die Hemmschwelle verringern, so dass Menschen ihre Masken fallen lassen. Sie vertrauen ihnen ihre intimsten Gedanken an – ohne nachzudenken, wohin die Informationen wandern. 

Für Buyx ist klar: Solche Daten sollten wenigstens in Europa bleiben. Sie plädiert für eigene europäische Sprachmodelle, die den hiesigen Datenschutzstandards entsprechen. Doch hinkten die Regeln in Europa nicht schon heillos bei ihren Reaktionen auf die Sozialen Medien hinterher? Da gäbe es jedoch bereits Erfahrungen, die sich entsprechend übertragen ließen, hofft Buyx. Für sie gehören deutliche und regelmäßige Warnhinweise bei KI-Systemen zwingend dazu. Nur kognitives Wissen darüber reicht ihr nicht aus.

Einwand beim anschließenden Gespräch mit ihr: Geschieht nicht genau dies schon seit Jahren auf Zigarettenpackungen – ohne wirklich Rauchende vom Nikotin abzuhalten. „Soll man gar nichts tun?“, entgegnete Buyx, „dann lässt man alles, wie es ist.“ Die Gesellschaft – gerade hier in Europa – sollte sich deutlich positionieren, dass sie diese Gefahren des Suchtpotentials und der Manipulation nicht akzeptiert. Ohne den Appell an Eigenverantwortung jedoch können nur noch „harte Beschränkungen“ helfen. 

Oder vielleicht ein Design, das Menschen davon abhält, die Maschine für ein gleichwertiges Gegenüber zu halten wie den Kaktus?

Diagnose und Pflege

Dabei hält Alena Buyx die KI auch durchaus in vielen Bereichen für hilfreich – etwa bei der Recherche. Und deren große Stärke, das Erkennen von Mustern, helfe bei der Diagnose von Krankheiten. Dabei können KIs bereits kleinste Veränderungen im Körper besser erkennen als erfahrene Ärzte. Auch etwa bei der Überwachung von Narkosen während Operationen seien sie gut einsetzbar. Problematisch aber dann, wenn die KI zu viel Kontrolle gewinnen kann – zumal, wenn die Ärzte sich zunehmend auf sie verlassen und ihre Fertigkeiten selbst immer weniger ausüben und damit verlernen.

In der Medizin sieht Buyx also viel mehr Potential für KI als bei der Pflege – obwohl sie dort gerade den Mangel an Arbeitskräften auffangen sollen: Roboter helfen beim Lagern, Aufstehen, Anziehen oder Essen. Doch bei diesen körpernahen Tätigkeiten ist es gerade schwierig, Maschinen solche passgenauen motorischen Fähigkeiten beizubringen, damit sie niemanden gefährden oder verletzen. 

Vier ethische Prinzipien

Den Einsatz der KI beurteilt Buyx anhand von vier ethischen Prinzipien, das sie weiterentwickelt hat. Erstens müsse jede Neuentwicklung dem Wohl des Menschen dienen. Zweitens brauche es Transparenz: Nutzer (und gerade Patienten und Pflegebedürftige) müssen nachvollziehen können, wie ihre Vorschläge zustande kommen. Drittens muss der Zugang zu ihnen gerecht sein und darf keine sozialen Spaltungen vertiefen. Sie müssen auch für Menschen zugänglich sein, die wenige oder keine digitalen Kompetenzen haben.

Ferner gehört dann der Schutz vor Schaden bei einem verantwortungsvollen Einsatz dazu. Gerade verletzliche Gruppen und schließlich wir alle müssen vor Manipulation oder Datenmissbrauch geschützt werden. Wer entscheidet, wohin die Daten gehen und was mit ihnen geschieht? Bei allen diesen Fragen fordert Alena Buyx klare Regeln: Nicht neue Möglichkeiten dürfen die ethischen Maßstäbe diktieren – sondern umgekehrt.

Alena Buyx: Leben & Sterben, Fischer-Verlag 2025 ISBN 978-3-1049-1765-8, 304 Seiten 24 Euro.

=> Mehr zur Evangelischen Hochschule Nürnberg online unter https://www.evhn.de/