Der Deutsche Ethikrat fordert Regeln und Grenzen für den Einsatz Künstlicher Intelligenz (KI) in Kernbereichen des Zusammenlebens. Softwaresysteme verfügten nicht über Vernunft, würden nicht selbst handeln und könnten daher keine Verantwortung übernehmen, heißt es in einer am Montag in Berlin vorgestellten Stellungnahme des Ethikrats. KI dürfe den Menschen daher nicht ersetzen, erklärte die Vorsitzende des Gremiums, die Medizinethikerin Alena Buyx.
Künstliche Intelligenz müsse menschliche Entfaltung erweitern und dürfe sie nicht vermindern, ergänzte sie. Das seien grundlegende Regeln für die ethische Bewertung. In der Alltagswelt übernähmen Algorithmen längst wichtige Funktionen, sagte Buyx. Künstliche Intelligenz werde eingesetzt, um Krebs zu erkennen, um mit Schülern und Schülerinnen Englischvokabeln zu lernen, um zu bestimmen, wer Sozialleistungen erhält und um Verhalten in sozialen Netzwerken zu beeinflussen. Weil die Technologie alle erreiche und immer besser werde, müsse sich die Gesellschaft genau anschauen, wofür sie KI einsetzen will - und wofür auch eben nicht, argumentierte die Medizinethikerin.
Der Ethikrat hat in der fast 300-seitigen Stellungnahme die möglichen Risiken des Einsatzes von KI in vier Kernbereichen analysiert: in der Medizin, der schulischen Bildung, der öffentlichen Kommunikation und Meinungsbildung sowie der öffentlichen Verwaltung. Die Wissenschaftler unterstreichen, dass in allen Bereichen der Mensch das letzte Wort haben muss sowie Chance und Risiko stets von der konkreten Anwendung abhängen.
"Der Teufel steckt im Detail", sagte die Leiterin der zuständigen Arbeitsgruppe des Ethikrats, Judith Simon. Die gleiche Anwendung könne Handlungsmöglichkeiten erweitern, an anderer Stelle aber auch einschränken. Pauschale Bewertungen einzelner Anwendungen, etwa des Bots ChatGPT, oder konkrete rechtliche Empfehlungen nimmt der Ethikrat daher nicht vor.
Buyx warnte davor, dass durch die Nutzung von KI insbesondere in der Medizin Schlüsselqualifikationen beim Fachpersonal beispielsweise in der Diagnostik verloren gehen können. In der Verwaltung dürften KI-Empfehlungen nicht blind befolgt werden. Zudem müssten Maßnahmen zum Schutz vor Diskriminierung ergriffen werden, empfiehlt das Gremium in seiner Stellungnahme.
In der Bildung dürfe Technologie kein Selbstzweck sein, sondern müsse das Ziel der Selbstbestimmung und reflektierten Persönlichkeitsbildung unterstützen. Im Bereich der öffentlichen Kommunikation problematisiert der Ethikrat die Wirkung von Algorithmen auf die Meinungsbildung und die Zunahme von Hass und Hetze im Netz.
Die Infrastruktur digitaler Kommunikation sei derzeit in der Hand von wenigen, zudem in den USA und China ansässigen Unternehmen, sagte der stellvertretende Ethikrat-Vorsitzende Julian Nida-Rümelin. Der Ethikrat regt in seiner Stellungnahme die Schaffung einer digitalen Infrastruktur auf europäischer Ebene in öffentlich-rechtlicher Hand an, etwa in Form einer Stiftung. Dieses Netzwerk könne ohne kommerzielles Interesse zur Stärkung demokratischer Grundwerte betrieben werden, sagte Nida-Rümelin. Buyx ergänzte, dies könne auch Abhängigkeiten von ausländischen und kommerziellen Anbietern verringern.
Dem Ethikrat gehören 24 Wissenschaftler aus unterschiedlichen Disziplinen, darunter Medizin, Recht, Philosophie und Theologie, an. Er berät die Politik vor allem bei bio- und medizin-ethischen Fragen. Die aktuelle Stellungnahme geht nach Angaben des Ethikrats auf eine entsprechende Anregung des damaligen Bundestagspräsidenten Wolfgang Schäuble (CDU) aus dem Jahr 2020 zurück.