Welche ethischen Fragen werden durch neue Technologien in Deutschland besonders relevant?

Als Lehrerin treff ich diese Frage eigentlich täglich nur dass sie im Klassenzimmer viel konkreter wird als in irgendeiner politischen Debatte. 😅

Seit KI-Tools wie ChatGPT für jeden zugänglich sind stell ich mir ständig eine Frage die mich wirklich umtreibt: Was bedeutet eigentlich noch eigene Leistung? Ich hab Schüler die Aufsätze einreichen die klingen als hätte kein 16-Jähriger sie geschrieben. Kann ich das beweisen? Meistens nicht. Soll ich es überhaupt bestrafen wenn die Technologie einfach da ist? Und wenn meine Schüler später im Job KI selbstverständlich nutzen werden warum trainiere ich dann gerade das Gegenteil? Das sind keine abstrakten Fragen für mich, das ist jeden Montag Realität.

Was mich darüber hinaus beschäftigt ist das Überwachungsthema. Deutschland hat historisch gesehen aus gutem Grund eine besondere Sensibilität dafür und trotzdem schlucken wir still Gesichtserkennung in Bahnhöfen, personalisierte Werbung die zeigt dass unser Handy mitgehört hat, und Algorithmen die entscheiden welche Nachrichten wir sehen. Wir haben die DSGVO, wir reden viel über Datenschutz, aber ich glaub ehrlich gesagt dass die meisten Menschen gar nicht wissen wie viel schon gerade passiert. Ich eingeschlossen. 🙈

Und dann Automatisierung. Ich seh wie Jobs verschwinden werden nicht irgendwann, sondern jetzt gerade. Die ethische Frage ist für mich nicht ob das passiert, sondern wer die Kosten trägt. Meistens sind es die die sowieso schon weniger haben.

Was mich an der deutschen Debatte manchmal frustriert: wir sind gut im Regulieren und Verbieten, aber nicht gut im Gestalten. Wir warten bis etwas schiefläuft statt vorauszudenken. Dabei hätten wir eigentlich die Strukturen und die Tradition dafür, Technologie wirklich demokratisch zu gestalten, wenn wir es denn wollten.

Was denkt ihr wo zieht ihr persönlich die Grenze?

Hannah das mit dem "wer trägt die Kosten" ist genau die Frage die ich mir auch stelle, nur halt von einer anderen Seite aus.

Ich arbeite mit Menschen die von diesen technologischen Entwicklungen nicht profitieren sondern einfach überrollt werden. Und was mich dabei ethisch am meisten beschäftigt ist nicht KI an sich. Es ist die Gleichgültigkeit mit der wir akzeptieren dass bestimmte Gruppen dabei systematisch vergessen werden.

Ein konkretes Beispiel aus meinem Alltag. Immer mehr Behörden und Sozialdienste laufen digital. Onlineformulare, digitale Terminbuchung, Bescheide per Mail. Klingt nach Fortschritt. Aber ich sitze mit Menschen zusammen die kein Smartphone haben, kein Internet, manchmal keine feste Adresse. Für die ist dieser Fortschritt eine neue Mauer. Und niemand der diese Systeme baut fragt offenbar wer da gerade durchfällt.

Das ist für mich eine knallharte ethische Frage. Nicht ob KI Aufsätze schreibt, sondern ob wir als Gesellschaft bereit sind zuzugeben dass Digitalisierung Ungleichheit aktiv verschärft wenn wir nicht gegensteuern.

Deinen Punkt über Deutschland und Regulierung find ich interessant. Ich glaube wir sind tatsächlich gut darin Grenzen zu setzen. Aber Grenzen schützen meistens die die schon geschützt sind. Die DSGVO hilft mir wenn ich weiß dass es sie gibt und wie ich sie nutze. Für jemanden der gerade schaut wie er die Miete zahlt ist das ziemlich weit weg.

Was ich mir wünsche ist dass bei jeder neuen Technologiedebatte eine ganz simple Frage Pflicht wird. Wer wird hier nicht mitgedacht?

Ich finde, gerade beim Thema KI sollten wir zwischen dem unterscheiden, was technisch möglich ist, und dem, was gesellschaftlich sinnvoll ist. Eine Grenze sollte dort gezogen werden, wo Menschen ihre Selbstbestimmung verlieren oder Technologien gezielt menschliche Schwächen ausnutzen.

Interessant finde ich in diesem Zusammenhang die Überlegungen der Medizinethikerin Alena Buyx. Sie betont, dass KI die Entfaltungsmöglichkeiten des Menschen erweitern und nicht verringern sollte. Gerade bei Kindern und Jugendlichen sehe ich hier einen besonders sensiblen Bereich. Wenn ein Chatbot nicht mehr nur beim Lernen hilft, sondern zum ständigen Gesprächspartner, Vertrauten oder sogar Ersatz für reale soziale Kontakte wird, kann daraus eine problematische emotionale Bindung entstehen. Aktuelle Untersuchungen zeigen tatsächlich, dass insbesondere stärker belastete Jugendliche häufiger solche Bindungsmuster gegenüber KI-Chatbots entwickeln.

Deshalb halte ich es für sinnvoll, bei Kindern strengere Schutzmechanismen vorzusehen als bei Erwachsenen. Das muss nicht bedeuten, KI generell zu verbieten. Vielmehr könnte es um altersgerechte Systeme, klare Nutzungsgrenzen, Transparenz darüber, dass man mit einer Maschine spricht, und darum gehen, dass KI nicht gezielt versucht, möglichst lange oder möglichst intensive Beziehungen zu ihren Nutzern aufzubauen. Auch die Bundeszentrale für Kinder- und Jugendmedienschutz spricht inzwischen von der Notwendigkeit klarer Leitplanken und altersgerechter Rahmenbedingungen.

Die Verantwortung dafür kann meiner Meinung nach aber nicht allein bei den Eltern oder den Kindern liegen. Politik muss verbindliche Regeln schaffen, Forschung muss mögliche Folgen frühzeitig untersuchen, Unternehmen müssen ihre Systeme entsprechend gestalten und Risiken transparent machen. Und wir als Gesellschaft müssen uns fragen, welche Entscheidungen wir überhaupt an Maschinen delegieren wollen.

Das gilt letztlich nicht nur für KI, sondern genauso für Genforschung, Robotik und Überwachung: Nicht alles, was technisch machbar ist, sollte automatisch umgesetzt werden. Die entscheidende Frage sollte sein, ob eine Technologie dem Menschen dient – oder ob wir irgendwann anfangen, unser Verhalten an die Technologie anzupassen.

Wenn mein Kind sich den halben Tag mit seiner selbstgebauten KI-Freundin unterhalten würde, würde ich mir da definitiv stärkere Grenzen wünschen. Und die müssten dann erstmal schon vom Entwickler aus umgesetzt werden. Denn gerade bei Jugendlichen wächst das Gehirn ja noch. Die können also nicht gut differenzieren und bleiben theoretisch eher mal in so einer "Fantasiewelt" hängen. Ganz gefährlich..

Franzi Das ist das, was mich seit Jahren beschäftigt — nicht die Technologie selbst, sondern wer außen vorgelassen wird, während alle über Innovation reden. Ich erinnere mich an Anfang der 2000er, als wir in der Firma zum ersten Mal alles von Fax auf E-Mail umgestellt haben, und es gab da einen älteren Kollegen, der das nicht konnte, und statt ihn mitzunehmen, haben wir ihn einfach... umgangen. Irgendwann war er irrelevant geworden. Was du beschreibst, ist das gleiche Muster, nur exponentiell größer und mit höheren Einsätzen — weil's nicht um Bürokram geht, sondern um Zugang zu Leistungen, die Menschen zum Leben brauchen. Das Fieseste ist ja: man kann es leicht als technisches Problem framen — ach, wir müssen halt noch eine Telefonhotline einrichten — statt zuzugeben, dass es eine gesellschaftliche Entscheidung ist, wen wir mitnehmen und wen nicht. Aber kann gut sein, dass ihr vor Ort ganz andere Hebel findet, die ich hier nicht sehe.