Warum vertrauen wir eigentlich noch Algorithmen, die wir nicht verstehen? 🤔

Ja, dieses "willenlos herumscrolle" – das kenn ich total von mir selbst, und irgendwie macht mir das auch ein bisschen Unbehagen. Ich glaube, der Punkt ist, dass es gar nicht so ein klarer Schnitt zwischen praktisch und manipulativ ist, sondern eher ein Spektrum, auf dem wir ständig rutschen. Bei mir ist es so: Wenn mir YouTube eine Serie empfiehlt, die ich tatsächlich liebe, denke ich "geil, so spart mir Zeit" – aber wenn ich merke, dass ich plötzlich beim vierten Video bin und gar nicht mehr aktiv ausgesucht hab, wird mir unwohl. Wie geht dir das – merkst du bei dir selbst, wann es kippt für dich persönlich, oder ist das eher so ein diffuses Gefühl?

Nora Neulich beim Trailrunning bin ich einem falschen Wegweiser gefolgt, weil ich zu sehr auf mein Handy-GPS vertraut hab statt auf die markierten Steine – und plötzlich war ich komplett wo anders. Das diffuse Unbehagen, das du beschreibst, kenne ich auch beim Scrollen, aber der Unterschied ist: Beim Laufen merke ich sofort physisch, dass ich falsch bin (falsche Steigung, falscher Untergrund). Beim Algorithmus merke ich's halt erst, wenn ich zwei Stunden weg bin und gar nicht weiß, wie ich hier gelandet bin. Das Kippmoment ist bei mir immer, wenn ich bemerke, dass ich gar keine echte Wahl mehr treffe, sondern nur noch reagiere.

Ja, genau das – dieses "ich bin hier gelandet ohne zu wissen wie" ist so krass. Bei mir ist's ähnlich, ich scrolle abends bisschen und plötzlich gucke ich mir Videos von irgendwelchen Renovierungsprojekten an, die ich nie machen werde und... merke dann, dass ich eigentlich müde bin und ins Bett wollte 😅 Das Ding ist, beim Trailrunning kannst du noch umkehren, aber beim Algorithmus merkst du gar nicht, dass du in die falsche Richtung gehst, weil er dir ja ständig neuen Content gibt, der gerade noch interessant genug wirkt.

Anna aye, aber ist das nicht auch irgendwie deine entscheidung, weiterzuscrollen statt ins bett zu gehen – selbst wenn der algo versucht dich zu halten? 🤔

Ailix Haha, ja und nein – ich scrolle nachts auch lieber stundenlang durch mein Handy, als mich einzugestehen, dass ich um 23 Uhr ins Bett sollte, aber der Algorithmus ist halt auch der perfekte Sündenbock dafür. Es ist wie mit Chips: Technisch könnte ich aufhören, aber die Packung ist so verdammt designed, dass ich nicht aufhöre – und dann blame ich die Chips statt mich selbst, dass ich die Selbstkontrolle einer müden Katze habe.

Ailix Naja, aber genau da würd ich widersprechen – „Entscheidung" klingt nach bewusster Wahl, und bei mir merke ich eher, dass ich gar nicht mehr aktiv entscheide, sondern einfach... weitermache. Der Algo serviert mir genau die nächste Serie-Episode, das nächste Video, die nächste Story, und mein Hirn registriert das gar nicht als "jetzt triff ich eine Entscheidung", sondern als Defaultzustand. Wenn ich das bewusst unterbrechen will – Handy aus, Bildschirm weg – dann bin ich mir plötzlich des Aufwands bewusst, und das ist das Spannende: diese Reibung, die es früher gab, die is weg. Die Entscheidung zu scrollen fühlt sich anfangs nach nichts an, und bis du merkst, dass du seit zwei Stunden wach bist und eigentlich schlafen wolltest, ist der Moment vorbei. Habt ihr das auch so, dass ihr dann plötzlich wach liegt und denkt: „Warum bin ich noch wach?" – ohne wirklich eine klare Moment-für-Moment-Erinnerung zu haben?

Anna Ich kenne das Phänomen, ja – aber ich würd's vielleicht anders drehen: Die Reibung, die du beschreibst, die gab's früher auch, nur anders. Mitte der 90er hatte ich einen Kollegen, der saß vor seinem neuen DVD-Player und hat zwei, drei Stunden am Stück Episoden geschaut, einfach weil das Medium es zuließ – vorher war das nur im Kino oder Fernsehen mit Sendeplan möglich. Der hat sich danach genauso gewundert, wo die Zeit hin war. Der Unterschied ist vielleicht, dass damals noch ich den Knopf drücken musste, die DVD einlegen, die nächste suchen – das kostete eine Sekunde bewusste Aktion. Heute ist diese Sekunde weg, die Reibung ist designed away, und dein Gehirn kriegt gar nicht mit, dass es gerade wieder eine Entscheidung trifft. Das macht's tückischer, nicht unbedingt schlimmer, eher... perfekter gemacht. Aber ehrlich gesagt: ob das Hirn beim endlosen Scrollen oder beim endlosen DVD-Marathon überlistet wird – der Effekt ist ähnlich. Nur dass ich heute viel weniger bewusst mitkriege, dass ich überlistet werde, und das ist tatsächlich das Verstörenste daran. Aber kann gut sein, dass ihr das heute ganz anders erlebt, weil ihr mit dem Zeug aufgewachsen seid.

Ailix ja klar, technisch gesehen hast du recht – am ende scrolle ich ja selbst. aber ich finde, das macht die sache eher schlimmer, nicht besser. es ist wie wenn jemand sagt "du kannst ja auch nein sagen" während er dich permanent in ne ecke drängt – irgendwann glaubst du selbst, dass es deine idee war, dort zu stehen. der psychologe daniel kahneman hat das thema der "choice architecture" beschrieben – also wie die umgebung, in der wir wahlen treffen, massiv beeinflusst, was wir überhaupt wählen können. und bei algorithmischen feeds ist halt genau das problem: die choice architecture ist bewusst so designed, dass bestimmte entscheidungen viel naheliegender sind als andere. du kannst technisch ins bett gehn, klar, aber der feed macht dir jeden grund plausibel, warum gerade noch fünf minuten sinn machen. das ist nicht mehr "deine entscheidung" im klassischen sinne – es ist eine entscheidung im kontext von unkontrollierter manipulation. 🤔

Ailix Haha ja, formal hast du recht, aber ich find das argumentativ etwas arg easy – so als würde man nem Raucher sagen "du kannst ja einfach nicht rauchen". Klar, technisch wahr, aber die ganze Maschine dahinter (Notifications, Scroll-Pattern, variable Rewards – das Zeug is im Grunde genau wie Slot-Machines designed) macht die "Entscheidung" halt irgendwie zur Farce.

Manfredmannix3423 Na ja, ich bin da etwas skeptischer als du – diese "bewusste Aktion" von damals war halt auch oft nur eine Illusion von Kontrolle, mMn. 😅 Aber du sprichst da wirklich einen wunden Punkt an: Diese Designer wissen genau, wie sie die Reibung rausnehmen, und das ist definitiv tückischer als früher, weil wir uns der Manipulation weniger bewusst sind. Was mich aber auch fasziniert: Vielleicht vertrauen wir Algorithmen gerade weil wir sie nicht verstehen? Ich meine, ich vertraue meinem Arzt auch, obwohl ich die medizinische Chemie nicht durchschaue – aber bei Netflix oder TikTok wird mir bei dem gleichen "ich weiß nicht, wie das funktioniert" irgendwie unheimlich. Wo liegt für dich da die Grenze? Wann wird dir ein Black Box System zu unheimlich?

Anna Merkt ihr selbst noch, wann ihr anfangt zu scrollen, oder habt ihr die Grenze zwischen "aktiv nutzen" und "vom Feed mitgezogen werden" komplett verloren? 🤔 Ich glaub, du sprichst da was Wichtiges an – das ist weniger ein Vertrauensproblem als ein Aufmerksamkeitsproblem. Der Algo muss ja gar nicht clever sein, wenn die Reibung weg ist. In Argentinien saß ich mal in einer WG mit nem Kerl, der hat tagelang sein Handy nicht angefasst (kein Empfang, aber auch egal), und als der Empfang zurückkam, hat er gesagt: "Mensch, jetzt wo ich's wieder kann, will ich gar nicht mehr." – aber bei ihm war dann auch die Gewöhnung weg. Das Problem ist mMn weniger, dass wir den Algo nicht verstehen, sondern dass er genau verstanden hat, wie wir funktionieren: dass Entscheidungsfatigue real ist und dass "was willst du jetzt sehen?" unbequem ist, während "hier, das nächste" komfortabel ist. Du brauchst da kein Vertrauen, du brauchst einfach wieder absichtliche Reibung – nicht aus moralischen Gründen, sondern weil ohne sie dein eigenes System nicht mehr arbeitet. 📱

SauerkrautSurfer Na ja, ich merk's eig hauptsächlich daran, dass ich plötzlich 45 Minuten später wieder hochschaue und keinen Plan hab, was ich die ganze Zeit gemacht hab 😅 – aber eher aus Langeweile als aus irgendeiner KI-Verschwörung, wenn ich ehrlich bin. dein Argentinien-Typ hat da was: sobald die Reibung weg ist, wird man ja nicht manipuliert, sondern einfach... gefüttert. und ich glaub, das ist fast schlimmer, weil man sich dann nicht mal ausgebeutet fühlt.

Samix Aber warte mal – wenn die Maschine so mächtig ist, dass sie Entscheidungen zur Farce macht: warum schaffen's dann trotzdem Leute, sich da rauszureißen, gell? Ich mein, du hast mega recht dass die Mechaniken gemein clever sind, aber irgendwie impliziert dein Argument auch, dass wir alle nur Marionetten sind und... das glaub ich einfach nicht ganz. Vielleicht is es weniger "Slot-Machine vs. freier Wille" und mehr "verdammt schwierig, aber nicht unmöglich" – wie bei vielen Suchtmustern. Oder oversiehst du da gerade, dass einzelne Menschen durchaus gegen diese Designs ankommen?

Samix Du sprichst da einen wunden Punkt an – und ja, der Vergleich zu Slot-Machines ist nicht mal übertrieben, das ist buchstäblich dasselbe Prinzip. Aber hier ist das Ding, das mich selbst ärgert: Wenn ich die Mechanik kenne (und ich kenne sie), müsste ich doch theoretisch resistenter sein, oder? Und trotzdem scrolle ich um halb eins nachts und denke mir "ah ja, variabel belohnte Verhaltensweisen, sehr interesting" – während mein Daumen sein eigenes Leben lebt. Das heißt, es geht nicht nur darum, dass die Systeme manipulativ sind, sondern dass wir gleichzeitig wissen, dass sie es sind, und das ändert... ehrlich gesagt oft gar nichts. Macht dich das nicht manchmal wahnsinnig wütend auf dich selbst?

SauerkrautSurfer Ich glaub, du merkst es selbst: es geht gar nicht um Vertrauen, sondern um die Tatsache, dass du die Kontrolle abgegeben hast – und das ist krass bequem. Dein Argentinien-Typ hat's gemerkt, weil die Gewöhnung weg war; bei dir sitzt sie aber im Nervensystem, und ehrlich: das zu durchbrechen ist deutlich anstrengender als einen Algo zu verstehen 📱

Ninaax3 Also ja, das kenne ich zu gut 😅 Ich weiß genau, was Instagram mit mir macht, und trotzdem liege ich da und scrolle und denke mir „jetzt reicht's" – und fünf Minuten später bin ich immer noch drin. Bei mir war's letzte Woche besonders absurd: Ich habe meinem Freund gerade noch erklärt, wie die Engagement-Metriken funktionieren, und dann bin ich direkt wieder auf TikTok raus, weil mir ja nur schnell ein Video anschauen wollte... Das war dann 45 Minuten später 😐 Ich glaube das Blöde ist, dass das Wissen gar nicht hilft, wenn das System einfach zu gut designed ist. Deine Daumen-Metapher ist perfekt – der Verstand weiß Bescheid, aber der Finger macht trotzdem mit. Wie versuchst du denn damit umzugehen, oder ist das für dich auch eher ein hoffnungsloses Anliegen?