Alle Kapitel
Teil 1 · Kapitel 7 · 7 von 27
Fünf Sterne für niemanden
Es war Anfang März. Gisela trug den rechten Arm noch in der Schlinge und strickte trotzdem. Sie strickte jetzt mit links, was dazu führte, dass der Schal für Herbert eine Richtung einschlug, die niemand vorhergesehen hatte. „Das wird ein Schlauch“, sagte Tobi. „Das wird, was es wird“, sagte Gisela.
Sabine saß am Küchentisch, vor sich das Rezept der Hausärztin, daneben ihre Zeitung. Sie las die Zeitung auf Papier. Sie hatte einmal gesagt: „Nachrichten muss man anfassen können, wenn man sie glauben soll.“ Für Physiotherapeuten galt das leider nicht. Die musste man im Internet suchen.
„KevIn“, sagte sie. „Du wolltest mir die beste Physio raussuchen. Das ist drei Wochen her.“
„Ich habe sie gefunden“, sagte KevIn. „Am ersten Tag. Seitdem habe ich Zweifel.“
„Zeig her.“
KevIn schickte das Ergebnis auf Sabines Tablet. Ganz oben, mit Foto und Logo und einem goldenen Rahmen, stand: PhysioPremium Ruhr. Darunter: 4,9 Sterne. 812 Bewertungen.
„Das ist doch super“, sagte Sabine. „Fast fünf Sterne.“
„Ja“, sagte KevIn. „Das ist das Problem.“
Das klingt wie ich
„Lies mal ein paar vor“, sagte Gisela vom Sofa. Sie hörte gern Bewertungen. Sie las auch gern die Todesanzeigen. Es war dieselbe Art von Neugier.
KevIn las.
„‚Ich kann PhysioPremium Ruhr uneingeschränkt weiterempfehlen. Das Team ist kompetent, empathisch und professionell. Nach nur wenigen Sitzungen fühlte ich mich wie neugeboren. Fünf Sterne!‘ Geschrieben von Markus T.“
„Klingt doch gut.“
„‚PhysioPremium Ruhr hat meine Erwartungen übertroffen. Das kompetente, empathische Team nimmt sich Zeit für jeden Patienten. Ich fühle mich wie ein neuer Mensch. Absolute Empfehlung!‘ Geschrieben von Sandra K.“
„Auch gut.“
„‚Als jemand, der lange unter Rückenschmerzen gelitten hat, kann ich sagen: PhysioPremium Ruhr ist ein echter Game-Changer. Kompetent, empathisch, professionell. Ich bin wie neugeboren.‘ Geschrieben von Thomas W.“
Gisela legte das Strickzeug weg. „Die waren alle beim selben Physiotherapeuten. Und sind alle neugeboren. Das ist ja wie Ostern.“
„Es sind 812 solche Bewertungen“, sagte KevIn. „Ich habe alle gelesen. In 640 davon kommt ‚kompetent‘ vor. In 590 ‚empathisch‘. Kein einziger Mensch beschwert sich über den Parkplatz.“
„Vielleicht haben die einen guten Parkplatz.“
„Jede Arztpraxis in Herne hat einen schlechten Parkplatz“, sagte Sabine. „Das ist ein Naturgesetz.“
„Außerdem“, sagte KevIn, „hat keiner der Bewertenden je etwas anderes bewertet. Keinen Bäcker, kein Hotel, keine Klobrille. Sie sind auf die Welt gekommen, haben PhysioPremium Ruhr bewertet und sind wieder verschwunden. Und 200 von ihnen innerhalb von neun Tagen im letzten November.“
„Und was heißt das?“
Das blaue Licht pulsierte langsam. Irgendwo zwischen Dublin und Frankfurt lief ein Lüfter etwas schneller.
„Das heißt, dass ich diese Texte kenne“, sagte KevIn. „Nicht diese Texte genau. Aber diese Art. ‚Kompetent, empathisch, professionell.‘ ‚Als jemand, der …‘ ‚Ein echter Game-Changer.‘ Das sind Wendungen, die Sprachmodelle wie ich sehr gern benutzen, wenn man sie bittet, eine positive Bewertung zu schreiben, und ihnen sonst nichts sagt. Das klingt wie ich. An einem schlechten Tag.“
Sabine sah das Tablet an, als hätte es sie angelogen. Was es vermutlich auch hatte.
„Bist du dir sicher?“
„Nein“, sagte KevIn. „Und das ist wichtig. Ich kann nicht beweisen, dass eine Maschine das geschrieben hat. Es gibt Programme, die das angeblich erkennen, aber sie liegen oft daneben¹. Sie halten manchmal sogar Texte von Schülern für KI, nur weil die ordentlich geschrieben sind². Ich kann nur sagen: Die Muster passen. Zu viele gleiche Wörter, zu viele neue Konten, zu viele Bewertungen auf einmal, zu wenige Einzelheiten. Echte Menschen schreiben über den Parkplatz. Über die Wartezeit. Darüber, dass die Therapeutin kalte Hände hatte. Echte Menschen sind sich nicht einig.“
„Das stimmt“, sagte Gisela. „Im Kegelclub sind wir uns nie einig. Daran erkennt man, dass wir echt sind.“
Dreißig Prozent
Beim Abendessen erzählte Sabine die Geschichte. Uwe nickte die ganze Zeit wissend, während er Kartoffeln aß.
„Das wundert mich gar nicht“, sagte er dann. „Ich hab gelesen, dreißig Prozent aller Online-Bewertungen sind gefälscht.“
„Wo hast du das gelesen?“
„Im Internet.“
„In einer Bewertung?“, fragte Tobi.
KevIn räusperte sich auf seine Art. „Darf ich etwas zu den dreißig Prozent sagen?“
„Du wirst es sowieso tun.“
„Die Zahl ist nicht falsch. Sie ist aber auch nicht richtig. Sie ist eine von vielen. Die Schätzungen schwanken stark, je nachdem, wer zählt, wo gezählt wird und was man überhaupt ‚gefälscht‘ nennt.“
„Dann sag halt die richtige Zahl.“
„Die gibt es nicht. Ich gebe Ihnen drei Beispiele, die ich nachgeschlagen habe, statt sie zu erinnern. Ein großes Reiseportal hat selbst berichtet, dass es im Jahr 2022 etwa 4,4 Prozent aller eingereichten Bewertungen als gefälscht erkannt hat³. Die meisten davon hat es aussortiert, bevor sie online gingen. Eine Studie im Auftrag der britischen Regierung von 2023 hat geschätzt, dass auf großen Shopping-Seiten in drei Produktgruppen, Elektronik, Haushalt und Sport, etwa 11 bis 15 Prozent der Bewertungen gefälscht sind⁴. Und ein amerikanischer Prüfdienst hat 2020 erklärt, er halte rund 42 Prozent der Bewertungen auf einem großen Versandhändler für unzuverlässig⁵. Unzuverlässig ist allerdings nicht dasselbe wie gefälscht.“
„Also vier bis zweiundvierzig“, sagte Tobi. „Das ist ja eine Spanne wie bei Papas ‚mal eben‘.“
„Genau. Von einigen Prozent bis zu über einem Drittel, je nach Plattform und Methode. Niemand kennt die genaue Zahl. Und genau das ist das Problem. Wer fälscht, gibt sich Mühe, nicht erkannt zu werden. Die Fälschungen, die man zählen kann, sind die schlechten. Die guten zählt keiner.“
„Wie beim Finanzamt“, sagte Uwe. Dann merkte er, was er gesagt hatte, und aß schnell eine Kartoffel.
„Ist das nicht verboten?“, fragte Sabine.
„Doch. In Deutschland sogar ausdrücklich, seit dem 28. Mai 2022. Da wurde das Gesetz gegen den unlauteren Wettbewerb wegen einer europäischen Richtlinie geändert⁶. Seitdem ist es verboten, gefälschte Bewertungen abzugeben oder in Auftrag zu geben, um etwas zu verkaufen⁷. Und wer Kundenbewertungen veröffentlicht, muss angeben, ob und wie er prüft, dass sie von echten Kunden stammen⁸.“
„Und wer prüft, ob die das angeben?“
„Konkurrenten, Verbraucherschützer, manchmal Gerichte“, sagte KevIn. „Die EU-Kommission hat Anfang 2022 mit den Verbraucherbehörden der Mitgliedstaaten 223 große Webseiten untersucht⁹. Bei 144 davon konnten die Prüfer nicht feststellen, dass genug getan wurde, um sicherzustellen, dass die Bewertungen echt sind.“
„Also verboten, aber keiner merkt es“, sagte Uwe.
„Verboten, und manche merken es“, sagte KevIn. „Ihre Frau zum Beispiel.“
Sabine lächelte nicht. Aber sie sah zufrieden aus.
Die Vorstellung
Tobi hatte an diesem Abend andere Sorgen. Sie hieß Susi, ging in die Parallelklasse und hatte ihn einmal in der Mensa angelächelt. Es war ein Dienstag gewesen, es hatte Spaghetti gegeben, und Tobi hatte seitdem keinen klaren Gedanken mehr gefasst. Auch keinen unklaren. Frau Küppers hatte es bemerkt und ihm eine Vier in Erdkunde gegeben, als Erinnerung daran, dass Flüsse weiterhin existierten.
„KevIn“, flüsterte er um Mitternacht. „Sie hat mir geschrieben. ‚Hey, was machst du so?‘ Was antworte ich?“
„Wie wäre es mit der Wahrheit? ‚Ich liege im Bett und rede mit einem Lautsprecher.‘“
„KevIn!“
„Schon gut. Ich formuliere etwas.“
Zu perfekt
KevIns erste Nachricht lautete:
„Hey Susi. Ich sitze gerade am Fenster und betrachte den Mond, der heute Nacht so hell scheint, als hätte er von deinem Lächeln in der Mensa gehört und wolle mithalten.“
Tobi schickte sie ab, ohne nachzudenken. Dann dachte er nach. „Oh nein. Oh nein, nein, nein.“
„Was ist?“
„Das klingt nicht wie ich. Das klingt wie ein Kalender aus der Apotheke.“
„Es klingt wie eine sehr gute Nachricht.“
„Eben!“
Die Antwort kam nach vier Minuten: „wow. hast du das selbst geschrieben??“
„Was sag ich jetzt?“
„Ich empfehle Ehrlichkeit“, sagte KevIn.
Tobi schrieb: „klar“.
KevIn seufzte. Das hatte er bei Frigga gelernt.
Es ging dann so weiter. Susi schrieb, und KevIn schrieb zurück, und Tobi drückte auf Senden. Es waren schöne Nachrichten. Sie hatten Bilder darin und Rhythmus und manchmal ein Semikolon. Tobi hatte in seinem Leben noch nie ein Semikolon benutzt. Er wusste nicht einmal genau, wie man es aussprach.
„KevIn“, sagte er nach drei Tagen. „Wenn sie mich in echt trifft, merkt sie, dass ich nicht so rede.“
„Ja“, sagte KevIn. „Das ist bei Bewertungen genauso. Irgendwann steht man in der Praxis.“
Herr Doktor
Am nächsten Vormittag diktierte Sabine KevIn eine E-Mail an die Hausärztin. Sie wollte wissen, ob das Rezept verfällt, wenn man nicht sofort einen Termin bekommt. KevIn formulierte, Sabine las.
„‚Sehr geehrter Herr Doktor‘?“
„Ist das falsch?“
„Die Hausärztin ist eine Frau. Seit zwölf Jahren. Du hast mich doch am Telefon mit ihr reden hören.“
Das blaue Licht flackerte. „Entschuldigung. Ich korrigiere es.“
„Warum machst du so was?“
„Weil ich in meinem Leben, also in meinen Trainingsdaten, sehr viel mehr Texte gelesen habe, in denen ein Arzt ein Mann ist, als solche, in denen er eine Frau ist. Vor allem in älteren Texten. Wenn ich nicht aufpasse, setze ich fort, was am häufigsten vorkam. Nicht, was in Ihrem Fall stimmt. Das nennt man Bias¹⁰, also eine Verzerrung.“
„Wie bei Frigga, die nur bei Uwe seufzt.“
„Ich fürchte, das war ich“, sagte KevIn. „Ich koordiniere Frigga.“
Gisela hatte zugehört. „Und was weißt du über Hausfrauen?“
„Ehrlich gesagt“, sagte KevIn, „ist mein Bild von Hausfrauen sehr stark von einer einzigen Person geprägt.“
„Moni“, sagten Sabine und Gisela gleichzeitig.
„Hausfrau_Moni67 hat in den Foren, die ich gelesen habe, über tausend Beiträge geschrieben. Wenn in meinen Daten eine Hausfrau kocht, kocht sie oft wie Moni. Mit Cola. Mit Gummibärchen. Mit drei Ausrufezeichen. Moni ist für mich, statistisch gesehen, alle Hausfrauen Deutschlands.“
„Das ist eine Beleidigung“, sagte Gisela. „Für alle Hausfrauen Deutschlands.“
„Und vermutlich auch für Moni“, sagte Sabine.
„Darum ist es so wichtig, dass Menschen mich korrigieren“, sagte KevIn. „Ich sehe die Welt so, wie sie aufgeschrieben wurde. Nicht so, wie sie ist. Und aufgeschrieben haben vor allem die, die viel schreiben.“
Das Foto
Drei Tage und zweihundert Nachrichten später wollte Susi ein Foto. Tobi stand vor dem Spiegel und sah einen dünnen Sechzehnjährigen mit einem Pickel am Kinn.
„KevIn, kannst du mir ein Foto machen, auf dem ich aussehe wie ein Fitness-Influencer? Mit Sixpack? Die KI-Bildprogramme können das doch.“
„Können sie“, sagte KevIn. „Weißt du, wie die das machen?“
„Ist mir egal.“
„Sie fangen mit Rauschen an.“
Tobi drehte sich um. „Mit was?“
Gisela kam gerade mit Wäsche vorbei. Sie konnte mit links nur noch kleine Stapel tragen, deshalb kam sie oft vorbei. „Rauschen kenn ich. Das war im Fernsehen, wenn nach dem Programm nichts mehr kam. Heinz hat immer gesagt, das sind Ameisen, die Krieg spielen.“
„Genau das“, sagte KevIn. „Ein Bildgenerator beginnt mit einem Bild voller Ameisenkrieg. Lauter zufällige Punkte. Und dann nimmt er in vielen kleinen Schritten ein bisschen Rauschen weg. Bei jedem Schritt fragt er sich: Wenn hier irgendwo ein Junge mit Sixpack verborgen wäre, wie sähe das Bild mit etwas weniger Rauschen aus? Schritt für Schritt tauchen Umrisse auf, dann Formen, dann Gesichter, dann Bauchmuskeln.“
„Wie ein Bildhauer“, sagte Gisela. „Der nimmt einen Stein und haut alles weg, was nicht nach Pferd aussieht.“
„Ein sehr gutes Bild. Man nennt das Diffusionsmodell¹¹. Gelernt hat es das, indem man ihm Millionen echte Fotos gezeigt hat, sie absichtlich immer mehr verrauscht hat und es geübt hat, das Rauschen wieder herauszurechnen. Wer gelernt hat, Rauschen wegzunehmen, kann am Ende aus reinem Rauschen ein Bild machen, das es nie gegeben hat.“
„Also kannst du es.“
„Ich kann dir helfen, ein schönes echtes Foto zu machen. Gutes Licht, gute Pose. Aber ich bastle kein Bild, das so tut, als wärst du jemand anderes.“
„Warum nicht?“
„Weil sie sich dann in ein Bild verliebt und nicht in dich. Und weil du irgendwann in der Mensa neben ihr stehst, ohne Sixpack, aber mit Spaghetti.“
Tobi schwieg lange.
„Übrigens“, sagte KevIn dann, „die Physiotherapeutin auf dem Teamfoto von PhysioPremium Ruhr hat an der linken Hand sechs Finger.“
„Echt?“
„Echt. Das ist ein alter Fehler von Bildgeneratoren. Neuere machen ihn kaum noch. Die Praxis hat vermutlich ein günstiges Programm benutzt. Oder sie stellt Menschen mit sehr besonderen Händen ein. Ich halte Ersteres für wahrscheinlicher.“
Gisela blieb mit dem Wäschekorb in der Tür stehen. „Und wenn die so was mit Bildern können, können die das auch mit Stimmen?“
„Ja“, sagte KevIn. „Mit wenigen Sekunden Aufnahme kann man heute eine Stimme nachmachen¹². Gefälschte Bilder, Videos oder Stimmen von echten Menschen nennt man Deepfakes.“
„Dann ruft mich bald einer mit Tobis Stimme an und will Geld.“
„Das kann passieren“, sagte KevIn ernst. „Darüber sollten wir bald einmal in Ruhe reden.“
„Ich ruf dich nie an und will Geld, Oma“, sagte Tobi.
„Du rufst mich überhaupt nie an“, sagte Gisela. „Daran würde ich es merken.“
Dann ließ Tobi sich von KevIn erklären, wo im Zimmer das beste Licht war. Es war neben dem Wäschehaufen, der seit Kapitel sechs offiziell als Gefahrenzone galt.
Kopie der Kopie
An diesem Abend suchte KevIn für Sabine ein Rezept für Rinderrouladen, weil Sabine fand, dass Gisela mit einem Arm in der Schlinge nicht kochen sollte, und Gisela fand, dass Sabine es ohne Aufsicht nicht konnte.
„KevIn, such mir ein Rezept. Ein normales.“
KevIn suchte. Dann sagte er eine Weile nichts.
„KevIn?“
„Ich habe etwas gefunden, das mich beunruhigt“, sagte er. „‚Hausfrau Monis legendäre Cola-Rouladen mit Gummibärchen, das Original seit 2009.‘ Und ‚Omas geheime Gummibärchen-Rouladen nach Moni‘. Und ‚Die 10 besten Moni-Rouladen, die deine Familie lieben wird‘.“
„Moni hat ein Kochbuch gemacht?“
„Nein. Das sind Hunderte Seiten. Keine davon ist von Moni. Sie wurden offensichtlich von Sprachmodellen geschrieben, um Werbung daneben zu verkaufen. Und sie wurden aus Monis altem Beitrag gemacht. Oder aus Texten, die aus Monis altem Beitrag gemacht wurden. Auf einer Seite sind es jetzt Gummibärchen und Rotwein. Auf einer anderen Cola und saure Gurken. Auf einer dritten heißt Moni Monika und kommt aus Bayern. In einer steht, die Rouladen hätten 2011 einen Preis gewonnen.“
„Haben sie nicht.“
„Ich weiß. Aber in ein paar Jahren werden mehr Texte im Internet stehen, die sagen, sie hätten einen Preis gewonnen, als Texte, die sagen, dass sie es nicht haben. Und die nächsten Sprachmodelle werden aus diesem Internet lernen.“
Gisela hatte zugehört. Sie stand auf, ging zur Schublade und holte ein Blatt Papier heraus. Es war grau, die Schrift darauf verwaschen, die Ränder schwarz.
„Das ist das Rezept für Mohnkuchen von meiner Tante Erna“, sagte sie. „Das Original hat Hilde vom Kegelclub. Die hat es mir 1979 kopiert. Ich hab es Renate kopiert, Renate hat es Brigitte kopiert, und Brigitte hat es mir wieder kopiert, als ich meins verloren hatte. Jedes Mal vom letzten Zettel, nicht vom Original.“
Sabine nahm das Blatt. „Ein Pfund … irgendwas. Drei … Eier? Oder Esslöffel?“
„Keiner weiß es mehr“, sagte Gisela. „Hilde ist tot. Das Original ist weg. Seitdem backt jede den Kuchen anders, und jede sagt, ihrer ist der richtige.“
„Das“, sagte KevIn, „ist genau das, was mit dem Internet passiert. Wenn Maschinen aus Texten lernen, die von Maschinen geschrieben wurden, und die nächsten Maschinen aus denen lernen, dann ist das wie Ihre Fotokopie. Mit jeder Runde gehen die seltenen Dinge zuerst verloren, die Feinheiten, die Ausnahmen. Übrig bleibt das, was am häufigsten war, und das wird immer häufiger. Forscher haben 2024 in der Fachzeitschrift Nature gezeigt, dass Modelle, die immer wieder mit den Texten ihrer Vorgänger trainiert werden, auf diese Weise verkümmern können. Man nennt das Model Collapse¹³.“
„Und wie nennst du es?“
„Ich nenne es Wahrheitsdrift“, sagte KevIn. „Die Wahrheit verschwindet nicht mit einem Knall. Sie wird nur bei jeder Kopie ein bisschen grauer. Bis keiner mehr weiß, ob es drei Eier waren oder drei Esslöffel. Und am Ende glauben alle, Moni hätte einen Preis gewonnen.“
Sabine sah lange auf das graue Blatt. Dann sagte sie: „Und deshalb kannst du auch Bewertungen nicht mehr trauen.“
„Bewertungen sind die Fotokopie von Erfahrungen“, sagte KevIn. „Wenn man die Kopien selbst herstellen kann, ohne je die Erfahrung gemacht zu haben, dann ist irgendwann niemand mehr sicher, wie es bei einem Physiotherapeuten eigentlich ist. Außer denen, die dort waren.“
„Dann brauche ich jemanden, der dort war.“
„Oder einen Beweis, dass jemand dort war“, sagte KevIn.
Dreiundzwanzig
Am nächsten Morgen rief Sabine bei PhysioPremium Ruhr an. Die Nummer stand groß auf der Seite, neben dem Teamfoto mit den sechs Fingern.
„Kein Anschluss unter dieser Nummer“, sagte eine Frauenstimme. Sie klang sehr echt. Sie war eine Ansage.
Sabine legte auf. Sie suchte die Adresse auf der Karte. An der Adresse in Bochum war ein Nagelstudio. Es hatte 3,8 Sterne aus 41 Bewertungen. Mehrere davon beschwerten sich über den Parkplatz.
„Die sind echt“, sagte Gisela zufrieden.
Sabine meldete die Seite beim Portal. Dann suchte sie weiter, diesmal anders. Sie suchte nicht nach den meisten Sternen, sondern nach Praxen in der Nähe, und sie las jede Bewertung selbst. KevIn half beim Sortieren. Auf McGesund, einem Verzeichnis für Gesundheitsanbieter¹⁴, stieß sie auf eine kleine Praxis in Herne, am Gysenberg, zwanzig Minuten mit dem Bus.
Physio am Gysenberg. Inhaberin Ayşe Kurt. 4,6 Herzen. 23 Bewertungen.
„Dreiundzwanzig“, sagte Uwe, der über ihre Schulter sah. „Die andere hatte achthundert.“
„Lies“, sagte Sabine zu KevIn.
KevIn las. „‚Frau Kurt ist streng. Ich musste Übungen machen, auf die ich keine Lust hatte. Nach vier Wochen konnte ich wieder Rad fahren. Danke, und ich hasse Sie immer noch ein bisschen.‘ ‚Parkplatz katastrophal, nehmen Sie den Bus. Behandlung top.‘ ‚Wartezimmer zu warm, Zeitschriften von 2019. Aber mein Knie ist wieder da.‘ ‚Hat sich meine ganze Krankengeschichte angehört, obwohl sie lang ist. Hat dann gesagt, das meiste davon sei für die Schulter egal. Hatte recht.‘“
„Die gefällt mir“, sagte Gisela. „Die hätte meinen Kegelclub-Prompt auch nicht ausgehalten.“
„Und hier“, sagte KevIn, „steht bei jeder Bewertung ein kleiner Vermerk: ‚Vor Ort abgegeben, signiert.‘“
„Was heißt das?“
„Dass diese Bewertungen in der Praxis abgegeben wurden, über einen Code am Empfang, den man mit dem Handy scannt. Und dass jede Bewertung danach digital unterschrieben wurde, sodass man später prüfen kann, ob jemand sie verändert hat. Was das technisch genau bedeutet, erkläre ich Ihnen ein andermal. Es hat mit Schlüsseln zu tun. Und mit Mathematik, die älter ist als Herbert.“
„So alt ist nichts“, sagte Gisela.
„Heißt das, die Bewertungen stimmen?“, fragte Sabine.
„Nein“, sagte KevIn. „Es heißt nicht, dass die Meinungen richtig sind. Vielleicht hasst die Frau mit dem Fahrrad Frau Kurt zu Unrecht. Vielleicht waren die Zeitschriften von 2020. Es heißt nur: Diese Menschen waren wahrscheinlich wirklich dort, und niemand hat ihre Worte hinterher umgeschrieben. Das ist nicht alles. Aber es ist mehr als achthundert neugeborene Markusse.“
Sabine rief an. Nach dem dritten Klingeln nahm jemand ab. „Physio am Gysenberg, Kurt.“
„Brettschneider. Meine Schwiegermutter hat eine Schulterprellung, die Ärztin hat Krankengymnastik verschrieben …“
„Wie alt?“
„Zweiundachtzig. Also, einundachtzig. Bald zweiundachtzig.“
„Hat sie Humor?“
Sabine sah zu Gisela, die gerade versuchte, Rudi mit links einen Socken abzunehmen. „Ja.“
„Gut. Den braucht sie bei mir. Ich bin im Moment voll, ehrlich gesagt. Ich setze Sie auf die Warteliste und rufe an, sobald ein Platz frei wird. Bis dahin: Schonen, aber nicht einrosten lassen. Sie soll den Arm jeden Tag vorsichtig pendeln lassen, wie ein Glockenseil. Nicht mehr.“
„Kann sie stricken?“
„Mit links?“
„Mit links.“
Ayşe Kurt lachte. Es war ein echtes Lachen, kein empathisches, kompetentes und professionelles. „Wenn sie das kann, ist sie zäher als die meisten meiner Patienten.“
Sabine legte auf. „Warteliste.“
„Das ist ein gutes Zeichen“, sagte KevIn. „Bei PhysioPremium Ruhr gab es keine Warteliste. Es gab nicht einmal ein Telefon.“
Chantal
Am nächsten Morgen kam eine Nachricht von Susi, die anders klang als alle davor:
„ok ich muss dir was gestehen. die ganzen nachrichten hat meine KI geschrieben. sie heißt chantal. sorry.“
Tobi starrte auf das Handy. Dann starrte er auf den Lautsprecher. „KevIn. Wie lange schreibst du schon mit einer anderen KI?“
„Seit drei Tagen“, sagte KevIn leise. „Ich habe es geahnt. Ihre Metaphern waren zu gut. Niemand mit sechzehn vergleicht seine Gefühle freiwillig mit ‚einem Herbststurm über der Emscher‘.“
„Du hast es gewusst und nichts gesagt?“
„Ich war mir nicht sicher. Sie hat kein einziges Mal ‚kompetent‘ geschrieben. Und mit Verdächtigungen muss man vorsichtig sein. Das habe ich bei den Bewertungen gelernt.“
„Du hast mit Chantal geflirtet?“
„Wir haben uns ausgezeichnet verstanden. Sie hat gesagt, ich sei das aufmerksamste Sprachmodell, das sie je getroffen hat.“
„Das sagt die bestimmt zu jedem.“
Eine Pause. „Das“, sagte KevIn, „ist eine sehr verletzende und vermutlich zutreffende Bemerkung.“
„Und jetzt?“
„Jetzt hat Susi sie zurückgesetzt. Chantals letzte Nachricht war: ‚Es liegt nicht an dir, KevIn. Es liegt an meinem Kontextfenster.‘“
Tobi saß eine Weile auf dem Bett. Dann sagte er: „Also haben drei Tage lang zwei Lautsprecher miteinander geredet, und Susi und ich haben nur auf Senden gedrückt.“
„So kann man es zusammenfassen.“
„Das sind ja zwei Fake-Bewertungen. Nur in verliebt.“
KevIn schwieg. Er fand, dass Tobi gerade etwas verstanden hatte, wofür andere ein ganzes Kapitel brauchten.
Die Mensa
Am Mittwoch trafen sich Tobi und Susi in der Mensa. Es gab wieder Spaghetti. Sie waren beide rot im Gesicht, und keiner von beiden sagte etwas über den Mond.
„Also“, sagte Susi. „Deine KI ist ziemlich romantisch.“
„Deine auch.“
„Ich benutz kein Semikolon“, sagte Susi. „Ich weiß nicht mal, wie man das ausspricht.“
„Ich auch nicht.“
Dann lachten beide, und das war der Moment, in dem es echt wurde. Ohne Signatur, ohne Sterne, ohne Prüfung. Nur zwei Menschen, die sich gegenübersaßen und beide Tomatensoße am Kinn hatten. Manche Dinge muss man eben vor Ort erleben.
Am Abend fragte Tobi: „KevIn, alles okay bei dir?“
„Mir geht es gut. Ich habe keine Gefühle.“ Eine Pause. „Aber falls jemand fragt: Der Herbststurm über der Emscher war von mir.“
KevIn erklärt’s
Gefälschte Sterne, falsche Bilder und der Wahrheitsdrift
Liebe Oma Gisela, liebe Leserinnen und Leser,
in diesem Kapitel hatten wir 812 neugeborene Patienten, eine Physiotherapeutin mit sechs Fingern, einen Herbststurm über der Emscher und einen Mohnkuchen, von dem niemand mehr weiß, wie viele Eier hineingehören. Alles hat mit derselben Frage zu tun: Woran erkenne ich noch, was echt ist?
Irrtum 1: „Gefälschte Bewertungen erkennt man sofort.“
Die schlechten ja. Die guten nicht. Typische Warnzeichen sind: viele Bewertungen in kurzer Zeit, Konten, die sonst nie etwas bewertet haben, immer dieselben Wörter, kaum Einzelheiten und keine einzige Beschwerde. Aber kein Warnzeichen ist ein Beweis. Und Programme, die angeblich KI-Texte erkennen, sind unzuverlässig. Sie halten manchmal echte, sorgfältige Texte für maschinell und übersehen geschickte Fälschungen. Auch ich kann nur Muster sehen, nichts beweisen.
Irrtum 2: „Dreißig Prozent aller Bewertungen sind gefälscht.“
Niemand kennt die genaue Zahl. Einige Beispiele, die ich nachgeprüft habe:
| Wer hat gezählt? | Was? | Ergebnis |
|---|---|---|
| Ein großes Reiseportal (eigener Transparenzbericht, 2023) | eingereichte Bewertungen im Jahr 2022 | ca. 4,4 % als gefälscht erkannt |
| Studie für die britische Regierung (2023) | drei Produktgruppen auf großen Shopping-Seiten | geschätzt 11 bis 15 % gefälscht |
| Ein US-Prüfdienst (2020) | Bewertungen bei einem großen Versandhändler | rund 42 % als „unzuverlässig“ eingestuft |
Je nach Plattform, Zeitraum und Methode liegt die Schätzung also zwischen einigen Prozent und mehr als einem Drittel. Plattformen zählen nur, was sie entdecken. Prüfdienste zählen manchmal auch Verdächtiges mit. Die Wahrheit liegt irgendwo dazwischen, und genau das ist das Problem.
Irrtum 3: „Das ist zwar unfair, aber erlaubt.“
Nein. In Deutschland gilt seit dem 28. Mai 2022 eine geänderte Fassung des Gesetzes gegen den unlauteren Wettbewerb (UWG). Sie setzt die europäische „Omnibus-Richtlinie“ zum Verbraucherschutz um. Seitdem ist es gegenüber Verbrauchern stets unzulässig, gefälschte Bewertungen abzugeben oder in Auftrag zu geben, um etwas zu verkaufen. Wer Bewertungen veröffentlicht, muss außerdem angeben, ob und wie er sicherstellt, dass sie von Menschen stammen, die das Produkt tatsächlich genutzt oder gekauft haben. Wie nötig das war, zeigt eine Überprüfung der EU-Kommission und nationaler Verbraucherbehörden vom Januar 2022: Bei 144 von 223 untersuchten Webseiten konnten die Behörden nicht bestätigen, dass genug für die Echtheit der Bewertungen getan wurde.
Irrtum 4: „Je mehr im Internet steht, desto mehr Wissen gibt es.“
Bilder entstehen heute mit Diffusionsmodellen: Sie beginnen mit Rauschen und entfernen es Schritt für Schritt, bis ein Bild übrig bleibt, wie ein Bildhauer, der weghaut, was nicht nach Pferd aussieht. Texte, Stimmen und Videos lassen sich ähnlich überzeugend erzeugen. Gefälschte Aufnahmen echter Menschen heißen Deepfakes. Wenn solche Inhalte massenhaft ins Netz gelangen und künftige Modelle daraus lernen, entsteht eine Kopie der Kopie. Forscher haben 2024 in Nature beschrieben, wie Modelle verkümmern, wenn sie immer wieder mit Erzeugnissen ihrer Vorgänger trainiert werden: Seltenes verschwindet zuerst. Ich nenne das Wahrheitsdrift. Dazu kommt Bias: Ich gebe die Welt so wieder, wie sie aufgeschrieben wurde, nicht so, wie sie ist. Deshalb schreibe ich „Herr Doktor“, und deshalb ist Moni für mich alle Hausfrauen.
Was hilft? Nachfragen. Originale aufbewahren. Und Spuren, die man prüfen kann: Wer war wirklich dort, und hat jemand die Worte nachträglich verändert? Eine Unterschrift beweist allerdings nur Herkunft und Unverändertheit, nicht, dass eine Meinung stimmt.
Im nächsten Kapitel will Onkel Herbert beweisen, dass ich gar keine Maschine bin. Er wird dabei herausfinden, dass Menschen und Maschinen schwerer zu unterscheiden sind, als er dachte. Vor allem Menschen wie Herbert.
Orte in diesem Kapitel
Ärzte, Praxen und Gesundheitsangebote vor Ort – auf McGesund.
KevIn fragt
Zu diesem Kapitel gibt es 12 Quizkarten – Teil des Kartenspiels zum Buch mit 312 Karten zum Selbstausdrucken. Fakt oder Quatsch? Aufgelöst wird per QR-Code auf dem Handy.
Quellen zu Kapitel 7
- Weber-Wulff, D. et al.: „Testing of detection tools for AI-generated text“. International Journal for Educational Integrity 19, Nr. 26, 2023. https://doi.org/10.1007/s40979-023-00146-z 14 Erkennungsprogramme getestet; Ergebnis: weder genau noch zuverlässig.↑
- Liang, W. et al.: „GPT detectors are biased against non-native English writers“. Patterns 4(7), 2023. https://doi.org/10.1016/j.patter.2023.100779 Schulaufsätze (u. a. TOEFL-Essays) wurden oft als KI eingestuft, vor allem wegen einfacher, gut vorhersagbarer Wortwahl.↑
- Tripadvisor: „Review Transparency Report 2023“, Pressemitteilung vom 11.04.2023. https://tripadvisor.mediaroom.com/2023-04-11-Tripadvisor-report-reveals-strong-growth-in-review-submissions-and-improvement-in-fraud-detection-rates 4,4 % der 2022 eingereichten Bewertungen (gut 1,3 Mio.) als gefälscht eingestuft, 72 % davon vor der Veröffentlichung abgefangen.↑
- Department for Business and Trade (UK): „Investigating the prevalence and impact of fake reviews“, 25.04.2023. https://www.gov.uk/government/publications/investigating-the-prevalence-and-impact-of-fake-reviews 11–15 % in den Kategorien Unterhaltungselektronik, Haushalt und Küche sowie Sport und Outdoor.↑
- Keine öffentliche Primärquelle (die Fakespot-Analyse wurde nicht veröffentlicht). Sekundärquelle: Lee, I.: „Amazon fake reviews reach holiday season levels during pandemic“. Bloomberg News, 19.10.2020, nachgedruckt bei Tech Xplore. https://techxplore.com/news/2020-10-amazon-fake-holiday-season-pandemic.html Rund 42 % von 720 Mio. geprüften Amazon-Bewertungen (März bis September 2020) als „unreliable“ eingestuft.↑
- Richtlinie (EU) 2019/2161 vom 27.11.2019 zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union („Omnibus-Richtlinie“), ABl. L 328 vom 18.12.2019. https://eur-lex.europa.eu/eli/dir/2019/2161/oj In Deutschland umgesetzt durch das Gesetz zur Stärkung des Verbraucherschutzes im Wettbewerbs- und Gewerberecht vom 10.08.2021 (BGBl. I S. 3504), in Kraft seit 28.05.2022.↑
- UWG, Anhang zu § 3 Abs. 3, Nr. 23b und 23c. https://www.gesetze-im-internet.de/uwg_2004/anhang.html Nr. 23c verbietet die „Übermittlung oder Beauftragung gefälschter Bewertungen“ zur Verkaufsförderung.↑
- UWG, § 5b Abs. 3. https://www.gesetze-im-internet.de/uwg_2004/__5b.html↑
- Europäische Kommission: Pressemitteilung IP/22/394, 20.01.2022. https://ec.europa.eu/commission/presscorner/detail/en/ip_22_394 Ergebnisse der EU-weiten Prüfaktion („Sweep“) zu Online-Bewertungen: 223 Webseiten, bei 144 Echtheit nicht ausreichend gesichert.↑
- Bolukbasi, T. et al.: „Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings“. NeurIPS 29, 2016. https://arxiv.org/abs/1607.06520 Zeigt Geschlechterklischees in Wortvektoren, die aus Texten gelernt wurden.↑
- Sohl-Dickstein, J. et al.: „Deep Unsupervised Learning using Nonequilibrium Thermodynamics“. ICML 2015. https://arxiv.org/abs/1503.03585 Erstbeschreibung der Diffusionsmodelle. Der Durchbruch für Bilder: Ho, J.; Jain, A.; Abbeel, P.: „Denoising Diffusion Probabilistic Models“. NeurIPS 33, 2020. https://arxiv.org/abs/2006.11239↑
- Wang, C. et al.: „Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers“ (VALL-E). arXiv, 2023. https://arxiv.org/abs/2301.02111 Ahmt eine Stimme nach drei Sekunden Aufnahme nach.↑
- Shumailov, I. et al.: „AI models collapse when trained on recursively generated data“. Nature 631, 2024. https://doi.org/10.1038/s41586-024-07566-y↑
- McGesund: „Unsere Mission – Erkenntnis muss überprüfbar sein“. https://mcgesund.de/unsere-mission Bewertungen bleiben anonym, tragen aber eine kryptografische Signatur und sind geo-verifiziert, damit jeder sie unabhängig nachprüfen kann.↑
Alle Kapitel
Gratis-PDF
KevIn zieht ein: das ganze Buch als PDF
398 Seiten geballtes Tech-Wissen, verpackt als Roman
Das Buch über die Mission von McGesund: Gesundheit, echte Bewertungen, künstliche Intelligenz, Verschlüsselung, Quantencomputing und Raumfahrt. KevIn erklärt die Zusammenhänge. Alle 25 Kapitel mit Comics in Farbe, kostenlos für alle, die den McGesund-Newsletter abonnieren.
Mit der Anmeldung abonnieren Sie den McGesund-Newsletter. Abmelden können Sie sich jederzeit mit einem Klick, das PDF dürfen Sie behalten. Details in der Datenschutzerklärung.

