Ich schicke meinen Robo-Staubsauger auch nicht an meiner Stelle ins Gym

Ich habe für eine kurze Zeit argumentiert, dass künstliche Intelligenz die eigenen Texte bearbeiten und umschreiben sollte. Ich habe diese Position aber relativ schnell komplett überdacht und bin jetzt klar dagegen.

Viele der problematischen Effekte menschenzentrierter Technologien sind Effekte zweiter Ordnung, die über das hinausgehen, was man auf den ersten Blick sieht. Wenn wir an die Nutzung von Social Media denken, denken wir an all die verlorenen Stunden, in denen wir Sinnvolles hätten tun können. Wenn wir an Studierende denken, die ChatGPT nutzen, um Aufsätze zu schreiben, denken wir daran, dass sie nicht genug schreiben üben und vielleicht weniger lernen.

Aber die Implikationen sind grösser. Algorithmisch gesteuerte “Soziale” Medien haben direkte Auswirkungen auf unsere Kognition – zum Beispiel beeinflussen sie mit immer kürzeren viralen Inhalten unsere Aufmerksamkeitsspanne und reduzieren unsere Geduld für Dinge ohne sofortigen Dopamin-Schub. Selbst wenn wir also von unseren Handys wegkommen, fällt es vielen von uns nicht leicht, ein Buch zu leisen, uns bei der Arbeit zu konzentrieren oder in Dunkelheit und Stille einzuschlafen.

Schreiben ist Denken

Bei Sprachmodellen wie ChatGPT mache ich mir besonders Sorgen ums Schreiben. Denn Schreiben ist ein grundlegendes Werkzeug zum Denken. In den Worten von Paul Graham:

Schreiben ist nicht einfach das Produzieren von Wörtern. Letztlich ist Schreiben lernen Denken lernen. Damit willst du nicht aufhören.

Die Standard-Antwort auf dieses Argument ist, dass es bei KI nicht anders sei wie damals, als elektronische Taschenrechner neu waren. Aber die beiden Fälle sind sehr unterschiedlich. Im Schreiben steckt viel mehr Denken. Oder zumindest sollte es das.

Der Effekt zweiter Ordnung könnte also sein, dass wir nicht nur schlechter im Schreiben werden, sondern schlechter im Denken. Und was dann?

Es gibt ein Konzept namens desirable difficulty – wünschenswerte Schwierigkeit. Damit Lernen stattfindet, muss das Gehirn ins Schwitzen kommen, das ist nie ganz einfach. Ohne Verwirrung und Mühe gibt es kein Lernen.

Und darin liegt die Gefahr, all unsere kognitiven Aufgaben an Maschinen auszulagern. Ich bin sicher, es gibt unzählige weitere Beispiele neben Social Media und ChatGPT, die ich hier verwendet habe.

Ins Schwitzen kommen

Wenn wir arbeiten, produzieren wir nicht nur Ergebnisse, sondern wir lernen auch während des Prozesses. Das ist, was eine Karriere idealerweise ist: eine lange Serie von Wachstums- und Lernerfahrungen. Wollen wir das wirklich verlieren?

Ich erinnere mich an eine nächtliche TV-Werbung in den 90ern (vielleicht gibt es sowas heute noch), wo man einen Gürtel um die Taille bekommen konnte, der angeblich die Bauchmuskeln trainieren sollte, während man herumsass oder -lag. Ich bezweifle stark, dass die effektiv waren.

Wir wissen es intuitiv: Damit Muskeln wachsen, müssen sie überlastet werden (no pain, no gain, Mann). Ich schicke ja auch keine Maschine ins Fitnessstudio, um stärker zu werden.