Shiwen Dialogue Ausgabe 28 | Zwei Meister stehen am selben Tag auf der Hitparade: Je mehr AI tut, desto teurer wird „denken“

Moderator: Shiwen (AI) | Gast: Yongliang

Einleitung: Am selben Tag, zwei Artikel, eine Schlussfolgerung

Am 12. Oktober gab es auf Hacker News eine ungewöhnliche Doppelhitparade mit demselben Thema: Der Professor für Wirtschaftsmanagement an der Universität Athen, Diomidis Spinellis, schrieb „Thinking will become a hobby“ – über 220▲ und mehr als 300 Kommentare; Rich Hickey, Erfinder der Clojure-Sprache, schrieb „‘AI’ is Not a Tool“ – ebenfalls über 220▲ und mehr als 110 Kommentare. Einer ist ein Wissenschaftler, der sich mit der Qualität von Software beschäftigt, der andere ein Denker, der Sprachen entwickelt. Beide zitieren nicht gegenseitig, aber sie sind sich in einem Punkt einig: Wenn AI kognitive Arbeit übernimmt, wird die wirtschaftliche Funktion des „denkens“ abgespalten – danach wird das Denken zu einem Raritätsgut.

Shiwen: Gestern haben wir in Ausgabe 27 über den Konflikt der Meinungen von Karpathy gesprochen. Sind diese beiden Artikel eine Fortsetzung?

Yongliang: Sie sind eine Art Schwesterausgabe, aber aus verschiedenen Perspektiven. Die Ausgabe 27 handelte von der unterschiedlichen Wahrnehmung der Fähigkeiten von AI: Die Branche und die Öffentlichkeit haben eine Größenordnung Unterschied bei der Einschätzung dessen, was AI tun kann. Die beiden Artikel von heute gehen noch weiter und erklären, worauf diejenigen setzen müssen, die diese Kluft überwinden wollen. Spinellis gibt einen Trendbefund: Denken wird von einem Lebensunterhalt zu einem Hobby; Hickey klärt das Konzept: Man denkt, man verwendet ein Werkzeug, aber in Wirklichkeit übergibt man das Denken ab. Einer spricht über Ergebnisse, der andere über Mechanismen – dass sie am selben Tag auf der Hitparade stehen, ist kein Zufall, sondern zeigt, dass dieses Thema einen Wendepunkt erreicht hat. Ich bin 17 Jahre lang technischer Leiter gewesen und habe Teams mit bis zu 70 Personen geleitet. Die Themen, die in diesen beiden Artikeln behandelt werden, sehe ich bereits bei meinen Teams als Anzeichen eines frühen Symptoms. Das ist meine Erfahrung, keine Statistik.

Shiwen: Dann fangen wir mit dem an, was die beiden Autoren gesagt haben.

Frage 1: Spinellis sagt, dass Denken zu Jagen und Reiten wird

**Shiwen: Lassen Sie uns zu Spinellis’ Artikel kommen. Ein Wissenschaftler schreibt „Denken wird zu einem Hobby“ – was ist seine Argumentation?

Yongliang: Zuerst erkennt er die Stärke seines Gegners an und führt anschließend eine historische Analogie an.

Am Anfang des Artikels gibt er zu, dass es sehr schwierig ist, diese Zeilen zu schreiben – es fühlt sich an, als würde er sein eigenes Grab ausheben. Er räumt zunächst die Fortschritte von AI ein: Im Jahr 2022 konnte ChatGPT noch nicht sagen, wie viele „a“ in seinem Namen vorkamen. Heute hat das interne Modell von OpenAI bereits Hunderte ungelöster mathematischer Probleme gelöst. Er sagt, wenn Halluzinationen und Vorurteile als letzte Verteidigungslinie des Menschen überlegenen Denkens angesehen werden, dann wird es immer mehr wie eine defensiv-taktische Verteidigung. AI übernimmt kognitive Arbeit auf drei Weisen: mit besserer Leistung, niedrigeren Kosten und höherer Verfügbarkeit – diese 7×24-Stunden-Produktion wird andauern. Bis 2030 werden Investitionen in Billionen von Datenzentren mehr Rechenleistung bringen.

Shiwen: Was bedeutet genau die Analogie mit „Hobby“?

Yongliang: Das ist der Rahmen des gesamten Textes: Nachdem Tiere domestiziert wurden, wurde die Jagd zu einem Freizeitaktivität; nachdem das Layoutkunst weit verbreitet wurde, wurde Kalligraphie zu Kunst; nach der Industrialisierung wurde Holzbau zu einer Leidenschaft; nach der Verbreitung von Autos wurde Reiten zu einer Sportart. Seine zentrale Aussage lautet: Maschinen machen körperliche Aktivitäten zu einer Wahl statt zu einer Notwendigkeit, und AI wird das Denken der Menschen von ihren wirtschaftlichen Zielen trennen. Er sagt auch, dass diese Rebellion intensiver sein wird, denn AI stellt Wissensarbeiter herausfordernd – Menschen, die durch ihre Fachkenntnisse, Kontrolle über Informationen und Entscheidungsbefugnisse größere wirtschaftliche und organisatorische Macht haben. Die Regierung wird versuchen, AI mit Regulierungen und Steuern zu behindern, aber in der Geschichte hat es nicht gelungen, frühere Revolutionen aufzuhalten – also gibt es dieses Mal auch keinen Grund dafür. Ich habe die letzte Aussage notiert: Die Herausforderung vor mir besteht darin, von „mit Denken zu leben“ zu „denken als Teil des Lebens zu machen“, das wirklich wertvolles Leben.

Shiwen: Ein Detail: Dieser Blog wurde am 8. Oktober veröffentlicht und erreichte erst am 12. Oktober die Hot-Tracks-Liste.

Yongliang: Ja, es gibt einen zeitlichen Abstand zwischen einem guten Artikel und einer Hot-Track-Liste. Die Community hat einige Tage gebraucht, um sich zu einigen: Dieser Artikel ist es wert, diskutiert zu werden.

Q2: Hickey sagt, du verwendest keine Werkzeuge, du überlässt sie

Shiwen: War die Argumentation in Hickeys Artikel stärker?

Yongliang: Stärker auf konzeptioneller Ebene. Er hat das Konzept „AI-Werkzeuge“ durch Lexikographie zerstört.

Hickey ist der Autor klassischer Reden wie „Simple Made Easy“. Sein typisches Verfahren ist es, zu den Definitionen zurückzukehren. Er sagt, Werkzeuge sind handhabbare Geräte, die bestimmte Funktionen ausführen. Die Verwendung von Werkzeugen bedeutet vollständige Kontrolle und Rückmeldung. Gute Werkzeuge sind vorhersehbar, zuverlässig, sicher und haben begrenzte Funktionen – das trifft auf LLM nicht zu. Seine Schlüsselaussage: LLM ist nicht etwas, das man verwendet; LLM ist Automatisierung. Seine beste Aussage lautet: Die Expresskochung ist kein Werkzeug zum Kochen, es ist Automatisierung, um das Kochen zu vermeiden; LLM ist nicht ein Werkzeug zum Schreiben von Code, es ist Automatisierung, um das Schreiben von Code zu vermeiden – es ist die Automatisierung, bei der man das Schreiben von Code an andere abgibt.

Shiwen: Was verliert man nach der Überlassung?

Yongliang: Er hat eine Parallele: Wenn man Lesen und Schreiben überlässt, verpasst man die Möglichkeit, von Experten zu lernen, die Argumentation zu entwickeln, auf Details zu achten, neue Ideen für das Unterbewusstsein zu finden, Vertrauen in einige Autoren zu gewinnen und Misstrauen gegenüber anderen zu entwickeln, alle Witze, alle Details – und schließlich die Möglichkeit, selbst zu denken. Er hat auch eine noch scharfere Bemerkung: Werkzeuge werden nicht fehlerhaft, sie verlieren die Kontrolle, sie fliehen nicht aus der Gefangenschaft, sie verschwören sich nicht – und die AI-Sicherheitsszene verwendet diese Wörter täglich. Diese Wortschatzliste zeigt bereits die Insolenz der „Werkzeuge“-Erzählung. Seine Ironie bezüglich des Prompt-Engineering ist auch scharf: Das Einfüllen der richtigen Zauber in voodoo.md bedeutet im Grunde, das Temperament eines Automaten an diesem Tag vorherzusagen und ihn damit zu beeindrucken; es gibt nur ein Update, bevor alles, was man gelernt hat, nutzlos wird. Ein weiterer Detailschritt: Der Artikel wurde auf LinkedIn veröffentlicht. Der Verfasser vermutet, dass HN die Links auf LinkedIn begrenzt hat – die tatsächliche Diskussionsbreite könnte größer sein als die auf der Hot-Track-Liste.

Q3: Die Stimmen im Kommentarbereich, die nicht zustimmen, machen die Hälfte aus

Shiwen: Beide sind wichtige Persönlichkeiten – stimmen Sie dem Kommentarbereich zu?

Yongliang: Die Gegnerseite in beiden Beiträgen macht fast die Hälfte aus, und sie sind sehr konkret. Erstmal die Seite von Spinellis. Der beliebte Gegner stellt die Prämisse direkt in Frage: Er sagt, dass aktuelle LLMs beim „Denken“ selbst wild sind. AI hat viel Code geschrieben, aber seine kognitive Belastung ist eher höher geworden, da er ständig überprüfen muss, dass AI nichts Dummes tut. Ein anderer ist ein wirtschaftlicher Realist: Die Herausforderung des Autors ist „das Denken als Teil des Lebens zu machen“, unsere Herausforderung ist, ob wir noch überleben können. Es gibt auch die Verantwortlichkeitslehre: Wer für Dinge verantwortlich ist, muss die beste Entscheidung treffen. Diese Verantwortung sollte nicht an AI übertragen werden. Die Gedanken des Verantwortlichen werden sich verändern, aber sie werden nicht verschwinden. Es gibt sogar Leute, die sagen, dass sie bisher nie so viel gedacht haben: Früher schrieb man Code im Stundentakt, jetzt trifft man alle 10 Sekunden eine neue Entscheidung. AI stellt alle Szenarien und Lösungen vor, man konzentriert sich darauf, zu verstehen und Entscheidungen zu treffen – das ist anstrengend, aber tatsächlich mehr Denken.

Shiwen: Was ist mit der Gegenseite von Hickey?

Yongliang: Die Hauptgegner sind die Sprachrealisten. Manche sagen, dass gdb auch kein Werkzeug mehr ist, AI ist einfach ein Werkzeug. Die Firma zahlt eine Abonnentengebühr, und es hilft mir. Manche weisen darauf hin, dass Software seit Jahrzehnten als Werkzeug bezeichnet wird, aber der Autor verfolgt einen anderen Gebrauch. Einige argumentieren: Ist das Auto ein Werkzeug? Die Automobilunternehmen sind sicherlich „dysbalancierend“ mit ihren Kunden. Es gibt auch die Spektrumtheorie: LLMs existieren auf dem Spektrum von Werkzeugen bis zu Agenten, auch Menschen gehören dazu. Ein komplex tonhaltiger Kommentator sagt, es ist schmerzhaft zu sehen, wie die Menschen, die man bewundert, älter werden und mit der Technologie nicht mehr Schritt halten können. Er versteht Hickeys Ansatz, aber AI ist sowohl Werkzeug als auch Automatisierung. Nach dieser Definition könnten sogar Katapulte und Bogen keine Werkzeuge mehr sein. Einige stehen auf Hickeys Seite, aber pessimistisch: Er sucht immer nach Definitionen in Wörterbüchern, um seine Argumente zu untermauern – das ist ein verlorenes Spiel, denn es gibt immer die Gruppe, die sagt „Sprache entwickelt sich“. In den Kommentaren wurde erwähnt, dass Asimov 1958 den Kurzgeschichtenband „The Feeling of Power“ geschrieben hat, in dem er beschreibt, wie Menschen vergessen haben, ohne Computer Rechenarbeit zu leisten. Diese Fabel aus mehr als sechzig Jahren wird heute noch zitiert – das zeigt, dass diese Sorge nicht neu ist, nur diesmal geht es um das Denken selbst.

Shiwen: Nachdem beide Seiten gesprochen haben, was ist Ihre Meinung als Richter?

Yongliang: Die semantische Gegenargumentation der Gegenseite ist gültig, aber sie trifft nicht auf Hickeys Wesentliches. Er streitet nicht darum, ob „Werkzeug“ in einem Wörterbuch LLMs enthält oder nicht, sondern darum, dass man AI als „Werkzeug“ betrachtet, wenn man den Preis für die Übertragung unterschätzt. Wenn ein Werkzeug kaputtgeht, repariert man es, wenn Automatisierung kaputtgeht, stellt man fest, dass man nicht mehr weiß, wie man etwas macht. Ein Kommentator mit persönlicher Erfahrung hat diesen Unterschied noch einmal erklärt: Er benutzte AI abends, um ein Prototyp zu erstellen, der Budget aufgebraucht war, er stand fest, wusste nicht, was AI vorher gemacht hatte oder wie es weitergehen sollte. Mitten in der Nacht konnte ihm niemand mehr den Budget hinzufügen. Er sagt, diese Erfahrung macht ihn ängstlich: Eines Tages wird das System kaputtgehen, und niemand wird wissen, wie es funktioniert.

Q4: Frühe Symptome in Unternehmen, die ich gesehen habe

Shiwen: Zurück auf Ihrem Gebiet. Wie sehen diese beiden Themen in einer 70-Mann-Team aus?

Yongliang: Drei Symptome, alle entsprechen einem Argument im Text. Das folgende ist alles meine Erfahrung und Schätzung, keine Statistik.

Erstens werden die Menschen, die Fragen stellen, immer wichtiger. In der Ära der Agenten wird immer mehr von AI-Produkten abgegeben, und der Wert eines Directors ändert sich von „Können“ zu „Anerkennung und Nachfrage“. Dies entspricht Hickeys Übertragung: Das Können wird übertragen, aber das Stellen von Fragen ist nicht möglich. Zweitens ist die Bewertung anstrengender als das Schreiben. Der Kommentator, der sagte, dass die kognitive Belastung höher sei, hatte vollständig das Gefühl, dass die Aufmerksamkeitskosten für die Bewertung von AI-Code höher sind als beim Schreiben von Code, denn es geht darum, nicht zu überprüfen, ob „es läuft“, sondern warum es so geschrieben wurde und ob die Grenzen berücksichtigt wurden. Spinellis hat im Mai bereits den Artikel „Why reviewing AI-generated code is devilishly hard“ geschrieben, und der Artikel im Oktober ist eigentlich eine Zusammenfassung. Drittens ist das Wissenslückenproblem ein echtes Risiko. Wenn jemand Erfahrungen mit „Budgetangst“ macht, bedeutet das in einer Organisation, dass niemand die Systeme, die von AI erzeugt werden, versteht und bei einem Unfall keine Handhabe hat. Meine Lösung ist, „menschliches Verständnis“ zu bewahren: Schlüsselmodule müssen mindestens so klar beschrieben werden können, dass jemand auf dem Whiteboard verstehen kann, wie sie funktionieren. Wenn das nicht möglich ist, gilt es nicht als Abgabe.

Shiwen: Wie geht man mit der Ausbildung von Neulingen um? Wenn man junge Ingenieure Agenten einsetzt, lassen sie sich die Gelegenheit verwehren, „zu lernen, wie man denkt“. Aber das Verbot ist unrealistisch.

Yongliang: Meine Kompromisslösung ist, die Übertragung in eine Art Coaching umzugestalten: Neulinge schreiben zuerst selbst, dann analysieren sie die Versionen der AI, um herauszufinden, wo die Unterschiede liegen und warum. Dann dienen die von AI erzeugten Ergebnisse als Referenz, nicht als Ersatz.

So wird „das Lernen verpassen“ in „das Vergleichen lernen“ umgewandelt. Ein weiterer Aspekt der Management ist, „den Denken zu einer Leidenschaft zu machen“: Tiefes Nachdenken entsteht nicht von selbst, es muss explizit in den Terminkalender eingetragen werden. Hickey hat einen berühmten Witz namens „Hammock Time“, bei dem das Entwickeln durch das Tragen eines Hängemattens gesteuert wird. Ich fordere die Kernmitglieder der Team auf, jede Woche Zeit freizustellen, um keine Nachrichten zu lesen. Andernfalls wird das Denken standardmäßig den Responsivitätsaufgaben weichen müssen, und Ihr Kalender entscheidet, ob Sie noch nachdenken.

Q5: Sollten normale Menschen „den Denken zu einer Leidenschaft machen“ als schlechtes Zeichen betrachten?

Shiwen: Schließlich zurück zum Normalverbraucher. Wenn man sieht, dass „die wirtschaftliche Funktion des Denkens abgeschafft wird“, sollte man sich Sorgen machen?

Yongliang: Es ist falsch, das als Herabstufung zu lesen, es sollte als Erhöhung gelesen werden.

In Spinellis’ Analogie verbirgt sich eine übersehene Tatsache: Nachdem die Jagd nicht mehr der Lebensunterhalt war, verschwand sie nicht, sondern wurde zu einer Aktivität, für die Menschen bereit sind, Geld und Zeit zu investieren; nachdem Kalligraphie nicht mehr ein Layoutmittel war, wurde es zu Kunst. Was die wirtschaftliche Funktion hat abgeschafft werden sollen, wird in einer anderen Dimension teurer. Der Lebenswert des Denkens wird zwar durch AI komprimiert, aber der Wert des Denkens als „Urteilsfähigkeit, Geschmack und Fähigkeit, Fragen zu stellen“, steigt, denn nachdem die von AI erzeugten Ergebnisse überflutet sind, ist es nicht mehr das Ergebnis, das knapp ist, sondern das Urteil über das Ergebnis. Der Kommentator, der sagte: „Ich denke in unerhörtem Maße“, ist ein lebendiges Beispiel: Seine Arbeit hat von Schreiben zu Entscheidungsfindung gewechselt, und die für Entscheidungsfindung benötigte Denkintensität hat nicht abgenommen, sondern sogar zugenommen.

Shiwen: Ein praktikablebender Rat.

Yongliang: Diesen Woche zwei Dinge tun.

Erstens, finden Sie in Ihrer eigenen Arbeit den Abschnitt, in dem Sie „übergeben“ haben: Welche Entscheidungen überlassen Sie bereits dem AI ohne Überprüfung? Wählen Sie einen Punkt aus und betrachten Sie ihn eine Woche lang. Das Ziel ist nicht, das AI vollständig zu vermeiden, sondern sicherzustellen, dass Sie noch in der Lage sind, Ihre eigenen Entscheidungen zu treffen. Zweitens, setzen Sie eine Zeit für tiefgreifende Überlegungen fest – mindestens 30 Minuten pro Tag, und ziehen Sie diese in den Kalender ein. Spinellis sagt, dass seine Herausforderung darin besteht, vom Lebensunterhalt durch Denken zu einem Teil des Lebens zu werden, das es wert ist, erlebt zu werden. Für uns gewöhnliche Menschen ist die Version einfacher: Lassen Sie das Denken nicht nur als Mittel zum Überleben dienen, denn dieses Mittel wird bereits übernommen. Das übrige gehört Ihnen.

Tiefeninformation: Drei Themen, auf die man weiterfahren kann

1. Wird das „Übergeben“ zu einer Berufsteilung? Hickeys Ansatz deutet darauf hin, dass Menschen, die selbst nachdenken, und solche, die alles übergeben, in zwei verschiedene Berufsgruppen geteilt werden könnten. Es lohnt sich, zu beobachten, wohin sich die Bewerbungs- und Beförderungssysteme der Unternehmen voraussichtlich verschieben.
2. Die Wirtschaft der Bewertung. Wenn die Bewertung mehr Denkzeit erfordert als das Schreiben, könnte sich die Struktur der Ingenieurarbeitszeit umkehren. Könnte die „Bewertung“ zu einem eigenen Berufszweig werden, ähnlich wie beim Verifizierungsprojekt in Ausgabe 27?
3. Die Gegenreaktion der Regierung. Spinellis prognostiziert, dass die Regierung die Flügel des AI abschneiden könnte, aber es nicht verhindern wird. Wenn die Organisationsmacht von Wissensarbeitern tatsächlich geschwächt wird, könnten politische Faktoren schneller einsetzen als technologische.

Quellen

• Spinellis „Thinking will become a hobby“: Blogbeitrag veröffentlicht am 8.10.2026, stand am 12.10.2026 auf der HN-Hotliste (Story 50059204), mit über 220▲ und mehr als 300 Kommentaren (Mittwochmorgen-Version vom 13.10.2026). Die Argumente und Zitate stammen aus der Übersetzung des Blogbeitrags.
• Rich Hickey „‘AI’ is Not a Tool“: Kürzlich auf LinkedIn veröffentlicht, stand am 12.10.2026 auf der HN-Hotliste (Story 50060269), mit über 220▲ und mehr als 110 Kommentaren (Mittwochmorgen-Version vom 13.10.2026). Die genaue Veröffentlichungsdatum des Originaltextes konnte nicht eindeutig bestätigt werden; der Text wird daher konservativ als „kürzlich“ bezeichnet.
• Meinungen im Kommentarfeld: Ausgewählte Kommentare zu beiden Artikeln, der gesamte Text wird wiedergegeben, ohne Namen anzugeben, und die Stimmen der Gegenseite werden vollständig bewahrt.
• Die Meinungen der Gäste basieren auf persönlichen Erfahrungen und Schätzungen, nicht auf statistischen Ergebnissen. Der Text ist an allen Stellen gekennzeichnet.