Ich habe auf
„Cool People Who Did Cool Stuff“ eine Serie über die Geschichte der Schadensminderung verfasst, und eines der wichtigsten Bücher, auf die ich mich dabei gestützt habe, ist
Fighting for Space von Travis Lupick.
Ich führe
eine Liste mit Buchempfehlungen bei der von den Mitarbeitern und Queers geführten Buchhandlung Firestorm, und ich bekomme zwar eine Provision für alle Bücher, die ihr über meine Empfehlungen kauft, aber ihr bekommt auch 10 % Rabatt und unterstützt damit eine Buchhandlung, die zudem ein wichtiger Teil der Infrastruktur der Bewegung ist.
In diesem Beitrag geht es um KI, und ich empfehle euch den Podcast
„Better Offline“ von Ed Zitron, meinem Kollegen bei Cool Zone Media, der ausführlich und mit großer Begeisterung über die wirtschaftlichen Aspekte von KI spricht.
KI funktioniert nicht und wir alle wissen, dass sie nicht funktioniert
Letzte Woche wurden bei einer Gruppe von Hochschulabsolventen, die über die Bühne gingen, um ihre Diplome entgegenzunehmen,
ihre Namen nicht aufgerufen. Denn die Universität hatte die Aufgabe, ihre Namen vorzulesen, an eine KI ausgelagert. Und KI funktioniert nicht.
Hätten diese Absolventen mit derselben Effizienz wie KI gearbeitet, wären sie keine Absolventen.
Die Gesellschaft ist dabei, sich um ein Werkzeug herum neu zu strukturieren, das einfach nicht funktioniert. Wir alle wissen, dass es nicht funktioniert. Wenn du eine Brücke bauen müsstest, würdest du keinen Bauingenieur beauftragen, der es nur in etwa 70 % der Fälle richtig macht. Du würdest kein Geschichtsbuch lesen, das zu 30 % Fiktion ist, aber dir nicht verrät, welche 30 %. Du solltest dich nicht mit jemandem verabreden, der dir immer sagt, dass du Recht hast, und der dich mit einem Lächeln auf den Lippen anlügt.
Mein Großvater war Schiffsbauingenieur bei der US-Marine und hat im Zweiten Weltkrieg gekämpft, und ich spreche oft von ihm, weil ich ihn ständig vermisse, und er lachte immer und sagte
„gut genug für die Arbeit der Regierung“, wenn etwas gut genug, aber nicht perfekt war. Also sagt mein Vater das jetzt, und ich sage es auch. Aber… es ist ein Witz. Jedes Mal, wenn mein Großvater ein Schiff entwarf, fuhr er damit in die schlimmsten Stürme, die er finden konnte, stellte sich auf das Deck und trotzte dem Wetter, denn warum sollte er etwas bauen, von dem er nicht glaubte, dass es gut genug war?
Elon Musk würde nicht in eine von Grok entworfene Rakete zum Mars steigen, aber ich bin mir sicher, er wäre nur zu gerne bereit, dich und mich darauf zu setzen.
Die Kapitalisten und Autoritären, die diese Welt regieren, sind nur allzu gerne bereit, uns alle durch Roboter zu ersetzen, die ständig Mist bauen – denn sie nehmen lieber schlampige Arbeit in Kauf, als Menschen zu bezahlen.
Das ist schlimm, und ich bin wütend, und du solltest auch wütend sein.
Ich habe gesehen, wie Menschen, die mir am Herzen liegen, auf KI-Wahnvorstellungen hereingefallen sind und glaubten, mit Hilfe von KI bahnbrechende Forschung zu betreiben. Mein Kollege Robert Evans hat
eine hervorragende Serie von Podcast-Episoden darüber gemacht, wie KI letztendlich die Methoden von Sektenführern nachahmt, um ihre Nutzer davon zu überzeugen, dass sie Genies sind.
Es ist ein neues Buch von diesem zweitklassigen Journalisten erschienen, der vielleicht nicht immer ein zweitklassiger Journalist war, aber dank seiner Abhängigkeit von KI zu einem geworden ist. Das Buch heißt
„The Future of Truth: How AI Reshapes Reality“ und jeder, der an der Veröffentlichung beteiligt war, sollte gefeuert werden. Es ist ein Buch darüber, wie, na ja, KI die Realität umgestaltet. Aber es wurde mit
„Forschungshilfe“ durch KI geschrieben, und die
New York Times hat aufgedeckt, dass es falsche Aussagen enthält, die echten Menschen zugeschrieben werden, die aber von der KI halluziniert wurden. Der Autor behauptet, ein Experte für das Thema
„Wahrheit“ zu sein, doch als er das Problem einräumte, gab er zu, dass das Buch „synthetische“ Zitate enthalte.
Lügen. Es enthält Lügen.
Wenn ich in meinem Podcast Zitate komplett erfinden und sie echten Menschen zuschreiben würde, würde ich aus triftigem Grund gefeuert werden.
Ich bin bei meinen Kollegen schon lange unbeliebt wegen meiner kompromisslosen Ethik in Sachen Wahrhaftigkeit. Ich glaube nicht, dass es ethisch ist, jemanden anzulügen, den man nicht schlagen dürfte. Man muss nicht immer Fragen beantworten und kann ausweichend reagieren, aber wenn man jemandem etwas erzählt, das nicht wahr ist, verzerrt man dessen Realitätssinn. Man tut das, um dessen Denken und Verhalten zu kontrollieren. Genauso wie wenn man jemanden schlägt.
Man muss aber bedenken, dass ich Gewalt in vielen Situationen für völlig akzeptabel halte. Wenn jemand versucht, Macht über dich auszuüben, ist Lügen zur Selbstverteidigung oft sicherer und effektiver als der Rückgriff auf Gewalt. Oder um es ganz klar zu sagen: Es ist ethisch, Polizisten zu schlagen – es ist nur meistens nicht strategisch klug.
Ich glaube fest an den Wert der Wahrheit. Wenn ich über die Haymarket-Anarchisten von Chicago in den 1880er Jahren lese – jene Einwanderer und der ehemalige Sklave, die die moderne Arbeiterbewegung aufbauten –, fällt mir auf, wie jede Quelle ihre schockierende Ehrlichkeit und Offenheit hervorhebt.
Mir wurde gesagt, es sei eine neurologische Besonderheit von mir, dass ich in Bezug auf Lügen so „gerechtigkeitssensibel“ bin, und es macht mich traurig, mir vorzustellen, dass meine Haltung vielleicht kein Mainstream-Wert ist. Aber die Tatsache, dass wir die Kontrolle über unsere Gesellschaft an Lügenmaschinen abgeben, ist einfach das Dystopischste, was ich mir vorstellen kann.
Wasserhungrige, machthungrige Maschinen werden gebaut, während das Wetter wärmer wird, während Energie knapper wird, während Wasser noch kostbarer wird. Es kommt mir im Grunde wie ein Sakrileg vor, dass unsere Herrscher diesen falschen Maschinengöttern endlose Mengen Wasser opfern, dass unsere Herrscher das Wasser opfern, das wir für unsere Ernten und unseren Körper brauchen.
Die Leute, die diese Maschinen gebaut haben, bieten uns nicht einmal eine Utopie als Gegenleistung an. Sie bieten uns Vertreibung an, sie bieten uns Enteignung an. Sie bieten uns Entlassungen und Armut und Hungersnot an, und sie versprechen uns im Grunde, dass wir dank ihrer Maschinen weniger intelligent werden können, dass uns die Plackerei erspart bleibt, schöne Dinge zu erschaffen und erfüllte Leben zu führen. Und anstatt miteinander über unsere Probleme zu reden, dürfen wir jeder mit einem kriecherischen Maschinen-
„Freund“ sprechen.
Ich glaube nicht an Verschwörungen, außer an die, die sich als wahr erwiesen haben (und die erweisen sich meist schnell genug als wahr). Ich glaube eigentlich nicht, dass die Reichen gemeinsam planen, uns alle einfach umzubringen, nachdem wir überflüssig geworden sind.
Aber ich vermute, keinem von ihnen würde es etwas ausmachen, wenn genau das passieren würde.
Das Ganze ist für mich sehr frustrierend, zum Teil, weil ich kein Technikfeind bin. Ich halte Brillen und Antibiotika für zwei der besten Errungenschaften der Menschheit, und ich habe denselben Stolz empfunden wie alle anderen (keinen Nationalstolz, sondern Stolz auf die Menschheit), als Artemis den Mond umkreiste.
Es gibt
„Machine-Learning“-Aufgaben, die mich nicht stören. Mein Problem mit Google Maps hat weitaus mehr mit Überwachung zu tun als mit
„KI“. Ich hasse ein Programm zur Grammatikprüfung nicht grundsätzlich (obwohl Autocomplete und Autokorrektur den menschlichen Ausdruck auf eine Weise einschränken, die sich auf die Entwicklung der Sprache auswirken wird, da bin ich mir sicher).
Ich wäre vollkommen glücklich, wenn ich einen Computer-Forschungsassistenten à la Star Trek hätte, jemanden, den ich fragen könnte:
„Wie viele Menschen lebten während der protestantischen Reformation offen in homosexuellen Paaren in Deutschland?“ oder so einen Quatsch, und einen Computer all das menschliche Wissen durchkämmen lassen könnte, das jemals zu Papier gebracht wurde (naja, in Bits und Bytes), und mir eine Antwort geben lassen.
Aber KI macht das nicht. Sie kann es funktional nicht. Weil sie nicht denkt. Sie ist eine ausgeklügelte Autovervollständigung, die speziell darauf ausgelegt ist, uns davon zu überzeugen, dass sie zu eigenständigem Denken und Forschen fähig ist. Sie ist nicht darauf ausgelegt, alle Quellen zu durchforsten und eine richtige Antwort auszuspucken, sondern uns davon zu überzeugen, dass sie das getan hat.
Wenn ich einen Forschungsassistenten einstellen und ihm eine Frage stellen würde und er mir eine unvollständige Antwort geben würde, könnte ich das akzeptieren. Wenn ich einen wissenschaftlichen Mitarbeiter einstellen und ihm eine Frage stellen würde und er mit einer bizarren Mischung aus Wahrheit und Dingen zurückkäme, die er sich einfach aus den Fingern gesogen hat, würde ich ihn feuern.
Studenten, die Quellen erfinden, werden zu Recht des Betrugs bezichtigt. Doch wenn KI das tut, akzeptieren wir es?
Die Folgewirkungen davon sind unkalkulierbar (obwohl du eine KI bitten könntest, sie trotzdem zu berechnen, wenn dir falsche Informationen nichts ausmachen). Da immer mehr Informationen im Internet von KI generiert werden, wird es immer schwieriger, Fakten von Fiktion zu unterscheiden. KI wird sich zunehmend von KI selbst ernähren, und bald wird sie sich immer weiter von jeglicher Kohärenz entfernen.
Wie
Cory Doctorow es formulierte:
„KI ist das Asbest, das wir in die Mauern unserer Gesellschaft schaufeln, und unsere Nachkommen werden es über Generationen hinweg wieder herausgraben.“
Die
Ludditen-Bewegung des frühen 19. Jahrhunderts war eigentlich keine antitechnologische Bewegung an sich, sondern eher eine Arbeiterbewegung. Qualifizierten Arbeitern wurden ihre Arbeitsplätze durch Automatisierung weggenommen, und die Textilarbeit verlagerte sich von der Werkstatt (der
„Heimindustrie“, die buchstäblich in einer Hütte stattfand) in die Fabrik. Die Menschen wechselten von einem selbstbestimmten Leben zu einem Leben, in dem sie selbst wie Rädchen in einer Maschine arbeiten mussten.
Also lehnten sich die Menschen in großem Stil auf und kamen dem Sturz des frühen kapitalistischen Systems nahe.
Die Ludditen inspirieren mich unendlich. Aber die Sache ist die: diese automatischen Webstühle? Zumindest diese Dinger, so teuflisch sie auch waren, funktionierten tatsächlich. Was auch immer ihre negativen Auswirkungen auf die Gesellschaft waren, sie automatisierten tatsächlich und effektiv die Textilproduktion.
KI funktioniert nicht. Sie kann nicht einmal zu einem allmächtigen Maschinengott werden, der uns alle regiert, sei es wohlwollend oder böswillig, denn sie ist nicht bewusst und sie denkt nicht.
KI-Entwickler erzählen uns immer wieder, dass sie alle Fehler ausbügeln werden und dass KI eines Tages das erreichen wird, was sie heute vorzugeben vorgibt. Das bezweifle ich. Sie scheint strukturell unfähig zu sein, das zu tun, was ihr versprochen wird.
Wozu KI fähig ist, ist das, was sie bereits tut: qualifizierte Arbeitskräfte durch gerade noch ausreichend gute Automatisierung zu ersetzen. KI ist fähig, Menschen vorzugaukeln, sie würde helfen. KI ist fähig, unsere Fähigkeit zum kritischen Denken zu schwächen. KI ist fähig, Kunst (die von Natur aus Ausdruck ist) durch hohle Nachahmungen zu ersetzen.
Die Probleme der KI reichen tiefer als nur die Frage „Wer wird in einer Ära der KI noch Illustratoren einstellen?“, obwohl das allein schon eine wichtige Frage ist. Die Probleme reichen so tief, wie es nur geht. KI ist eine existenzielle Bedrohung, und zwar nicht in dem Sinne, dass
„sie zu einem empfindungsfähigen Wesen wird und uns alle vernichtet“, sondern in dem Sinne, dass
„KI für militärische Zielerfassung genutzt wird“, dass
„KI das Bildungswesen zerstört“ und dass
„KI eine Blase ist, die platzen und die Weltwirtschaft zum Einsturz bringen wird“.
Aber es gibt Hoffnung.
Und diese Hoffnung sieht so aus, wie
Studenten, die Redner ausbuhen, die versuchen, ihnen KI schmackhaft zu machen, und sie sieht so aus wie
die massive und erfolgreiche Bewegung gegen Rechenzentren, die einen geplanten Standort nach dem anderen zur Schließung zwingt.
Und diese Hoffnung könnte bald wie eine militante Neo-Ludditen-Bewegung aussehen. Und nach den Schildern zu urteilen, die ich im ländlichen Amerika sehe, könnte diese Bewegung parteiübergreifend sein oder werden. Oder besser gesagt, es könnte eine Klassenbewegung sein, der Arbeiterklasse, ungeteilt durch Fragen des Kulturkriegs, die gegen die herrschende Klasse kämpft.
Wenn dem so ist, bin ich dabei.
Quelle:
„AI Doesn't Work and We All Know it Doesn't Work or: why I don't like AI“ von
Margaret Killjoy 20. Mai 2026
Birds Before the Storm ist eine von den Lesern unterstützte Publikation. Normalerweise ist die Hälfte der Beiträge kostenlos, die andere Hälfte ist persönlicher und steht bezahlten Abonnenten zur Verfügung, aber angesichts der aktuellen Krise sind mehr meiner Beiträge für alle Leser kostenlos. Um neue Beiträge zu erhalten und meine Arbeit zu unterstützen, solltest du ein kostenloses oder bezahltes Abonnement erwerben.
Übersetzung, Ergänzung des Links zu Margarets Podcast und zu den Ludditen: Thomas Trueten [Autorisiert]
