Demnächst wird KI neue KI programmieren. Und die Menschen laufen Gefahr, sie nicht mehr zu verstehen, warnt der Informatiker Robert West im Gespräch mit Piotr Heller von der FAZ, denn schon jetzt löst KI viele Programmieraufgaben schon besser als Menschen. Die Hauptfrage ist für ihn darum: "Kann KI neue KI bauen, die trotzdem menschenverständlich bleibt? Als Analogie können wir uns ein Parlament vorstellen, das eine Expertenkommission einberuft, die bei der Ausarbeitung neuer Gesetze hilft. Die Parlamentarier haben das Verständnis nicht völlig aufgegeben. Sie haben wahrgenommen, dass andere mehr wissen. Und sie können sich die Entscheidungen von den Experten erklären lassen. Das sollte auch das Ziel bei KI sein." West hat im Science Magazin einen Artikel zu dem Thema verfasst.

Gerade montags lohnt es sich, die Wirtschaftsseiten der FAZ zu lesen. Dann gibt es nämlich die Seite "Digitalwirtschaft". Holger Schmidt berichtet über Studien, die Produktivitätsfortschritte durch Künstliche Intelligenz untersuchen. In einigen Branchen, und besonders in Amerika, lassen sich da inzwischen Ergebnisse zitieren. "Im sogenannten Mensch-in-der-Schleife-Modell, in dem die KI die Entwürfe erstellt und ein Mensch jedes Ergebnis prüft, beträgt die mittlere Produktivitätssteigerung 22 Prozent. Im Genehmigungsmodell, in dem Menschen die Ergebnisse nur stichprobenartig oder bei definierten Schwellenwerten kontrollieren, steigt der Wert auf 30 Prozent. Im Eskalationsmodell, in dem die KI mehr als 80 Prozent der Fälle autonom abwickelt und Menschen nur in Ausnahmefällen eingreifen, erreicht die mittlere Produktivitätssteigerung einen Wert von 71 Prozent. Und vollständig agentische Systeme, die mehrstufige Aufgaben eigenständig ausführen, kommen ebenfalls auf eine mittlere Produktivitätssteigerung von 71 Prozent; sie repräsentieren aber erst 20 Prozent der untersuchten Fälle."

"Darf, soll, kann die KI den Journalismus ergänzen - oder wird sie ihn abschaffen?" fragt Anne Fromm in der taz in Bezug auf den KI-Skandal um den ehemaligen Tagesspiegel-Chefredakteur Stephan-Andreas Casdorff (unser Resümee): "Die neue Technologie trifft auf eine Branche in der Krise. Mit ihrem klassischen Geschäftsmodell verdienen Verlage immer weniger Geld. Stellen wurden gestrichen, Tarifgehälter werden längst nicht mehr flächendeckend bezahlt. Die Frage, welche Rolle KI in den Medien spielt, ist also nicht nur eine technologische, sondern auch eine wirtschaftliche. Leistet die Maschine bald schneller und billiger das, was heute teure Redakteur:innen leisten? Der Fall von Stephan-Andreas Casdorff zeigt auch, dass Inhalte zum Teil zweitrangig geworden sind. Im Nachhinein lesen sich seine KI-generierten Texte, die der Tagesspiegel offline genommen hat, wie eine Aneinanderreihung von Plattitüden. Warum das nicht früher aufgefallen ist, kann auch Chefredakteur Christian Tretbar nicht eindeutig beantworten. Natürlich werde man sich die internen Prozesse anschauen. Nur sei für ihn auch klar: Der Fehler ist nicht zuerst bei denen zu suchen, die mit den Texten gearbeitet haben."

Natürlich kann KI eine Kritik oder einen Nachruf auf eine Künstlerin schreiben, der alle wichtigen Fakten enthält, aber darum geht es nicht, erklärt Kathleen Hildebrand in der SZ. Es geht darum, dass sich jemand hingesetzt und erinnert hat: "Bei allen Kriterien, die man als Kritikerin haben sollte, ist in Kunstbetrachtungen immer etwas Subjektives enthalten, ohne das sie uninteressant wären." Und: Wer über Kunst "nachdenkt und darüber ins Gespräch kommt, beschäftigt sich mit dem Menschsein als solchem. Was kann eine Maschine dazu sagen, eine körperlose Datensammel- und Kompilationsmaschine, die nie Liebeskummer hatte oder ein aufgeschlagenes Knie?"

Zu ähnlichen Schlussfolgerung kommt der Ökonom Georg Weizsäcker, der in der FAZ überlegt, ob es wissenschaftliche Gründe dafür gibt, KI-Texte von Politikern abzulehnen - zumindest wenn es um eine Rede zum Holocaust geht: "Eine Rede ist ein sogenannter Sprechakt und daher nicht irgendein Produkt. Die ökonomische Zunft befasst sich umfangreich mit Kommunikation und teilt mit der Linguistik, der Philosophie und anderen Disziplinen eine stark spieltheoretisch geprägte Sprachtheorie, in welcher der Wert des 'Produkts' in den wechselseitigen Interpretationen des Sprechakts liegt. Der Wert hängt also direkt von den Eigenschaften der Personen ab, die im Sprechakt interagieren: vom Sprecher und vom Zuhörer." Hier sucht der Zuhörer nach Hinweisen zur Intention des Sprechers, seinen Schwerpunkten, der Mühe, die er sich gegeben hat und ob er bereit war, wirklich Zeit zu investieren. "Im Fall von Mario Voigts Rede kennen wir nun die Antwort. Seine Bereitschaft war relativ gering, und dies entwertet seine Rede aus sprachtheoretischer Sicht. Die Rede, wäre sie auch noch so gut formuliert gewesen, wurde durch die KI-Nutzung schlechter, nicht besser."

Kürzlich ließ die SPD die Holocaust-Überlebende Jeanette Wolf mithilfe von KI wiederauferstehen (unser Resümee). In der Welt hat Alan Posener für diese Art der Erinnerung gar kein Verständnis: "Die schiere Menge des Materials und die Kultur des schnellen Likens und Weiterleitens sorgen dafür, dass die Grenze zwischen Fake und Realität verschwindet. Deshalb sollten jene Institutionen, die auftragsgemäß und ernsthaft die Erinnerung an den Holocaust pflegen, auf die Versuchung verzichten, ihre Angebote durch KI aufzumotzen. Anne Frank spricht zu uns durch ihr Tagebuch, sie muss nicht als Avatar zu uns sprechen. Aber weder das Tagebuch der Anne Frank noch die Zeugnisse der Überlebenden können die Arbeit des intellektuellen Eindringens in das Geschehen ersetzen. Und das ist seit Jahrzehnten unterblieben."

Die Tech-Konzerne sind schrecklich, aber KI hat Punkaspekte, die dem Web heute völlig fehlen, meint der amerikanische Medientheoretiker Douglas Rushkoff im Interview mit der NZZ. Und noch was gutes gibt es an KI: Sie "zeigt, was mit unseren bestehenden Institutionen nicht stimmt. Nehmen wir die Bildung. Wenn ein Kind Chat-GPT benutzt, um eine Hausarbeit zu schreiben, ist das nicht die Schuld der KI, sondern die Schuld der Schule. Was für ein Bildungssystem fördert die Leistungsbewertung anstelle des tatsächlichen Lernens? Wie haben wir eine Kultur geschaffen, in der ein Kind lieber schummelt, um eine gute Note zu bekommen, als ein Buch zu lesen? Bücher wurden ursprünglich als Unterhaltungsform erfunden, die Menschen lasen sie aus Freude. Wir haben die Bildung in einen kompetitiven, ergebnisorientierten und kennzahlengetriebenen Fleischwolf verwandelt. Das Gleiche gilt für den Arbeitsmarkt."

Punkaspekte der KI sehen allerdings außer Rushkoff nicht viele Menschen. Im Gegenteil: Maschinenstürmerei ist gerade hip, in den USA formiert sich gerade eine linke Bewegung, die sich bis hinein ins Bürgertum zieht, gegen KI, der vorgeworfen wird, Jobs, Kultur und Umwelt gleichermaßen zu vernichten, berichtet Adrian Lobe in der Welt. "So hat sich in den USA angesichts der milliardenschweren Investitionen in KI eine Anti-Data-Center-Bewegung formiert. Von Idaho bis Indiana verbünden sich Bürger unterschiedlicher sozialer Herkunft, um die Ansiedlung von Rechenzentren zu verhindern: Farmer, Priester, Lehrer. Sie studieren Kataster, drucken Flyer und organisieren sich in Facebook-Gruppen. Die Sorgen sind überall dieselben: explodierende Strom- und Grundstückspreise, sozialer Abstieg, Umweltschäden. ... Zahlreiche Städte und Gemeinden haben mittlerweile einen Baustopp für Serverfarmen verhängt". An dieser Bewegung gibt es allerdings Kritik sowohl von ganz links wie von den Tech-Konzernen: Die Blockade von Rechenzentren würde Rechenpower verknappen und KI nur noch der Elite zugänglich machen.

Etwas Unheimliches tut sich in der Welt der Antiquariate. Es gibt einen Käufer! Dieser Käufer heißt Zoom Books und bestellt von USA oder Kanada aus so viele Bücher, dass sich die Händler wundern, berichtet Svenja Bergt in der taz. Die Befürchtung? Es könnte darum gehen, die KI zu füttern. "Kauft ein Unternehmen große Mengen günstiger Gebrauchtbücher, zerlegt sie und scannt sie ein, könnten die Texte anschließend zum Training von KI-Modellen genutzt werden. Dass dies keine abwegige Theorie ist, zeigt ein Gerichtsdokument aus dem Verfahren gegen Anthropic. Darin heißt es, das Unternehmen habe nicht nur Millionen Bücher aus dem Internet heruntergeladen, sondern auch gedruckte Werke gekauft, die Bindungen entfernt, die Seiten zugeschnitten, eingescannt und als durchsuchbare PDF-Dateien gespeichert. Zoom Books erklärt auf Anfrage, nichts über die Abnehmer der von ihnen gekauften Bücher sagen zu können."

Thüringens Ministerpräsidenten Mario Voigt (CDU) hat für Reden, Artikel und Grußworte offenbar intensiv KI genutzt oder sie gleich die ganze Rede schreiben lassen. Darunter auch eine Rede im Konzentrationslager Buchenwald. Bei Zeit online fasst sich Robert Pausch an den Kopf: "Warum wird man überhaupt Ministerpräsident, wenn man in solchen Momenten nicht den Drang verspürt, seine eigene Sprache, seine eigenen Gedanken für diesen Ort zu finden? Wie soll man andere Menschen berühren, wenn man die Rührung selbst von einem Computer erledigen lässt?" In der SZ sekundiert Marie Gundlach: Politiker sollten "in ihrem Handeln Vorbild sein. Und das bedeutet eben auch: sich sorgfältig informieren und dann klar und faktisch richtig kommunizieren. Sonst schaden sie nicht nur ihrem eigenen Image, sondern dem Vertrauen in die Politik ganz allgemein. Und machen etwas Fatales vor: dass Effizienz wichtiger ist als eigenständiges, kritisches Denken."

Der Digital Services Act (DSA) ist derzeit wirkungslos, weil die großen Onlineplattformen die darin festgelegten Transparenzpflichten unterlaufen, erklärt im Gespräch mit der FAZ Simon Mayer, Leiter eines Forscherteams aus Informatikern der Schweizer Universität, der Universität Lausanne, der Universität Maastricht und des London Open Data Institute, das die Kontroll- und Datenkonzentration auf den Plattformen messen soll: "Die Plattformen setzen Abwehrprogramme ein, die unabhängige Überprüfung erschweren. Darüber hinaus fehlen genau jene Daten, die für Rechenschaftspflicht am wichtigsten wären. Moderierte Inhalte - also die, die entfernt wurden, weil sie gegen Regeln verstießen - sind vollständig ausgeblendet. Genau dort aber liege der Schlüssel zur Überprüfung, ob Plattformen ihrer Verantwortung tatsächlich nachkommen, so Mayer." Seine Forschungsgruppe "hat drei Forderungen an die Gesetzgebung: Sie sollte genauer definieren, wie 'Transparenz' ausgestaltet sein muss. Plattformen müssen Mechanismen anbieten, die es Nutzern erlauben, die Kontrolle über das Nutzungserlebnis zurückzuerlangen. Und die Kontrolle muss deutlich verstärkt werden."

Im Interview mit Netzpolitik erklären Sebastian Marg und Tom Jennissen von der Digitalen Gesellschaft, was sie an dem neuen Sicherheitspaket 2.0 der Bundesregierung kritisieren: Zu den umfangreichen neuen Befugnissen für BKA, Bundespolizei, Staatsanwaltschaft, Zoll und das BAMF "gehören der biometrische Abgleich mit Daten aus dem Internet und die umfassende Datenanalyse, also der Einsatz einer Software, wie sie Palantir anbietet. Dazu müssten gigantische Referenzdatenbanken erstellt werden. Außerdem sollen personenbezogene Daten auch zum Training von KIs verwendet werden. Es ist ein frontaler Angriff auf die Grundrechte, zusammen gedacht so etwas wie die Atombombe unter den Ermittlungsmaßnahmen. Der Bundesrat will dennoch noch weiter gehen und dazu auch noch Echtzeit-Fernidentifizierung mit reinnehmen. Und parallel durchläuft ja gerade das Gesetz zur IP-Vorratsdatenspeicherung das Parlament. ... Sollte denen tatsächlich erlaubt werden, das gesamte Internet als Fahndungsdatenbank zu verwenden, dann wäre das das Aus für die Anonymität. Dann kann man sich nicht mehr im öffentlichen Raum bewegen, ohne Gefahr zu laufen, auf einem Foto zu landen, das von der Polizei als Fahndungsmittel genutzt wird. Das ist krass dystopisch." Am Samstag findet in Berlin eine Demo gegen das Überwachungspaket statt, zu der die Initiative "Sicherheit ohne Überwachung" aufruft.

Der Soziologe Florian Butollo hat gerade das Buch "Das knappe Gut Arbeit" veröffentlicht, in dem er warnt, dass Digitalisierung und KI-Revolution keineswegs die Lösung für Fachkräftemangel, sondern "Vorbote eines viel substanzielleren Trends" sind. Was meint er damit, will Peter Laudenbach in der SZ wissen. In den kommenden Jahren werden dem Arbeitsmarkt Millionen Menschen fehlen, prognostiziert Butollo - und die KI-Revolution werde zusätzlich mehr Wissensarbeit machen: "Wenn etwa mit Hilfe generativer KI ein Text oder Computercode entsteht, sind es Menschen, die die KI einsetzen. Sie müssen wissen, welche Modelle sie verwenden, wie sie Prompts verfassen, um adäquate Ergebnisse zu erreichen. Sie müssen diese Ergebnisse der KI bewerten und einordnen. Das ist nicht trivial. Für gute Ergebnisse braucht es Kompetenzen und oft auch viele Überarbeitungsschleifen. Es gibt natürlich Jobs, bei denen KI vieles beschleunigt. Aber auch das macht den Gesamtaufwand an Arbeit nicht unbedingt kleiner."