Müssen wir uns alle vor der AGI, der Allgemeinen Künstlichen Intelligenz, fürchten? Nein, erklärt der Journalist Gregor Schmalzried, der sich intensiv mit KI auseinandersetzt, im FR-Interview mit Lisa Berins. "Ich habe wenig Angst vor einer sich selbstständig machenden Super-KI, die uns alle umbringt. Deutlich realistischer ist ein Szenario, in dem ein autoritärer Staat mithilfe von KI-Tools ein besonders mächtiges und schwer aufdeckbares Netzwerk an Schadsoftware losschickt. Oder KI nutzt, um Drohnen automatisiert zu steuern. Das wird uns in den nächsten Jahren massiv Kopfschmerzen bereiten, weil die KI frei verfügbar ist und nicht mehr in Tiefen des Internets zurückdrückbar ist."

Kira Kramer stimmt in der FAZ mal nicht in die These ein, dass das Internet, besonders in seiner Smartphone-Verkörperung, uns die Hirne zermatsche. "Es geht daher nicht um verminderte Intelligenz. Plausibler ist, dass sie sich umsortiert. Wir werden nicht unfähiger, sondern anders fähig. Nicht alles daran ist gut, nicht alles daran ist schlecht. Aber es ist ein Wandel, der eher an die Einführung der Schrift erinnert als an den Verlust eines Sinnes. Das Smartphone ist, bei aller moralischen Überladung, bloß ein neues Werkzeug. Und Werkzeuge verlagern Kompetenzen."

Der Neurowissenschaftler Gary Marcus warnte schon 1993 davor, dass die sogenannten Large Language Models, die jeder KI zu Grunde liegen, bestimmte technische Grenzen niemals überwinden werden. Lange für seine Positionen verspottet und kritisiert, scheint es sich nun herauszustellen, dass er recht hatte. Im SZ-Interview erklärt er, wo die Probleme liegen: "Diese Modelle sind gut darin, auf Basis riesiger Datenmengen Wahrscheinlichkeiten auszurechnen. Sie verstehen aber nicht, worüber sie sprechen. Und diese statistische Hochrechnung von Wahrscheinlichkeiten stößt an ihre Grenzen, wenn es um Spezialfälle geht, die in den zugrundeliegenden Daten nicht oder kaum vorkommen. Wir erleben das dauernd (...) Mein Lieblingsbeispiel ist die Geschichte eines Tesla-Fahrers, der sein Auto via App zu sich gerufen hat. Auto und Fahrer befanden sich aber auf einer Flugzeugmesse und der Tesla fuhr geradewegs in einen fabrikneuen, 3,5 Millionen Dollar teuren Jet. Statistisch gesehen fahren Autos nicht gerade häufig über Flugzeugmessen, aber manchmal kommt es eben doch vor. Menschen, Fahrräder, Autos hätte der Tesla erkannt, weil die in seiner Datenbasis hinterlegt sind. Ein Flugzeug kam darin nicht vor, und das System versagte."

Selbst KI bewahrt uns nicht vor Peinlichkeit. Katja Scholtz stellt in der FAZ die Liste der schlimmsten Dinge auf, die ihr so passiert sind, etwa "Einen Facetime-Anruf annehmen und ans Ohr halten" oder "Immer wieder die korrekte Schreibweise von 'Büfett' nachschauen müssen. (Und immer wieder feststellen, dass 'Buffet' wie in Bernard Buffet auch geht.) (Aber: Warren Buffett.)"

Nils Matthiesen verweist in golem.de auf einen 38-seitigen Essay mit dem Titel "The Adolescence of Technology" von Dario Amodei, Mitbegründer und CEO des KI-Unternehmens Anthropic, der - sicher auch um das eigene Unternehmen ins Gespräch zu bringen- vor den Folgen einer künstlichen Superintelligenz warnt. Die Demokratisierung der KI könne böswillige Durchschnittsmenschen etwa dazu verführen, sich mal eine chemische Waffe machen zu lassen, oder Ähnliches. Vor Trump hat Amodei, dessen KI-Programm "Claude" heißt, aber offenbar keine Angst: "Trotz der Warnungen treibt Anthropic die Verbreitung seiner Technik voran. Im August 2025 machte das Unternehmen der US-Regierung unter Trump ein Angebot, Claude für lediglich einen US-Dollar pro Behörde für ein Jahr zur Verfügung zu stellen. Dieser Schritt wird als Teil eines verschärften Wettbewerbs zwischen KI-Größen wie OpenAI, Google und Anthropic um die Vorherrschaft bei staatlichen Aufträgen gesehen."

Buch in der Debatte

Es gibt "keine präzisere Sozialwissenschaft als diejenige von Google oder anderen großen Konzernen (wie Amazon und Konsorten), die aus unserem Such- und Konsumverhalten, dokumentiert auf unzähligen Websites, ableiten können, was wir uns als Nächstes wünschen und tun werden", konstatiert der bekannte Philosoph Markus Gabriel, der in seinem kommenden Buch "Ethische Intelligenz" über KI nachdenkt. Auf den Wirtschaftsseiten der FAZ ist ein Kapitel vorabgedruckt. Die Agenten der KI, so Gabriel, sind sozusagen in uns: "Die heutigen KI-Modelle, die längst beinahe überall dort zum Einsatz kommen, wo digitale Systeme verwendet werden, 'kennen' uns besser als alle Psychotherapeuten, sonstigen Seelsorger, Neuro- und Sozialwissenschaftler zusammengenommen. Zum ersten Mal in unserer Geschichte können wir uns sicher sein, dass etwas uns genauer durchschaut und ausmisst, als es uns selbst möglich wäre."

Die Cloud funktioniert so: Ein Unternehmen macht dich von seiner Software abhängig, und dann musst du monatlich immer höhere Gebühren zahlen - während die Börsen die Unternehmen mit vier Billionen Dollar bewerten. Das einzige Gegenmittel ist Open-Source-Software. Die Stadt München hatte sich ja mal von Open Source verabschiedet, damit Microsoft eine Niederlassung in der Stadt gründet. Nun versucht mit Schleswig-Holstein endlich mal ein Bundesland, auf Open Source umzustellen, durchaus mit Erfolg, so scheint es. Julian Staib berichtet in der FAS: "Open Source ist nicht kostenfrei, es werden Firmen für Support und Service bezahlt. Das Land spart aber die exorbitant steigenden Lizenzgebühren. Im vergangenen Jahr hat Schleswig-Holstein vermieden, 28.000 neue Microsoft-Lizenzen zu erwerben, und so rund 15 Millionen Euro gespart. In die Umstellung auf Open Source und die Migration der Konten sind einmalig neun Millionen Euro geflossen."

In der FR gratuliert Florian Weber staunend dem "kleinen Wunder" Wikipedia zum Fünfundzwanzigsten. Klar gibts auch Streit und Probleme, aber im großen und ganzen findet man dort "Artikel, die sich in den allermeisten Fällen schlicht darum bemühen, abzubilden, was der gegenwärtige Stand des Wissens ist. Dass das funktioniert, ist beinahe unglaublich. Schaut man auf X oder andere Orte im Internet, findet man zahlreiche Beweise, wie der Schutz der Anonymität benutzt wird, um fies zu beleidigen. Oder wie Plattformen instrumentalisiert werden, um politische Propaganda unter die Leute zu bringen. Gäbe es Wikipedia nicht in der Form, in der es heute existiert, würde wohl kaum jemand daran glauben, dass das Vertrauen in eine Schwarmintelligenz zu einem Ort führt, der in seiner ruhigen Aufgeräumtheit an eine städtische Bibliothek erinnert."

Die Aussage "Das Gras ist grün" ist urheberrechtlich nicht geschützt, und das mit gutem Grund, erinnert Christof von Kalle in der FAZ. Kalle ist Mediziner und Direktor der Forschungsklinik Luxemburg, wo KI-Anwendungen für die klinische Forschung entwickelt werden. Er kritisiert die EU, weil sie ein Opt-out erlaubt, mit dem sich Rechteinhaber gegen Data-Mining wehren können. Doch "das europäische Urheberrecht schützt keine Tatsachen, eine Ideen, keine Erkenntnisse. Geschützt ist allein die konkrete individuelle Ausdrucksform, sofern sie eine persönliche geistige Schöpfung darstellt. Das ist kein juristisches Detail, sondern zivilisatorische Voraussetzung für freien Diskurs. Ohne diese Trennung gäbe es kein Lernen, keine Wissenschaft, keinen Journalismus." Und darum kann das Urheberrecht auch nicht gegen KI angewendet werden, erklärt Kalle, denn sie kopiert nicht, sondern analysiert, wertet Informationen aus. "Eine KI lernt, dass Gras grün ist, weil diese Information häufig und hoch gewichtet vorkommt - nicht, weil ein Autor sie formuliert hat. Rechtlich ist das näher am Lesen als am Kopieren." Kalle warnt davor, dass die europäische KI-Forschung damit blockiert werde.

Elon Musks KI Grok soll aus Bildern im Netz und auf eine einfache Chatbot-Anfrage hin pornografische Fakes anfertigen und auf X zeigen - das hat die Non-Profit-Organisation AI-Forensics herausgefunden, berichtet Eva Goldbach in der FAZ. Die Gruppe "hat im Zeitraum von acht Tagen - zwischen dem 25. Dezember 2025 und dem 1. Januar 2026 - Suchanfragen ausgewertet, um die Nutzung von Grok zu charakterisieren. In 50.000 Erwähnungen und 20.000 KI-generierten Bildern wurden pornografische, zum Teil pädophile und illegale Ergebnisse ausgewertet, die X zurzeit überfluten. Der Autor Paul Bouchaud von AI-Forensics schreibt, man habe dokumentiert, 'wie systemisch das Problem ist, dass überwiegend Frauen für die Generierung sexuell anzüglicher Inhalte ins Visier genommen werden'. ... 'Was wir bei X gerade beobachten, wirkt wie die Industrialisierung der sexuellen Belästigung. Elon Musk erlaubt mit seinem KI-Dienst Grok, täuschend echte, sexualisierte Bilder von Frauen zu erstellen', sagte Kulturstaatsminister Wolfram Weimer im Gespräch mit der Nachrichtenagentur Reuters. 'Insbesondere KI-generierte sexualisierte Bilder von Minderjährigen sind nicht akzeptabel. Die Antwort darauf sollte die konsequente Anwendung von Gesetzen sein.' Der 'Digital Services Act' der EU biete dazu alle Möglichkeiten."

Europa war bekanntlich komplett unfähig, am Innovationsschub des Internets in irgendeiner Weise zu partizipieren. Alle großen Geschäftsmodelle wurden in den USA entwickelt - bis hin zur KI, die in den Händen dubioser Oligarchen liegt. Dagegen fordert der Kulturpolitiker Carsten Brosda in bewährter SPD-Manier "regulative Dämme". Liest man seinen Artikel auf der Medienseite der FAZ, fragt man sich, ob man schon das Internet überhaupt hätte zulassen dürfen: "Schon der erste große Digitalisierungsschub hat bei aller technologieoptimistischen Euphorie letztlich zu einem Kontrollverlust geführt, indem die Verbreitung medialer Inhalte auf große, meist US-amerikanische Plattformen verlagert wurde. Journalistische und kreative Medienhäuser produzieren seitdem zwar nach wie vor die Inhalte, aber an die Kunden kommen sie oft nur vermittelt über Plattformen und Intermediäre, wie Suchmaschinen, Videoportale oder soziale Medien."

Die unheimliche Machtentfaltung der "Broligarchen" geht unterdessen weiter. Winand von Petersdorff beschreibt sie auf den Wirtschaftsseiten der FAZ: "Nvidia-Chef Jensen Huang hatte mindestens sechs private Treffen mit Trump in diesem Jahr, neben direkten Telefongesprächen, notierte die Zeitung Financial Times. Trump beantworte SMS zu jeder Zeit, verriet Huang der Onlinepublikation Axios. Vom Kryptogipfeltreffen im Weißen Haus, einer Reise in die Golfregion (Saudi-Arabien, Qatar, Vereinigte Arabische Emirate) bis zum Bankett mit dem saudischen Kronprinzen Mohammed bin Salman - Amerikas Tech-Titanen waren stets dabei."

Die KI-Blase wird ohnehin demnächst platzen, prophezeit SZ-Feuilletonredakteur Felix Stephan unter Bezug auf Thesen des amerikanischen Kognitionswissenschaftlers und Bestsellerautors Gary Marcus: "Dieser Punkt könnte jetzt schon bald erreicht sein. Zum ersten Mal ist die Verbesserung zwischen dem neuen Chat-GPT-Modell, Chat-GPT 5, zu seinem Vorgänger geringfügiger, als es jeweils die Abstände zwischen den Modellen 2, 3 und 4 gewesen sind. Wenn Marcus recht hat, könnte das bereits der erste Knick in der Kurve sein. Seither mehren sich auffällig die Stimmen, die auf die Linie von Gary Marcus einschwenken." (Wir erinnern bei solchen Artikeln gern an eine Voraussage von SZ-Feuilletonredakteurin Sonja Zekri aus dem Jahr 2001, die der Perlentaucher damals resümierte: "Schon heute dürfte Amazon in die Netz-Geschichte als eines der am stärksten überschätzten Unternehmen eingehen, ein Riesenbluff...". Mehr hier)

Ebenfalls für die SZ hat Philipp Bovermann eine selten benannte Funktion der boomenden Podcasts entdeckt: "Berühmte Podcaster berichten immer wieder, dass Fans ihnen erzählen, es sei schon komisch, der Stimme jetzt in Fleisch und Blut gegenüberzustehen, die sie allabendlich als Einschlafhilfe mit ins Bett nehmen."