KI wird inzwischen massenhaft in Lehre und Bildung benutzt - dagegen richtet sich jetzt ein Aufruf von Wissenschaftlern, die selbst Experten für KI sind, berichtet Piotr Heller in der FAZ. "Forscher der Universität Tübingen haben jüngst beklagt, dass mindestens jede siebte Studie aus der Biomedizin heimlich mit KI geschrieben worden sei. Redakteure wissenschaftlicher Magazine stöhnen über eine Flut KI-generierter Studien. Wissenschaftler berichten, dass ihre Arbeiten teilweise nicht mehr von Menschen, sondern von Sprachmodellen bewertet werden. Die Philosophin Judith Simon, Mitglied des Deutschen Ethikrats, warnte in der FAZ vor einem 'vollständigen Zyklus der Sinnlosigkeit', bei dem wissenschaftliche Texte massenhaft automatisch erzeugt und nur noch von Maschinen bewertet würden. Das Positionspapier nimmt eine technikskeptische Haltung ein. 'Wir haben bemerkt, dass die Technologie stark in den Schulunterricht und die wissenschaftliche Lehre drängt, ohne dass darüber nachgedacht wird: Was sollen wir eigentlich vermitteln?', sagt Barbara Müller, eine der Autorinnen."

Im Interview mit der Zeit ist der Informatik-Pionier Tim Berners-Lee überzeugt, dass sich "das Web als demokratischer Raum" von den Tech-Giganten zurückerobern lässt. Die Technikangst vieler deutscher Journalisten ist ihm fremd, vielleicht, weil er sich besser auskennt? Zuletzt hat er mit Kollegen ein Protokoll namens Solid entwickelt, mit dessen Hilfe jeder Nutzer Kontrolle über seine Daten hat, "von Finanztransaktionen über Gesundheitsdaten bis hin zu Social-Media-Inhalten. Und der Clou: Der Nutzer entscheidet, wer Zugriff darauf bekommt. Gefällt ihm nicht, was eine Plattform oder Website mit seinen Daten macht, kann er einfach gehen und seine Daten mitnehmen. Noch stehen wir am Anfang, aber man kann es schon heute benutzen." Auch KI will er nicht verteufeln, sondern eingemeinden: "Manche schlagen vor, ein Zentrum wie das Cern zu schaffen, einen Ort, an dem solche mächtigen Technologien unter Kontrolle stehen. Genau darum geht es: den schmalen Grat zu finden, auf dem wir die Früchte der Technologie ernten, ohne ihr zum Opfer zu fallen."

Der am stärksten vertretene Glaube unter den Tech-Milliardären des Silicon Valley ist der Rationalismus, hier speziell der Glaube, mit Technik und Mathematik alles vorhersehbar zu machen, schreibt Michael Moorstedt in der SZ. "Nukleus der Bewegung aber ist das Online-Forum Lesswrong.com. Hier diskutieren die Teilnehmer über den bevorstehenden Untergang der Zivilisation genauso wie über Bayesianische Wahrscheinlichkeitstheorien, man beschäftigt sich mit Mathematik, Genetik und Fragen zu Moral und Lebensbewältigung. (...) Obwohl die Methoden des Rationalismus ungewöhnlich sein mögen, ist sein ambitioniertes Versprechen - dass eine bessere Version von uns selbst in Reichweite ist - ausgesprochen vertraut. Junge technikbegeisterte Menschen, denen es jenseits eines an Selbstausbeutung grenzenden Arbeitsethos oft an kultureller Identität mangelt und die sich von der traditionellen Religion entfremdet haben, suchen nach neuen Formen der Sinngebung."

China möchte seinen Staatssozialismus in die ganze Welt via Kultur und Technologie exportieren, konstatiert Adrian Lobe in der Welt. Das beinhaltet zum Beispiel die App TikTok und die KI-Deepseek - die ideologisch erstmal richtig eingestellt werden müssen. "Chinas Super-Apps, die sich Elon Musk, Mark Zuckerberg und Co. schon länger zum Vorbild nehmen, mögen zwar weitaus disruptiver sein, doch der kulturelle Kontext in China ist ein ganz anderer als der libertäre Geist im Silicon Valley. Bevor Sprachmodelle wie Deepseek für den Markt freigegeben werden, werfen Chinas Zensoren erst mal einen Blick unter die Motorhaube und prüfen, ob die KI 'kernsozialistischen Werten' ('core socialist values') entspricht. Eine Art politischer TÜV. (...) Die KI muss linientreu sein - und darf nicht gegen nationale Interessen verstoßen oder zu Separatismus aufrufen. Daher ist das Gedächtnis von Deepseek auch sehr lückenhaft, was die politisch heiklen drei Ts betrifft: Taiwan, Tibet und Tiananmen."

In der FAZ fordern die Informatiker Haya Schulmann und Michael Waidner die Entwicklung einer "nationalen KI-Infrastruktur", eingebettet in einen europäischen Verbund. Möglich sei das, aber es koste viel Geld (vor allem für Energie und Cybersicherheit). Außerdem müssten Datenschutz und Urheberrecht angepasst werden und Entscheidungen über Standorte und Infrastruktur "zentralisiert an einer Stelle mit klarer Verantwortung und klaren Befugnissen" getroffen werden. Was wäre die Alternative? "Solange wir keine eigenen Basismodelle der Spitzenklasse entwickeln, hängen wir von den Angeboten aus Amerika und China ab. Die Risiken solcher Abhängigkeiten sind konkret und vielfältig. Ein im Ausland entwickeltes Sprachmodell kann, bewusst oder unbewusst, fremde Wertevorstellungen in deutsche Verwaltungsprozesse, Bildungssysteme oder die Justiz einbringen. ... Hinzu kommt die Gefahr politischer Einflussnahme: Wenn in der öffentlichen Verwaltung oder im Bildungsbereich fremdentwickelte Suchsysteme oder Sprachsysteme dominieren, können sie langfristig Narrative verstärken, die nicht unseren eigenen demokratischen Grundsätzen entsprechen. Auch wirtschaftlich ist die Abhängigkeit gefährlich: Anbieter können Preise diktieren, den Zugang einschränken oder Schnittstellen verändern. Solche Mechanismen können gezielt als Instrument hybrider Kriegführung eingesetzt werden".

Im Interview mit netzpolitik fürchtet die Philosophin Maren Behrensen einen zu unkritischen Umgang mit KI, der gar im Faschismus enden könnte: "Das Nützlichkeitsprinzip steht im Zentrum der meisten Vermarktungsstrategien. Ein Beispiel ist die Grammarly-Werbung. Sie verspricht: 'Wir schreiben dir deine Hausarbeit' oder 'Wir machen deine E-Mails verständlich'. Die Unterstellung ist hier: Der Mensch an sich kann wenig und dann kommt die KI, die aus dem unfähigen Menschen ein optimiertes Wesen macht. In dieser Logik wird der Mensch wie eine kleine Maschine gesehen, die sich ständig selbst verbessern soll. Sein Wert bemisst sich daran, wie nützlich, effizient oder produktiv er ist."

In zehn Jahren werden ChatGPT und Co. mitnichten alle Arbeitsplätze ersetzt haben, erklärt die Soziologin Sabine Pfeiffer im SZ-Interview mit Benedikt Peters. Das predigten zwar KI-Apologeten, zum Beispiel den KI-Erfinder und Google-Mitarbeiter Ray Kurzweil in den USA, wird sich aber als Luftschloss offenbaren. "Man sollte solchen Äußerungen mit großer Skepsis begegnen. Es gibt wenige Menschen, die so viel von KI verstehen wie Kurzweil, aber man darf nicht vergessen, für wen er arbeitet. Die Techunternehmen brauchen einen schier unendlichen Fluss an Geld, der Aufbau ihrer Server-Infrastruktur verschlingt Unsummen. Sie müssen deshalb mit den ganz großen, visionären Botschaften kommen, um immer mehr Investoren anzuziehen. (...) Ich halte deshalb auch nichts von der geradezu religiös anmutenden Singularitätsthese." Dabei sagt Pfeiffer nicht, "dass sich nichts verändern wird. Die KI wird im Jahr 2035 Tätigkeiten übernehmen, die jetzt Menschen machen. Aber noch mal: Sie wird menschliche Arbeit nicht im großen Stil abschaffen, und das gilt nicht nur für Akademikerjobs."

Alle großen Internetplattformen werden inzwischen mit KI-Content geflutet, bemerkt Alard von Kittlitz in der Zeit. Was könnten die Folgen sein? Dass wir uns verängstigt irgendwann vor einer immer übergriffigeren Onlinewelt verkriechen? Oder dass wir sie ignorieren, weil sie immer surrealer wird? Kittlitz stellt sich eher eine "endlos sich erweiternde Welt gefälliger, von der KI erstellter Inhalte vor, geschult an dem, was mir, was dir, was ihr, was ihm jeweils gefällt. Der kommende Mensch bewegt sich in einem Metaversum, bevölkert von perfekten KI-Freunden, in deren Begleitung er sich durch perfekte KI-Welten bewegt. Wie jener Film in David Foster Wallace' Roman, von dem sich die Zuschauer, einmal angeschaltet, nie mehr lösen können, bis sie davor lächelnd verdursten und krepieren: unendlicher Spaß."

Mit riesigem Tamtam hat Open AI die neue Version von ChatGPT angekündigt - mit der Nummer 5. Bei golem.de schreibt Tim Elsner eine Art ausführlichen (und für Laien nicht immer verständlichen) Testbericht. Aber eins ist klar: Er ist ein bisschen enttäuscht und glaubt nicht, dass ChatGPT-5 tatsächlich auf allen Feldern ein Expertenwissen auf Promoviertenniveau hat: "Mit dem Wechsel von GPT-3 zu GPT-3.5 konnten statt aufwendiger Konstruktionen erstmals bequem Prompts benutzt werden, um das Modell zum Lösen von Aufgaben zu benutzen. Der Sprung von GPT-3.5 beziehungsweise ChatGPT zu GPT-4 war dann noch einmal gigantisch: Plötzlich konnten Bilder eingegeben werden und das Modell konnte ein Vielfaches der Kontextlänge verarbeiten, etwa komplette Bücher in einem Prompt verarbeiten. Und GPT-5? - Das hat ein paar Prozente mehr in einigen Benchmarks. Ein inkrementeller, kein umwälzender Fortschritt."

KI wird immer besser, und sie wird uns auch nicht überrennen, wenn wir mit ihr verschmelzen, behauptet der amerikanische Wissenschaftler und Erfinder Ray Kurzweil im Interview mit der Zeit. Das könnte durch Implantate geschehen: "Das hört sich an wie Science-Fiction, aber man muss sich das so vorstellen, wie wir heute mit unseren Handys agieren: Wenn uns etwas nicht einfällt, schauen wir auf unserem Handy nach. Das Handy ist nicht in unserem Körper - wobei, wenn ich mir anschaue, wie die Menschen heute schon mit ihrem Handy gewissermaßen verschmolzen sind ... In wenigen Jahren wird das, was heute das Handy ist, ein Chip in uns drin sein. Wenn man nach einem Datum oder einem Namen sucht, wird man nicht mehr sagen können, ob die Antwort aus dem eigenen Gehirn oder dem KI-Assistenten auf dem Chip stammt. Das mag heute seltsam klingen, aber es wird so kommen. Mit den simulierten Neuronen können wir den Neokortex aufstocken, und so wird eine immer größere kognitive Leistung möglich. Die Größe des Gehirns wird nicht mehr dadurch begrenzt sein, was durch den Geburtskanal passt."

KI basiert auf menschlichen Werken. Und diese werden dadurch zu Rohmaterial. In den USA gibt es dazu erste Prozesse von Urheberverbänden. Die Praxis eines KI-Unternehmens wie Anthropic schildert eine Reportergruppe in einem ganzseitigen Hintergrundtext des FAZ-Wirtschaftsteils so: "Zum einen hat sich das Unternehmen einfach Millionen von urheberrechtlich geschützten Büchern in digitaler Form kostenlos von Raubkopierer-Websites heruntergeladen. Zum anderen hat es zusätzlich legal physische Bücher gekauft - darunter auch viele gebrauchte, hat die Einbände davon abgerissen und anschließend Seite für Seite eingescannt und digitalisiert. Ist das legal? Bis solche Fragen endgültig geklärt sind, wird es dauern..." Mehr zu KI und literarischen Übersetzungen hier in efeu.

Christoph Neuberger ist Wissenschaftlicher Geschäftsführer des Weizenbaum-Instituts in Berlin - das Institut wurde einst im Verbund mehrere Unis als eine Art "Deutsches Internet-Institut" gegründet - allzuviel hat man noch nicht davon gehört. Auf den Wirtschaftsseiten der FAZ legt Neuberger den Standpunkt dieses hoch offiziellen Instituts zu den "sozialen Folgen von KI und Plattformen" dar. Es komme nicht nur auf "Technikentwicklung, sondern auch eine Analyse der Technikfolgen" an, sagt er auf gut europäisch. Er schildert die bekannten gefahren der Plattformen und von KI, und dann kommt das Institut ins Spiel: "Wie lässt sich da die Integrität demokratischer Prozesse sichern? Wie kann der öffentliche Diskurs vor Angriffen geschützt werden? Zugleich können digitale Partizipation und Automation die Demokratie aber auch stärken. Wir befinden uns heute in einem großen Lernprozess." Wir brauchen "ein normatives Leitbild, das Politik, Wirtschaft und Zivilgesellschaft einen Orientierungsrahmen gibt und hilft, gangbare Wege bei der Gestaltung der digitalen Welt zu finden", und da kann das Weizenbaum-Institut sicher helfen.