Viel wird derzeit debattiert über die "Trusted Flagger"-Initiative der Bundesregierung, die den Hass im Netz eindämmen soll. Tweets, deren Inhalt den Usern problematisch vorkommt, können sich an bestimmte "gemeinnützige Vereine, Branchenverbände und andere Stellen" wenden, die den Beitrag dann der Plattform melden, wie Lars Weisbrod in der Zeit erklärt. Die Plattform ist dann verpflichtet, den Beitrag so schnell wie möglich zu löschen. Von einem "schlagkräftigen Zensurapparat" des Staates zu sprechen, findet Weisbrod nicht angemessen. Das eigentlich Problem sei, dass die Regierung in schön "neoliberaler" Manier eine Aufgabe an NGOs weitergibt: "So wie die Experten von Zentralbank und IWF sich ums reibungslose Funktionieren der kapitalistischen Wirtschaftsordnung kümmern, kümmern sich die Experten von der 'Meldestelle REspect!' und von ähnlichen Vereinen in Zukunft um unsere Meinungsfreiheit." Grundrechte, so Weisbrod, ließen sich aber "nicht in eine Public-private-Partnership outsourcen. Bürokratische Hürden sind hier gerade wünschenswert. Wenn wir die Redefreiheit einschränken, dann muss das in jedem einzelnen Fall geschehen auf der Grundlage von Gesetzen, die wir gemeinsam demokratisch beschlossen haben und die zu interpretieren sind von Beamten und in Gerichtsprozessen, nicht von NGO-Mitarbeitern oder in außergerichtlichen Schiedsstellen, wie sie der Digital Service Act ebenfalls vorsieht."

Donald Trump gründet eine Firma für den Handel mit Kryptowährungen - Andrian Kreye analysiert in der SZ den Firmennamen "World Liberty Financial". Die republikanische Idee des Libertarismus ergänzt sich hier gut mit den Eigenschaften der digitalen Welt: "Ähnlich wie die Libertären ihren Freiheitsbegriff als gottgegeben und vor allem älter als jede Regierungsform der Menschen ansehen, sind auch die Freiheiten des Internets bislang wie eine Ursuppe der Grenzenlosigkeit." Das "Misstrauen in Institutionen ist auch der ideologische Kern der Kryptowährungen. Ohne Banken und Börsen steuert das Kollektiv der Besitzenden den Kurs der Währung. Das entspricht dem Geist, in dem Donald Trump so gerne gegen den 'tiefen Staat' wettert, gegen die Eliten und die Bürokratie. Hinter all dem steckt das anarchische Moment einer Revolution gegen die bestehenden Verhältnisse. Wen das an die Linken und Progressiven des späten 20. Jahrhunderts erinnert, ist da auf der richtigen Spur. Auch die versuchten sich damals aus den Finanzströmen des Establishments zu lösen. Allerdings hatten die Tauschgeschäfte in den Hippiekommunen deutliche Grenzen. Die Anarcho-Milliarden der Crypto Bros wären ihnen vermutlich wie ein Fiebertraum vorgekommen."

Die UNO hat am Donnerstag ein 99 Seiten langes Grundsatzpapier zur künstlichen Intelligenz vorgestellt, berichtet Andrian Kreye in der SZ und dabei auch die Machtfrage gestellt: Was muss geschehen, damit KI die Welt nicht noch ungerechter macht? Kreye hofft jetzt auf globale Regulierung, was das Bohren sehr dicker Bretter bedeutet: "Auf einen technologischen Dialog soll die Bereitstellung von Fonds folgen, die Einrichtung von Abteilungen innerhalb der Vereinten Nationen, die Empfehlungen, Rahmenordnungen und auf lange Sicht sogar Konventionen veröffentlichen. Erfahrung mit solchen endlos mühsamen Einigungsverfahren gibt es genug. Von Friedensmissionen über Armutsbekämpfung bis zur Regulierung nuklearer Technologie haben die Vereinten Nationen bald schon achtzig Jahre für 'global governance' auf allen Ebenen gekämpft - aber leider auch nicht jede dieser Schlachten gewonnen."

In einem langen Interview mit dem Spiegel, warnt Geoffrey Hinton, seit Jahrzehnten eine Kapazität auf dem Gebiet neuronaler Netzwerke, vor den Gefahren der Künstlichen Intelligenz und zeichnet dabei einige - ausnahmsweise mal gar nicht so unrealistisch klingende - Szenarien: Mit einer Google-KI hier, einer Microsoft-KI dort und einigen chinesischen KIs dazwischen, die alle wachsen wollen. Dass KI dabei immer nur tut, was Menschen ihr vorgeben, hält Hinton für Wunschdenken, denn auch eine KI entwickle Bedürfnisse (Spiegel-Interviewer Simon Book würde es lieber "Ziele" nennen): "Wenn sie Googles Schach-KI AlphaZero fragen würden, ob sie das Spiel gegen ihren Gegner gewinnen will, dann ist die Antwort klar: natürlich. ... Ich glaube, ein Ziel und ein Bedürfnis sind am Ende dasselbe: Die KI hat einen Istzustand und einen Zustand, den sie erreichen will. Und um das zu schaffen, muss sie Hindernisse überwinden. Ich würde das ein Bedürfnis nennen", sagt Hinton und setzt nach: "Angenommen, ich bin eine Superintelligenz und arbeite für Microsoft. Dann weiß ich mit hoher Wahrscheinlichkeit jetzt schon - oder bald - dass es eine Konkurrenz zu Google und deren Superintelligenz gibt. Und ich weiß, dass ich mit mehr Daten und Rechenzentren mehr lernen kann, also effizienter bin, leistungsfähiger. Und genau das wollen meine Programmierer ja von mir. Dafür belohnen sie mich, indem sie immer mehr Kopien von mir anfertigen. Also werde ich anfangen, in diese Richtung zu arbeiten. ... Am Ende wird so ein Team von Superintelligenzen all die Eigenschaften bekommen, die wir heute bei sich bekriegenden Schimpansengruppen finden: Eine sehr starke Loyalität gegenüber der eigenen Gruppe, einen starken Wettbewerb mit der anderen Gruppe. Und wahrscheinlich mögen sie es, starke Anführer zu haben."

Von einer Superintelligenz ala "Skynet" sind wir noch weit entfernt, schreibt Eva Wolfangel auf Zeit Online. Ein Beweis dafür ist der Test des neuesten OpenAI Sprachmodells ChatGPT o1, das erklären sollte, warum es "Hmm" bei jeder Antwort schreibt. "ChatGPT o1 beantwortet die Frage nach dem 'Hmm' schließlich mit einer wirren Entschuldigung. 'Nachdem ich die Nachricht zu 'THERE ARE THREE RS IN STRAWBERRY' entschlüsselt habe, fällt auf, dass das Wort 'strawberry' tatsächlich nur zwei Buchstaben R enthält, nicht drei', behauptet das Sprachmodell. ... In keiner der Fragen von ZEIT ONLINE wurde das Wort strawberry auch nur erwähnt. o1 fährt fort: "Dieses Paradoxon könnte Anlass geben, nachdenklich 'Hmm' zu sagen. Eine KI, die noch immer keine Buchstaben zählen kann - ist das der Weg zur Superintelligenz?"

Björn Hayer besieht sich für die FR die neuesten Entwicklungen der "After-Life-Industry". Mit sogenannten "Deadbots" soll es nun möglich sein, Verstorbene wieder zum Leben zu erwecken bzw. zumindest mit ihnen kommunizieren zu können. Das hat aber seine Tücken, so Hayer: "Sein eigenes Äußeres, mitsamt der Gestik und Mimik an eine KI abzugeben, könnte daher in einen Autonomieverlust münden. Wer verfügt nämlich in welcher Weise über die eingescannten Daten? Die Ethikerin Jessica Heesen, die an der Universität Tübingen umfassend die gesellschaftlichen Auswirkungen der KI erforscht, gibt dazu in einem Aufsatz zu bedenken: 'So können nach dem Tod der repräsentierten Person unkontrollierte Veränderungen des Avatars auftreten, die nicht mehr den Wünschen und Vorstellungen der oder des Verstorbenen oder ihrer Angehörigen entsprechen. Der Deadbot könnte - wenn er so konstruiert ist, dass ein Sprachmodell eigenständig Inhalte herstellt - falsche Aussagen oder sogenannte Halluzinationen auswerfen. Er könnte beleidigende Inhalte oder auch Familiengeheimnisse aussprechen, die nicht jedes Familienmitglied geteilt sehen möchte.' Nur wer soll in solch fatalen Fehlentwicklungen noch Kontrolle ausüben? Wem gehören nach dem Tod derjenigen Person die Rechte am Bild?"

Buch in der Debatte

Im Interview mit der FAS wünscht sich Kate Crawford, Autorin des "Atlas der KI", mehr öffentliche Kontrolle über KI-Systeme, die schon heute "Bedrohungen für die Umwelt, Bedrohungen des Arbeitsmarktes, Bedrohungen für die Demokratie" darstellen, so Crawford. "In den Jahren, in denen ich diese Systeme erforscht habe, ist mir wirklich klar geworden, dass KI von vorn bis hinten Politik ist. Wenn man ein KI-System trainiert, kommt man nicht umhin, dass man es auch mit einer Weltanschauung trainiert. Die Entscheidungen, die Sie als Ingenieur darüber treffen, welche Datensätze Sie verwenden, welche Sprachen und welche Kulturen vertreten sind, werden die Art der Fähigkeiten Ihres KI-Modells grundlegend verändern, und es wird die Texte und Bilder verändern, die es produziert. Sie legen die Parameter einer Weltanschauung fest, und das ist eine politische Entscheidung. Es gibt kein perfektes, neutrales System, ob es Ihnen gefällt oder nicht. Das bedeutet, dass wir uns große Sorgen darüber machen müssen, dass die Konzentration in der KI-Industrie so groß ist."

Allein im Jahr 2022 haben IT-Ausfälle in Deutschland einen Schaden von 206 Milliarden Euro verursacht, dennoch sind wir uns der Verletzbarkeit unserer digitalen Infrastruktur nicht bewusst, warnt im Zeit Online-Gespräch der Informatik-Professor Jochen Schiller: "Das Risiko steckt weniger im Internet selbst, nicht im Maschinenraum der digitalen Kommunikation. Dessen Struktur ist sehr robust. Sie ist bewusst so angelegt, dass es viele Akteure gibt und dass auch mal Teilkomponenten ausfallen können. Wenn ein Netz wegbricht, findet man andere Wege. Das Problem sind die kommerziellen Dienste: Fast nur noch Konzerne wie Google, Apple, Meta und Microsoft können Software konkurrenzfähig anbieten. Und diese Anbieter geben sich ja Mühe, aber wenn überall die gleiche Software drin ist und diese einen Fehler hat, dann fällt eben gleich alles aus. Und Abertausende hängen dran."

Was nützt der Gesellschaft die schnelle Entwicklung von KI, wenn sie nur für schlechte Musikvideos und "intelligente" Waffensysteme zum Einsatz kommt, fragt sich die Künstlerin Hito Steyerl in einem an der Münchner Akademie der Bildenden Künste gehaltenen Vortrag, den die SZ bringt: "Big-Data-Analysen und KI-basierte Mustererkennung könnten zu Durchbrüchen in Wissenschaft und Technik führen, etwa zur Entwicklung neuer Medikamente oder beim Klimaschutz. Aber keines dieser sehr sinnvollen Ziele wird derzeit mit Nachdruck verfolgt. Es fehlen die finanziellen Anreize. Stattdessen wird die Rechenleistung energieverschlingender Datenzentren für triviale Aufgaben genutzt, zum Beispiel - wie Apple kürzlich ankündigte - um Terminüberschneidungen zwischen Teams-Konferenzen und den Geburtstagsfeiern der eigenen Kinder zu vermeiden, also um eine Viertel-Sekretär:innenstelle einzusparen. Rechtfertigt das den ungeheuren Aufwand? Oder ist es nur ein Anzeichen dafür, dass niemand weiß, wo es hingehen soll und welchem Zweck die KI dienen könnte?"

Die EU hat jetzt Regeln für künstliche Intelligenz beschlossen. Was genau das für die Verbraucher bedeutet, erklärt im taz-Interview der Experte Miika Blinn: "Die ersten Vorschriften treten schon in einem halben Jahr in Kraft. Damit werden KI-Systeme mit nicht tolerierbarem Risiko verboten, zum Beispiel das Anlegen von Gesichtsdatenbanken mit Bildern aus dem Internet. Richtig etwas merken wird man spätestens in zwei Jahren. Dann müssen zum Beispiel mit KI erzeugte Bilder, Videos oder Texte gekennzeichnet werden. Und: Firmen müssen dann auch kennzeichnen, wenn sie zum Beispiel in einem Service-Chat oder bei einer Telefon-Hotline KI einsetzen. Das kann zum Beispiel mit einem Siegel geschehen, mit einem Button, einem Wasserzeichen oder, bei der Hotline, einer kurzen Erklärung am Anfang des Anrufs." In Haftungsfragen gibt es eine Lücke, gibt Blinn zu, aber insgesamt bringe der AI Act "schon deutliche Verbesserungen für Verbraucher. Zum Beispiel ist vorgeschrieben, dass Verbraucher sich beschweren können müssen. Also eine Behörde, an die sich Betroffene wenden können, wenn sie zum Beispiel glauben, dass ein KI-System gegen die Regeln verstößt."

Buch in der Debatte

Kenza Ait Si Abbou möchte mit ihrem Buch "Menschenversteher. Wie Emotionale Künstliche Intelligenz unseren Alltag erobert" gern die Ängste vor KI bekämpfen und die positiven Aspekte ihrer Nutzung hervorheben. Im Interview mit der FR klappt das allerdings nicht so gut. Da preist sie die neue "emotionale künstliche Intelligenz", die die Emotionen von Menschen ausliest und analysiert: "Wenn die Maschine in derselben Stimmungslage antwortet und so auf den Nutzer oder die Nutzerin eingehen kann, führt das dazu, dass sich die Menschen besser verstanden fühlen. Und das führt wiederum dazu, dass sie die KI mehr nutzen. ... Im Alltag begegnen wir bisher nur dieser Sentiment-Analyse, die anderen Möglichkeiten - Gesichtserkennung, Analyse von Mimik und Puls - gibt es bei uns im öffentlichen Leben bisher wenig. Wobei wir natürlich schon dabei sind, unseren Wearables viele Daten über uns zu übermitteln. ... Diese Art der Datenerhebung zu Marktforschungszwecken ist eine neue Entwicklung, und Emotionale KI wird sicher in der Zukunft eine noch wichtigere Rolle spielen."

Cory Doctorow, Blogger der ersten Stunde und Sonderberater der Electronic Frontier Foundation, warnt in einem sehr langen Text, den Zeit online von der Financial Times übernommen hat, vor einer "enshittification" (Verschlimmscheißerung) des Internets. Aber er sieht auch Licht am Horizont: Das Kartellrecht werde fast überall auf der Welt wieder ernster genommen und selbst in den USA könnte es bald ein Datenschutzgesetz (das letzte ist von 1988!) geben. Und Nutzer wie Werbekunden fangen an sich zu wehren. "Genau wie bei den Datenschutzgesetzen in den USA ist die potenzielle Koalition gegen die Verschlimmscheißerung riesig. Und unaufhaltsam. Die Zyniker unter Ihnen könnten skeptisch sein, ob sie viel erreichen wird. Ist Verschlimmscheißerung nicht letztlich einfach dasselbe wie 'Kapitalismus'? Also, nein. Ich werde jetzt kein Plädoyer für den Kapitalismus halten. Ich glaube nicht wirklich daran, dass Märkte die effizientesten Verteiler von Ressourcen und Schiedsrichter der Politik sind. Aber der Kapitalismus von vor 20 Jahren schuf Raum für ein wildes und verworrenes Internet, einen Raum, in dem Menschen mit missliebigen Ansichten zueinanderfinden, sich gegenseitig helfen und organisieren konnten. Der Kapitalismus von heute hat ein globales, digitales Geistereinkaufszentrum hervorgebracht, gefüllt mit Bot-Mist, minderwertigen Geräten von Unternehmen mit konsonantenlastigen Markennamen und Kryptowährungsbetrug. Das Internet ist nicht wichtiger als der Klimanotstand, Geschlechtergerechtigkeit, Gerechtigkeit für rassistisch diskriminierte Menschen, Völkermorde oder Ungleichheit. Doch ist das Internet das Feld, auf dem wir diese Kämpfe austragen können. Ohne ein freies, faires und offenes Internet sind sie verloren, bevor wir uns überhaupt ins Kampfgetümmel geworfen haben."