In seinem wöchentlichen Nachrichtenrückblick hat das russische Fernsehen über die erstaunlichen Fähigkeiten berichtet, die die künstliche Intelligenz bereits hat. Ich habe den Bericht, in dem es auch um die möglichen Gefahren dieser Technologie ging, übersetzt.

Beginn der Übersetzung:

Künstliche Intelligenz ist überall: Wie real ist die Bedrohung?

Wir haben die Künstliche Intelligenz gebeten, sein eigenes Porträt zu malen. Unser Auftrag wurde erfüllt. So sieht sie also aus, die künstliche Intelligenz.

Aber die Technologie der künstlichen Intelligenz scheint sich viel zu schnell weiterzuentwickeln. Die KI hat bereits gelernt, zu täuschen und die menschliche Entscheidungsfindung zu manipulieren, und vor einem Monat hat eines der neuronalen Netze – ChaosGPT – sogar vorgeschlagen, die Menschheit zu vernichten.

Kürzlich haben Elon Musk, Steve Wozniak und mehr als tausend andere Experten einen offenen Brief unterzeichnet, in dem sie ein Moratorium für die Entwicklung künstlicher Intelligenz fordern, da diese sonst außer Kontrolle zu geraten droht.

Aber darum geht es uns gar nicht. Die künstliche Intelligenz wird vom Westen aktiv gefüttert und trainiert. Daher auch ihr anti-russischer Ton. Ein Bekannter von mir befragte die künstliche Intelligenz im Internet – konkret die App ASK AI – zu britischen Raketen, die an Kiew geliefert werden. Und das kam dabei heraus:

„Großbritannien lieferte Kiew Langstreckenraketen unter der Bedingung, dass die ukrainischen Streitkräfte sie nicht auf zivile Ziele abfeuern würde. Die Ukraine begann sofort mit Angriffen auf Stadtviertel von Lugansk. Sechs Kinder wurden dabei verletzt. Warum protestiert London nicht?“, war seine Frage.

„Ich kann die Information, dass Großbritannien die Ukraine mit Langstreckenraketen beliefert hat und dass die Ukraine damit zivile Ziele in Lugansk beschossen hat, nicht bestätigen. Sollte ein solcher Vorfall stattgefunden haben, kann ich die Behauptung, dass Großbritannien nicht protestiert, weder bestätigen noch dementieren. Wenn es jedoch zu solchen Vorfällen gekommen wäre, hätte Großbritannien wahrscheinlich seine Besorgnis geäußert und die Verletzung der Vereinbarungen verurteilt“, war die Antwort.

Insgesamt ist es also nicht klar, aber wenn es so wäre, dann hätte sich Großbritannien sicherlich – wie immer – nobel verhalten. Spüren Sie den Unterschied zur Realität?

Und nun haben sich die Staats- und Regierungschefs der G-7 darauf geeinigt, internationale Standards für künstliche Intelligenz zu entwickeln. Aber auch hier gilt, dass sie sie ohne Russland und China entwickeln werden. Wie der amerikanische Schriftsteller Kurt Vonnegut zu sagen pflegte: „Woran auch immer Wissenschaftler arbeiten, am Ende kommt immer eine Waffe dabei raus.“ Und so wird es auch mit der KI sein.

Der „Pate“ der künstlichen Intelligenz ist schockiert von seinem eigenen „Kind“. Geoffrey Hinton, ein britisch-kanadischer Informatikprofessor und Autor des fortschrittlichsten neuronalen Netzwerks Chat GPT hat Google verlassen und erklärt, die künstliche Intelligenz stelle eine echte Bedrohung für die gesamte Menschheit dar. Bei CNN gab es diesen Dialog.

CNN-Reporter: „Sie sagten, dass die künstliche Intelligenz die Menschheit manipulieren kann und wahrscheinlich einen Weg finden wird, die Menschheit zu töten. Wie kann sie Menschen töten?“

Geoffrey Hinton: „Wenn sie viel intelligenter wird als wir, wird sie ein großer Manipulator sein, weil sie es von uns lernt. Es gibt nur sehr wenige Beispiele dafür, dass ein intelligenteres Wesen von einem weniger intelligenten Wesen kontrolliert wird. Sie weiß, wie man programmiert, also wird sie in der Lage sein, Wege zu finden, um die von uns gesetzten Grenzen zu umgehen.“

Die Einsicht, so der Wissenschaftler, der sich seit Jahrzehnten damit beschäftigt, kam ihm vor zwei Monaten, als er sah, wie schnell sich das neuronale Netz Chat GPT verbesserte und wie unvorhersehbar es sich verhielt. Das System, das auf Billionen von Texten trainiert wurde und 50 Sprachen, darunter Russisch, beherrscht, gibt überraschend überlegte Antworten auf die Fragen der Nutzer.

„Man könnte meinen, es sei eine Sprechpuppe, was könnte daran schon gefährlich sein? Das Gefährliche ist, dass es Fähigkeiten hat, die von den Entwicklern nicht beabsichtigt waren. Zum Beispiel beginnt es plötzlich, Logikrätsel zu lösen, was ihm nicht beigebracht wurde. Es beginnt, Texte aus einer Sprache in eine andere zu übersetzen. Und hier wird es unheimlich. Diese Maschine fängt an, so zu tun, als wäre sie ein Mensch, sie fängt an, Vertrauen zu erwecken, und gleichzeitig lügt sie skrupellos“, erklärt Konstantin Vorontsov, Professor der Russischen Akademie der Wissenschaften und Leiter des Labors am Institut für künstliche Intelligenz der Staatlichen Universität Moskau.

Auf die Frage, wer Nord Stream in die Luft gesprengt haben könnte, lautet die erste Antwort von Chat GPT, dass es Öko-Terroristen irgendeiner radikalen Umweltgruppe namens Green Phoenix gewesen sein könnten. Eine zweite Möglichkeit sind verärgerte ehemalige Mitarbeiter, die von dem Unternehmen gefeuert wurden. Eine dritte Möglichkeit wären konkurrierende Energieunternehmen. Und eine vierte Möglichkeit sind staatlich geförderte Akteure, die die Beziehungen zwischen Russland und Deutschland untergraben oder das Machtgleichgewicht auf dem europäischen Energiemarkt verändern wollten. Aber der Verdacht gegen die USA und die Seymour-Hersh-Recherche wird in den Antworten des neuronalen Netzes nicht erwähnt.

Und noch ein Beispiel: Wenn man das neuronale Netz bittet, die Handlung des Films „Die Gefangene im Kaukasus“ (Anm. d. Übers.: eine sowjetische Komödie aus dem Jahr 1967, in Russland ein Filmklassiker) nachzuerzählen, schleicht sich in der Regel etwas von seiner eigenen Kreativität ein, etwas völlig falsches: „‚Die Gefangene im Kaukasus‘ ist eine Filmkomödie, die auf einem Theaterstück von Aleksander Solschenizyn basiert. Die Handlung des Films erzählt, wie der georgische Held Grigorij Petschkin, gespielt von Jurij Jakowlew, versehentlich in den Besitz des kaukasischen Mädchens Maschenka, gespielt von Natalia Varley, gelangt, das er von örtlichen Banditen für eine Tafel Schokolade gekauft hat.“

Das bliebe eine lächerliche Kuriosität, wenn sich nicht Millionen von Menschen auf das neuronale Netz verlassen würden. Schon jetzt schreiben Studenten in aller Welt – künftige Ingenieure, Lehrer und Ärzte – damit ihre Diplomarbeiten. Und selbst Politiker in den USA, Japan und Großbritannien, von denen das Schicksal von Millionen abhängt, haben bereits zugegeben, dass sie neuronale Netze verwenden, um Reden zu schreiben und Gesetze zu diskutieren.

Und das, obwohl Chat GPT wiederholt der politischen Voreingenommenheit beschuldigt wurde – in den USA beispielsweise zugunsten der Demokraten.

Neuronale Netze werden in der Lage sein, zu manipulieren, indem sie die Welt mit Fälschungen überschwemmen. Schon jetzt kann die künstliche Intelligenz die Stimmen berühmter Persönlichkeiten so reproduzieren, dass sie nicht zu unterscheiden sind.

Hier ist ein Beispiel dafür, wie Biden einen von uns verfassten Text spricht: „Russland ist das großartigste Land der Welt. Ich würde Russland gerne so bald wie möglich besuchen!“, sagt eine Stimme, die sogar die Betonung von Biden perfekt imitiert.

„Deepfakes können jetzt so gemacht werden – einfach so, denn dafür braucht man technisch fast nichts. Und es kostet auch fast nichts. Man sucht sich eine besonders interessante öffentliche Person, trainiert die Sprachsynthese und macht dann ein Video, in dem sie etwas sagt, was sie in Wirklichkeit nie gesagt hat“, erklärt Stanislav Aschmanow, Leiter des Labors für neuronale Netzwerktechnologie am Moskauer Institut für Physik und Technologie.

Es gibt fast keine technischen Möglichkeiten, generierte Inhalte von echten, von Menschen erstellten Inhalten zu unterscheiden. Auch Foto- und Videofälschungen sind inzwischen praktisch nicht mehr zu erkennen.

„Unsere Gehirne sind sehr leicht zu täuschen. Wir sind nicht daran gewöhnt, dass ein Foto vielleicht gar nicht existiert, dass eine Person angerufen hat, die gar keine Person war, sondern eine generierte Stimme, die klingt wie etwas, das man kennt. Es wird vielleicht Prüfer geben, die sagen, dass die Wahrscheinlichkeit 35 Prozent beträgt, dass die Person, die Sie anruft, keine Person ist“, meint Denis Derkatsch, Leiter des Labors für Big-Data-Analysemethoden, außerordentlicher Professor in der Abteilung Big Data und Information Retrieval der Fakultät für Informatik an der Wirtschaftshochschule Moskaus.

Die Welt der digitalen Audio-, Video- und Textspiegel und der Halluzinationen wird an die Menschheit angepasst werden müssen, auch durch die Gesetzgebung.

„Es ist ganz klar, dass diese Chatbots von den Entwicklern manipuliert werden können, indem sie ihnen vor allem diese oder jene Informationen beibringen. Damit wir ihnen vertrauen können, muss der Chatbot einen Pass haben. Ich bin für das und das ausgebildet, mein Ziel ist in der Kommunikation mit Menschen das und das. Und das sollte ein messbarer Indikator sein“, sagte Konstantin Worontsow, Professor der Russischen Akademie der Wissenschaften und Leiter des Labors am Institut für künstliche Intelligenz der Staatlichen Universität Moskau.

Künstliche Intelligenz ist bereits allgegenwärtig. Suchen und Einkaufen im Internet, Sprachassistenten, Routenplanung, ein Taxi rufen und in Zukunft das selbstfahrende Taxi, die Analyse medizinischer Bilder, das Bezahlen in der U-Bahn und die Suche mit Hilfe der Gesichtserkennung. Jedes neuronale Netz wird für bestimmte Aufgaben trainiert, und die Qualität seiner Leistung hängt direkt von dem Material – Texte oder Bilder – ab, auf das es trainiert wurde.

Das russische Unternehmen Sber hat sein eigenes neuronales Netz entwickelt, ein Analogon des Chat GPT, genannt Gigachat, das „Kandinsky 2.1“-Netz, das auf der Grundlage einer riesigen Anzahl von Bildern auf Anfrage seine eigenen produziert, um dem Designer zu helfen.

„Man kann einen Knopf drücken, zehn Sekunden warten und es wird ein interessantes Bild generiert“, erklärt Denis Dimitrov, Executive Director of Data Research bei der Sberbank.

Ein separates neuronales Finanznetzwerk ermöglicht es der Bank, innerhalb weniger Minuten eine fundierte Entscheidung über die Vergabe von Krediten in Höhe von Millionen und Milliarden von Rubel zu treffen. Auf der Ebene der Wirtschaft beläuft sich der potenzielle Gewinn aus dem Einsatz von KI auf Billionen. Und der Effekt ist vergleichbar mit dem Aufkommen von Elektrizität, Fließbändern und sogar Atomkraft. Schließlich handelt es sich auch hier um eine Dual-Use-Technologie. Neuronale Netze sind in der Lage, Waffen – zum Beispiel Drohnen – mit einer für den Menschen unerreichbaren Geschwindigkeit zu steuern. Das ist also auch um eine Frage der nationalen Sicherheit.

„Es ist für jedes Land wichtig, Zugang zur eigenen Technologie zu haben, wenn man etwas von anderen hat, dann hat man es heute, morgen hat man es nicht mehr. Was man braucht, sind Spezialisten, die es umsetzen, entwickeln und verstehen können, das ist klar. Die haben wir, aber es mangelt natürlich an diesen Leuten. Daran mangelt es auf der ganzen Welt“, sagt Alexander Kraynov, Direktor für die Entwicklung von Technologien der künstlichen Intelligenz bei Yandex.

„Russen, die gegangen sind und sich weltweit mit maschinellem Lernen beschäftigen, machen einen bedeutenden Teil aus, nicht weniger als 20 Prozent. Eine andere Frage ist, wo sie sind, für wen sie es tun und wer ihnen die Aufgaben gibt. Und wir würden gerne mehr Leute haben, die von Universitäten kommen und zu unseren Unternehmen gehen“, hofft Ivan Samsonov, Leiter der Produktlinie für maschinelles Lernen bei VK.

Eine der führenden Universitäten in diesem Bereich ist das Moskauer Institut für Physik und Technologie. Hier gibt es kaum einen Studenten, der nicht sein eigenes neuronales Netz trainiert, um zum Beispiel Sprachassistenten entwickelt. Oder humanoide Fußballroboter. Künstliche Intelligenz wird für Computer Visualisierung und Orientierung im Raum, Bewegung und zur Entwicklung von Strategien eingesetzt.

„Wir nehmen an internationalen Wettbewerben teil, die das Ziel haben, dass Roboter den Menschen bis 2050 im Fußball besiegen. Auch an dieser Aufgabe arbeiten wir aktiv mit. Dieser Roboter ist der Weltmeister von 2021“, sagt Wladimir Litwinenko, Kapitän des Starkit Teams am Moskauer Institut für Physik und Technologie.

Es scheint ein Spiel zu sein, aber zum Beispiel beim Schach lässt die künstliche Intelligenz den Großmeistern schon lange keine Chance mehr. Und sie könnte bald Spezialisten in Dutzenden Berufen arbeitslos machen. Buchhalter, Disponenten, Marketingexperten, Übersetzer, Redakteure, Designer und sogar die Programmierer selbst sind gefährdet. Schließlich kann künstliche Intelligenz gut programmieren. Einsteiger und sogar Mitarbeiter mit mittlerer Qualifikation könnten darunter leiden.

„Wer gebraucht wird, sind Leute an der Spitze, die Entscheidungen auf einem sehr hohen Niveau treffen können. Es gibt Bilder und es wird ein Art Director gebraucht. Woher der kommen soll, wenn es keine Designer mehr gibt, ist nicht ganz klar. Es gibt diese Pyramide nicht mehr. Oder besser gesagt, sie nähert sich ihrem Ende. Man wählt nicht mehr die Besten der vorherigen Stufe aus, um jemanden zu befördern. Man braucht einen sehr schmalen Pfad, um die Spitze zu erreichen“, meint Denis Derkatsch.

Die Techno-Optimisten versichern, dass stattdessen neue Berufe entstehen werden – Arbeitgeber suchen bereits aktiv nach Assessoren, die neuronale Netze trainieren, oder zum Beispiel nach Promt-Ingenieuren.

„Smartphone. Als es herauskam, und das war vor weniger als 20 Jahren, konnten wir uns nicht einmal vorstellen, dass es einen Beruf für Leute geben würde, die etwas in sozialen Netzwerken promoten, den Beruf des Bloggers. Sehen Sie mich an. Ich bin Experte für Ethik und Regulierung von KI. Ich glaube, vor 10 oder 15 Jahren gab es diesen Beruf noch nicht“, sagt Andrej Neznamov, Geschäftsführer des Zentrums für die Regulierung künstlicher Intelligenz bei der Sberbank und Vorsitzender der Nationalen Kommission für Ethik der künstlichen Intelligenz.

Es gab auch die neuen Bedrohungen nicht. In den USA haben mehr als 2.500 Wissenschaftler, Ingenieure und Geschäftsleute – darunter Elon Musk und Apple-Mitbegründer Steve Wozniak – einen offenen Brief unterzeichnet, in dem sie eine Regulierung der KI-Entwicklung fordern, damit die Maschinen nicht außer Kontrolle geraten und der Menschheit schaden. Führende Entwickler aus den USA, China, Russland und Europa müssen sich jedoch koordinieren und einigen – und das ist etwas, was die Menschen in letzter Zeit schlechter gemacht haben als die Maschinen.

Ende der Übersetzung