FLI-Fehler:
(Offener Brief an das Future of Life Institut (FLI) basierend auf seinem offenen Brief „ Pause gigantische KI- Experimente ", die eine 6-monatige Pause bei KI-Experimenten vorschlagen )
Der Fehler der Initiatoren des FLI-Briefs ist nicht, dass der Einsatz von KI die größte Bedrohung für die Existenz der Menschheit darstellt. Alle anderen Bedrohungen – Biotechnologie, Atomwaffen, Klimawandel und „nicht in der Nähe“ – sind relativ gering.
Der Fehler ist nicht, dass eine 6-monatige Pause sehr nützlich sein kann:
1. Die Pause wird in der Tat vorübergehend den Wettbewerb verringern, wodurch der Sicherheit mehr Aufmerksamkeit geschenkt werden kann:
„Die Laborleiter selbst würden gerne eine Pause machen, spüren aber den Druck der Konkurrenz.
Eine öffentliche Verpflichtung aller Labore zum Innehalten wird diesen Druck verringern."
2. Es wird nicht nur eine Pause vorgeschlagen, sondern eine Phase sehr intensiver Entwicklung von KI-Sicherheitsmaßnahmen.
Die Befürworter des FLI-Briefs boten spezifische Anweisungen – die ausgezeichneten „Recommended Policies“ – für ihre Entwicklung während der vorgeschlagenen Pause.
Der Fehler der Initiatoren des FLI-Briefs ist das Fehlen der Hauptpolitik - "politisch".
"Empfohlene Richtlinien" gehen von der Verhandlungsfähigkeit der Teilnehmer aus.
Das Hauptproblem besteht darin, dass Entwickler in autoritären Staaten (Russland und China) bewusst und heimlich dazu ermutigt werden, gegen die „Recommended Policies“ zu verstoßen.
Gründe für den Erfolg von Präzedenzfällen:
Frühere internationale Vereinbarungen zur Begrenzung der Entwicklung und Verbreitung von Technologien in den Bereichen chemische, bakteriologische, nukleare und genetische Waffen waren aufgrund der Eigenschaften dieser Waffen erfolgreich:
1. Nachteil:
Zum Beispiel hat Hitler keine chemische Kriegsführung begonnen, da Deutschlands Verluste darin größer gewesen wären als die Verluste der Alliierten.
Nach dem 2. Weltkrieg erwiesen sich chemische Waffen zur „Abschreckung“ als weniger effektiv als nukleare.
2. Nichtselektivität:
aufgrund der hohen Vermischung nicht hergestellt werden Haplogruppen .
3. Steuerbarkeit:
Lagerbasen für beispielsweise Nuklearwaffen sind ziemlich ausgekundschaftet.
KI-Manipulationswaffen haben jedoch nicht alle diese Eigenschaften.
„Empfohlene Maßnahmen“ können durchaus wirksam genug sein, um die Bedrohung zu verhindern – in demokratischen Ländern.
Aber sie werden keineswegs die Hauptbedrohung – die gezielte Entwicklung von KI- Psiwaffen – in autoritären Staaten verhindern.
KI-Waffen sind jetzt weit verbreitet.
- Die Kreml-Propaganda setzt Big Data und "Deep"-Technologien nicht nur gegen Russen, sondern auch gegen demokratische Länder ein.
Außerdem ist die Hauptwaffe des Kremls schon heute Propaganda, nicht Panzer.
- Moskaus Investitionen in Propaganda sind in den letzten zwei Jahren um ein Vielfaches höher gestiegen als die Investitionen in konventionelle Waffen.
Szenario vom Beginn des Endes der Menschheit:
Um mehr als 50 % der US-Bevölkerung zu täuschen, braucht man nicht einmal eine Super-KI , die einer intelligenten Person überlegen ist.
1. KI- Psiwaffen werden nicht automatisch, sondern automatisiert sein.
Das heißt, die KI-Psiwaffe wird nicht unabhängig agieren, sondern als Werkzeug eingesetzt, das die Produktivität und Effizienz der "Arbeit" hochintelligenter Propagandisten und politischer Technologen um eine Größenordnung erhöht.
2. „Managed Democracy“ ist für das US-Establishment vorteilhafter als echte Demokratie.
3. „Checks and Balances“ sind im digitalen Zeitalter nicht mehr tragbar.
4. 50 % der US-Bevölkerung sind nicht intelligent genug, und wie die Russen im Jahr 1993 können sie das unterstützen, was ihnen schadet.
Nach der Zombifizierung von 50% der US-Bevölkerung wird es sogar möglich sein, den US-Senat nicht zu stürmen, sondern eine pro-russische Regierung an die Macht zu bringen – und zwar demokratisch.
Und schon wird die pro-russische US-Regierung "Recommended Policies" in die entgegengesetzte Richtung lenken.
Berezin Kommentar zu seiner Kritik am FLI-Brief zur Pause bei KI-Experimenten :
Im Brief des Future Life Institute heißt es:
„Sollen wir zulassen, dass Maschinen unsere Kanäle der Informationsverbreitung mit Propaganda und Unwahrheit füllen?
Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?"
( https://futureoflife.org/open-letter/pause-giant-ai-experiments/ )
Berezin-Objekte ( https://naked-science.ru/article/nakedscience/kontrol-nad-demonami ):
"Zeitungen mit 'Propaganda und Lügen' sind schon voll.
ChatGPT wird nicht in der Lage sein, die Welt um uns herum durcheinander zu bringen, aus dem einfachen Grund, dass der Planet schon vor ChatGPT „zum Spaß nicht ausreichend ausgestattet“ war.
Die „Verderbnis“ der Welt bedeutet jedoch nicht, dass sie nicht noch mehr verdorben und am Ende vollständig zerstört werden kann.
Die Bedrohung durch KI-Propaganda - in naher Zukunft wird nicht sein, dass Menschen manipuliert werden - Vollautomaten, sondern in der Automatisierung der Demagogie, dass:
1. „Dies ist ein ausgezeichnetes Werkzeug“, mit dem Sie pro Zeiteinheit mehr Propaganda verbreiten können. Aber am wichtigsten -
2. Dieses „Werkzeug“ wird die „Qualität“ der Propaganda erhöhen.
Beresin widerspricht sich:
Beresin schreibt:
"Die Produktion von Journalisten wird von zwei Arten sein:
- ChatGPT- Ausgabe in niedriger Qualität und
" Von Menschen geschrieben , von Hand."
Er schreibt aber auch:
"Das Niveau der meisten Journalisten ist so schrecklich, dass ChatGPT hier sogar alles verbessern wird."
KI-Dummheit:
Berezin argumentiert, dass ChatGPT nicht schlauer ist als ein Schleimpilz, der überhaupt kein Nervensystem hat.
Es spielt jedoch keine Rolle, ob die KI selbstbewusst ist oder nicht. Was zählt, ist das Ergebnis.
- KI ist ein sehr effektives Werkzeug der Demagogie und ihre Wirksamkeit in dieser Funktion wächst exponentiell.
Es ist nicht notwendig, Selbstbewusstsein zu haben, es reicht aus, es nachzuahmen.
Berezin selbst gibt zu, dass Systeme wie ChatGPT bereits die „Qualität“ russischer „Nachrichten“ (Propaganda) verbessern.
Dieselben von Berezin erwähnten Webstühle erhöhten nicht nur das Produktionsvolumen, sondern ermöglichten auch die Herstellung komplexerer Produkte.
Und bis 2030 sollen die erwähnten Tomaten auch schon maschinell geerntet werden – ohne Menschen.
Darüber hinaus beschleunigt sich die Entwicklung der rekursiven KI.
Ja, bis 2060 werden rekursive KIs Intellektuelle wie Berezin vorerst nicht überholen können, sie werden nicht in der Lage sein, mit Menschen in der Produktion hochwertiger mentaler Produkte zu konkurrieren.
Aber das ist nicht erforderlich:
Hand " genannt werden kann gemacht “.
2. In der Propaganda ist Quantität oft wichtiger als Qualität. -
2.1. Für die Einwohner desselben Russlands, von denen die meisten an Zauberer glauben, ist keine hochwertige Täuschung erforderlich.
2.2. Die Menge billiger Propaganda wird es beispielsweise ermöglichen, für die Bewohner Russlands - "Virtuelle Welt" - eine vollständig geschlossene Informationsumgebung zu schaffen, in der Schwarz Weiß ist, Nazis Anti-Nazis sind und Anti-Nazis Nazis sind. Terroristen sind Antiterroristen, und Antiterroristen sind Terroristen, und die Feinde der Menschen sind ihre Wohltäter.
3. Individualisierung der Demagogie:
Sie können nicht jedem russischen FSB einen Psychologen oder einen betrügerischen Psychologen zuweisen.
Bis 2030 werden jedoch individuelle Informationsumgebungen genutzt, ähnlich wie heute zielgerichtete Werbung, aber auch „Big“ Data über das Verhalten und Aussagen einer Person außerhalb des Internets.
Die Bedrohung liegt gerade darin, dass dies erst der Anfang des „Prozesses“ ist.
Das vorläufige Ende des Prozesses ist die 100%ige Kontrolle der Menschen durch die „ Symbioten “;
0% echte Wahlfreiheit beim Menschen, "human" aber "Brave New World".
Das Ende des Prozesses ist der provozierte Tod der Menschheit wegen ihrer Problematik und Nutzlosigkeit für die allmächtigen "Götter", in dem Herrscher durch natürliche Auslese nach Skrupellosigkeit und Egoismus entstehen. Peskov und Prigozhin sind den Monstern der Zukunft nur entfernt ähnlich .
Beresin hat recht damit:
1. Die Bedrohung geht nicht von KI selbst aus, sondern von den Menschen, die sie verwenden, die Bedrohung von KI ist nur ein Werkzeug.
Auch im 18. Jahrhundert waren nicht die Webstühle schuld, sondern die Menschen, die den Menschen befahlen, sich die Finger abzuschneiden, und die soziale Organisation der Menschen.
2. Es gibt nur eine Bedrohung durch KI – Propaganda, Manipulation.
Arbeitsplätze sind wirklich nicht gefährdet.
Die KI wird uns „ersetzen“, nicht weil sie uns eines Tages an Empathie übertreffen wird , sondern wegen unserer Nebeneigenschaften, die die KI nicht hat, weil wir schlechte, launische Sklaven sind und schlechtes Eigentum zerstört wird.
Es gibt auch keine Bedrohung durch andere Nationen :
Berezin schreibt, dass „es kurzsichtig ist, das Auftauchen der eigenen „Pseudo-Dämonen“ zu verhindern, wenn man dafür Fremde abwehren muss “.
Aber Kolonien im 21. Jahrhundert sind nicht rentabel.
Die NATO bedroht nicht die Russen, sondern nur die Interessen ihrer Feinde – der Machtanmaßer.
Im Gegenteil, für die Russen selbst ist der europäische Weg von Vorteil.
KI als Waffe hat einen grundlegenden Unterschied. – Unkontrollierbar durch seine Leute.
Intellektuelle "Waffe" wird förderlich sein, um genau zu beeinflussen - auf den Intellekt aller Menschen und auf ihre soziale Sicherheitsorganisation.
KI-Manipulationsrennens wird nicht die Unterwerfung der Europäer durch die Chinesen sein, sondern zuerst die Unterwerfung beider durch die "Götter" des Lebens und dann der Tod beider.
Weiter suggerieren die Autoren des Schreibens des „Future Life Institute“ angesichts Putins Aufruf vom 01.09.2017, „Herrscher der Welt“ zu werden, keinen Selbstverzicht auf KI, sondern bieten internationale Kontrolle über neue Technologien an , was im 19. Jahrhundert unmöglich war, aber im 21. Jahrhundert möglich ist -m.
Dafür kann man vielleicht nicht auf die Zerstörung von Propagandisten, ausverkauften Entwicklern und "Meistern der Welt" - der heutigen - verzichten.
Leider spricht Berezin in den Erzählungen auch von einem nicht von der Gesellschaft kontrollierten Kreml-Terroristen.
Die Spaltung in „wir“ und „sie“ liegt heute objektiv nicht zwischen Nationen, sondern zwischen Menschen und Machtanmaßern.
Internationale Kontrolle der KI:
Berezin bestreitet die Effizienz internationaler Vereinbarungen.
Sie sagen, wie in der Antike, gilt heute das „Gesetz des Dschungels“: „Wenn du nicht zuerst tötest, dann werden sie dich töten“
Das FLI bietet jedoch ein Beispiel für Präzedenzfälle für erfolgreiche internationale Zusammenarbeit.
Asilomar- Konferenz über rekombinante DNA Wissenschaftlern und Regierungsexperten, bestimmte Experimente zu verbieten und Designregeln zu entwickeln, die eine sichere Erforschung der Technologie ermöglichten.
Weitere Beispiele: Reduzierung und Begrenzung der Verbreitung von Atomwaffen, Verbot von chemischen, biologischen.
Das heißt, die internationale Kontrolle ist heute ziemlich effizient.
Eine Ausnahme gibt es allerdings wirklich – einen Staat, der nach dem „Gesetz des Dschungels“ weiterlebt: Das ist Russland. -
Russland hat sich aus vielen internationalen Abkommen zurückgezogen und erkennt den Vorrang des Völkerrechts und der internationalen Gerichte nicht an.
Überlebenschance der Menschheit:
Im digitalen Zeitalter ist jede Regierung instabil,
aber gleichzeitig ist eine Selbstverwaltung ohne Regierung nur im digitalen Zeitalter möglich.
Im digitalen Zeitalter können und sollen all die wenigen Fragen, die viele Menschen betreffen, nicht mit Beteiligung der Menschen, sondern ohne Beteiligung der Regierung – nur von den Menschen selbst – entschieden werden.
Dafür kann und soll aber eine sehr komplexe, aber flache, frei zugängliche Beratungsstruktur geschaffen werden, die auch KI nutzt, aber:
- 100 % transparent.
- von niemandem kontrolliert , sondern auch nach offenen Protokollen arbeiten, die von der Beratungsstruktur entwickelt wurden.
Die Franzosen sollten auf den Plätzen weder Renten noch ein Straßenverbot fordern, nichts - sie müssen alles verantwortungsbewusst entscheiden - selbst, aber nicht mit Hilfe primitiver und wirkungsloser Referenden, sondern mit Hilfe der Beratungsstruktur.
Produktionssteuerungstheorie vs. Kostensenkungstheorien:
Der Grund für die industrielle Automatisierung waren nicht so sehr die viel niedrigeren Kosten, sondern die Möglichkeit, die Produktion zu kontrollieren, um Gewinne zu zentralisieren.
Im 18. Jahrhundert waren die Kosten für maschinell hergestellte Stoffe fast nicht niedriger als für die manuelle Produktion – die Herstellung von Produktionsmitteln war immer noch teuer.
Allerdings war es für die britischen Oligarchen billiger, eine Weberei mit 100 Arbeitern zu kontrollieren als 10.000 objektiv viel autonomere Handwerker – es wurden nur 10 Aufseher benötigt, keine schwer zu verwaltende Pyramide von 1.000 Terroristen.
Als die Preise für Textilien im 20. Jahrhundert aufgrund des verschärften Wettbewerbs wirklich fielen, wechselten die britischen Oligarchen von der Weberei in die "intellektuellen" Industrien neuer Entwicklungen, die sie bereits mit Hilfe von "geistigen Eigentumsrechten" kontrollieren.
Jetzt ist geistige Arbeit manuell, wird aber schnell mechanisiert.
Die Bedrohung der Menschheit ist eigentlich ein Nebenprodukt der Mechanisierung der intellektuellen Arbeit – die größte Bedrohung im Vergleich zu anderen Nebeneffekten – dem Klima und anderen.
( https://futureoflife.org/wp-content/uploads/2023/04/FLI_Policymaking_In_The_Pause.pdf )
1. Verpflichten Sie zuverlässige Audits und Zertifizierungen durch Dritte.
2. Zugang zu Rechenleistung regulieren.
3. Aufbau kompetenter KI-Agenturen auf nationaler Ebene.
4. Haftung für durch KI verursachte Schäden begründen.
5. Implementieren Sie Maßnahmen, um Leaks von KI-Modellen zu verhindern und zu verfolgen.
6. Erhöhung der Mittel für die KI-Sicherheitsforschung.
7. Entwicklung von Standards und Richtlinien zur Identifizierung und Verwaltung von KI-generierten Inhalten.
Alarmismus ?
Ja, vielleicht sind wir eitle Alarmisten – wir überschätzen die Bedrohung.
Auf dem Spiel steht jedoch das Größte, was sein kann – die Bedeutung des Universums.
Daher ist selbst ein kleines Risiko nicht akzeptabel.
Zumindest muss das Risiko abgeklärt werden. Sind Sie einverstanden?
Und da ist das Risiko unter anderem mit dem Staat verbunden. Sicherheitsbehörden , die mit Risiken umgehen sollen, ist eine unabhängige Risikobewertung erforderlich. Sind Sie einverstanden?
Und da die Bedrohung sehr komplex ist, ist eine komplexe angemessene öffentliche Organisation erforderlich, um das Risiko einzuschätzen. Sind Sie einverstanden?
„Beratungsnetzwerk“ bieten wir als solches an.
Warum täuschen die Machthaber die Menschen so leicht, noch bevor es eine starke KI gibt ?
- Weil die Menschen mit persönlichen Alltagsproblemen beschäftigt sind. Sie sind nur klug darin.
Deshalb ist es notwendig, eine Struktur für eine flache Lösung zu schaffen - alle Themen - unabhängig, ohne Machthaber.
Siehe Eigenständigkeit.docx # Das Bedürfnis nach Eigenständigkeit
Wir sind gegen KI - Alarmismus :
Es kann sogar politische Manipulation sein, indem normale Menschen von KI abgeschreckt werden.
KI selbst ist fast sicher im Vergleich zu ihrem Einsatz von Mensch gegen Mensch, Menschen.
Im Gegenteil, es ist notwendig, den Einsatz von KI zu begrüßen , aber – flach , verteilt – DAI .
Nur DAI wird in der Lage sein, der zentralisierten manipulativen KI entgegenzuwirken .
Siehe : DAI vs. KI
" Konnor " , http : //dw2020.narod . _ en
12184
Tod der Freiheit:
Humanisten liegen falsch – Menschen sind in größerem Maße Geschöpfe – bedeutungslos, egoistisch und bösartig.
Ideologien, Philosophien, Religionen geben der Existenz Sinn, Zweck, Richtung.
Bei den Anhängern mancher Ideologie unterscheidet sich sogar das äußere Verhalten vom ziellosen Leben der Nihilisten.
Ideologien werden jedoch in der Regel wie Religionen dogmatisiert. – Die von den Gründern vorgeschlagene Idee wird konservativ.
Dies ist das Ergebnis der Arbeit eines sozialen Mechanismus - die Idee, mehr Menschen zu vereinen, überlebt. Meistens haben hierarchische Organisationen gewonnen.
Trotz alledem gab es immer noch die Freiheit, Ideen zu schaffen und zu verbreiten, insbesondere die Freiheit, nach dem Sinn des Daseins zu suchen.
Sanfte Diktatur:
Auch wenn die Menschheit nicht physisch in den nächsten 300 Jahren stirbt, als Ergebnis eines Sprungs in den Möglichkeiten, Menschen zu manipulieren, dann wird die Freiheit sterben. -
Die Menschen werden quasi -frei bleiben – sie werden ein Gefühl persönlicher Freiheit haben.
Aber sie werden keine Möglichkeit mehr haben, ihre Freiheit gesellschaftlich zu verwirklichen.
Dieser Prozess hat bereits begonnen – noch vor der Schaffung einer starken Künstlichen Intelligenz.
Vergleichen Sie die Verbreitung von Ideen vor 100 Jahren und heute. - Heute werden die Menschen in Russland erfolgreich durch Propaganda getäuscht und von "unnötigen" Ansichten - im Westen - abgelenkt, selbst unter den Bedingungen des schnellen und freien Wachstums formal unabhängiger sozialer Netzwerke. Netzwerke. – Meinungsmacher nutzen alle neu entstehenden technischen Möglichkeiten – vorzeitig .
Beispiel - Unsere Vorstellung von "Flat Democracy" im Zeitalter von Social Networks, Lärmerzeugung und aktivem Jamming darin - "erfolgreich" verblasst nicht nur ohne Unterstützer zu finden, sondern bleibt generell unbekannt.
Paradoxerweise wären ihre Überlebenschancen während der mündlichen Verbreitung von Meinungen viel größer gewesen.
Tod der Freiheit:
Ja, wahre Freiheit wird bleiben – mit individuellen „ Symbioten “.
Aber sie werden nicht motiviert sein, Antworten auf die "ewigen" Fragen zu suchen, die die Menschheit durch ihre Geschichte hindurch begleitet haben.
- Die freie Suche nach Antworten auf gesellschaftliche Fragen ist seit jeher untrennbar mit gesellschaftlichen Prozessen verbunden und „ernährt“ sich nur von ihnen. -
„Götter“ werden keine Unberechenbarkeit brauchen.
Mit dem Tod der Gesellschaft wird auch die soziale Spiritualität sterben.
"Menschheit", wenn sie physisch überlebt, dann nur physisch.
Der Tod „Gottes“:
Wenn es so etwas wie Gott gibt, reicht es wahrscheinlich nicht ganz aus.
Wenn die Entwicklung der Menschheit nicht zu 100% zufällig ist, wenn zum Beispiel die vorherige „Zivilisation“ mit den notwendigen Parametern zur Entstehung unseres Universums beigetragen hat (siehe die Version des „ Staffellaufs des Geistes “), dann die Existenz einer bestimmten Menschheit ist auch ein Aspekt der Bedeutung der Existenz "Gottes".
2302
|