Divine works


eng deu рус


Zusammenfassung L

Hawking als Antwort auf Johnny Depps Singularity Film Supremacy -
"Wenn uns eine überlegene außerirdische Zivilisation die Nachricht" Wir werden in ein paar Jahrhunderten ankommen "senden würde, würden wir sagen, okay, rufen Sie uns an, wenn Sie hier sind, werden die Türen offen sein? Wahrscheinlich nicht, aber genau das passiert mit AI. “

Musk verglich die Verwendung von KI mit der "Beschwörung eines Dämons" und nannte sie die größte und realste Bedrohung für die Menschheit. Musk forderte die Schaffung einer nationalen und internationalen Regelung für die Entwicklung der KI.

Barratt - Unsere neueste Erfindung: Künstliche Intelligenz

Vinge prägte den Begriff "Singularität"
https://habr.com/ru/company/robohunter/blog/381157/

Der Mensch ist eine Zwischenverbindung, die die Natur braucht, um die Krone der Schöpfung zu schaffen: Gläser Cognac
Turing-Test

Bostrom, Nick
Künstliche Intelligenz. Stufen. Bedrohungen. Strategien

Partner-Vorwort

... ich habe einen Freund - sagte Edik. - Er behauptet, dass der Mensch ein Zwischenglied ist, das die Natur braucht, um die Krone der Schöpfung zu schaffen: ein Glas Cognac mit einer Zitronenscheibe.
Arkady und Boris Strugatsky. Montag beginnt Samstag

Computer oder vielmehr Algorithmen, die auf einer stetig wachsenden Rechenleistung basieren, spielen Schach, Dame und Backgammon besser als Menschen. Sie fliegen sehr gut Flugzeuge. Sie konnten den Turing-Test bestehen und die Richter von ihrer "Menschlichkeit" überzeugen. Ein Taxifahrer in Dublin, der Stadt, in der sich der europäische Hauptsitz vieler globaler IT-Unternehmen befindet, sagte mir, er begrüße die rasche Entwicklung des Technologiesektors seines Landes, fügte dann aber mit Bedauern hinzu: „Ein Problem - wegen Diese klugen Kerle werden bald keine Taxifahrer mehr brauchen. " Fahrerlose Autos, die von Computern gesteuert werden, werden bereits in mehreren Ländern auf normalen Straßen getestet. Laut dem Philosophen Nick Bostrom, dessen Buch Sie in Ihren Händen halten, sind all dies Glieder derselben Kette, und aufgrund der Entwicklung der Computertechnologien könnten wir alle, die Menschheit, bald enden.
Der Autor glaubt, dass die tödliche Bedrohung mit der Möglichkeit verbunden ist, künstliche Intelligenz zu schaffen, die den menschlichen Geist übertrifft. Eine Katastrophe kann sowohl am Ende des 21. Jahrhunderts als auch in den kommenden Jahrzehnten ausbrechen. Die ganze Geschichte der Menschheit zeigt: Wenn eine Kollision eines Vertreters unserer Spezies, Homo sapiens, und aller anderen Bewohner unseres Planeten auftritt, gewinnt derjenige, der klüger ist. Bis jetzt waren wir die klügsten, aber wir haben keine Garantie dafür, dass dies für immer so bleibt.
Nick Bostrom schreibt, wenn intelligente Computeralgorithmen lernen, selbst noch intelligentere Algorithmen zu erstellen, und diese wiederum noch intelligenter sind, wird die künstliche Intelligenz explosionsartig zunehmen, im Vergleich dazu werden Menschen wie Ameisen neben Menschen aussehen natürlich im intellektuellen Sinne. Eine neue, wenn auch künstliche, aber superintelligente Art wird auf der Welt erscheinen. Es spielt keine Rolle, was ihm „in den Sinn kommt“, ein Versuch, alle Menschen glücklich zu machen oder eine Entscheidung, die anthropogene Verschmutzung der Weltmeere auf die effektivste Weise zu stoppen, dh durch Zerstörung der Menschheit, werden die Menschen nicht dazu in der Lage sein widerstehen dem. Keine Chance auf eine Konfrontation im Terminator-Stil, keine Schießereien mit eisernen Cyborgs. Schach und Schachmatt erwarten uns - wie in einem Duell zwischen dem Deep Blue-Schachcomputer und einem Erstklässler.

Immer mehr Objekte der physischen Welt werden von Computern und Software gesteuert, die oft unvollkommen, undicht und anfällig sind. Eine zunehmende Anzahl solcher Websites ist mit dem Internet verbunden, und Bedrohungen durch Cyber-Frieden werden schnell zu einem physischen Sicherheitsproblem und möglicherweise zu Leben und Tod.
Deshalb scheint das Buch von Nick Bostrom so interessant zu sein. Der erste Schritt zur Verhinderung alptraumhafter Szenarien (für ein einzelnes Computernetzwerk oder für die gesamte Menschheit) besteht darin, zu verstehen, was sie sein könnten.

The Rifters von Peter Watts.

Synopsis 2

Jeder von uns trägt eine kleine Schachtel mit denkendem Fleisch auf den Schultern. Ich benutze meine, um zu sprechen, du benutzt deine, um zuzuhören. Manchmal können diese Köpfe unter den richtigen Bedingungen rational denken. Im Prinzip ist dies möglich.

www.ru.wikipedia.org/wiki/Roger_Penrose

Gepardenbeispiel

Alle Bedrohungen, denen die Menschheit bisher ausgesetzt war, waren ein natürlicher Schlamm um
Als Spezies haben wir keine Erfahrung damit, einer solchen Bedrohung zu begegnen, zu der KI werden könnte.
Daher ist es schwierig, sich diese Bedrohung vorzustellen, oder sie erscheint uns unplausibel.
Daher wird die Bedrohung durch KI nicht ernst genommen.
(Max)

Nach Moores Gesetz
Vielleicht ist die Verbesserung des physischen Mediums () des elektronischen Gehirns) nicht einmal so wichtig wie die Verbesserung von Programmen, komplexeren Algorithmen und einer effizienteren Nutzung der verfügbaren Ressourcen. (elektronisches Bewusstsein basierend auf Siliziumträger)
(Max)

Nehmen wir an, eines Tages erscheinen Menschen in lustigen Kleidern vor Ihrer Haustür und fragen Sie, ob Sie sich ihrer Bewegung anschließen möchten. Sie glauben, dass in zwei Jahren ein UFO die Erde besuchen wird und dass unsere Aufgabe darin besteht, die Menschheit auf den großen Aufstieg entlang des Strahls vorzubereiten.
Eine interne Perspektive erfordert die Diskussion ihrer Argumente. Sie fragen die Besucher, wie sie von dem UFO erfahren haben, warum sie glauben, dass wir uns abholen müssen - Sie stellen alle normalen Fragen, die ein Skeptiker in einem solchen Fall stellen würde.
Stellen Sie sich vor, Sie haben eine Stunde mit ihnen gesprochen und sie haben Sie überzeugt. Sie bestätigten nachdrücklich das bevorstehende Aufkommen von UFOs, die Notwendigkeit, sich darauf vorzubereiten, und Sie haben noch nie an etwas in Ihrem Leben so sehr geglaubt, wie Sie jetzt an die Wichtigkeit glauben, die Menschheit auf dieses großartige Ereignis vorzubereiten.
Die äußere Perspektive sagt Ihnen etwas anderes. Die Leute sind seltsam gekleidet, sie haben Perlen, sie leben in einer Art abgelegenem Lager, sie sprechen gleichzeitig und sind ein wenig beängstigend. Und obwohl ihre Argumente ironisch sind, sagt all Ihre Erfahrung, dass Sie mit einem Kult konfrontiert sind.
Natürlich haben sie gute Argumente dafür, warum Sie den Instinkt ignorieren sollten, aber dies ist eine interne Perspektive. Die externe Perspektive kümmert sich nicht um den Inhalt, sie sieht die Form und den Kontext und sie mag das Ergebnis nicht.

Stellen Sie Fragen aus der Sicht eines Skeptikers.

Antwort:
"Ich finde es sehr verdächtig, dass Intelligenz so etwas wie Prozessorgeschwindigkeit ist, das heißt, dass eine ausreichend intelligente Kreatur weniger intelligente (wie ihre menschlichen Schöpfer) emulieren kann, unabhängig von der Komplexität ihrer mentalen Architektur."

Inhaltsangabe 3

Wenn AdSense seine Sinne gefunden hätte, hätte es sich in den Computer eines Robocars gepumpt und von einer Klippe gezogen.

Warum die Allmacht der KI, Unsterblichkeit für uns, bloße Sterbliche
Jemand Robotisierung und jemand Arbeitslosigkeit

Ein amerikanischer Plutokrat (höchstwahrscheinlich Elon Musk, der glaubt, dass die Wahrscheinlichkeit, dass wir in einer Simulation leben, eine Milliarde zu eins beträgt) hat ein paar Programmierer angeheuert, um zu versuchen, die Simulation zu hacken.

Wenn das Propagandaprogramm startet, sind Siedlungen relevant.
Jetzt werden sie als Unsinn wahrgenommen.

Menschen, die in der Lage sind, absurde Schlussfolgerungen auf der Grundlage einer langen Kette abstrakter Argumente zu ziehen und auf ihre Wahrheit vertrauen, sind nicht die Menschen, denen vertraut werden sollte, um die Kultur zu regieren.

In seinem Buch listet Bostrom sechs Dinge auf, die KI gut machen muss, bevor sie die Welt übernimmt:

  1. Intelligenzmultiplikation.
  2. Strategisches Denken.
  3. Soziale Manipulation.
  4. Hacks.
  5. Technologieforschung.
  6. Wirtschaftliche Produktivität.

Sam Altman, Leiter von YCombinator
beteiligt sich an zwielichtigen politischen Machenschaften
Dieses dem Technoeliten innewohnende Verhalten von Umhang und Dolch wird negative Rückmeldungen von Menschen hervorrufen, die nicht an Technologie beteiligt sind und nicht gerne manipuliert werden. Es ist unmöglich, endlos die Hebel der Macht zu ziehen, dies wird schließlich andere Mitglieder der demokratischen Gemeinschaft irritieren.

Stanislav Lem

Unser Verständnis des Geistes entspricht in etwa dem Zustand der Alchemie im 17. Jahrhundert.

Es gibt Dinge, die wir die Komplexität kritisch unterschätzen.
Ein Alchemist könnte einen Stein in der einen und einen Baum in der anderen Hand halten und sie als Beispiele für "Substanz" betrachten, ohne zu erkennen, dass Holz um Größenordnungen komplizierter ist. Wir befinden uns in einem ähnlichen Stadium des Bewusstseinsstudiums.
In nicht allzu ferner Zukunft werden sich die KI und das maschinelle Lernen, denen wir begegnen werden, stark von der phantasmagorischen KI in Bostroms Buch unterscheiden und ihre eigenen ernsthaften Herausforderungen darstellen.

So wie Alchemisten nicht zwischen der Komplexität von Substanzen unterschieden haben und jetzt die Komplexität des Geistes unterschätzen. Ich habe versucht, die phantasmagorische Natur von AI Bostrom in "Anthropomorphismus" zu vermitteln. (Vater)

Die bedrückenden ethischen Probleme des maschinellen Lernens hängen nicht damit zusammen, dass Maschinen sich ihrer selbst bewusst sind und die Welt erobern, sondern damit, wie manche Menschen andere ausbeuten oder aufgrund von Nachlässigkeit unmoralisches Verhalten automatischer Systeme implementieren können.

Synopsis 4

Wir müssen die Lektion von Stephen Hawking, der Katze, lernen: Lassen Sie sich von den Genies, die die Branche leiten, nicht von irgendetwas überzeugen. Handle selbst!
In Ermangelung einer effektiven Führung durch die ersten Leute in der Branche müssen wir alles selbst tun - einschließlich des Denkens über alle ethischen Fragen, die die reale KI der Welt bringt.

Bostrom ist bei Alarmisten beliebt.

Die Idee ist nicht, Menschen Zeit zu sparen, sondern sie davon zu überzeugen, dass sie Zeit für wichtige Dinge verschwenden.

& quot; Liste der für apokalyptische Ereignisse vorhergesagten Daten & quot;

2239

Talmud Judentum

Laut Talmud wird der Messias durch kommen 6000 Jahre nach der Erstellung von Adam und die Welt könnte es sein in 1000 Jahren zerstört.

2280

Rashad Khalifa Rashad Khalifa

Laut einer Studie dieses ägyptisch-amerikanischen Biochemikers aus dem Koran wird die Welt in diesem Jahr untergehen.

https://en.wikipedia.org/wiki/List_of_dates_predicted_for_apocalyptic_events

Perspektivischer Effekt:

John McCarthy, der 1956 den Begriff "KI" prägte, bemerkte: "Sobald er funktioniert, nennt ihn niemand mehr künstliche Intelligenz."

Während das neue Gadget in der Ferne am Horizont zu sehen ist, ist es neben einer Person sichtbar, die sich ebenfalls am Horizont befindet. Wenn sich das Gadget jedoch bereits in der Nähe befindet, wird es mit einer Person verglichen, die sich noch am Horizont befindet - im Vergleich zu diesem Gadget.
Die gleichen Ansprüche an AI sind auf dem Vormarsch
KI wird als echte KI wahrgenommen, wenn sie in allem wirklich die menschliche Ebene erreicht.