Divine works


eng deu рус


Ошибки Hawking, Musk и Tim Urban при анализе угроз AI:

1. Переоценка мотивации AI.
2. Недооценка социальных факторов:
a. Целей инвесторов AI,
b. Внушаемости и глупости людей.
3. Принятие средой действия - западной демократии.
4. Недооценка взаимодействия, борьбы AI разных инвесторов.

1. У человека интеллект – 100% направляется гормонами, а если кто считает иначе, то он управляется гормоном больного самолюбия.
У AI собственной цели нет, по крайней мере, до начала войны разных AI.
Но и тогда цели AI останутся производными от целей их хозяев.
2.a. Главная, если не единственная цель, которая будет ставиться перед AI – это власть инвесторов.
Инвесторы же прошли "естественный отбор"  - власть получили маньяки власти.
2.b. Даже уже сейчас люди понимают, что оптимальным методом достижения всевластия сегодня является не горячая война, а – пропаганда на глубоком психическом уровне, вмешательство в чужие выборы, которое отныне будет только нарастать.

Hawking, Musk и Tim Urban сами говорят про сокращение сроков. -
- Если между созданием ядерной бомбы в США и в СССР прошло 4 года, то между само-созданием сверх-AI в США и в РФ может пройти 4 дня.
Но цели разных AI в США и в РФ будут разными.
И, если даже AI Кремля будет слабее, он победит - в середине 21-го века - за счет:
- Цинизма и меньшей связанности этическими "глупостями" типа совести,
- Единственной и простой цели – власти над миром.

Однако победа AI Кремля будет означать в будущем - гибель человечества.
- Между правителями и "естественными" людьми будет нарастать разрыв, в том числе – биологический.
Но и правители также не останутся едиными.
Борьба между непрерывно возникающими группировками и погубит человечество.
Едиственное спасение человечества – в единстве и демократии.
Может быть важнее не искать погибшие внеземные цивилизации, а сосредоточить усилия на собственном выживании?

Человечеству угрожает не AI сам по себе, -
Человечеству угрожают монстры-симбиоты.

 

Вопрос не в справедливости, а в выживании:

Совещательная структура и экономическая самоорганизация необходимы - для выживания
Необходимо, чтобы кухарка научилась создавать правила и принимать решения - без посредников, а не просто исполнять законы и указы.
Необходимо, чтобы рабочий научился сам быть инвестором.

Казалось бы, обособление управленцев был всегда, и ничего страшного, - пусть с периодической "санитарной" резней, но человечество существовало.
Однако сегодня все меняет появление Искусственного интеллекта -
Процесс не остановится на обособлении управленцев, - управленцы будут и дальше делиться на группировки.
В борьбе же за власть будут побеждать группировки более агрессивные.
Искусственный интеллект же является оружием с бесконечными возможностями.

Казалось бы – человечество обречено. – Кухарки и рабочие не захотят забивать себе голову всякими политологиями и экономиками.
Спасение приходит тоже от Искусственного интеллекта – Он способен так упростить самоуправление и самоорганизацию, что кухарке и рабочему они будут приятнее и доступнее сплетен и колдовства с железками.

Снижение неравенства при этом – побочный продукт.
(Комментарий)

"Русские" угрожают американцам ядерной войной – против русских:

Русская логика: "Войну пережили – и Путина переживем, лишь бы войны не было".
То есть, чем больше угроза войны со стороны американцев, тем русские более терпеливы и терпимы к власти.
Поэтому Кремль повышает риски. То есть шантажирует не столько американцев, сколько – русских.

Tim Urban

(http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html)

 

О Парадоксе Ферми, феминизме Комментарий Мое:

 

Вопрос Ферми: "Где все?"
Ответ: "На кладбище"

Но именно у Земли есть шанс выжить.
И именно наше поколение решает – быть или не быть.
Иначе человечеству осталось жить 0% времени, ≈500 лет.

"Уничтожению со стороны жестоких межгалактических колонизаторов".
- Этой угрозы нет:
Зачем нас уничтожать?
- На Земле есть только один уникальный "ресурс" – сумасшедшие.
Жестокие же инопланетяне, для которых уничтожение, "влечение к смерти" тоже самоцель - сами погибли. (См.: "Закон смерти".)

"Инопланетян в нескольких измерениях или экзотических формах вещества"
1. Ученые вполне способны представить любые экзотических формы.
2. Антропоцентризм, Антропоморфизм:
Может быть, конечно, что-угодно, но наши химия, биология и т.д. наиболее вероятны в Нашей вселенной (нашей физике).

Следы единичных мертвых инопланетян не заметят и через 500 лет, а вероятнее – никогда, - Эйнштейн прав – никакие "кротовые норы" не помогут.
Следы:
1. Слишком далеки (>>1 млрд св. лет),
- В Уравнении Дрейка коэффициентов не 10, а 1000.
2. Мимолетны, - в смысле – старые давно пролетели, а до новых не доживем.
И вообще, надо не отвлекаться на забавы, а заниматься собственным выживанием.

Смысл феминизма (как и демократии) – в смысле Мироздания - выживании человечества.
Женские инстинкты лучше мужских соответствует ему.
Поэтому необходимо резко увеличить политическую роль женщин.
Человечество уникально в Нашей вселенной - из-за "Великого фильтра" сейчас, а остальные пусты физически.

 

1289

 

миф: ИИ слаб:

миф: Разум человека очень гибок. Он распознавал и более большие угрозы.
Ответ:

ИИ-угроза – это вопрос статистики:
ИИ нужно будет обыграть не чемпиона, а – обывателя, который и "сам обманываться рад".
Законы психологии не сложнее и не менее надежны, чем физические, и также поддаются алгоритмизации.
В 100%-м одурачивании нет необходимости.
Аналог: В СССР прекрасно справлялись с диссидентами с помощью гибких методов.

 

371

 

миф: Есть «ответственные»:

миф: Есть профессионалы, которые ответственны за реагирование на ИИ-угрозу.
Ответ:

Есть профессионалы, но они не «ответственны». Есть «ответственные», но они не профессионалы.
Аналог: Беспечность Президента США, Премьер-министра Британии и других - накануне эпидемии коронавируса.
То есть на "ответственных" людей, отвечающих за реагирование на ИИ-угрозу полагаться совершенно нельзя.
Да, есть институты, которые предупреждают об ИИ-угрозе, но для реагирования необходима "политическая воля", а ее именно и нет.
Поэтому необходимо общественное движение, Сеть выживания человечества.
Сеть была бы необходима даже при адекватной политике политиков - для их поддержки, - ввиду серьезности угрозы.

 

632

 

Выбор:

 

Есть мнение, что не надо держаться за прошлое, не надо быть консерватором, что надо принять эволюцию, - отмирание людей прошлого, и смену их симбиотами.
Ведь люди столь противоречивы, в людях столько зла – подлости, эгоизма, агрессии, жестокости.
Но тем удивительнее люди, которые при всех звериных инстинктах в себе умеют любить живое, природу, других людей, умеют сопереживать и видеть красоту этого мира.
Я не хочу, чтобы мир этих людей исчез. Тем более что вряд ли симбиоты, которые их сменят, будут лучше. Да, они будут совершеннее, умнее, но вряд ли лучше. Они не будут глубже чувствовать, ведь глубина чувств рождается именно из противоречий и добровольного выбора.

Эгоизм:

90% людей являют собой благодатную среду для "Управляемой демократии".
У меня вызывают неприязнь эгоисты, которые, в момент, когда решается судьба мира, думают только об удовольствия соперничества и т.п.
И если бы они самоутверждались только за счет друг друга.
Но они также не дают прохода, мешают работать более ответственным людям, которые пытаются спасти, в том числе их потомков.

Я не против диктатур,

Как таковых. Точнее, не категорично против.
Я лишь против угрозы гибели Цивилизации.
Я против "Управляемой демократии" – лишь, поскольку она является главной угрозой гибели Цивилизации.
Да, мне неприятны бездушие и несправедливость, но их можно было бы и потерпеть, если бы угроза, которая возникла именно сейчас – в век IT.

 

1208