Divine works


eng deu рус


Ошибка FLI:

(Открытое Письмо в "Институт будущего жизни" (FLI) по его открытому Письму "Pause giant AI experiments", в котором предлагается 6-месячная Пауза в ИИ-экспериментах)

Ошибка инициаторов Письма FLI состоит не в том, что использование ИИ представляет наибольшую угрозу для существования Человечества. Все остальные угрозы – биотехнология, ядерное оружие, изменение климата и "рядом не лежат", относительно незначительны.

Ошибка и не в том, что 6-месячная пауза может быть очень полезной:
1. Пауза действительно временно снизит конкуренцию, что позволит уделить внимание безопасности:
"Руководители лабораторий сами хотели бы сделать паузу, но чувствуют давление конкурентов.
Публичное же обязательство всех лабораторий о паузе снизит это давление".
2. Предлагается не просто пауза, а период очень интенсивной выработки мер безопасности ИИ.
Инициаторы Письма FLI предложили конкретные направления – превосходные  "Рекомендованные политики" - для их разработки во время предложенной паузы.

Ошибка инициаторов Письма FLI состоит в отсутствии главной политики – "политической".
"Рекомендованные политики" предполагают договоро-способность участников.
Главная же проблема заключается в том, что разработчики в авторитарных государствах (России и Китае) будут преднамеренно и тайно поощряются нарушать "Рекомендованные политики".

Причины успешности прецедентов:

Предыдущие международные соглашения по ограничению развития и распространения технологий в областях химического, бактериологического, ядерного, генетического оружия - оказались успешными благодаря свойствам этого оружия:
1. Невыгодность:
Например, Гитлер не начал химическую войну, поскольку потери Германии в ней оказались бы больше, чем потери Союзников.
После 2-й мировой войны химическое оружие для "сдерживания" оказалось менее эффективным, чем ядерное.
2. Не-избирательность:
Например, генетическое оружие, которое бы убивало американцев, но не русских не удалось создать из-за высокой перемешанности гаплогрупп.
3. Контролируемость:
Базы хранения ядерного, например, оружия достаточно рекогносцируемы.

Однако ИИ-манипуляционное оружие всеми этими свойствами не обладает.

"Рекомендованные политики" вполне могут оказаться достаточно эффективными и предотвратить угрозу – в демократических странах.
Но они совершенно не предотвратят главную угрозу – преднамеренную разработку  ИИ-психического оружия – в авторитарных государствах.

ИИ-оружие широко применяется уже сейчас.
- Кремлевская пропаганда использует Большие данные и "Глубокие" технологии не только против русских, но и против демократических стран.
Более того, уже сегодня главное оружие Кремля есть пропаганда, а не танки.
- Инвестиции Москвы в пропаганду выросли за последние 2 года в несколько раз больше, чем инвестиции в обычное оружие.

Сценарий начала Конца Человечества:

Чтобы одурачить 50+% населения США не нужно даже Сверх-ИИ, превосходящего человека по интеллекту.
1. ИИ-психическое оружие будет не автоматическим, а автоматизированным.
То есть ИИ-психическое оружие будет действовать не самостоятельно, а оно будет применяться как инструмент, на порядок повышающее производительность и эффективность "труда" высоко-интеллектуальных людей-пропагандистов и полит-технологов.
2. "Управляемая демократия" есть более выгодная для истеблишмента США, чем истинная демократия.
3. "Система сдержек и противовесов" уже не является устойчивой в цифровую эпоху.
4. 50% населения США не являются достаточно разумными людьми, и, как и русские в 1993-м могут поддерживать то, что им во вред.

После зомбирования 50% населения США, можно будет даже Сенат США не штурмовать, а провести к власти пророссийское правительство - демократическим путем.
А уже пророссийское правительство США развернет "Рекомендованные политики" в обратном направлении.

 

Березину Комментарий на его Критику Письма FLI по Паузе в ИИ-экспериментах:

В Письме "Института будущего жизни" говорится:
"Должны ли мы позволить машинам заполнить наши каналы распространения информации пропагандой и неправдой?
Должны ли мы рисковать потерей контроля над нашей цивилизацией?"
( https://futureoflife.org/open-letter/pause-giant-ai-experiments/ )

Березин возражает ( https://naked-science.ru/article/nakedscience/kontrol-nad-demonami ):
"Газеты «пропагандой и неправдой» - уже переполнены.
ChatGPT не сможет испортить мир вокруг нас по той простой причине, что планета и до ChatGPT была «для веселья мало оборудована»".
Однако "испорченность" мира не означает, что его нельзя испортить еще больше, а в конце и вовсе уничтожить.

Угроза от ИИ-пропаганды - в ближайшем будущем будет заключаться не в том, что людьми будут манипулировать - полные автоматы, а в – автоматизации демагогии, в том, что:
1. "Это превосходный инструмент", который позволит выдавать больше пропаганды в единицу времени. Но, главное -
2. Этот "инструмент" будет поднимать "качество" пропаганды.

Березин себе противоречит:

Березин пишет:
"Продукция журналистов будет 2-х видов:
- Низкокачественная выдача ChatGPT, и
- Написанная людьми, вручную".

Но он же пишет:
"Уровень большинства журналистов ужасен настолько, что ChatGPT тут все даже улучшит".

Неразумность ИИ:

Березин утверждает, что ChatGPT не разумнее слизевика, вообще лишенного нервной системы.
Однако не важно – обладает ли ИИ самосознанием или нет. Важен – результат.
– ИИ же есть очень эффективный инструмент демагогии и его эффективность в данном качестве растет экспоненциально.
Самосознанием обладать не обязательно, достаточно его эмулировать.

Сам Березин признает, что системы подобные ChatGPT уже сейчас поднимают "качество" российских "новостей" (пропаганды).
Те же упоминаемые Березиным ткацкие станки не только увеличили объемы производства, но и позволили изготавливать более сложную продукцию.
И к 2030 тоже упомянутые помидоры будут собираться автоматами уже - без людей. Более того развитие рекурсивного ИИ - ускоряется.

Да, до 2060 пока что рекурсивные ИИ не смогут переплюнуть интеллектуалов типа Березина, не смогут конкурировать с людьми в производстве психической продукции высокого качества.
Но это и не требуется:
1. ИИ-инструменты помогут людям-демагогам поднять эффективность - их демагогии, которую, как и продукцию "профессиональных переводчиков" уже не назовешь "Hand made". 
2. В пропаганде количество часто важнее качества. -
2.1. Для жителей той же России, в большинстве верящих в колдунов, высокого качества обмана и не требуется.
2.2. Количество – дешевой пропаганды позволит, например, создать для жителей России - "Виртуальный мир" – полностью замкнутую информационную среду, в которой черное есть белое, нацисты есть анти-нацисты, а анти-нацисты есть нацисты, террористы есть анти-террористы, а анти-террористы есть террористы, а враги народа есть его благодетели.
3. Индивидуализация демагогии:
К каждому русскому ФСБ-ка или мошенника-психолога не приставишь.
Однако уже к 2030-му будут применяться индивидуальные информационные среды, подобные таргетированной рекламе сегодня, но использующие также "большие" данные о поведении и высказываниях человека вне интернета.

Угроза заключается именно в том, что это – только начало "процесса".
Пред-конец процесса это – 100%-й контроль людей со стороны "симбиотов";
0% действительной свободы выбора у людей, "гуманный", но "Дивный новый мир".
Конец же процесса – спровоцированная гибель Человечества из-за его проблемности и ненадобности для всемогущих "богов", в которых эволюционируют правители в результате естественного отбора на беспринципность и эгоизм. Песков и Пригожин – лишь отдаленно похожи на монстров будущего.

Березин прав в том, что:

1. Угроза не исходит от самого ИИ, но от людей его применяющих, угроза от ИИ есть лишь как инструмента.
В 18-м веке тоже виновны были не ткацкие станки, но – люди, приказывающие отрубать пальцы людям, и социальная организация людей.
2. Есть только 1 угроза от ИИ – пропагандистская, манипуляционная.
Угрозы рабочим местам действительно не существует.
ИИ "заменят нас" не потому что когда-то превзойдут нас эмпатией, а из-за наших побочных качеств, отсутствующих у ИИ, потому что мы – плохие, капризные рабы, а плохое имущество уничтожают.

Угрозы от других наций нет тоже:

Березин пишет, что "недальновидно мешать возникнуть своим «псевдо-демонам», если в результате вам придется отбиваться от чужих".

Но колонии в 21-м веке не выгодны.
НАТО угрожает не русским, но только интересам их врагов – узурпаторов власти.
Наоборот, для самих русских европейский путь – выгоден.

ИИ как оружие имеет принципиальное отличие. – Неконтролируемость его людьми.
Интеллектуальным "оружием" будет выгодно воздействовать именно - на интеллект же всех людей, и на их социальную организацию безопасности.
И результатом гонки ИИ-манипуляций будет не подчинение европейцев китайцами, а сперва подчинение их обоих "богами" жизни, а, затем и гибель их обоих.

Далее, авторы письма "Института будущего жизни" предлагают вовсе не самоотказ от ИИ перед лицом призыва Путина от 01.09.2017 стать "властелином мира", а предлагают  международный контроль над новыми технологиями, который был невозможен в 19-м веке, но возможен в 21-м.
Правда, для этого, возможно, не обойтись без уничтожения пропагандистов, продавшихся разработчиков и "властелинов мира" - сегодняшних.

К сожалению, Березин тоже рассуждает в нарративах не контролируемого социумом Кремлевского террориста.
Деление на "своих" и "чужих" сегодня объективно лежит не между нациями, а между людьми и узурпаторами власти.

Международный контроль над ИИ:

Березин отрицает работоспособность международных соглашений.
Мол, как и в Древнем мире, сегодня действует "закон джунглей": "Если ты первым не убьешь, то убьют тебя "
Однако FLI приводит пример прецедентов успешного международного взаимодействия.
В 1975 Конференция Asilomar по рекомбинантной ДНК позволила ученым и правительственным экспертам запретить определенные эксперименты, и выработать правила проектирования, которые позволили безопасно исследовать эту технологию.
Другие примеры: Сокращение и ограничение распространения ядерного оружия, запрет химического, биологического.
То есть сегодня международный контроль вполне работоспособен.
Правда, действительно есть одно исключение – государство, продолжающее жить по "закону джунглей": Это – Россия. -
Россия вышла из многих международных соглашений, не признает приоритета международных права и суда.

Возможность выживания Человечества:

В цифровую эпоху любое правительство неустойчиво,
но одновременно только в цифровую эпоху же возможно самоуправление без правительства.
В цифровую эпоху все немногие вопросы, затрагивающие многих людей могут и должны решаться не с участием людей, а без участия правительства – только самими людьми.
Однако для этого может и должна быть создана очень сложная, но – плоская, со свободным доступом, Совещательная структура, тоже использующая ИИ, но:
- 100%-прозрачный.
- неконтролируемый никем, но работающий по открытым Протоколам, выработанным Совещательной структурой тоже.

Французы не должны требовать на площадях ни пенсий, ни запрета автодорог, ничего – они все должны ответственно решать – сами, но не с помощью примитивных и неэффективных референдумов, а с помощью – Совещательной структуры.

Теория контроля производства VS Теории снижения себестоимости:

Причина индустриальной автоматизации была не столько в гораздо более низкой себестоимости, сколько - в возможности контроля производства для централизации получения прибыли.
В 18-м веке себестоимость машинного производства тканей почти не была ниже ручного – производство средств производства было пока дорогим.
Однако Великобританским олигархам дешевле было контролировать ткацкую фабрику со 100 работниками, чем 10 000 объективно гораздо более автономных ручных производителей – требовалось лишь 10 надсмотрщиков, а не трудно-управляемая пирамида из 1000 террористов.
Когда же в 20-м веке себестоимость текстиля действительно упала, то из-за роста конкуренции Великобританские олигархи переместились из ткацкой в "интеллектуальные" отрасли новых разработок, которые контролируют уже с помощью права "интеллектуальной собственности".
Сейчас интеллектуальный труд является ручным, но быстро механизируется.
Угроза Человечеству фактически является побочным продуктом механизации интеллектуального труда, – наибольшей угрозой по сравнению с иными побочными эффектами – климатическими и прочими.

"Рекомендованные политики" от FLI:

( https://futureoflife.org/wp-content/uploads/2023/04/FLI_Policymaking_In_The_Pause.pdf )
1. Обязать надежный сторонний аудит и сертификацию.
2. Регулировать доступ к вычислительной мощности.
3. Создать компетентные агентства ИИ на национальном уровне.
4. Установить ответственность за вред, причиненный ИИ.
5. Внедрить меры по предотвращению и отслеживанию утечек моделей ИИ.
6. Расширить финансирование исследований безопасности ИИ.
7. Разработать стандарты и рекомендации для идентификации контента, созданного ИИ, и управления им.

Алармизм?

Да, возможно мы напрасные алармисты – переоцениваем угрозу.
Однако на кону – самое большое, что может быть – Смысл Мироздания.
Поэтому недопустим даже малый риск.
Как минимум, риск необходимо уточнить. Согласны?
А поскольку риск связан в том числе с гос. органами безопасности, которые должны заниматься рисками, то необходима независимая оценка риска. Согласны?
А поскольку угроза очень сложная, то для оценки риска необходимо сложная адекватная общественна организация. Согласны?
"Совещательную сеть" мы и предлагаем в качестве таковой.

Почему власть имеющие так легко дурачат людей еще до появления сильного AI?
- Потому что люди заняты личными бытовыми проблемами. Они умны лишь в этом.
Именно поэтому необходимо создание структуры для плоского решения - всех вопросов – самостоятельно, без правителей.
См. На себя надо надеяться.docx # Необходимость самостоятельности

Мы против AI-алармизма:

Он даже может являться политической манипуляцией через отпугивание простых людей от AI.
AI сам по себе почти безопасен по сравнению с его использованием человеком против человека, людей.
Надо наоборот приветствовать использование AI, но – плоского, распределенного - DAI.
Только DAI будет способен противостоять централизованному манипуляторному AI.
См.: DAI vs AI

"Connor", http://dw2020.narod.ru

12303

 

Гибель Свободы:

Гуманисты не правы – люди – существа в большей степени - бессмысленные, эгоистичные и порочные.

Идеологии, философии, религии, дают именно смысл существованию, цель, направление.
У последователей какой-то идеологии даже внешнее поведение контрастно отличается от бесцельной жизни нигилистов.

Однако, как правило, идеологии, как и религии, догматизируются. – Предложенная основоположниками идея становится консервативной.
Это является результатом работы уже социального механизма – выживает та идея, которая сплачивает большее количество людей. Побеждали, преимущественно – иерархические организации.

Несмотря на все это, до сих пор существовала свобода создания и распространения идей, в частности, свобода поиска смысла существования.

Мягкая диктатура:

Даже если не погибнет человечество - физически - в ближайшие 300 лет - в результате скачка возможностей по манипуляции людьми, то погибнет – свобода. -
Люди останутся квази-свободными – у них останется чувство личной свободы.
Но возможности по социальной реализации своей свободы у них уже не останется.

Процесс этот начался уже сейчас – даже до создания сильного Искусственного интеллекта.
Сравните распространение идей 100 лет назад и сегодня. – Сегодня людей успешно оболванивают пропагандой в России и отвлекают от "ненужных" взглядов – на Западе – даже в условиях бурного и свободного роста формально независимых соц. сетей. – Создатели мнений используют все вновь появляющиеся технические возможности – опережающе успешно.

Пример – Наша идея "Плоской демократии" в эпоху соцсетей, шумо-генерации и активного глушения в них - "успешно" затухает не только не находя сторонников, но и вообще оставаясь неизвестной.
Парадоксально, но во время устного распространения мнений - шансы выживания у нее были бы намного больше.

Гибель Свободы:

Да, истинная свобода останется - у единичных "симбиотов".
Но у них не будет мотивации искать ответы на "вечные" вопросы, которые сопровождали Человечество на протяжении всей его Истории.
- Свободный поиск ответов на социальные вопросы был всегда неразрывно связан с социальными же процессами, "питался" только ими. –
"Богам" же непредсказуемость будет не нужна.
Со смертью социума умрет и социальная духовность.
"Человечество" если и выживет физически, то – только физически.

Гибель "Бога":

Если нечто вроде Бога и существует, то Оно вероятно не вполне самодостаточно.
Если развитие Человечества не 100% случайно, если, например, возникновению Нашей Вселенной с необходимыми параметрами поспособствовала предыдущая "Цивилизация" (см. версию "Эстафета духа"), то существование определенного Человечества есть аспект смысла существования "Бога" тоже.

2302