Divine works


eng deu рус

Угроза ИИ. Мой комментарий:

Антропоморфизм - везде:
Желания, - У ИИ нет ни желаний, ни эмоций, и не будет даже в будущем, - на материальном- «железном» уровне. И никому они не будут нужны.
Ошибочное мнение о самодостаточности интеллекта происходит из иллюзии, - что разум человека сам является причиной, что он хоть на малость самостоятелен. -
- У человека разум на 100% детерминирован желаниями и эмоциями.
Иллюзия происходит от недостатка самосознания.
Чаще всего не замечают собственное самолюбие, которое является главным двигателем (препирательств) особенно у гиков.

Тем не мене, ИИ может быть опасен, но – исходя из поставленных перед ним задач.
Например, чтобы доставить пассажиров, - переехать других людей.
Но даже если ИИ будет опережать на порядки интеллект человека, человек сможет предусматривать весьма надежные меры безопасности.
Как? - Кроме перечисленных в самой статье и в комментариях к ней, это могут быть еще:
1. Открытость.
Здесь опять Антропоморфизм. – Это человек, из-за своих желаний привык все скрывать, даже от себя, и всех обманывать, даже себя.
2. Более сильный ИИ следит за подноготной 2-го ИИ.
При этом он независим от 2-го, и ограничен только контролем.
- Экспертный ИИ, отрезанный от физических органов в принципе не сможет убить человека.
В худшем случае он заморочит человеку голову. Но опасность эта исчезающе мала по сравнению с целенаправленной пропагандой.
3. Более сильный ИИ разрабатывает меры безопасности.

Тем не мене, Цивилизация действительно, скорее всего, погибнет, лет через 500, и погибнет – из-за ИИ.
Но совсем по другой причине, - человеческой, - социальной, классовой.
Угрозой для человека является не ИИ, а сам человек использующий ИИ.
В соседнем комментарии ( https://geektimes.ru/company/asus/blog/291753 Мрачное будущее интернета) говорилось, что разумен лишь индивид, но не общество.
Общество обезьян завладело ядерным оружием. Но у них хватит чувства самосохранения, и оно их не погубит. Затем они завладеют синтетической биологией. Но и она их не погубит. Но ИИ они поделить уже не смогут.

Вообще удивительна беспечность людей (гиков), которых заботит лишь свое самолюбие, выпендреж важнее собственных потомков.
В том же комментарии (https://geektimes.ru/company/asus/blog/291753/  Мрачное будущее интернета) говорилось, что от нас ничего не зависит «реальность сурова, и с нашими ожиданиями не сходится». Хотя именно от гиков зависит многое: -
Konachan700 забывает об «Эффекте бабочки». - Новизна Интернет-этапа именно в том, что мы можем создавать «Божественный» ПО- инструментарий, который заинтересует домохозяек, и они могут изменить финансовые потоки в обход обоих посредников.
- Мой комментарий в - https://geektimes.ru/post/291545