Divine works


eng deu рус

"Совещательная структура" и исследования безопасности ИИ:

Отличиями исследования безопасности ИИ, являются:

1. Эффект цейтнота, - ускорение (само)-разработок ИИ.
2. Локализация угрозы – в политическом применении ИИ.
3. Использования демократического ИИ для исследований безопасности ИИ.
4. Роль географического фактора в исследованиях безопасности ИИ

Эффект цейтнота:

Нет времени для традиционного - Последовательного подхода:
- сперва - Исследование рисков ИИ,
- затем - Исследование обеспечения безопасности ИИ,
- затем - Работа с (меж)-правительственными органами для работы с разработчиками ИИ,
- затем - Разработки обеспечения безопасности ИИ,
- затем - Надежда на иерархическое внедрение разработок:
- Надежда на внедрение в (иностранных) центрах разработки ИИ,
- Надежда на подготовку низовых (иностранных) пользователей.

Параллельность исследований, разработок и общественной реализации безопасности ИИ:

1. Подход по безопасности ИИ должен быть Параллельным.
То есть вышеперечисленные этапы должны осуществляться одновременно.
2. Работать необходимо не столько с правительственными органами и разработчиками ИИ, сколько непосредственно с людьми.
"Совещательная структура" является инструментом для этого.

Политическая ориентация исследований безопасности ИИ:

Необходима общественная организация для осуществления всех вышеперечисленных работ также поскольку:
Угрозу представляет не ИИ сам по себе, а политическое использование ИИ.

Поэтому исследования безопасности ИИ:
1. Должны ориентироваться на угрозу от политического использования ИИ,
2. Должны быть широко общественными.

Эффекты использования ИИ для исследований безопасности ИИ:

Да, среднее текущее качество работ может быть низким.

Но конечный результат должен быть более высоким из-за:
1. Цейтнота.
2. Применения Демократических ИИ-инструментов, резко повышающих эффективность 1-ранговой работы, делающих "свертку" итераций вышеперечисленных этапов - в реальном времени.
3. Распространение достижений лучших достижений должно быть более быстрым и эффективным.
4. Это, в свою очередь должно будет повысить качество лучших работ.

Демократическая организация исследований безопасности ИИ:

Демократическая организация исследований и реализации безопасности ИИ и использование демократических ИИ-инструментов будет иметь преимущества перед традиционной – иерархической.

Географический фактор исследований безопасности ИИ:

Поскольку авторитарные страны является источником наибольших ИИ-угроз, представляется особенно важным, чтобы люди, работающие над безопасностью ИИ, имели представление о работе, которая проводится здесь.

Также представляется ценным иметь прочные связи и 1-ранговые прямые линии связи между теми, кто работает над политическим использованием ИИ, и теми, кто работает над безопасностью.

Почему Россия?:

Трудно сказать, какая страна будет лидировать в апокалипсис-гонке:
1. В США передовые технологии, но демократический контроль как-то работает,
2. В США – ориентация на коммерческое использование ИИ, в России – на политическое, то есть на непосредственную угрозу.
3. В Китае спрос на политическое использование ИИ меньше, чем в России, т.к. в нем политическая стабильность выше, чем в России.
4. Китай отстает именно в развитии ИИ-технологий.
5. В России традиционно выше ставка на спец-операции и пропаганду.

Россия традиционно прячет свои расходы и разработки.

В ядерной гонке Россия тоже вначале отставала от США.
В ИИ-гонке сроки сжимаются.

 

3000