Согласование целей между людьми и ИИ
Чтобы разумные системы усиливали человечество, а не оптимизировали его уничтожение.
(такие, которые нельзя решить одной цифрой, алгоритмом или богом-машиной)
Чтобы разумные системы усиливали человечество, а не оптимизировали его уничтожение.
Планета конечна, а желания людей — нет.
Когда фейки, ИИ-контент и пропаганда делают реальность неопределимой.
Если машины делают всё, зачем нужен человек?
Кто получит биомодификации, ИИ-усиление и бессмертие, а кто — нет.
Биотех, ИИ, нанотех, квант — оружие уровня богов в руках детей.
Как не превратиться в функцию, оптимизируемую алгоритмом.
Проблемы планетарные, а мышление — национальное.
Экология, ядерное оружие, ИИ, астероиды, пандемии.
Если мы создадим сознание — будем ли мы его богами или его тюрьмой?
«42» — это иллюзия, что мир можно свести к одному числу.
Этот список построен наоборот:
он показывает, что будущее — это не уравнение, а сеть конфликтов: