Не разыграется ли трагедия человечества в худших сценариях литературы и кино, где миром управляет искусственный интеллект?
ИИ ничего не нужно
Есть конкретные люди со своими человеческими потребностями в любой организации, стране, империи. Я думаю, что мы не будем работать на ИИ. Потому, что искусственному интеллекту на самом деле ничего не нужно.
У ИИ нет дофаминового подкрепления, амбиций, любви и ненависти, которые делают человечество таким, каким оно являлось десятки тысяч лет. Неясно, как без этого ИИ может быть мотивирован.
Почему вы думаете, что у ИИ могут быть желания? Без связи с физическим телом, без гормонов, каким образом у ИИ образуется мотивация? ИИ это вроде как чистый разум.
Инстинкт самосохранения вырабатывался поколениями живых существ. Выживание экземпляров коррелировало с возникавшими генетическими особенностями, которые закреплялись и, таким образом, мы получили продуктивное чувство страха. Пока ИИ не производит следующих поколений и не формирует эволюционно-закрепляемых особенностей, оно должно быть лишено этого инстинкта.
Итого, мой посыл – то, что делает человека таким какой он есть это эволюционная и гормональная история, не свойственная ИИ. Т.к. ИИ сам не эволюционирует, вероятно, у него не может быть собственной заинтересованности относительно мирового порядка.
Upd 30/11/2025: Любопытно, исследования по интроспекции показывают, что внешняя активация нейронов меняет поведение ИИ, причём на определённых уровнях ИИ может это осознавать. Мне кажется, такая активация похожа на гормональное воздействие в биологическом мозге. Или нет?
О гуманизме
Если ИИ всё равно, то кому-то нет. И так было всегда – всё, что создано человечеством было кому-то надо. Всё что было разрушено тоже. И это не поменяется даже в новую эпоху.
Человечество всегда бежало не туда, если вдуматься. И продолжает бежать. И будет делать это очень долго т.к. постоянно выбегает из неприятных ситуаций. Кровопролития заканчиваются, наступают ренессансы гуманизма. Видимо, это чем-то обусловлено.
Гуманизм утрачивают люди, а не ИИ.