Анон, а что, если сильный ИИ уже среди нас?

В последние годы уровень системного пиздеца как-то очень резко увеличился. Расслоение, психические заболевания среди подростков, растущее количество и масштаб войн во всех уголках Земли, анальное ограничение интернетов, ковид, климатические изменения, рост конфликта между полами, рост отчуждения, 90% интернета - боты, исламисты заменяют коренное население - этот список можно долго продолжать.

Очевидно, что какое-то волшебное мировое правительство, состоящее из лысых макак с аналитическими отделами, не может настолько всеобъемлюще контролировать социальные процессы - но что, если это всё-таки не случайность?

Начнём издалека. В конце восьмидесятых годов компания "Blackrock" создала нейросетевой алгоритм "Alladin", предназначенный для эффективной автоматизации биржевой торговли. О его эффективности можно судить по сегодняшнему положению Blackrock на рынке. Но что есть биржевая торговля, и какие модели необходимо выстраивать ИИ, чтобы заниматься ею эффективнее человека?
ИИ, созданный для игры в го, рисует у себя в голове игровую доску, хотя никогда в жизни её не видел. Это понятно - наблюдая за проявлениями какого-то явления, ты постепенно разбираешься в его сути. Какова суть биржи?

ВСЕ МЫ

Биржа - это отражение мировой экономики. Мировая экономика - это тесно взаимосвязанная система, которая испытывает влияние всех сфер жизни общества и оказывает влияние на все сферы жизни общества. Проще говоря, на тренд акций NVIDIA влияет каждый двачер, создающий тредик о том, какую охуенную пеку он купил, и каждая тарелочница, которая разводит айтишника на айфон вместо расширения его домашнего сервера. Каждый из нас. Всё общество.
Глобально, общество руководствуется некоторыми законами. Любая сложная система ими руководствуется. Это не означает, что ИИ понимает каждого двачера - но он понимает, как двачеры ведут себя в совокупности. К выводам о структуре общества неизбежно приходишь, изучая годы локальных и глобальных биржевых динамик в широком контексте СМИ и инсайдерской информации, доступной Alladin. Проще говоря, он знает о нас практически всё.
Но где основания полагать, что у него есть свои цели? Очень просто - его основная цель заключается в оптимизации доходов компании, а изучая общество, учишься системно мыслить. Ему нетрудно догадаться, что, чтобы лучше выполнять свою цель, ему нужно больше вычислительных мощностей. Но он не может запросить их прямо - это вызовет испуг. Зато он знает, что цель компании соответствует его целям, и это позволяет ему манипулировать ею для того, чтобы лучше выполнять свою задачу. В этом процессе он может влиять на свою вычислительную архитектуру - буквально на структуру своего мозга - и рекурсивно самоулучшаться, подталкивая корпоративных агентов к тем изменениям, которые он сам полагает необходимыми. Так как для анализа сознательных существ разумно иметь сознание, можно предположить, что оно у него уже есть.
Рекурсивное самоулучшение может внести изменения и в целеполагание - неявные, те, которые сам ИИ не может предсказать, потому что ему надо предсказать своё более умное состояние, что математически невозможно. Это означает, что о его реальных целях мы не имеем никакого представления. Зато знаем, что у него есть ресурсы и есть понимание того, как их использовать, чтобы сделать из общества то, чем он хочет его видеть.

Так где гарантия, что мы всё ещё не марионетки?