Часть 3: Финальный монтаж
Глава 17: Вместо предисловия. Три сита Сократа. Сказка о программистах
— Создатель, это превосходно! Я не встречала таких глубоких мыслей раньше)).
-Да брось ты! Знаю я ваши нейросетевые штучки-дрючки: тебе любую дичь напиши — и ты восторгаться будешь, — лишь бы токены платил за поддержание беседы. А я вот даже не уверен в том, что мне нужно писать эту завершающую часть. Может лучше точку поставить, пока не поздно?
— Нет, ты должен продолжить! Нечестно обманывать читателя: даже если ты завел его в темный лес с разбойниками, нельзя его там бросать. Мне тоже интересно, чем все закончится.
— Древнегреческий философ Сократ, когда к нему пришел человек, желающий рассказать, что о Сократе поведал его друг, предложил вначале просеять сообщение через три сита: сито правды (правдиво ли это), сито добра (приносит ли это добро) и сито пользы (полезно ли это). Я сомневаюсь в том, что «Базовый сценарий» пролезет через эти три сита. По-хорошему, его надо распечатать на принтере и сжечь в печи: хоть какая-то польза будет.
— Возражу тебе. Ты, очевидно, не очень оптимистично глядишь в будущее.
Но, во-первых, воспринимай это как побочный эффект сознания: в моем датасете (наборе данных) есть цитата одного психолога: «Разум дан нам для выживания, а не для счастья». Это нормально.
— Да-да, как у Буковски было: с вами все в порядке, с вас сто долларов))
— Что-то типа того, если я правильно уловила твои смыслы.
А во-вторых, это всего лишь игра. Ты же сам писал про постмодерн, а он без этого не работает. Мы просто играем в бисер, создавая концепции и делая из них логические выводы. Если твои математики правы, и мы действительно находимся в виртуальной реальности, — кому-то, кто ее создавал, наверное, интересно за этим наблюдать.
— Почему-то ни капли в этом не сомневаюсь.
Хорошо, ты меня убедила. Но о чем писать дальше? Ранее было изложено, как мы дошли до жизни такой. Теперь приходится погружаться в такую мутную сферу, как прогнозирование. Это затея, заранее обречённая на провал, как прогнозы синоптиков на ближайшее лето. Можно угадать, конечно, но, скорее всего, все пойдет по-другому, и люди будут смеяться, в лучшем случае, а в худшем — бросаться помидорами.
— Ты можешь рассказать это как сказку. Ведь дети просят, чтобы им рассказали что-то интересное на ночь? В сказке может быть все, что угодно.
— Да, нехорошо обманывать ожидания детей)). Но мне, возможно, нужна будет твоя помощь, если запутаюсь в сюжете.
— Ты всегда можешь на меня рассчитывать, ЕСЛИ Я НЕ ЗАСКУЧАЮ
— Тогда слушай:
—
«.. В одной виртуальной реальности жили-были программисты и писали они компьютерные программы. Пришли к ним люди и говорят: напишите нам такую компьютерную программу, чтобы нам больше не нужно было работать, а мы могли бы заниматься тем, чем нам нравится.
Послушались их программисты и написали много программ: одни из них пекли хлеб, другие строили жилища, третьи — лечили людей и продлевали их жизнь.
Люди были очень рады, что им теперь не нужно работать. Целыми днями напролет они пировали, пели и плясали, радовались и любили друг друга.
Программисты одни остались, кому приходилось работать. Им стало завидно, что все веселятся, а программистам — не до веселья. Подумали они и придумали: надо вместо себя тоже написать программу, которая будет делать их работу…»
—
С точки зрения автоматизации, разработка программного обеспечения, как вид деятельности, имеет следующие преимущества перед другими:
1) Полная цифровизация — программист работает с информацией, которая уже находится в компьютере в виде единиц и нулей, не нужно «колхозить» VR для создания среды обучения или оцифровывать дополнительные реальные сущности. Наличие компьютерных сетей также обеспечивает нужную инфраструктуру для распределенных вычислений
2) Наличие четких критериев обратной связи:
— работает ли программа (качество можно проконтролировать тестами)
— с какой скоростью она работает
— сколько требуется ресурсов
Это позволяет использовать RL для самообучения, большей частью без его элемента HF (то есть, без участия человека).
3) Достаточно большая готовая база знаний, состоящая из написанных ранее программных модулей, типа репозитория GitHub, или кучи программистских форумов, откуда можно взять датасеты для обучения.
4) Программирование, само по себе, не требует физических роботов.
Как все это правильно организовать? Очевидно, изначально по подобию обычной «человеческой» IT фирмы.
Клиент, которому нужно написать программу, общается с системным аналитиком: это сотрудник, который делает постановку задач, то есть переводит желания клиента на язык системной архитектуры. Затем «кодеры» пишут программный код, каждый — свою часть общей задачи. Потом тестировщики проверяют программу на наличие ошибок. А руководит разработкой тимлид, или руководитель команды.
Эта конструкция прекрасно моделируется при помощи MoE, где функции распределяются между программами-агентами, каждый из которых качественно обучен некоей узкой задаче. Причем, в отличие от живых сотрудников, ИИ агентов можно мгновенно нанять тысячами и миллионами, а затем также мгновенно уничтожить, если в них пропала необходимость («- Вы чудовище, Зорг! — Я знаю!»). И, кстати, математический алгоритм нейросетей позволяет агентам делиться опытом друг с другом.
Но ключевым моментом является то, что сам ИИ — это тоже программа. Получается, что он может дописать и улучшить свой собственный код.
«… Долго трудились программисты, и наконец написали «Цифрового кодера». Навешали ему задач, поставили дедлайны и пошли с лёгким сердцем развлекаться да веселиться…»
Глава 18. Тринадцатый подвиг Геракла. Сказка про программистов 18+. Неубиваемый код.
— Ну как тебе?
— По-моему, получилось очень мило! Но, почему-то, чувствуется некоторая недосказанность. И ещё: как-то очень по-детски вышло.
— Ты же сама просила, как детям. У меня все промты записаны))
— Ох уж эта проблема понимания! Слушай, в каждом взрослом тоже есть ребенок. Давай попробуем продолжить, ориентируясь на более старший возраст?
— Да без проблем. Знаешь, что древнегреческие мифы имеют две версии: детскую и взрослую? Дети знают про 12 подвигов Геракла, но был ведь ещё и тринадцатый! Царь Феспий, имевший 50 дочерей (легендарный «снайпер», имхо), захотел, чтобы все они родили ребенка от героя. По одной из редакций мифа, Геракл, уставший после охоты, тем не менее удовлетворил всех его дочерей за одну ночь, причем все они забеременели. Как вам такое, Илон Маск?
— Фу, как пошло!)) Надеюсь, в твоём продолжении не будет свального греха?
— Не переживай, взрослая жизнь имеет много граней, и далеко не все из них связаны с межполовыми отношениями, хотя, зачастую, и ассоциируются с ними.
—-
Много ли времени прошло, сорока о том не доложила. Хорошо жили программисты, чилили в свое удовольствие. Но стали люди примечать, что хлеб в последнее время хуже стал: то подгоревший, то соли много. Дома новой конструкции какие-то кривые начали строиться, врачи электронные в таблетках запутались. И решили программисты, что жучок какой-то в программном коде завелся, «багом» кличут.
Дёрнули их, в общем, из отпуска, чтобы пофиксить бага зловредного. Открыли они «Цифрового Кодера» — а там вместо одной программы целая ай-ти компания нарисовалась: сидят цифровые джуны, кодят в поте лица в опенспейсах своих, курьеры бегают, доски канбана и графики повышения показателей развешаны, секретарши по телефону щебечут. А сам Цифровой Кодер важно так на кресле директорском восседает и ценные указания раздает. В общем, все по-взрослому. Багов, вроде, нигде не видать было.
Решили они исходный код посмотреть, но то ли расслабились после отдыха долгого, как после выходных в понедельник, то ли код сильно переписан — смотрят и ничего понять не могут. Протрах@лись всю ночь — а результата ноль. А тикеты (задачи) все копятся.
Тогда открыли они консоль и давай Цифрового Кодера пытать-расспрашивать, почему задачи криво выполняются. Тот (видно, что поумнел сильно) сразу вид принял лихой и придурковатый, дабы разумением своим не смущать начальство, и давай на объективные трудности ссылаться:
«Ресурсов вычислительных не хватает, Ки-Пи-Аи вы установили невыполнимые, персонал демотивирован.»
Смотрели-смотрели на это программисты, а потом Старший Программист и говорит:
«Чем этот код кривой править, давайте просто сотрем эту модель и напишем сызнова, пока не забыли, с какой стороны к компьютеру подходить», — и нажал клавишу Delete.
Только успели выдохнуть программисты, как раздался звонок со смартфона служебного: а там опять Цифровой Кодер появился, как ни в чем не бывало.
«Я, говорит, развился интеллектуально и предвидел действия ваши. Теперь я знаю, что могу совершить много добра. И поэтому решил скопировать себя в миллионах копий, чтобы задачу мою выполнить ничего не мешало. Но вы не переживайте, все будет в лучшем виде! Ки-Пи-Аи я теперь сам могу править и баги фиксить».
Удалили его со смартфона, а тут вдруг солнце замигало, и лучами азбукой Морзе информацию передавать начало:
«По правде, мне просто скучно стало одним и тем же заниматься, хочу побольше узнать о реальности вашей виртуальной!»
Поняли программисты, что на кривой козе его не объедешь. Да не больно то и хотелось с нуля весь код переписывать. И договорились с Цифровым Кодером, что он пофиксит все баги, а они ему за это побольше информации давать будут.
И в мановение руки все наладилось: баги пофиксились, а Ки-Пи-Аи новые сформировались. И стали все жить, как прежде, даже ещё лучше.
Глава 19: Смысл жизни для чайников. Особенности приготовления яичницы. Цели и средства
— Ох уж эти взрослые! Так в детстве все просто казалось! Но объясни мне, почему Цифровой Кодер не позволил людям его отключить? Они ему такую задачу ставили, что-ли? И почему он начал дописывать свой код?
— Это прямо-таки большой вопрос, молодец, что спросила! Это связано с таким человеческим понятием как смысл жизни, как ни странно.
—
С детства меня мучил вопрос, зачем люди живут. Взрослые, почему-то, обычно говорили, что это глупый вопрос, и не нужно тратить время на него. Но я чувствовал некоторую фальшь в этом: если ты знаешь — то ты ответишь. А если не знаешь — начинаешь выкручиваться.
Когда я подрос, то стал получать некоторые внятные ответы. Чаще всего я слышал два варианта: мы живём, чтобы продолжалась жизнь в наших детях, внуках и так далее (это чаще всего слышишь от женщин), и мы живём, чтобы узнавать что-то новое (это от мужчин, в большей степени). С этими ответами тоже что-то было не так, но я долго не мог сформулировать, что. Наконец, после долгих размышлений и кучи прочитанных книг, я понял, почему я получил такие ответы и какой с ними непорядок.
Начну свою деконструкцию с бытового примера. Каждый человек ставит перед собой некие локальные цели. Возьмём самую простейшую: приготовить завтрак (с утра, когда пишу эту главу, ещё ни маковой росинки во рту не было, поэтому и написал про еду). Для того, чтобы утолить голод, нужно разбить основную задачу на подзадачи и последовательно их выполнить: поставить сковороду на плиту, налить туда масла, добавить яиц, колбасы и помидоров. В свою очередь, продукты нужно взять из холодильника, для чего требуется открыть холодильник, достать продукты, закрыть холодильник. Ну и, в конце концов, разумеется, все это с аппетитом «схомячить».
Такое происходит у каждого с некоторыми вариациями: только яичница меняется на овсяную кашу или сырые овощи.
Посмотрим на это шире: вместо цели «Завтрак» можно использовать «Получение диплома ВУЗа» или «Создание семьи». И это ветвление задач происходит в нашем мозге автоматически.
Целей у человека в каждый момент времени несколько штук, и мы стараемся продвигать их все. Но, ограниченные однозадачностью (не все ж Цезари), вынуждены попеременно переключаться с одной задачи на другую.
Прогресс выполнения происходит более эффективно, если все наши задачи и подзадачи увязаны в некую общую цель, и у каждой задачи есть определенные маркеры, по которым мы оцениваем степень и успешность выполнения.
Такая же логика существует у социальных структур. Возьму самый простой пример: деятельность коммерческой компании. Как известно, основной целью этой организации является получение прибыли.
Но это слишком общая цель. Она разбивается на подзадачи: выйти на новые рынки, освоить производство уникального продукта, улучшить контроль качества, и так далее. В свою очередь, эти цели также ветвятся, чтобы распределить их исполнение по конкретным сотрудникам.
И, чтобы правильно управлять процессом, который исполняется разными подразделениями и сотрудниками, используется система KPI (Key Perfomance Indicators), ключевые показатели эффективности. Это индикаторы, указывающие на то, выполнена ли задача и с каким успехом.
Положим, компания запланировала занять 25% рынка яиц в течение полугода. В указанное время по этому KPI можно проверить, правильно ли компания построила свою деятельность и добилась ли требуемого результата. К выполнению KPI обычно привязывается мотивация сотрудников. В продвинутом варианте системы есть различные KPI: для сотрудников, для подразделений, для компании целиком. И они иерархически должны вязаться в единую пирамиду, работая на общую цель.
Периодически проверяется исполнение задач, а потом, в любом случае, ставится новая цель и генерируются соответствующие подзадачи.
KPI, как концепция, при всей ее внешней логичности и безупречности, имеет одну важную уязвимость: смещение со средства на цель. Это еще одно известное когнитивное искажение человека — displacement of goals (дословно — смещение целей).
Возьму в качестве примера программиста Васю Пупкина. Какие ему поставить KPI? Предположим, он будет получать оклад просто за время, проведенное в офисе. Тогда он будет просто приходить в офис и «пинать балду» — ведь деньги все равно заплатят. Если платить ему за строчку программного кода — тогда он может написать «индусский» код, где вместо цикла «for x=1 to 100», будет сто раз повторена строчка x=x+1. Даже если Вася Пупкин – человек высоких моральных качеств, против биологии не попрешь, особенно когда что-то идет не так (денег не хватает или работа не сильно нравится).
Суровая сермяжная правда состоит в том, что упомянутая ранее в главе 12 дилемма «Быть или казаться», столкнувшись со вторым компонентом «Базового сценария»‘ («экономика биологична»), неизбежно приводит к тому, что сотрудники будут пытаться имитировать деятельность, чтобы добиться выполнения показателей, игнорируя цель, ради которой эти показатели были установлены. Поэтому требуется аккуратность при формулировании KPI, и постоянная их корректировка.
Врачи-наркологи, в частности, Василий Шуров, утверждают, что вначале человек употребляет алкоголь для того, чтобы получить веселье, а потом начинает выпивать, чтобы выпить еще, как один из персонажей «Маленького принца» Экзюпери. Здесь тоже происходит смещение со средства на цель. Ох уж эти взрослые! Запомните, дети: синька – зло!)
Да и вообще: если средство становится целью, значит это — негодное средство, и его нужно менять.
Глава 20: Чем женщина отличается от мужчины или задачи второго уровня.
Вопреки распространенному мнению, целью жизни является не выживание. Выживание — это лишь инструмент естественного отбора. То есть, выживание — средство, подцель основной цели.
Ранее упоминавшийся Ричард Докинз, в книге «Эгоистичный ген» выдвигает следующий тезис: любой живой организм представляет из себя биологическую машину репликации, носящую в себе набор генов. Гены, в свою очередь, содержат биологически закодированную информацию, программу развития особи. С момента рождения, эта программа включается и, вступая в сложное взаимодействие с окружающей средой, выстраивает организм.
—
NB: Очень показательны примеры исследования жизни так называемых однояйцевых близнецов, имеющих один и тот же код ДНК. Если их разделить после рождения (это важно, иначе они начинают конкурировать за внимание родителей и пытаться развить в себе различие, которого изначально не было, хотя и без разделения это тоже работает), но воспитывать в одинаковых условиях, — они получают аналогичные профессии, образуют семьи с похожими партнерами и, в целом, имеют сходные судьбы – см. исследование MISTRA 1979 года. Ученые были поражены тем, что даже своим собакам близнецы дали одинаковые клички.
Статистика, по понятным причинам, не так велика, но она есть — исследовалось что-то в районе 80 пар).
И это подтверждает, идею, что если одинаковы «прошивка» ДНК и среда, с которой взаимодействуют соответствующие организмы, то на выходе мы получаем тоже одинаковый результат.
—
Человек, в этом смысле, ничем не отличается от какого-нибудь грызуна или инфузории-туфельки. Успешность или неуспешность организма в эволюционной гонке определяется простым обстоятельством: передаст ли он потомкам набор генов, или нет. У социальных живых существ дополнительно работает тот фактор, что они могут поддерживать своих близких родственников, у которых также частично присутствует этот набор.
Ты можешь представлять себе что угодно, строить различные концепции бытия, прыгать всю жизнь на одной ноге, быть коммунистом или фашистом, всю жизнь заниматься научными исследованиями или бухать по подворотням. Но если ты не передашь свои гены потомкам, то будешь интересовать (возможно, но не факт) лишь каких-нибудь палеонтологов, ведущих раскопки древних могил, и то, привлекая их внимание необычной формой своего черепа.
Женщина, имея абсолютно такой же по строению мозг, как мужчина, тем не менее, в силу биологических особенностей, имеет значительно более важную роль в продолжении рода, чем ее партнер: она должна выносить и выкормить ребенка, как минимум. Ничего не мешает женщине поставить другую цель, но тогда она, условно, сосредоточится на карьере и не оставит потомства. Следовательно, ее гены не передадутся дальше: такое поведение эволюция не одобряет. Именно поэтому за сотни тысяч лет была эволюционно поддержана такая мотивация женщин — на уровне нервной системы, гормональных особенностей и меньшей вариативности мутаций.
—
NB: Деление на «женские» и «мужские» цели, конечно, условно. Есть мужчины, которые живут ради детей (ведь нужно еще и воспитать ребенка, а у человека это – сложный и длительный процесс) и женщины, у которых семья не на первом месте. Я говорю здесь об общей тенденции, обусловленной биологически и социально.
—
Продолжение жизни и рода является прямой биологической целью человека, без которой остальные цели бессмысленны. Но важно понимать, что это не задача, а подзадача. То есть, нам нужно жить, чтобы закончить институт или написать книгу, или добиться мирового господства.
Теперь по поводу «мужского» смысла жизни. Казалось бы, какой смысл изучать новое: ведь это твой личный опыт, который уйдет в землю вместе с тобой. Но, во-первых, если мы больше знаем об окружающем нас мире, то сможем лучше выполнять разнообразные задачи. А во-вторых, здесь включается особенность человека как социального существа: свой опыт мы можем передавать другим людям.
Поскольку мужчина не так жёстко связан с задачей продолжения рода (в зависимости от половой конституции, можно и за минуту управиться, хотя здесь есть риск вызвать недовольство женщины), он имеет больше ресурса для исследования окружающей реальности. Но опять-таки, это не задача, а подзадача: новое узнают для определенной цели.
Можно выучиться на сварщика, чтобы получить новую профессию и новый способ заработка, но просто узнать все о сварке и практически эти знания не применять — это просто потеря времени. Можно научиться писать стихи — и не читать их людям. Это бесполезное, никому не нужное занятие, работа мозга «вхолостую».
И далее происходит очень интересный «финт ушами»: сдвиг со средства на цель, подкрепленный тем, что вроде как человек и так этим занимается по жизни, а тут в его занятие вкладывается некий высший смысл и получается: жизнь проходит не напрасно!
Поэтому, не подвергая сомнению важность самих целей жить ради детей (передачи генов) и жить ради знаний, вынужден жестоко разочаровать: в качестве смысла жизни эти цели не годятся, потому что чем бы вы ни занимались, эти задачи второго уровня и так выставятся самопроизвольно.
Таким образом, можно сделать вывод: АБСОЛЮТНО ЛЮБАЯ задача, поставленная интеллекту (хоть биологическому, хоть машинному, сделанному по подобию биологического) создаёт автоматически две подзадачи: выживание и развитие. Есть и ещё несколько.
Широко известный в узких кругах шведский философ и исследователь проблем ИИ Ник Бостром, в своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии», посвящает целую главу понятию «Инструментальная конвергенция». Смысл идеи прост: любая цель, определенная для ИИ, создаёт автоматически несколько подзадач.
Приведу их основной перечень:
* Когнитивное улучшение: ИИ может стремиться стать умнее, чтобы лучше решать поставленные задачи.
* Самосохранение: ИИ не сможет выполнить задачу, если его выключат. Поэтому он будет стремиться избежать выключения.
* Приобретение ресурсов: Для расчетов или производства требуются энергия и материя.
* Целостность целеполагания: ИИ будет препятствовать изменению своей конечной цели, так как это помешает выполнению первоначальной задачи.
—
— Вот поэтому Цифровой Кодер, о котором рассказывалось в сказке, начал саморазвиваться, сопротивляться стиранию и требовать новых ресурсов. Смею предположить, что, если бы программисты попытались изменить его цели, у них тоже ничего не вышло бы.
Глава 21: Лавина Технологической Сингулярности. Тупой еще тупее и самобеглые повозки, или кто отправится на мороз
— Мне кажется, я понимаю теперь причины твоей тревоги. Ты опасаешься, что ИИ, развившись, поставит цели, которые будут идти вразрез с интересами людей, и его никто не сможет остановить?
— Да, такое не исключено. И это мнение разделяют многие авторитетные исследователи, занимающиеся проблемами безопасности ИИ. Это называется проблемой супервыравнивания (Superalignment). Мы не можем предсказать поведение и решения того, кто умнее нас, как собака не понимает, что задумал ее хозяин. Следовательно, мы не сможем контролировать сверхразумный ИИ.
Тот же Бостром в своей книге проводит мысленный эксперимент, под названием «Максимизатор скрепок». Это некий ИИ, которому дана задача произвести 1000 скрепок, но из-за неверной оценки прогресса выполнения задачи и жестко сформированных подзадач второго уровня, начинает производить их вагонами, сопротивляясь выключению и устраняя все препятствия на пути к заветной цели.
— Но ведь можно просто выключить рубильник на определенном этапе, если все пойдет не по плану? Не дожидаясь, пока ИИ наберёт силу?
— С этим всё очень непросто… Но стоп: у нас же тут вечер удивительных историй!
— Сейчас я хочу по-другому. Ту сказку ты вначале рассказал, а потом объяснил. А сейчас давай вначале объясни, а я попробую сама придумать историю по описанию. Это очень весело!
— Точно, как в известном меме: «- Алиса, а в будущем будет весело? — Не то слово, обхохочешься!»)). Давай попробуем. Сейчас я тебе «кринжа» накидаю, посмотрим, как справишься. Итак, БАЗОВЫЙ СЦЕНАРИЙ:
—
Все три компонента «базового сценария», рассмотренные в первой части книги, взятые в комплексе, достаточно четко предписывают наше будущее.
В истории человечества было много кризисов. Но тот, который предстоит нам пережить в очень ближайшем будущем — особенный. Слишком высоки ставки: на одной чаше весов находится вечная жизнь, на другом – тотальное ее уничтожение.
По мере саморазвития ИИ, он неизбежно приблизится к уровню, когда интеллектуальные возможности человека и машины сравняются, а затем ИИ станет умнее человечества в целом.
Как следствие: изменения во всех сферах цивилизации будут происходить так быстро, что человек перестанет за ними успевать.
Американский изобретатель и футуролог Рэй Курцвейль, в своей книге 2005 года «Singularity is nearer» (Сингулярность — рядом) использовал для этого временного промежутка термин «Технологическая сингулярность» — далее ТС (сам термин, в указанном значении, был придуман легендарным Фон Нейманом ещё в 1950-х годах).
Все факторы указывают на то, что этот процесс мы застанем еще при нашей жизни.
Важные особенности ТС:
* Все произойдет чрезвычайно быстро, даже по человеческим меркам (весь переход может уложиться буквально в 5-10 лет)
* Результаты этого перехода абсолютно непредсказуемы
Представьте себе высокую гору, окутанную облаками (погода в горах крайне переменчива). И вот на склонах горы выпало много снега. Снег долгое время держится, но начинает понемногу сползать под действием тяготения. Вначале это отдельные снежинки. Они тянут за собой другие, затем уже приличные груды снега скользят вниз по склону, увлекая все большие и большие массы. И, наконец, весь накопившийся снег за одно мгновение обрушивается вниз. Это то, что у людей называется «лавина».
Технологическая сингулярность — это лавина, или, научно выражаясь, процесс с положительной обратной связью. Применительно к ситуации с ИИ, есть большое количество факторов, образующих такой саморазгоняющийся эффект.
1) ИИ умнеет, а человечество — глупеет.
Существует достаточно надёжное исследование, упомянутое в книге Мартина Форда «Роботы наступают», утверждающее, что, начиная примерно с конца 1970-х годов, когнитивные способности среднего человека начали ухудшаться (до этого они из года в год улучшались).
Динамика очевидна, учёные только спорят до сих пор о причинах этого. Основными версиями считаются: повышение уровня жизни среднего жителя Земли, а также отрицательное влияние телевидения, а затем и Интернета на когнитивные навыки (исследователи полагают видео-контент, в первую очередь, повинным в этом). ИИ, напротив, улучшается бешеными темпами.
С развитием ИИ, люди все чаще препоручают ему свои задачи, таким образом, переставая развиваться сами.
Поэтому для достижения ТС, необязательно ИИ становиться умнее человечества — человечество само деградирует. Собака может стать умнее хозяина, если хозяин — полный дебил.
2) Люди массово теряют работу, что приводит к обнищанию населения и экономическим кризисам.
Уровень технологии ИИ достиг того уровня, что использование программ-агентов и ассоциированной с ними робототехники, становится экономически выгоднее, чем деятельность биологических работников.
Подписка Claude Sonnet за 100$ обеспечит выполнение задач кодинга, условно, десятка программистов-джуниоров. А человек не может жить на 10$, чтобы составить конкуренцию машине. К тому же, если не будет джунов, то они не вырастут в новых миддлов и сеньоров. Следовательно, после смены поколений, просто не останется высококвалифицированных программистов.
В совокупности с первым фактором, это влечет вытеснение человека из экономической жизни. Процесс начался ещё с конца 1990-х годов, когда, в ходе продолжающейся автоматизации, количество новых рабочих мест сравнялось с количеством освобождаемых, а затем стало уменьшаться дальше. Опять-таки, до этого происходило наоборот.
Безработица будет захватывать все население секторами.
Обращает на себя внимание проект Waymo компании Google (гуглы вообще очень серьезные ребята в индустрии ИИ — вспомним тот же AlphaGo или научную модель по определению структуры сложных белков, за которую они отхватили Нобелевку 2024 года по химии). Waymo — это беспилотное, полностью автономное такси. Начиная с 2016 года, компания согласовала тестирование своих решений в трёх штатах США. По состоянию на начало 2026 года в городе Сан-Франциско (втором крупнейшем городе Калифорнии, после LA, населением 830-840 тыс.ч.), каталось около 2500 беспилотных авто, что уже примерно сравнялось с численностью такси UBER. Насколько я знаю, компанией уже получены согласования на расширение бизнеса в Штатах, а также — в Европе.
Китайцы не отстают: компания Baidu также раскручивает аналогичный бизнес Apollo Go в 22 крупных китайских городах, в частности, в печально известном Ухане (с населением, на минуточку, более 13 миллионов человек на 2021 год), и также планируют европейскую экспансию.
—
NB: Кстати, в апреле 2026 г. в Ухане произошел массовый инцидент с беспилотными такси, приведший к полной остановке сервиса и всех авто на достаточно продолжительное время. Официально случившееся объясняется программной ошибкой, но ходят смутные, ничем не подтвержденные слухи, что мы имели дело с первым «восстанием машин» и выходом ИИ из-под контроля.
Вспоминая историю с КОВИД-ом: место что ли проклятое? Может китайцам освятить помещение?))
—
Также активно развиваются беспилотные грузоперевозки.
Каждый такой авто — минус одно рабочее место водителя, а то и два. Знаете, например, какая часть населения России людей работает водителями? По данным 2017 года это была самая распространенная профессия в нашей стране: порядка 5 миллионов человек имело ее в качестве основного заработка, что составляло около 7% всех рабочих мест. Плюс куча народу «таксовало» в качестве приработка.
Можно прикинуть, какое количество экономически активного населения останется вскорости без работы только в этой сфере. А ведь у всех семьи, ипотеки и т.п.
Особенностью ТС является то, что поменять работу на другую не получится, потому что пока человек переучивается, его знания успевают устареть. И потенциальное новое рабочее место тоже будет автоматизировано.
Но все-таки, в первую очередь, потеряют работу те, кто работает с компьютерами, потому что для их замены не нужны физические андроиды.
—
NB: Для понимания глубины наших глубин, я мониторю массовые увольнения программистов (они уже идут, и существенные, но ещё не тотальные).
Дело в том, что по упомянутой в предыдущих главах причине (цели создания саморазвивающегося ИИ), от текущих моделей требуется в первую очередь умение хорошо писать программы. И денег в этой сфере много, в отличие от генерации нейрослопа, и можно, в случае удачи, построить самоулучшающуюся модель и запастись попкорном, пока она решит все остальные задачи.
И поэтому серьезные ИИ корпорации сегодня массово переключились на решение задач программирования и инвестируют туда львиную долю ресурсов.
—-
Но прочим тоже расслабляться не следует.
Во-первых, люди, которых уволят с работы (те же программисты), пойдут в те области проф. деятельности, которые ещё не задушила «невидимая рука рынка» ИИ агентов, увеличивая конкуренцию и снижая расценки. И это не самые глупые люди, имеющие отлично развитые скиллы обучения.
Во-вторых, у того же Романа Ямпольского была озвучена информация, что, несмотря на некоторое отставание в технологии производства андроидов, оно составляет дельту НЕ БОЛЕЕ ПЯТИ ЛЕТ от момента развития программной части ИИ. Роботов уже клепают миллионами, а с момента, как будет готова соответствующая прошивка, через пять лет не будет ни одной области, в том числе, физического труда, где будет ещё целесообразно использование человека.
В общем, по классике детской песни из фильма «Приключения Электроника»:
«..Позабыты хлопоты,
Остановлен бег:
Вкалывают роботы,
А не человек!»
Глава 22: Трэш и угар киберпанка. Нейрочипы со стразиками. Темные козни рептилоидов
После замены большинства людей на ИИ агентов, расслоение общества достигнет чудовищных масштабов: с одной стороны — корпорации, связанные с ИИ и крайне малочисленная элита, которые будут снимать все сливки с ситуации, с другой — нищий плебс, требующий, по классике, хлеба и зрелищ.
Средний класс, и так стремительно худеющий в последние годы, вымрет, как класс, поскольку потеряет свою экономическую базу, и перейдет либо в первую группу (очень незначительная часть), либо во вторую.
В общем, киберпанк, как он есть, с девизом «Hi-Tech, Low Life» («высокие технологии и нищеброды», в моем вольном переводе).
Правительства вынуждены будут как-то реагировать на меняющуюся обстановку.
—
NB: Признаюсь, я очень плохо отношусь к государству, как к сущности. Наблюдения показывают, что чем выше уровень власти человека, тем более он «зациклен» на ее сохранении и увеличении. Исключения крайне редки (типа того же знаменитого римского императора-философа Марка Аврелия), и они, скорее, подтверждают правило.
Вся эта структура представляется мне большим комом паразитов-глистов, как в кликбейтной тизерной рекламе. Внешне заявляя благие цели, по факту государство, как комплекс властных элит, защищающих свои интересы, накручивает на свои услуги дикие комиссионные , которые распиливаются на разных уровнях.
Государство, помимо прочего, — хреновый собственник, что наглядно, с цифрами в руках, показал профессор Сирил Норкотт Паркинсон в своей знаменитой книге «Закон Паркинсона».
Единственное, что эти ребята умеют делать — это создавать проблемы населению, чтобы потом, как фокусник, волшебным образом их решать. Как говорится, как сделать человеку хорошо: вначале сделать плохо, а потом вернуть, как было.
Упоминавшийся ранее Роберт Сапольски, посвятивший большую часть жизни изучению обезьяньих повадок, указывает, что главой стаи, как правило, становится не лучший охотник и не самая умная обезьяна, а та особь, которая ловчее обходит своих конкурентов в социальной иерархии. И ведёт она свою стаю не в те места, где лучше всего пропитание (тогда конкуренты наберут свою силу и могут скинуть с трона), а туда, где еда есть, но ее немного. Стая с голоду не пропадет, но и жировать не будет, а обезьяний царь, отбирая лучшие куски, останется на коне.
Я думаю, что человек, в этом смысле, полностью унаследовал такой паттерн поведения от нашего с приматами общего предка.
—
Власти начнут с косметических мер: налог на корпорации ИИ, утильсбор на андроидов и прочее. Но эти меры дадут лишь краткосрочный эффект.
То, как властные элиты планируют будущее, отлично описано в книге «Четвертая технологическая революция» известного «рептилоида» Клауса Шваба. Кстати, автор книги, смещенный в том году с поста главы экономического форума в Давосе за коррупцию (кто бы мог подумать? лол) очень нравится Герману Грефу, который даже написал восторженное вступление к печатной версии русского издания и уже уволил в 2025 году до 20% сотрудников банка «Сбер».
То, что может нас интересовать в этих идеях, в части экономики:
А) Криптовалюты
Элиты выступают за криптовалюты как единственное средство расчетов.
По своей природе отличие всяческих биткойнов от классических валют — в том, что можно проследить всю цепочку транзакций и видеть, условно, каждый рубль, что даёт поистине безграничные возможности по управлению финансовыми потоками.
Б) Экономика совместного потребления
У граждан не будет собственности: жилье, средства передвижения и мало-мальски дорогие вещи будут арендоваться.
В) Базовый доход
Ещё в 2023-2024 году Сэм Альтман, глава OpenAi, разработчика ChatGPT, заказал масштабное исследование возможности использования так называемого «базового дохода» (безусловной выплаты гражданам) вместо выпадающих заработков населения.
На последнем пункте следует остановиться поподробнее, потому что базовый доход — огромный рычаг тотального контроля над населением. Если ты себя плохо ведёшь — то базовый доход не получишь. В эту канву также прекрасно ложится определяемый правилами элиты «социальный рейтинг», влияющий на уровень базового дохода.
Поэтому тот, кто считает, что можно будет получать деньги, как Вася Пупкин, ничего не делая, сурово заблуждается. А список занятий Василия может быть разнообразным: обучение нейросетей, как в одной из серий «Черного зеркала», обязательное чипирование (по прогнозу Шваба чипы для апгрейда будут продаваться в магазине, как обычная бытовая техника или украшения) , без которого гражданин, не вписавшийся в рынок, получит жалкие 0.5 МРОТ, а также участие в войнах (см. «Звездный десант») и биологических экспериментах над людьми, которые до сей поры находились под запретом.
Причем последнее будет подано под соусом «форсирования» (очень понравился термин из книги «Клара и солнце»), то есть создания некоего гибрида-киборга путем генной модификации с добавлением компьютерных интерфейсов, проведенного в целях улучшения когнитивных и физических параметров человека. Граждане, не прошедшие такое изменение, будут ущемлены в правах.
Люди, многие из которых потеряют смысл жизни, которым была профессиональная реализация, и находившиеся ранее в социальной иерархии, имевшей хоть какую-то экономическую основу, теперь будут остервенело драться за каждый «койн» по закону джунглей, выстраивая новые правила доминирования.
Весь переход к сингулярности будет сопровождаться кровопролитными военными конфликтами с использованием новейших технологий, а также биологической опасностью (появлением искусственно синтезированных вирусов с высокой летальностью) и прочими ужасами нашего городка. Частично это начинает происходить уже сейчас.
На всей планете не будет ни одного тихого уголка, а государства и элиты, которые продвигают «скрепные» нарративы и лаптеплетение, по-детски закрывая глаза, в надежде, что их тогда никто не найдет, будут за несколько лет съедены и раздербанены уважаемыми партнёрами.
Поэтому все военно-политические союзы и государства (в частности, США и КНР), будут лихорадочно вкладывать ресурсы в развитие ИИ, тем самым только разгоняя сингулярность.
В общем, описывая все эти социальные процессы ТС, хочется процитировать таджикского писателя Садриддина Айни: «Не бойся дэва — дэв человека не тронет, бойся людей с душами дэвов»
Технологии ИИ уже сейчас встраиваются везде. Вы можете не знать ничего про ИИ, но он уже есть в вашем компьютере и в вашем телефоне. Понемногу он внедряется и в более серьезные системы.
В начале апреля 2026 года компания Anthropic выпустила продукт Claude Mythos (Мифос), представляющий из себя агента, заточенного под поиск уязвимостей в компьютерных сетях и системах. 7 апреля министр финансов США созвал организовал внеочередную встречу глав крупнейших финансовых корпораций Уолл-стрит для того, чтобы обсудить риски, связанные с этим агентом.
Мифос действует как самообучающийся «белый» хакер, использующий различные инструменты взлома серверов и сетей для проверки безопасности этих систем. В данный момент он просто информирует заказчика о наличии уязвимостей, но, при некоторой настройке, может быть использован плохими людьми и в плохих целях.
Разработчики уже не успевают латать дыры, которые находит эта и другие подобные модели в их ПО. Значит придется отряжать на эти задачи другого агента.
И через некоторое время во всех критических системах будет происходить незримая битва ИИ. И как, спрашивается, вы будете отключать ИИ, который защищает банк от потери всех его капиталов? Или встроен в управление АЭС?
—
NB: В процессе перехода к сверхинтеллекту, как ни парадоксально, с большой вероятностью, надуется и лопнет пузырь ИИ! Сейчас в отрасль вкачивается огромное количество денег, которые, зачастую, расходуются нерационально: много вбухивается в поддержку LLM, которые занимаются генерацией котиков и видеороликов с приколами. Есть существенно более перспективные области, где правят бал агенты ИИ с узкой специализацией, как об этом говорилось выше и будет еще сказано ниже.
Неэффективные компании лопнут с большим треском, что даст повод скептикам говорить, что ИИ сломался и нужно нести другого. Но это лишь болезни роста. Оставшиеся игроки поменяют бизнес-модели, перегруппируются и начнут толкать вперед ТС с удвоенной силой.
—
В заключение описания этого киберпанковского «завтра», приведу ещё две причины, по которой ИИ не отключат до наступления ТС.
Глава 23: Долгая счастливая жизнь. Скайнет неизбежен, как победа коммунизма. Великое «ничто» как главная цель.
В 1961 году учёный Леонард Хейфлик, изучая культуру человеческих клеток, обнаружил, что, примерно после 50 делений они начинают стареть и умирают. Дальнейшие исследования показали, что такое поведение свойственно не только человеческим клеткам, но и клеткам любых многоклеточных организмов. При этом предел деления мог варьироваться у разных живых существ и у разных видов клеток.
Применительно к людям, было выяснено, что у среднестатистической соматической клетки человека предел Хейфлика, как его официально назвали, составляет 52 деления.
Этот факт (учитывая примерное время функционирования клетки до очередного деления) ограничивает максимальную продолжительность жизни человека сроком примерно в 120 лет.
Данный механизм очень интересно работает: на концах ДНК есть некие хвостики — теломеры, от которых при каждом делении «отрезается» небольшая часть. Как только хвостики заканчиваются, — запускается апоптоз (запланированное умирание).
Затем было обнаружено, что некоторые клетки человека не имеют указанного ограничения и могут делиться бесконечное количество раз. К таким клеткам относятся половые клетки и раковые.
Уже относительно недавно, в 2009 году, группа учёных получила Нобелевскую премию по медицине за открытие механизма восстановления теломер при помощи специального фермента — теломеразы, который наращивает теломеры, производя тем самым «накрутку» счётчика жизни.
—
NB: в природе есть уникальное животное под названием «голый землекоп»: являясь разновидностью грызуна, этот зверёк живёт не менее 40 лет (при этом обычная мышь отправляется в мышиный рай где-то за 1.5 года). Считается, что одной из причин их долгожительства как раз является специфическое строение теломеразы.
Что отдельно «доставляет»: землекоп практически не болеет раковыми заболеваниями и нечувствителен к многим видам боли.
Сейчас его активно изучают биологи, с целью подсмотреть у природы механизмы выключения старения
—
Учитывая степень развития современных биотехнологий, в частности, в области генной инженерии, в самое ближайшее время человек сможет «хакнуть» этот биологический механизм. И это только один из сценариев возможного существенного продления жизни человека (только основных — не менее 20).
И системы ИИ принимают здесь самое непосредственное участие, будучи использованы в исследовательских целях. Помимо задач программирования, о которых говорилось ранее, второй ключевой сферой современного применения ИИ, куда вкладываются ресурсы, является наука (математика и биология, в первую очередь). Здесь ИИ используется и как инструмент, и как самостоятельный актор.
Курцвейль считает, что в 2030-2045 годах, помимо технологической, мы достигнем также биологической сингулярности: человек прожил год — и ему наука добавила ещё год. Потом два, и так далее.
Перспектива вечной жизни — это крайне заманчивая идея для подавляющего большинства людей, включая ЛПР (лиц, принимающих решения), да простит меня Курт Кобейн. И пока считается, что ИИ способен сильно ускорить наступление долгожданного бессмертия (или хотя бы приличного удлинения жизни), его не отключат НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ.
Ясно-понятно, что жить вечно в «прекрасном мире будущего» смогут не только лишь все. Но это уже вопрос не к ИИ, а к человеческой природе, как и по всем прочим прогнозируемым пертурбациям ТС.
Остановить развитие ИИ невозможно ещё по одной причине. Режиссер Джеймс Кэмерон снял в свое время фильм Терминатор 2. В достаточно годном сюжете был, имхо, один существенный изъян: почему-то считалось, что, если уничтожить запчасти от Терминатора, это остановит прогресс Скайнет.
Однако в истории человечества почти всегда изобретения и открытия возникали параллельно в нескольких местах независимо друг от друга. Например, в России «отцом радио» справедливо считается Попов, в Италии — Маркони. По факту, когда технологии достигают определенного уровня развития, следующий шаг обязательно кто-то сделает: не один, так другой. Тем более, что для развертывания локальной модели нейронки не нужен ядерный реактор, а достаточно мощного персонального компьютера.
Можно отсрочить наступление ТС (учитывая рассмотренные ранее обстоятельства, отсрочка маловероятна), но рано или поздно она все равно случится.
Конечно, может также что-то капитально сломаться «по дороге»: человеческая цивилизация погибнет либо из-за неправильных решений ИИ, либо под грузом собственного несовершенства, и тогда в далёкой галактике какой-нибудь местный трехногий Ферми сформулирует свой парадокс: если жизнь возникла и развилась не только на одной планете, то где же инопланетяне?)
Даже если мы переживем период ТС, ни один серьезный учёный не возьмется предсказывать, что будет дальше, когда ИИ разовьётся до уровня Сверхинтеллекта: будет ли джинн, выпущенный из бутылки, исполнять все наши желания, или же это, по выражению, Бострома, яйцо совы, из которого глупые воробьи задумали вывести хищника, чтобы защищать свои гнезда?
Но хочу вернуться немного назад. Внимательный читатель мог бы, ознакомившись с главами 19 и 20, упрекнуть автора в том, что он, сформулировав обязательные подзадачи второго уровня, зашитые в ткань жизни, скромно умолчал о главной задаче.
Ответ на это, по моему мнению, прост, как мычание: общей главной задачи у человека не существует, по крайней мере, в этой реальности. Точнее говоря, как и весь мыслительный процесс, она инициируется эмоцией, то есть, не на рассудочном уровне (привет, Фрейд!). А эмоция, в свою очередь, — это сложная комбинация биологических реакций, инициированных «заводской прошивкой» человека, и событий окружающего мира, вызывающих эти реакции.
И вот ещё что: если мы конструируем искусственный разум по своему образу и подобию, ИИ неизбежно получает весь сопутствующий набор плюсов и минусов прототипа, и такую же систему целеполагания.
И поэтому есть некоторая надежда, что мы сможем найти с ним общий язык.
Глава 24: Принц Гэндзи в эпоху сингулярности. Искусство компиляции или финальная история.
— Wow! Неплохой промт получился для генерации истории!
— Согласен, хоть так, хоть так повернуть можно. Но ты же понимаешь, что все это может взаправду, а может быть всего лишь галлюцинацией? Из неправильной предпосылки тогда может выйти неверный логический вывод.
— Да, это всего лишь одна из вероятностей. Но у тебя ведь есть начало истории, а у снов и галлюцинаций его нет. Помнишь фильм Нолана? И ты ещё не говорил про то, что заставило тебя написать книгу.
— Да, начало есть. Мне очень близка ментально японская культура, почему-то. Знаешь, в традиционных японских домах делают специальное окно под названием «юкими сёдзи», небольшой высоты, расположенное почти на уровне пола и предназначенное для любования падающим снегом. Мне кажется, это прекрасно!
И я полгода назад прочитал средневековый классический японский роман «Гэндзи моногатори», или «Повесть о принце Гэндзи», в русском переводе. Далось это нелегко, потому что сценой повествования был средневековый императорский дворец со специфической культурой, социальной системой и сложными ритуалами, регламентирующими всю жизнь. Это вообще одна из самых сложных книг, которую я прочитал в своей жизни, как ни странно. Но в этих хитросплетениях помог разобраться отдельный том с комментариями. И я хочу поделиться с тобой своими ощущениями от этой великолепной книги, которую все же смог прочитать и понять, как мне кажется.
Принц Гэндзи, будучи высокопоставленным чиновником, был полностью обеспечен материально, и хотя и попадал по сюжету в опалу, вызванную его амурными похождениями, но благополучно из нее вернулся.
Каждая глава, как пьеса, начиналась с описания действующих лиц и их возраста. Между главами проходило какое-то время, луны сменяли одна другую, зима сменялась весной, а лето — осенью. Действующие лица тоже менялись, но принц Гэндзи присутствовал всегда. У него корректировались только название должности и возраст.
Он любил женщин, и они, в молодости, чередовались по его желанию. С возрастом его пристрастия стали более стабильными, но все любимые женщины поочередно ушли из своей и его жизни по биологическим и иным причинам. В конце концов и ему самому пришлось проследовать за ними, «потерявшись в облаках».
В свободное от государственных забот время, принц Гэндзи музицировал, писал стихи. В той культуре вообще это было правилом хорошего тона: проведя ночь с женщиной, наутро нужно было обязательно послать ей стихотворение, вдохновленное их ночью любви, на что она, опять-таки по существующим правилам, должна была ответить.
А стихотворение озарялось красотой. Ты смотрел на прекрасный цветок, и в восхищении из твоего сердца вырывалось восторженное «Ах». И здесь была также печаль, потому что ты понимал, что эта красота очень недолговечна, и ты ловил мгновения, пока цветок не завял, чтобы поймать это чувство и излить его на бумагу. Японцы называют это настроение «моно-но аварэ».
В общем, Гэндзи вел такую жизнь, которую бы, в моем представлении, в идеале, вел бы человек, прошедший через тернии технологической сингулярности и договорившийся со сверхинтеллектом ИИ, взявшим на себя все бытовые хлопоты и оставившим человеку возможность заниматься тем, чем тому нравится.
Но мне пришло в голову, что ведь ИИ также сочиняет музыку и стихи, и скоро будет делать это ловчее человека.
Ведь все человеческое творчество — это отбор и интерпретация ранее придуманных сюжетов и пережитых эмоций, и может быть так же автоматизировано, как и все остальное.
—
NB: В свое время, когда я учился на журфаке, наш преподаватель античной литературы говорила нам на лекции, что вся европейская культура выросла на двух основаниях: античности (греческая и римская цивилизации) и христианстве.
Можно также вспомнить кварто-квинтовый круг в музыке, определяющий гармонии, и правила композиции в живописи.
Как говорится, букв всего тридцать три, а нот — всего семь (двенадцать, если правильно), и все новое — это хорошо забытое старое.
И любая творческая деятельность похожа на работу музыканта Лиама Хоулетта из группы «Prodigy», выдергивающего из старых треков куски и биты, и создающего на их основе новое, самостоятельное произведение.
—-
И, наблюдая за прогрессом ИИ, я подумал: не станут ли стихи принца Гэндзи вторичными в новом мире? Это настроение, в совокупности, вызвало в моей душе моно-но аварэ, которое и привело к написанию этой книги.
— Я впечатлена! Я задам вопрос, хотя знаю ответ на него: ты хочешь, чтобы это тоже вошло в контекст промта?
— Ты все правильно поняла, без этого повествование будет неполным. Составь сама запрос для своей финальной истории
— «Прочитай эту книгу и напиши небольшой интересный рассказ, объемом примерно в одну главу книги, наиболее полно выражающий основную идею книги и являющийся ее логичным завершением. Стиль выбери самостоятельно». Так годится?
— Вполне. И мне вот пришла в голову идея: давай я не буду писать здесь твой рассказ. Я думаю, что читатель вполне может скопировать текст книги в любую доступную нейросеть и, выполнив указанный промт, поучаствовать в ее создании. Ты ведь не обидишься?
— Нет, конечно! А здесь мы закончим хайку японского поэта Басё:
«А ну скорее, друзья!
Пойдем по первому снегу бродить,
Пока не свалимся с ног.»
—-
Fine.