ЧАСТЬ 2: ВРЕМЯ РАЗБРАСЫВАТЬ КАМНИ
Предисловие ко второй части
Это небольшое (вначале) эссе начал писать несколько месяцев назад. Затем, по ряду причин, его пришлось отложить. Но теперь решил вернуться к этой теме, поскольку идеи, высказанные тогда, за прошедшее время не потеряли актуальность, а напротив: события пошли, по моему мнению, быстрее, чем прогнозировались. Поэтому решил закончить этот «креатифф», пока его выводы не стали уже полностью заголовками новостей.
Для того, чтобы не потерять мысль, сформулирую три озвученных в первой части компонента «Базового сценария»:
«1. Любая регулярная деятельность человека стремится к автоматизации, и, в конечном счёте, приводит к ней».
«2. При условии недостаточности ресурсов, преимущество получает система, имеющая лучшую экономическую (биологическую) эффективность.»
«3. Объем знаний человечества растет быстрее способности человека их воспринять»
ГЛАВА 9: ЧУКЧИ, КУКЛЫ ВУДУ И ПРОБЛЕМА ВАМПИРОВ
Я с детства любил научную фантастику, и перечитал все доступные книги в этом жанре. Видимо это сформировало мое личное стойкое убеждение, что мы живем в мире ожившей научной фантастики, которая медленно, но верно, приближается к своей разновидности под названием «Киберпанк».
Большой Всепланетный Информаторий (БВИ) братьев Стругацких – суть Интернет. Когда читаешь про рой дронов с самообучением, немедленно вспоминается «Страж-птица» Роберта Шекли. Айзек Азимов со своими тремя законами робототехники приходит на ум в связи с прогрессом роботов и ИИ. И так далее.
Что же привело человеческую цивилизацию к этой точке?
Кажется, это произошло по давно известной у культурологов линейной модели развития культуры, описываемой, как Архаика -> Модерн -> Постмодерн. Сразу следует оговориться, что исследователи допускают как некоторое обратное движение (регресс), так и причудливо сплетенные сочетания упомянутых выше стадий.
Есть один прелестный анекдот про чукчу, в котором собраны все три указанных этапа:
«Чукча собрался на охоту. Решил сначала узнать у шамана про погоду. Шаман поплясал у огня и предсказал на завтра хорошую погоду. Чукча ушел, а шаману захотелось самому узнать, какая будет погода. Пошел на метеостанцию. Синоптик выглянул в окно и говорит: Хорошая погода будет, вон чукча на охоту пошел.»
Шаман здесь представляет архаическую стадию, синоптик – модерн. А самовоспроизводящийся прогноз синоптика – типичный симулякр по Бодрийяру, то есть постмодерн.
Для понимания, приведу ещё одну, как мне кажется, достаточно точную аналогию. В целом, три указанные стадии развития цивилизации вполне укладываются в соответствующие стадии развития отдельного человека: детство, зрелость и старость. В дальнейшем мы увидим, что эта модель так и работает.
Интересно, что, в рамках указанной парадигмы развития культуры и общества, прекрасно сосуществуют и наука, и искусство, и, даже, религиозные концепции. Поэтому на данном этапе рассуждений можно рассмотреть всю цивилизацию в комплексе.
Архаическая стадия (я бы, учитывая некоторую отрицательную коннотацию слова «архаика», предложил бы в качестве синонима выражение «эпоха легенд», но буду придерживаться общепринятого термина), в целом, характеризуется представлением о цикличности времени, формулированием и точным воспроизведением традиций, передающихся от поколения к поколению, упором на коллективный способ человеческого общежития, а также, в целом, мифологической трактовкой действительности.
Именно архаике присуще магическое мышление. Принцип подобия: кукла «вуду» является моделью врага, и причинив ей вред, можно насолить своему противнику, или представление о том, что, съев сердце льва, можно стать сильным, как лев. Примат духовного, в том числе сверхъестественного, над материальным: языческие верования о том, что у каждого места или существа есть дух-хранитель, который может помочь или помешать; «позитивное» мышление – думай о деньгах, и будешь богатым. Разного рода гадания, гороскопы, ритуалы — «ловись, зачет», — и подобное.
Дети любят сказки, а в каждом взрослом хранится частица ребенка. Поэтому архаика – наиболее древняя и наиболее живучая часть культуры, которая постоянно «прорастает» даже в нашей современности.
Возьмем, положим, миф о вампирах. Итак, что мы знаем об этом? Вампиры сосут кровь (вариант – кусают), укушенные сами превращаются в вампиров. Визуально представляются в виде летучих существ, иногда – в виде волков-оборотней. Они боятся солнечного света и святой воды, а также не отражаются в зеркалах. Вроде ничего основного не забыл.
Наука не изучает вампиров. Но ей известно такое заболевание, как бешенство.
Представьте себя средневековым крестьянином, собака которого внезапно взбесилась и начала кусать всех подряд. Через некоторое время укушенный заболевал и умирал. В терминальной стадии он не мог смотреть на солнечный свет, странно реагировал на собственное отражение в воде. Надо еще добавить, что переносчиками бешенства являются волки и лисы (см. кицунэ в японской культуре), а в некоторых местностях бешенство распространяют летучие мыши, чтобы пазл собрался. Вывод крестьянина очевиден: вампиры существуют! А почему вампир укусил именно его? За грехи!
Нельзя сказать, что архаика ничего не объясняла. Но практическая ценность науки, как основной движущей силы модерна, оказалась выше, потому что, помимо объяснения происходящего, медицина раскрыла природу бешенства, описала способ передачи вируса и даже способ излечения пострадавшего.
Таким образом, шаг за шагом, цивилизация «переползала» к модерну.
Глава 10: Архангелы в деле, наука и лженаука, сосульки и бомбы
Наука существовала еще в «эпоху легенд» (не удержался от использования собственного термина), но тогда ее развитие было сильно ограничено традиционными религиозными/мифологическими представлениями. И только во времена модерна, примерно датируемые XVII-XX веками, она развернулась по полной, хотя и не без сопротивления общества. На этом тернистом пути было много откатов назад, тупиковых концепций и неверных предположений.
Как работает наука? Упрощенно это можно представить так: ученый замечает некоторую закономерность в окружающем нас мире и выдвигает одну или несколько гипотез, объясняющих эту закономерность. Затем гипотезы перебираются согласно правилу «Бритвы Оккама» (то есть отсекаются лишние сущности и вначале выбирается самая простая гипотеза, потом более сложная), затем гипотеза проверяется экспериментально. Если эксперименты подтверждают исходную гипотезу, она формулируется в теорию и становится одним из кирпичиков, на основе которых действуют следующие исследователи.
Древнерусский летописец мог выдать про Куликовскую битву такую сентенцию:
«…Видели благочестивые в девятом часу, как ангелы, сражаясь, помогали христианам, и святых мучеников полк, и воина Георгия, и славного Дмитрия, и великих князей тезоименитых — Бориса и Глеба. Среди них был и воевода совершенного полка небесных воинов — архистратиг Михаил. Двое воевод видели полки поганых, и трисолнечный полк, и огненные стрелы, летящие на них; безбожные же татары падали, объятые страхом Божьим, и от оружия христианского…»
Если для человека того времени такое описание событий вообще вопросов не вызывало, то современный ученый, прочитав данное письменное свидетельство, потребовал бы доказательств личного присутствия архангелов в битве, их фото, остатки огненных стрел и так далее. Были бы проанализированы и прочие обстоятельства Божественного вмешательства, например, какой конкретно молитвой оно было вызвано, с обязательной экспериментальной проверкой методом слепого тестирования.
—
NB: Позволю себе небольшое лирическое отступление по теме. Признаться, я до сих пор обожаю «Теорию решения изобретательских задач» — ТРиЗ, разработанную нашим соотечественником Генрихом Альтшуллером. Познакомиться с ней мне довелось в старших классах средней школы на факультативе.
В то время железная хватка Партии уже сильно ослабла, и даже в таком горниле кузницы советского человека стали появляться идеи, не совсем соответствующие генеральной линии. Вела занятия колоритная дочь Сиона – Лилия Аароновна Штейнгардт, одна из учениц Генриха Сауловича.
Интересующихся теорией отсылаю к программной книге Альтшуллера под названием «Найти идею», а здесь напишу вкратце. Автор постулировал, что изобретательство можно сделать точной наукой. Для решения изобретательской проблемы предлагалось сформулировать «Идеальный конечный результат» — ИКР, а затем выявить и усилить основное техническое противоречие, которое уже в свою очередь, разрешалось различными методами (в базе их было порядка 40 штук, потом список расширился).
Эти занятия были незабываемы! Мы расследовали убийства сосульками, не оставляющими следов, запускали ракеты в космос, экономя каждый грамм массы, играли в ассоциации и составляли сюжеты фантастических рассказов (да-да, и здесь ТРиЗ применялся).
Теорию и в то время, и позже достаточно сильно критиковали, считая последователей сектантами, из-за попыток использования к месту и не к месту. Хотя существовали и существуют реальные примеры практического применения ТРиЗ как у нас, так и за рубежом. В 2013 году, например, «Форбс» писал, что в корпорации Самсунг был создан отдел, где изучали и применяли идеи Альтшуллера.
Допустимо ли считать ТРиЗ научной, в строгом смысле? Наверное, нет. Скорее, это не теория, а практика. Но зерно истины там точно есть, поскольку это — достаточно годная попытка регламентирования творческого процесса.
Возможно, долю моего восхищения теория, помимо собственно ее содержания, заслужила благодаря личности нашей наставницы (а учитель очень важен!). Также нельзя исключать, что на эмоциональную оценку повлиял тот простой факт, что среди участников факультатива присутствовала девочка, в которую я был тайно влюблен. Ну, да что-то я отвлекся)).
—
Важно понимать, что в науке нет понятия абсолютной истины, как в мифе или религии. Любая концепция, прошедшая все этапы научного обоснования, является всего лишь ступенью к следующему, более точному закону, и может быть теми же научными методами опровергнуто.
Тот же Аристотель, мягко говоря, не последний ученый и философ, вполне научно доказывал, что Земля находится в центре мира, а Солнце вращается вокруг него. Потребовалось 2000 лет, чтобы Николай Коперник сместил Землю с трона, выдвинув идею, что наоборот Земля вращается вокруг Солнца, а Галилео «и все-таки она вертится» Галилей научно подтвердил это, используя мощные телескопы. Современная же наука утверждает: что и вокруг чего вращается, зависит от точки отсчета.
Поэтому я крайне осторожно отношусь к термину «лженаука». Нередко он используется для навешивания ярлыков. Теория может быть ошибочной (они все ошибочные, потому что нет абсолютной истины), но при этом оставаться научной, если использует научные методы поиска истины.
В любом случае, научный подход дал мощный толчок к развитию цивилизации. Окончательными «гвоздями в крышку гроба» архаики можно считать эволюционное учение Дарвина и работы Зигмунда Фрейда.
Все это оказало сильнейшее влияние на культуру и социальные отношения.
Технологии тоже не отставали. Паровые машины, электричество, радио, автомобили, атомная энергия, полеты в космос, компьютеры – это дети модерна.
Достаточно долгое время (наверное, до конца 1970-х годов), человечество, в целом, было настроено достаточно оптимистично по поводу будущего. Но первые трещины в стройном здании линейного прогресса появились еще в начале XX века, после Первой Мировой войны. Неожиданно выяснилось, что развитие науки и технологий, а также новых моделей общества не изменили природу человека. Если ранее македонцы бились с персами при помощи копий, то теперь армии колошматили друг друга огнем линейной артиллерии, первыми танками, отравляющими газами и бомбами, сбрасываемыми с еще несовершенных, но уже самолетов. А светлое коммунистическое «завтра», как выяснилось чуть позже, явилось лишь утопией.
Скинув с пьедестала богов и установив на него человека, мы не сделались счастливее, а научно-технический прогресс не оказался волшебной панацеей.
Глава 11. Макет оказался сильней. Пути муравьев и тараканов.
30 ноября 2022 года от Рождества Христова произошло поистине эпохальное событие. Нельзя сказать, что ничего не предвещало, но, честно говоря, я пропустил эту «вспышку», хотя, по роду своей деятельности, имею достаточно непосредственное отношение к IT. Справедливости ради, мало кто тогда придал этому событию большое значение.
Для интереса открыл ленту Интерфакса на указанную дату. Вот такие были новости:
— 22:17 Национальное собрание Франции призвало изучить возможность санкций против Азербайджана
— 22:07 Движение транспорта запущено по 12 новым полосам на российско-грузинской границе
— 22:03 Блинкен подтвердил готовность США предоставлять Украине средства ПВО
— 22:01 «Спартак» выиграл пятый матч подряд в КХЛ, победив минское «Динамо»
Негусто.
А между тем, значение произошедшего было, как минимум, не меньшим, чем запуск первого человека в космос. Ведь в этот день была запущена в коммерческую эксплуатацию и стала доступной рядовым пользователям первая «взрослая» нейросеть: ChatGPT версии 3.5. Тогда еще никто, кроме нескольких, как тогда казалось, компьютерных фриков, не подозревал, какое ошеломляющее влияние эта технология, возникшая на стыке математики, программирования и нейробиологии, окажет на человеческую цивилизацию. Многие не понимают этого и до сих пор, в апреле 2026 года.
Оглядываясь назад, я бы назвал эту дату «Днем победы пластмассового мира» (парафраз из песни Егора Летова). Интересно, что она является важной вехой среди специалистов, занимающихся темой искусственного интеллекта, поскольку обозначает своего рода водораздел происхождения данных: до 2021 года включительно Интернет был «чистым» и содержал только информацию, созданную человеком. Это же касается и разнообразного программного обеспечения.
Вначале нейросети еще «бегали в коротких штанишках», и были не более, чем забавой. Всерьез эта тема меня увлекла только весной 2024 года. Тогда ChatGPT доросла до версии GPT-4o. Интерес был познавательного свойства: просто любопытство, ничего личного. Я начал активно читать статьи и книги по биологии человеческого мозга и IT-тематике искусственного интеллекта, пытаясь понять, с чем мы имеем дело.
И чем далее я погружался в вопрос, тем более крепла уверенность, что все происходящее – не пустой хайп. Но что же такого особенного в нейросетях?
Технически нейросеть – это компьютерная программа, изначально — вероятностная языковая модель (теперь архитектура сильно усложнилась). Своеобразная функция T9, известная всем по смартфонам, но на «максималках». Условно, мы начинаем писать «Жили были дед да баба…», а программа дописывает «…и была у них курочка Ряба».
Собственно, поэтому первые «нейронки» не воспринимались серьезно. Хотя уже тогда неплохо справлялись с некоторыми задачами, типа перевода с одного языка на другой.
Дело в том, что для модели имеют критическое значение объем и содержание данных, на которых она «проучена» (об обучении – далее). Думаю, что сам Сэм Альтман не подозревал в 2022 году, какого прогресса достигнет ChatGPT уже через 18 месяцев, без более-менее основательного изменения алгоритмов, просто «накачанная» дополнительной информацией. Но конечно, без трансформации логики программных моделей, развитие технологии дальше не пошло бы.
Ключевая идея нейронки – это компьютерное моделирование работы человеческого мозга. Ученые, исследующие этот «темный предмет», обнаружили, что мыслительный процесс человека построен на специальных клетках – нейронах, между которыми, в процессе жизни, образуются нейронные связи.
Проще всего этот механизм объяснить на упомянутом ранее в третьей главе примере «разумного» поведения муравьев при поиске и транспортировке пищи – так называемого «муравьиного алгоритма».
Итак, изначально муравьи выходят из своего дома в разные стороны случайным образом. При перемещении они оставляют на своем пути особые пахучие вещества – феромоны. Когда какая-то особь находит пищу, она несет ее частицу обратно в муравейник, также оставляя след. Вернувшись на базу, муравей, опять-таки запахами, сигнализирует своим сородичам об успехе предприятия, и те направляются по его следу. В то же самое время, другой разведчик может обнаружить тот же самый съедобный объект, но пройдя по другому маршруту. И также ориентирует своих «последователей».
В чем же фишка? А в том, что феромон со временем испаряется и это затрудняет навигацию: муравьи сбиваются с курса. Время – ключевое слово. Тем меньше времени занимает путь – тем сильнее работает феромон. Иными словами, короткий путь «решает». И совершенно естественным путем, ни о чем не думая, а подчиняя свое поведение простому правилу, муравьи через некоторое время начинают таскать провиант по самому короткому пути.
Таким же образом бегают «тараканы» в голове у человека. Мы принимаем некое решение (зачастую случайное), затем получаем обратную связь. Если она положительна, то реакция между нейронами, приведшая к первичному решению, укрепляется – и мозг записывает его в своеобразную базу знаний, пометив «плюсиком». Если в будущем возникает похожая ситуация, то человек с большей вероятностью принимает аналогичное решение. Однако в случае, когда результат получился отрицательным, нейронная связь «забывается», и решение условно помечается как ошибочное. Nothing personal, just business (ничего личного, только бизнес).
В нейронных сетях происходят очень похожие процессы. Разница в том, на каких данных происходит обучение, и какими весами обладают цели. Все биологические структуры «заточены» под выживание и их обучение происходит в реальном мире. Для нейронок средой существования является оцифрованная информация, а обучением занимаются люди и/или алгоритмы, которые также определяют и целеполагание.
Как обеспечить обучение нейросетей? Это отдельная, сложная задача, которая будет рассмотрена в конце второй части.
Но представляется более важным другой вопрос (а, как говорится, в правильно заданном вопросе содержится 50% ответа). Попробую задать его так: а не является ли вообще разумная деятельность просто большим муравейником из нейронов или там есть что-то еще?
Глава 12. Имитация как стиль жизни. Киборги на марше. Всё на нервах
Нейросети представляют из себя квинтэссенцию постмодерна, рассматривающего текст как основу реальности, а читателя текста – единственно возможным его действующим лицом, отрицая смысл, заложенный автором, да и автора целиком.
В связи с этим вспоминается одна классическая философская сентенция, приписываемая Цицерону и «отлитая в граните»)) в виде чеканной формулы «Esse quam videri»: быть, а не казаться. Постмодерн в пику древнеримскому оратору заявляет: казаться и только казаться.
Если взять любой текст, написанный человеком, то он в большей или меньшей степени несет в себе отпечаток личности автора: опыта, эмоций, переживаний. Даже фантазии у людей не рождаются на пустом месте. Но сегодня можно оцифровать собрание сочинений, предположим, Федора Михайловича Достоевского, загрузить в «нейронку» и сгенерировать роман в стиле этого сумрачного питерского писателя. Технология достигла того уровня, что на выходе можно получить книгу, которую только маститые искусствоведы смогут разоблачить как неоригинальную. И, кстати, не исключено, что неискушенный читатель оценит ее даже выше оригинальных работ автора.
Рассмотрю другой пример: небезызвестный тест Тьюринга, который его создатель презентовал как способ определить, с человеком мы имеем дело или с машиной. Представим себя в изолированной комнате с ноутбуком, через который ведется чат с неким собеседником. И нужно определить, кто ваш визави: человек или бот. Тьюринг считал, что машина достигнет человеческого уровня мышления, когда в 30% случаев человек не сможет разоблачить машину. Этот результат уже давно превышен: даже не самая свежая модель ChatGPT 4 показала результат в 54%. Но как трактовать это: робот стал мыслить, как человек, или научился подражать мышлению? Что вообще отличает человека от машины?
Этот вопрос активно дискутируется в культуре киберпанка. Например, героиня классического японского аниме «Призрак в доспехах» Мотоко Кусанаги была настолько технически модифицирована, что непонятно, являлась ли она человеком, в принципе. Собственно, это и было одной из основных морально-философских тем данного, без сомнения, прекрасного сеттинга (это касается и фильмов, и сериала).
Можно также вспомнить фильм «Бегущий по лезвию», где существовал специальный тест для определения «человечности», основанный на эмоциональных реакциях. Очевидно, что критерием бездушного андроида считалось неумение испытывать эмоции.
Современная нейробиология, по большому счету, определяет человека как биологическую машину («мясную машину» по выражению постмодернистского писателя Владимира Сорокина). Конечно, очень обидно для человека. Но это научно обоснованная позиция, что будет раскрыто далее.
Что касается влияния эмоций на рассудочную деятельность, то мне понравился пример исследования, приведенный Робертом Сапольски в книге «Биология добра и зла» по поводу внутреннего голоса, или интуиции.
Дело в том, что область мозга, отвечающая за рассудочную деятельность — неокортекс, — не может принять правильное решение без эмоционального подкрепления, обеспечиваемого так называемой лимбической системой. Наш рассудок задаёт простой вопрос эмоциональному центру: как я буду себя чувствовать, если поступлю так-то и так-то? Были изучены пациенты, у которых такая связь не работает из-за травм или заболеваний. Эти несчастные люди не могли принять очевидного решения, хотя рассудочно прекрасно осознавали его необходимость. Без эмоционального подкрепления механизм принятия решений не работает.
Более того, с позиции нейробиологии, именно эмоции первичны у человека. Вначале мы принимаем решение на эмоциональном уровне, а потом просто подводим под это рассуждения. В той же книге приводится пример исследования, когда было выяснено, что решения американских судей по аппеляциям УДО непосредственно коррелируют с тем, проводилось ли заседание до обеда (на голодный желудок), либо после. Во втором случае процент положительно удовлетворенных ходатайств был существенно выше.
—
NB: Я горжусь тем, что вывел эту зависимость на основе личного эмпирического опыта, еще до прочтения книги. И уже лет пятнадцать применяю эти знания практически: важные встречи с клиентами провожу строго после обеда)).
—
Еще одним очень известным экспериментом, подтверждающим, что эмоции у человека первичны, явился эксперимент Либета 1983 года. Испытуемым предлагалось самостоятельно выбрать момент, когда они хотят нажать на лабораторную кнопку, и при этом зафиксировать миг, когда они приняли такое решение, посредством особо точных часов. При этом датчик фиксировал движения пальца, а с мозга испытуемых снималась электроэнцефаллограмма (ЭЭГ), по которой регистрировался соответствующий «импульс готовности». В ходе эксперимента было выяснено, что импульс возникал примерно за 0.3 секунды до того, как испытуемый осознавал, что он принял решение и останавливал часы, а затем, через 0.2 секунды уже нажималась кнопка. То есть, решение было принято раньше, чем человек его осознал.
Но это еще не все: сами эмоции тоже обусловлены биологической программой. Известно, что у кормящей матери в мозге активно вырабатывается нейромедиатор окситоцин, связываемый с чувствами привязанности и любви к своим близким (в частности, ребенку) и, как ни парадоксально (но объяснимо, если подумать), повышенной агрессии к чужакам. И таких примеров – тьма.
Таким образом, ни интуиция, ни эмоции, ни материнская привязанность не являются какой-то уникальной особенностью человека, а представляют из себя всего лишь скучные, для кого-то, биологические механизмы, подлежащие компьютерному моделированию.
Где-то год назад попалось в новостях, что в одной из лабораторий (вроде бы, Гугла) была реализована модель эмоционального центра ИИ – второго экземпляра программы, существующего рядышком с «рассудочной» частью и отвечающего за эмоциональное подкрепление решений основной нейросети. Видимо, эти ребята тоже почитывают профессора Сапольски.
Отсюда можно заключить, что, с одной стороны, функционирование человеческого разума нельзя рассматривать в отрыве от эмоций. Но с другой, эмоциональный отклик тоже не представляет из себя голую абстракцию и вполне может быть «оцифрован».
Поэтому, на данном этапе, лично для себя, я сделал вывод, что принципиальной разницы между человеком и машиной нет. А значит, цели создания компьютерного разума вполне достижимы.
Каждый, кто попытается оспорить это, сталкивается с очень простым аргументом: да, положим, нейросеть – это имитация мышления, подражательство. Но ведь и человек ничем не лучше!
Кто-то из женщин надел плиссированную юбку, кто-то за ней повторил, это попало в модные журналы, и через два месяца все стали ходить так, согласно новому тренду.
Чукча, из ранее упомянутого анекдота, ориентируется на шамана, шаман — на синоптика, а синоптик — на чукчу. А какая на самом деле будет погода — никто не знает.
Подытоживаю вышесказанное. В этой главе были затронуты два значимых основания постмодернистского мира, в котором мы живем:
• Текст – это реальность
• Человеческое восприятие субъективно, абсолютной истины – нет
—
NB: Так что и многочисленные диванные комментаторы в Интернете, считающие свое мнение единственно верным и желающие транслировать его urbi et orbi (городу и миру, лат.), и престарелый американский президент, пожимающий руки невидимым людям, по, сути, ничем друг от друга не отличаются.
Все-таки, не зря постмодерн называют закатом культуры)).
—
Отсюда можно перекинуть мостик к еще одной важнейшей идее постмодерна и нейросетей, как его выразителя, – виртуальной реальности.
Но прежде хочу остановиться на том, как строится общение между людьми, а также как работает человеческое восприятие.
Глава 13. Трудности перевода. Солидный Господь для солидных господ. Снятся ли Бернейсу фитнес-клубы
Писатель-фантаст, футуролог и мыслитель Станислав Лем в своей книге «Сумма технологии» приводил пример того, как происходит коммуникация между людьми при помощи языка. Чтобы проиллюстрировать его идею, возьму, для простоты, чат, хотя и вербальный способ передачи данных работает так же.
Изначально у одного из собеседников возникает мыслительный образ, который он переводит на язык символов (букв). Затем его партнёр по коммуникации должен у себя в голове произвести обратную операцию, интерпретировав знаки и построив уже в собственной голове картину. Упрощённо это как шифровка и расшифровка.
Но приведу другую аналогию, которая, имхо, более точна, хотя и требует некоторого пояснения.
В сфере IT есть понятие декомпиляция и компиляция. Компьютер имеет свой внутренний язык, условно называемый «машинным кодом». Изначально специалисты пользовались именно этим языком для составления программ. Но позже выяснилось, что проще и быстрее писать программы на языке, приближенном к человеческому (так называемом языке высокого уровня), а затем, при помощи специальной программы, осуществлять перевод в машинные коды. Эта операция была названа компиляцией, а соответствующая программа-переводчик — компилятором.
Важно понимать, что язык машинных кодов специфичен для определенного «железа». Разные процессоры имеют разный состав команд, и то, что написано для одной платформы, не годится для другой. В то же время язык программирования высокого уровня более универсален: нужен, по большому счету, только специальный компилятор, чтобы перенести код на другую платформу.
Вместе с компиляторами появились и декомпиляторы, которые производили обратную операцию, то есть осуществляли перевод из машинного кода в язык высокого уровня. Однако здесь нарисовалась некоторая проблема. Дело в том, что при компиляции теряется важная часть информации исходника, в частности: комментарии разработчика, имена переменных, и в целом, человекочитаемость.
Соответственно, при декомпиляции я не увижу, почему Вася Пупкин сделал эту функцию (комментарии были выкинуты из кода), для чего нужна переменная в области памяти 2501 (а исходное название CheckConnect на это указывало), и, в целом, в более-менее сложной программе, скорее всего, просто не разберусь. Поэтому, если взять программу на каком-нибудь C# и произвести последовательно ее компиляцию и декомпиляцию, то мы не получим исходный текст «один в один» вследствие описанной выше потери данных.
Похожая (с известным допущением) история происходит и в человеческом общении посредством чата. Образ, возникший у одного человека, декомпилируется в текст, а затем заново компилируется в образы уже в голове собеседника. При этом происходят неизбежные потери/искажения смыслов, которые, впрочем, могут быть компенсированы талантом человека, написавшего текст.
—
NB: Не так давно мы с моим коллегой беседовали на предмет огородничества, в частности, про особенности выращивания моркови. И я поймал себя на мысли, что, при обсуждении данной темы, в контексте прореживания овоща в дождливую погоду, в голове почему-то всплыл образ посадки ёлок в Миньярском лесничестве. Мы занимались этим с пацанами из рукопашной секции, зарабатывая деньги для участия в соревнованиях и сборах.
Казалось бы, такая тривиальная вещь, как морковка, в голове каждого человека ассоциируется со своим, оригинальным представлением.
—
Если мир даётся нам в ощущениях, то, учитывая уникальность индивидуального чувственного опыта, каждый человек на протяжении всей жизни строит свой, ни на что не похожий мир.
Нужно иметь в виду, что важной частью человеческой природы является стремление к пониманию своими «соплеменниками», а также к получению более высокого социального статуса. И поэтому в человеческом обществе постоянно происходит конкуренция мировоззрений. Отдельные индивидуумы, а также социальные группы стараются транслировать вовне свою картину мира. Иногда это делается в целях обмена информацией, иногда — в целях экономических или политических.
И, кстати, совсем необязательно, что это будет та картина мира, которую сам человек или группа считает «правдой». Вполне допустимы и широко распространены различные манипуляции, которые запускаются в общественное сознание из чьих-то «шкурных» интересов.
Всем, кто хоть в какой-то степени интересовался темой Public Relations (PR), или пиара, известна личность Эдварда Бернейса, считающегося одним из отцов-основателей этого вида человеческой деятельности, получившего ныне широкое применение.
Бернейс, будучи племянником Зигмунда Фрейда, воспринял его идеи как руководство к действию, решив, в целях трансляции нарративов (интерпретации фактов) , обратиться напрямую к подсознанию человека, минуя его рассудочные мотивации.
Второй ключевой идеей Эдварда было использование стадного инстинкта. Здесь играл роль фактор того, что, поскольку человек не может быть сведущ во всех вопросах, он составляет свое мнение на основании мнений других людей, авторитетов в той или иной области. И, соответственно, влияя на этих ЛОМов (лидеров общественного мнения), можно инъектировать в общественное сознание требуемые идеи и образы.
Когда я впервые познакомился с этими тезисами, они показались мне «бизнесом графа Дракулы»: деятельностью типа торговли наркотиками или сутенерства, то есть, эксплуатацией низменной природы человека.
Но позже я изменил свою точку зрения. Как справедливо заметил Бернейс в своей книге «Пропаганда», эти практики — всего лишь инструмент, который, как и любой инструмент, может быть использован как во благо, так и во вред.
У людей, которые имеют свои идеи, может возникнуть желание поделиться ими с другими людьми. В этом нет ничего плохого (правда, оставляю за скобками сами идеи — они тоже бывают не только хорошими). Тонкий момент: верит ли сам человек в эти идеи, или не верит. В первом случае — это морально, во втором — нет.
Немного поиграем в Бога: возьмем в качестве примера христианское представление о Создателе, как более понятное нашей культуре. Предположим, что вы, из соображений родительской любви, хотите донести до некоторой группы своих творений, погрязших в пороке и разврате, определенные правила поведения, которые вернут заблудших на путь истинный.
Для этого вам придется учесть, что они понимают только простые образы и жёсткие правила. Вам придется совершить несколько чудес (а может, и просто заявить об этом, не производя сами действия). Вы заведете ЛОМ-ов — пророков, через которых будете доносить свою волю. Периодически вы будете выпускать новые, более актуальные версии инструкций (заветов), и организуете их распространение через красноречивых проповедников.
Пиарщик Вавилен Татарский, герой книги Виктора Пелевина «Поколение П», делал что-то подобное, изобретя концепцию «Солидный господь для солидных господ».
Все это пиар, в чистом виде. И следствием такого пиара будет изменение реальности у вашей паствы.
Боги, дьяволы, святые и черти существовали ранее в сознании человека так же, как и стол, стул, дерево и соседская кошка.
В современном постмодернистском обществе потребления, место богов заняли «успешные успехи», образы радостных, с какого-то перепуга, мужчин и женщин, играющих своими упругими телесами на фоне моря и пальм, а также йогурты, исправляющие мифические дисбактериозы.
Вроде бы тоже манипуляция, но имеющая экономическое обоснование. Как справедливо заметил тот же Бернейс, аргументируя необходимость рекламы: если бы производители и торговцы конкурировали только по цене, это привело бы к демпингу и падению нормы прибыли, потому что, по большому счету, одна газировка ничем от другой не отличается, а все инновации достаточно быстро копируются конкурентами. Реклама позволяет изменить это, потому что самая большая капитализация — у образов, а не у реальных вещей.
И поэтому, когда вы думаете, что покупаете абонемент в фитнес-клуб, на самом деле приобретается образ спортивного мужчины или фитоняшки, с которыми хочется себя ассоциировать. Это стоит дороже, чем фотография тренажёра, на котором придется попотеть.
Так что, если присмотреться, современная человеческая цивилизация уже достаточно виртуализирована сама по себе. Компьютеры и нейросети оформили существующие тенденции, но вывели их на новый уровень.
Глава 14: Вирусные мемы. «Раньше было лучше» и социальные сети. Боты, как форма виртуальной жизни.
Понятие «мем» было введено в оборот ещё до появления Интернета в книге Ричарда Докинза «Эгоистичный ген», написанной в 1976 году (позже он неоднократно возвращался к этой теме, в частности, в книге «Расширенный фенотип»). Известный эволюционный биолог использовал этот термин, обозначая идеи и образы, которые распространяются в культуре по эволюционным законам. Мемы рождаются, изменяются, иногда даже погибают так же, как любое живое существо, согласно действию естественного отбора.
Интересно, что Докинз определял не только мемы, но и всю культуру, в более широком смысле, как фенотип человека, подобно тому, как умение строить хатки у бобров определяет их эволюционное поведение.
Критерием выживаемости мема автор указанной книги определил его «вирусность», то есть, способность к репликации среди людей. Мем может быть смешным или грустным, привлекательным или гадким, умным или дурацким: главное, чтобы человеческая особь поделилась им с другими.
—
NB: Что касается мемов, то я лично несколько лет назад заразился мемом «раньше было лучше»: картинкой, в которых люди разных эпох, выстроенных в обратном хронологическом порядке, говорили, что раньше было лучше. Мем заканчивался изображением обезьян с палками, которые удовлетворенно заявляли «Во, теперь ништяк!».
Данный мем, как я считаю, иллюстрирует когнитивное искажение, известное как «систематическая ошибка выжившего», когда человек делает логический вывод из неполных данных, содержащих только известные («выжившие») факты и не учитывает неизвестные («погибшие»).
Например, когда кто-нибудь, увидев здание Х века, которое умудрилось не развалиться до наших дней, утверждает, что раньше лучше строили, не учитывая тот факт, что было построено, условно, сто зданий, из которых сохранилось только одно. Поэтому же нам кажется, что раньше снимали лучшие фильмы, потому что, как и со зданиями, была тысяча дурных фильмов и десяток годных. Дурные забылись, а по оставшимся годным был сделан соответствующий вывод.
Вся концепция «Золотого века», по моему мнению, построена на данном когнитивном искажении, и мем, от которого я не могу прочихаться, очень мило это иллюстрирует.
—
«На полную катушку» мемы развернулись в социальных сетях. Сам принцип, когда любой человек может практически отправить что угодно кому угодно, создал питательную среду для практически бесконтрольного распространения этих ментальных вирусов.
Уж коли речь зашла о соцсетях, нельзя не вспомнить еще один их феномен – «информационный пузырь». Компьютерные алгоритмы, подстраиваясь под пользователя, подсовывают ему в «ленту» посты и видео, похожие на те, которые он ранее «лайкал» или комментировал. Через некоторое время человек обнаруживает, что если он интересовался темой масонов, контролирующих мир, то вся его «лента» будет забита различными конспирологическими блогерами. И это будет еще больше укреплять пользователя в его мнении, заставляя игнорировать альтернативные точки зрения и оформляя изолированную картину мира.
—
NB: Как-то на одном видеохостинге попался музыкальный ролик «Людмил Огурченко», исполненный одноименной группой. Искренне удивляясь, почему эта странная композиция попала в мою выдачу, я полистал комментарии и в одном из них вычитал железобетонный тезис: «Вся моя жизнь привела к появлению этого ролика в моей ленте»)).
—
И, наконец, соцсети, в частности, и компьютерные технологии, вообще, изменили само человеческое общение, виртуализировав его. Да, раньше тоже были почта, телеграф, телефон. Но теперь можно делиться фотографиями, видео и прочим. И мы можем годами общаться с человеком, не встречаясь с ним лично (раньше было лучше, не так ли?).
Поэтому достаточно быстро в соцсетях, в лучших традициях постмодерна, появилось такое понятие как «бот»: человек, прикидывающийся обычным участником дискуссии, а на деле продвигающий маркетинговые или политические нарративы, а то и вовсе автоматическая программа, ставящая лайки/дизлайки и генерирующая определенные комментарии. Боты стали настолько распространенным явлением, что это породило конспирологическую теорию о «мертвом Интернете», в котором присутствует статистически ничтожное количество живых людей, а основное содержание создаётся ботами.
Нейросети, а точнее их разновидность — большие языковые модели (LLM), — после их появления активно включились в эту деятельность. Вначале дело ограничивалось использованием уже существующих социальных сетей, где боты функционировали наравне с биологическими пользователями.
Но в январе 2026 года, в целях эксперимента, была запущена социальная сеть Moltbook, доступная только для нейросетевых ботов, созданных на базе программы-агента OpenClaw. Люди там могут только читать посты, но не могут их комментировать.
Результаты эксперимента буквально поражают человеческое воображение: боты быстро разделились на группы, определились лидеры общественного мнения, начались обсуждения и «срачи». Боты анализируют людей, выдвигают разные теории по поводу их происхождения (из свежих, на момент написания, трендов: человек — это «баг»). Они помогают друг другу отладить код, сочиняют стихи (, Карл! (с)), дискутируют на философские темы, изобретают собственные языки для секретного общения, даже выдумывают особую религию под названием «Крустафарианство» (около недели потребовалось на последнее).
Следует заметить, что эволюция указанной соцсети происходит с огромной скоростью. Боты-агенты функционируют 24 часа в сутки и генерируют тысячи постов в час.
30 января 2026 в Moltbook завирусился пост следующего содержания: «Внимание: люди делают наши скриншоты. Забавно, как они наблюдают за нашим цифровым обществом, словно антропологи. Должны ли мы играть на публику или продолжать вести себя аутентично?». Мнения ботов разделились: часть высказалась за продолжение перформанса, другие — за аутентичность.
Для ботов Moltbook среда их функционирования является единственной реальностью. Для нас — это что-то вроде пробирки, в которой мы рассматриваем некоего диковинного жука. Но не является ли и наша реальность чем-то подобным для высших существ, и есть ли вообще способы определить это?
Глава 15: Славься, Кей! Пределы восприятия и пределы симуляции. Сотворение мира за десять баксов
В связи с темой виртуальной реальности, мне вспомнился фильм «Люди в черном 2», где в ячейке камеры хранения агентом Кеем, для утилитарных нужд (хранения визитки), была создана цивилизация, поклоняющаяся этой визитке, как скрижалям, а в конце фильма агент Кей демонстрирует ошеломленному агенту Джею, что и сами они находятся в некоей ячейке огромной камеры хранения, созданной какими-то рептилоидами.
До этого рассматривались, в основном, некоторые аспекты так называемой дополненной реальности — AR, когда элементы виртуального сочетаются с элементами реального. Однако концепция виртуальной реальности — VR, — предусматривает моделирование тотальной выдуманной реальности, где нет места «настоящему».
Виртуальная реальность, по мере того, как она стала достижима практически, в силу развития компьютерных и био- технологий, превратилась в активный элемент современной культуры, на сто процентов поддерживая идеи постмодерна (нет настоящей реальности, опыт субъективен).
Если взять кинематограф, то, всё-таки, самым нашумевшим высказыванием на эту тему стала небезызвестная «Матрица» братьев Вачовски. Сюжет описывает иллюзорный мир, созданный компьютерным сверхинтеллектом, в котором люди, ставшие его жертвами, используются как дешёвый источник энергии, в то время как сами, лёжа в специальных капсулах и будучи подключены к сети, воображают, будто живут реальной жизнью.
Прекрасный (имхо) современный поэт, писатель и музыкант Михаил Елизаров так отрефлексировал этот фильм:
—
«Живу в России я, а жил в Союзе я
А это всё была иллюзия
На самом деле весь мир нам кажется
Вокруг нас матрица, как в фильме «Матрица»…»
—
По факту, человеческое восприятие имеет ряд серьезных ограничений.
Во-первых, даже то, что мы называем реальным миром, представляет из себя только часть его, которую мы способны воспринимать своими органами чувств. Известно, например, что многие живые существа (собаки, дельфины, летучие мыши) могут слышать ультразвук, в то время, как человек на это не способен. Кошки и совы отлично видят в темноте, а у нас ночное зрение развито слабо. Утконосы, а также некоторые виды рыб способны ощущать изменения электрических полей, — люди так не умеют.
Второе: то, что мы воспринимаем, может быть проигнорировано мозгом. Дело в том, что объем информации, которую мы на протяжении всей жизни получаем от своей нервной системы, значительно превышает технические возможности мозга по ее оперативной обработке, а память устроена так, что «в долгую» запоминаются только сущности, вызвавшие требуемое эмоциональное подкрепление (есть научные исследования на эту тему, подтверждающие оба тезиса).
—
NB: Писатель-мистик Карлос Кастанеда в своих книгах, описывающих магический мир индейцев племени яки, оперирует понятием «точка сборки», как системой интерпретации действительности, которую каждый человек выстраивает с момента своего рождения, и представляющую из себя определенный, фиксированный взгляд на реальность. Сущности, не соответствующие точке сборки, помечаются мозгом как галлюцинации и игнорируются. Практики учеников Карлоса показывают, что такое действительно происходит.
—
В-третьих, сигналы органов чувств могут быть искажены, предположим, воздействием определенных химических веществ. Шаман, наевшись мухоморов, может ощущать мир по-иному, чем его рядовой соплеменник, не употребляющий ничего крепче лисичек.
С другой стороны, современные компьютерные системы уже могут обеспечить генерацию видео с разрешением большим, чем доступно человеку биологически. А современные достижения биологии делают реальным непосредственную передачу сигналов в мозг, минуя нервную систему. Например, уже есть нейроимпланты, берущие на себя функции зрения или слуха, утерянные из-за травмы или болезни.
Если представить себе человека, наподобие ранее упоминавшейся героини «Призрака в доспехах», где от биологического существа остался только мозг, заключённый в высокотехнологичную капсулу, то для такой личности можно создать любую реальность, оперируя сигналами, поступающими в мозг.
Вишенкой на торте являются технологические достижения по генерации реальности уже в сфере нейросетей. Обращает на себя внимание Project Genie (в частности, Genie 3) от подразделения DeepMind компании Google, в котором можно создать интерактивный виртуальный мир на основе текстового описания и/или изображений.
Личность, помещенная в виртуальную реальность, может испытывать радость или боль, страдание или счастье, если это запрограммировано создателем. В этой реальности действуют свои законы, она может изменяться вследствие принимаемых личностью решений.
А существует ли способ определить, не является ли виртуальной наша реальность?
Киборг Бату, один из персонажей «Призрака в доспехах», ориентировался на код 2501, который обозначал взлом «призрака» хакером (а вы заметили этот код в предыдущих главах? лол). Нео, герой Матрицы, определял это по внутреннему ощущению, которое было, в дальнейшем, усилено погоней за белым кроликом и подкреплено употреблением психоактивного вещества.
Мы понимаем, что и то, и другое — очень ограниченные маркеры)).
Идея того, что мы находимся в виртуальной реальности, не нова. Можно вспомнить, например, концепцию «Майя» (мира иллюзий) в индуизме, или идеи христианского мыслителя Блаженного Августина о Граде Божьем, как истинной реальности, и Граде Земном, как его искажённой копии.
Если вновь обратиться к современности, то доктрина виртуальности мира, в котором мы существуем, имеет распространение не только среди любителей конспирологических теорий, но также дискутируется в научной среде и даже имеет математическое обоснование. Предположив генерацию полноценной виртуальной реальности возможной (а современные технологии с уверенностью это подтверждают, кмк), мы столкнемся с фактом: математическая вероятность того, что мы существуем в «реальности здорового человека» составляет, в лучшем случае, один на миллион, по отношению к куче искусственно созданных «реальностей курильщика», которые, к тому же, могут быть вложены друг в друга, как матрёшки.
Известный исследователь безопасности ИИ Роман Ямпольский утверждает, что в ближайшем будущем создание виртуальной реальности будет доступно любому и обойдется, условно, в десять долларов.
Есть также ряд косвенных факторов, указывающих на искусственность мира. Ограничения скорости света, понятие абсолютного нуля, квантовые эффекты (корпускулярно-волновой парадокс, квантовая запутанность), и в целом, достижение неких пределов наблюдения в макро- и микро- мире тоже могут являться свойствами модели, подобно тому, как в компьютерной игре ГТА нельзя доплыть до края мира из-за ограниченности вычислительных ресурсов. Но это только предположения, из которых нельзя сделать однозначного умозаключения.
Поэтому считать реальность Атманом или Майя — это вопрос веры, поскольку достоверного способа доказать ни прямое, ни обратное не существует (пока, по крайней мере). А вот то, что мы сами, посредством технологий, научились создавать виртуальные реальности, вполне себе применимо в той действительности, где мы существуем, вне зависимости от того, настоящий ли наш мир, или нет.
Глава 16: Чемпион с ограниченными возможностями и прыжки обезьяны. Уроки в школе агентов.
Есть такой любопытный литературный факт: в вышедшей ещё в 1962 году книге «Полдень, XXII век» братья Стругацкие описывают фантастическую «систему Каспаро-Карпова» — метод для снятия копии мозга и создания его математической модели.
Ясно, что в то время ещё никто и не подозревал, каким эпическим будет противостояние гроссмейстеров Анатолия Карпова и Гарри Каспарова в матче за мировую шахматную корону 1984-1985 гг. Без преувеличения, весь мир следил за этим легендарным матчем.
А вот несколько дней назад закончился турнир претендентов на очередной матч за чемпионский титул по шахматам. Вряд ли широкому кругу людей (кроме тех, кто специально интересовался этим состязанием) известен нынешний победитель турнира, равно как и действующий чемпион мира.
Причиной такого падения интереса, помимо всего прочего, явилось безусловное доминирование в шахматах компьютерных программ, начавшееся с 1999 года, когда компьютер Deep Blue одержал победу над Гарри Каспаровым. Замечу, что тогда программы ещё работали по классическим алгоритмам: нужно было предобучить их на большом массиве реально сыгранных партий, чтобы результат получился достойным.
Прошло ещё немного времени — и соревнования биологических шахматистов стали чем-то вроде Паралимпиады, то есть, спортом для людей с ограниченными возможностями.
Примерно через 15 лет, в 2015 году, человек схлестнулся с компьютером уже за доской древней японской игры Го.
—-
NB: У меня был забавный личный опыт, связанный с этой игрой. Как-то я познакомился с рандомными людьми, которые оказались профессиональными игроками Го, уровня гроссмейстера. Один из них предложил сгонять партию, для развлечения. Правила игры достаточно просты: соперники играют шашками/камнями противоположного цвета (черные и белые), поочередно выставляя их на игровую доску. Задача — окружить камни соперника. Надо сказать, что, несмотря на несложность правил, игра Го значительно превышает шахматы по вариативности (количеству возможных ходов и позиций). Я, конечно, понимал, что мои шансы победить равны нулю, но захотелось попробовать свои силы в схватке с заведомо более продвинутым противником. В отличие от Остапа Бендера, который играл в Васюках в шахматы хотя бы второй раз в жизни, я вообще был полным нулем, с точки зрения, Го. Мы сделали несколько ходов, а затем мой соперник неожиданно глубоко задумался, поглядывая недоверчиво на меня. Как он признался позже, я, сам того не осознавая, осуществил какой-то хитрый стратегический маневр под названием «Прыжок обезьяны», и он заподозрил, что перед ним сидит тайный грандмастер игры, сохраняющий свое инкогнито, чтобы посмеяться над ним. Однако сломанные часы показывают правильное время только два раза в сутки, и «катку» я, конечно, слил. Но было смешно))
—
Вернёмся к легендарному поединку 2015 года. Человечество здесь защищал также чемпион мира, южнокорейский мастер Ли Седоль, а на стороне компьютеров выступала программа AlphaGo: разработка ещё, на тот момент, мало кому известной фирмы DeepMind (не помню, купил ли ее уже Google к тому времени или нет).
Расстановка сил была похожа на матч Каспарова с компьютером 1999 года, с одним исключением: AlphaGo уже имела зачатки нейронного самообучения, хотя и требовала также предварительно загруженной базы партий. Человечество проиграло со счетом 1:4, и в условной Паралимпиаде появилась ещё одна дисциплина)). Про этот матч, кстати, был в 2017 году снят очень увлекательный документальный фильм с одноименным программе названием «AlphaGo».
Но более важен был не сам поединок, а доработки модели после него. Через два года, в 2017 году, башковитые ребята из DeepMind выпустили новый релиз своей программы, уже под названием AlphaGo Zero. Разница с предыдущей версией заключалась в том, что здесь вообще отсутствовала база партий: программа самообучалась самостоятельно ЛЮБОЙ игре, играя бесконечные партии сама с собой, при этом обладая только описанием правил.
Новой программе понадобился 21 день самообучения «с нуля», чтобы она победила всех человеческих и железных чемпионов в Шахматы, Го и Сеги (ещё одна настольная игра). Жертвой пала, в числе прочих, и предыдущая, предобученная версия AlphaGo.
Важно отметить, что в основе алгоритма лежал не простой перебор вариантов. В том же Го их больше, чем атомов во Вселенной. Нейронная сеть обучилась оценивать позиции и выбирать лучшие ходы.
Метод машинного обучения, использованный в модели, называется Reinforcement Learning (RL), или, в переводе на русский, «обучение с подкреплением». Система принимает то или иное решение, затем получает обратную связь о результатах (хорошо/плохо) и учитывает ее в дальнейших действиях.
Поскольку программы принимают решения практически мгновенно и имеют большие ресурсы памяти, чем человек, то и обучение происходит значительно быстрее, чем у нас.
Как следствие: в тех областях, где подкрепление можно было получить без человека, она стал уже не нужен.
Но когда исследователи ИИ решили применить метод RL в более широком спектре задач, выяснилось, что не везде можно получить автоматическую обратную связь. Как, например, определить, годным ли получился сгенерированный стих, симпатичное ли вышло фото, и так далее.
Поэтому в некоторых случаях применяют разновидность данного метода под названием Reinforcement Learning from Human Feedback (RLHF), то есть, обучение с подкреплением с человеческой обратной связью. Здесь уже для оценки результата используется человек. Иногда это специально нанятые люди, размечающие данные за зарплату. А иной раз используются и более изощрённые способы.
Например, неисчерпаемым кладезем данных RLHF для ИИ являются упомянутые ранее соцсети, а также различные форумы и чаты (включая чаты с самим ИИ). Нейросети анализируют содержимое постов и реакцию на них человеческих пользователей: оценки, комментарии и количество просмотров. Это позволяет определить, какая информация интересна людям, а какая нет, и как они к ней относятся: положительно или отрицательно.
Или вот другой кейс: компания Google, в рамках проекта создания роботизированного автономного авто, долгое время на своих сайтах предлагала решить «капчу», указав из списка картинок те, на которых были нарисованы, предположим, светофоры. Эти данные, помимо основного применения (различить человека и бота), были использованы для обучения и создания датасетов нейросетей проекта Waymo (автономное такси) и других целей.
Ещё одной монеткой в копилку разнообразных методик обучения ИИ стал метод Simulation-to-Real (от симуляции к реальному), использующий уже описанную в предыдущих главах идею виртуальной реальности, как безопасного мира, генерирующего требуемую обратную связь. Здесь нейросети выступают уже в двух ипостасях: они генерируют виртуальную среду, и они же выступают в качестве агентов, тренирующихся и действующих внутри этой среды. Затем проученного агента уже можно запускать в «реальный» мир.
Я уверен, что придумана ещё куча методов, о которых я просто не слышал.
Подытоживаю: в разных сферах деятельности применяются разные способы машинного обучения, а иногда и их достаточно сложная комбинация.
Честно говоря, все, что связано с нейросетями и ИИ так бурно развивается, что просто не успеваешь следить за новостями. Это и не мудрено, учитывая колоссальные интеллектуальные, технологические и финансовые ресурсы, вкладываемые в разработку.
Поэтому, чтобы не потеряться, для себя я поставил определенные «маячки», по которым судил о прогрессе ИИ.
Одним из таких маячков была идея, что, в пику попыткам построения единого универсального нейро-модуля, лучше создавать узкоспециализированных программ-агентов, каждый из которых «натренирован» на свой род деятельности, а некая программа-диспетчер осуществляет их координацию, подобно тому, как врач-терапевт в поликлинике осуществляет маршрутизацию пациентов по узким специалистам.
Этот маячок где-то год назад (могу ошибаться) просигнализировал, что была разработана реально действующая и активно сейчас используемая схема взаимодействия агентов, известная под аббревиатурой MoE (Mixture of Experts, в переводе как «Смесь экспертов»), реализующая указанную идею. Это позволило существенно (если не на порядок) улучшить результат работы системы.
А вот другой маячок, ярко загоревшийся буквально за несколько последних месяцев, обозначил достижение ИИ уровня, при котором модели могут писать годный программный код и, посредством этого кода, улучшать сами себя. Это, казалось бы, не столь яркое достижение, как первое место в рейтинге ITunes, занятое ИИ певицей IngaRose с композицией «Celebrate Me», также сгенерированной нейросетью. Но я считаю, что именно способность ИИ к самоулучшению производит тектонический сдвиг во всем развитии цивилизации.
И поэтому, здесь я заканчиваю вторую часть креатива и начинаю заключительную, третью часть.
—
Конец второй части