Вообще, человек — существо интересное. Стоит ему дать палку, он тут же начинает ею ковырять муравейник, колесо — изобретает телегу, паровую машину — устраивает промышленную революцию, интернет — начинает спорить с незнакомцем: какой сыр правильнее класть в пиццу.
Поэтому, если я сейчас скажу, что ничего принципиально нового не происходит, многие возмутятся: серьёзно? Какое ещё «ничего»? Искусственный интеллект! Нейросети! Смартфоны! Мы уже почти в киберпанке живём!
Да хер там плавал. Просто палка стала сенсорной. Почему так? Человек усиливает себя всякой фигнёй уже миллионы лет. Сначала камень вместо кулака, потом копьё вместо зубов, колесо вместо ног, очки вместо глаз, смартфон вместо мозгов. Эта стеклянная плитка одновременно заменяет карту, библиотеку, будильник, фотоаппарат, калькулятор, кассу, телевизор, радио, записную книжку, компас, почту, дневник, игровую приставку, газету. Что забыла?
То есть, смартфон — это не революция. Это просто очередной костыль. Но костыль настолько охреневший, что начал объяснять хозяину, куда ему идти.
Вот смотрите. Технологии всегда бежали быстрее человека, но раньше они хотя бы оглядывались: изобрели поезд — лет двадцать думали, как его использовать, изобрели автомобиль — начали писать правила, изобрели самолёт — придумали диспетчеров.
А сейчас? Появилась нейросеть. Через неделю она уже пишет дипломы, через месяц рисует рекламу, через два увольняет дизайнеров. Через полгода дети делают такую домашку, что учитель уже не понимает, кого он вообще оценивает — Петю или сервер где-нибудь в Аризоне. Мы инструкцию дочитать не успели, а уже живём внутри новой реальности.
Это называется разрывом. Не тем разрывом, после которого люди обращаются к травматологу. А тем, когда технологии уже улетели в космос, а общество ещё пытается понять, где у телевизора кнопка AV. Законы не успевают, школы никогда ничего не успевают. Бедные родители бегут в хвосте колонны, размахивая тапком. А алгоритмы уже воспитывают детей. Как это? Вот представьте. Вы девять месяцев носили ребёнка, потом не спали ночами, меняли подгузники, учили говорить, держать ложку, рассказывали, что нельзя обижать других. А потом появляется TikTok. И за две недели объясняет ему, что самое главное в жизни — это набрать миллион просмотров, купить энергетик со вкусом ядерных отходов и обязательно снять реакцию на реакцию реакции какого-нибудь блогера, который орёт на другого блогера. И ребёнок заявляет вам: мама, это моя новая личность. Приплыли.
Мы думаем, что пользуемся смартфоном. А на самом деле он пользуется нами. И это не пафосная метафора. Если посмотреть отчёт экранного времени, ну у кого как: пять часов, шесть, восемь, девять, то понятно, что этот маленький прямоугольник видел ваше лицо чаще, чем некоторые родственники. Он знает, когда вы просыпаетесь, ложитесь, грустите. Когда вам скучно. Когда женщина беременна. Когда кто-то собирается покупать машину. Когда люди разводятся. Когда кому-то внезапно захотелось посмотреть, сколько живут капибары. Он знает всё. А некоторые до сих пор не могут вспомнить пароль от собственной электронной почты. И ведь никто никого не заставлял. Никто не говорил: быстро регистрируйся в соцсетях! Мы сами. Добровольно и с энтузиазмом. Ещё и фотографии еды выкладывали. И каждый раз соглашались с пользовательским соглашением длиной в «Войну и мир», даже не открывая его. Кому интересно читать двадцать семь страниц, когда надо срочно посмотреть, что там за мем с котом?
И так постепенно всё это ведёт к тому, что алгоритмы знают нас лучше, чем мы сами. Они знают, что нас разозлит, что заставит досмотреть ролик, что мы купим, за кого проголосуем, чего испугаемся, даже на кого накричим в комментариях. Алгоритму вообще по барабану, станете вы умнее или тупее, ему важно только одно: чтоб вы не уходили. Вот вообще. Чтоб сидели, листали, кликали, возмущались, смеялись. Снова листали. Желательно до тех пор, пока телефон сам не скажет, что осталось два процента заряда. А у вас заодно осталось два процента мозга. Это и есть короткое замыкание общества. Раньше знания передавали родители, потом учителя, книги. Теперь всё чаще это делает лента рекомендаций. Причём она не спрашивает, что полезно. Она спрашивает: на что вы дольше смотрите?
Чувствуете разницу? Это две совершенно разные задачи. Одной нужен человек. Другой — статистика. И если долго жить внутри этой статистики, однажды можно обнаружить, что ваши желания уже подозрительно похожи на желания ещё пяти миллионов человек. Алгоритм не любит уникальность, ему удобнее среднее арифметическое. А среднее арифметическое редко рождает гениев, зато отлично производит толпу.
В общем, поздравляю, мы идиоты. У меня нет задачи кого-то оскорбить, кстати, дальше по тексту будет понятно. Глупы вообще все: и профессор философии, и президент, и сантехник. И соседка тётя Люба, которая третий год пересылает в общий чат сообщение, что лимон с содой лечит всё. Конечно, это обидно слышать. Потому что мы привыкли считать идиотами остальных. Посмотрите любой комментарий в интернете: каждый второй уверен, что вокруг собрались дебилы, а один только он стоит посреди этого интеллектуального Чернобыля, сияя разумом, как лампочка Ильича.
Хотя если открыть наши комментарии или переписки, особенно статусы десятилетней давности... Мать честная. Лучше не открывать. И если вам не стало неловко — либо вы гений мирового масштаба, либо просто до сих пор не поняли, какую херню тогда несли.
Я, например, в двадцать лет была абсолютно уверена в вещах, в которых сегодня боюсь даже совет давать. Это нормально. Мышление — это не состояние, а процесс. Сегодня знаешь одно. Завтра жизнь со всей дури даст по лбу. Послезавтра узнаешь другое. И если после этого человек остался прежним — значит, никакого мышления не произошло. Произошло консервирование.
Здесь стоит вспомнить мудрого дедушку Ницше. Философы вообще любят придумывать слова, чтобы простую мысль нельзя было объяснить без двести грамм. Вот и Ницше придумал слово «реактивность»: тебя обидели, ты обидел другого. Например, вас унизил начальник, вы пришли домой и сорвались на ребёнке, ребёнок пнул кота, кот нассал в тапки. Цепочка замкнулась. Вот так становятся участником великой человеческой традиции под названием «передай омно дальше». Вот это Ницше и называл реактивностью.
Есть ли способы образумиться? Давайте вспомним то же христианство. Заповедь «не отвечай злом на зло» — это, даже если убрать религиозную оболочку, попытка разорвать бесконечную цепочку человеческого бешенства. Не передавать дальше, остановиться. Не потому что вы слабы, а потому что иначе зло будет путешествовать по людям бесконечно. Око за око, пока мир не ослепнет.
Красиво, конечно, придумано. Только тяжело исполняется, особенно когда в интернете уже написали, что ты тупой. Пальцы сами тянутся объяснить человеку, что тупой вообще-то он, вся его родня до седьмого колена и даже любимый хомяк.
Давайте заодно вспомним Сократа и Аристотеля. Без древних греков ни одна философская драка не считается официально открытой 😉 Они говорят удивительную вещь: человек не мыслит постоянно. Вообще. Представляете? Не существует такого режима, где мозг круглосуточно производит мудрость.
Большую часть времени мы действуем по привычке, инерции, шаблону. Автоматом. Проснулся, почистил зубы, открыл новости. Разозлился. Почитал комментарии. Разозлился ещё сильнее. Ответил, получил ответ. Разозлился окончательно. Очень продуктивное использование сознания. Настоящее мышление, говорят греки, случается редко. Это тот момент, когда человек вдруг способен остановиться и спросить самого себя: а если я ошибаюсь?
Вот это страшный вопрос. Но хороший. После него иногда приходится менять взгляды, признавать ошибки, извиняться, учиться заново. А это мозг терпеть не может. Ему приятнее жить с ощущением, что он уже всё понял. Именно поэтому настоящего мышления так мало. Оно энергозатратно, неприятно, оно требует отказаться от собственного самолюбия. Так что глупость — это вовсе не диагноз, а стартовая комплектация. Так человек устроен: сначала ошибается, потом получает по голове, делает выводы (желательно), потом снова ошибается. И только если ему очень повезёт, через много лет начинает понимать, насколько мало он понимает. И, знаете, это, пожалуй, единственный момент, когда человек действительно становится немного умнее, когда перестаёт считать себя самым умным в комнате.
А вот цифровой мир придумал способ сделать так, чтобы этот момент вообще не наступал. Сегодняшняя глупость — совсем не та, что была две тысячи лет назад. Почему? Потому что проблема уже не в количестве знаний. Проблема в том, кто этими знаниями управляет. Помните Маркса? Того самого, которого большинство людей знает исключительно по бороде и фразе про призрак коммунизма. Так вот, Маркс когда-то говорил о пролетаризации. Только речь у него шла о заводах. Вот приходит человек работать, вроде бы он мастер, вроде бы умеет делать мебель. Сам клал кирпичи, точил детали и понимал весь процесс. А потом появляется фабрика. И выясняется, что теперь ему всю жизнь надо только прикручивать один и тот же болт. Восемь часов, каждый день, годами. Он уже не мастер, а приложение к станку. Часть механизма.
Теперь это вот произошло со всеми нами. Только вместо станка у нас смартфон. Вот смотрите, смартфон постепенно забирает те функции, которые раньше приходилось выполнять самому. Зачем запоминать номера, если есть контакты. Или запоминать дорогу, если есть навигатор. Дни рождения — календарь напомнит. Калькулятор за нас посчитает. Через какое-то время обнаруживается удивительная вещь: вроде бы умеешь всё, но без телефона — почти ничего. Попробуйте ради эксперимента прожить день без смартфона. Штука, которую мы называли инструментом, постепенно стала внешней частью нашего мозга.
Это ещё не всё. Самая подлая ловушка. Когда человек перекладывает тяжёлую работу на машину — это прекрасно. Для этого машины и придумали. Пусть экскаватор копает, калькулятор считает, компьютер за секунду перебирает миллион вариантов. Это быстрее! Проблема начинается в тот момент, когда человек начинает перекладывать машине не тяжёлую работу, а ответственность. Это две совершенно разные вещи. Навигатор предложил дорогу, ладно, поехали. Алгоритм показал новость, поверили. Лента сказала, что все возмущены, возмутились. Рейтинг поставил ресторану четыре звезды, значит ресторан хороший. Даже не возникает вопроса: а кто вообще решил, что это лучший маршрут? Кто написал этот алгоритм? Почему мне показали именно эту новость? Почему именно эту рекламу? Самое страшное в современных алгоритмах то, что они отучают человека задавать вопросы. Ведь если навигатор сто раз довёл вас правильно, на сто первый вы уже не думаете, а просто едете. Доверие уже стало привычкой.
Хайдеггер когда-то говорил, что у каждой эпохи есть своё главное заблуждение. Эпохи отличаются не технологиями, а способом забывать о самом важном. Сегодня мы забываем о собственном мышлении. Мы настолько привыкли к готовым ответам, что постепенно перестаём ценить сам процесс поиска.
Главный наш враг — это энтропия. (И сразу половина читателей закрывает статью 😅). Слово «энтропия» большинство людей последний раз слышало в школе. И то только потому, что учитель физики его произнёс, а класс дружно сделал вид, что понял. На самом деле всё проще. Представьте свою квартиру: в понедельник вы её убрали. Красота, чистота, носки лежат вместе, посуда чистая, на столе ничего лишнего. Через неделю без всякой магии квартира выглядит так, будто по ней прошёлся небольшой ураган. И никто специально бардак не создавал. Он появился сам. Вот это и есть энтропия.
Мир сам по себе любит расползаться в беспорядок. Пыль появляется, железо ржавеет, дом ветшает, организм изнашивается, провода запутываются. Чтобы порядок сохранялся, нужно постоянно прикладывать усилия. С человеческим мышлением происходит то же самое. Если перестать думать, спорить, проверять, сомневаться, учиться — начинается интеллектуальный бардак. Так устроен мир.
И второе страшное слово — негэнтропия. Не пугайтесь. Это просто способность создавать порядок там, где всё стремится развалиться.
Построил дом — негэнтропия, написал хорошую книгу — негэнтропия, научил ребёнка чему-то новому — тоже, изобрёл лекарство — вообще красавчик. Каждый раз, когда человек создаёт нечто, чего раньше не было, он как будто плывёт против течения. Можно сказать, что интеллект — это не склад знаний. Это способность увеличивать порядок, а не хаос.
А теперь появляется искусственный интеллект. Проблема с ним не в алгоритмах. Проблема в том, что мы слишком легко начинаем считать вычисление мышлением.
А это совершенно разные вещи. Вот представьте калькулятор, он считает быстрее любого человека. Но попробуйте попросить его решить, стоит ли вам разводиться, или простить друга, или объяснить, почему вы несчастны, хотя у вас вроде всё хорошо. Вот в этом и заключается главный фокус искусственного интеллекта. Он может обработать миллиарды данных за секунды или найти закономерности, которые человек не заметит и за десять лет. Но понимать — не умеет. Он вычисляет. Существует ведь огромная разница между человеком, который знает миллион слов и человеком, который понимает, зачем они нужны. Также и здесь.
Вот к примеру, Кант, куда же без него. Кант когда-то говорил, что мыслить — это не просто анализировать готовые данные, это ещё и способность выходить за пределы уже известного. Представьте себе двух людей. Первый говорит, что за последние сто лет он видел только белых лебедей. Значит, все лебеди белые. Второй отвечает, мол, а вдруг нет? И вот именно второй начинает мыслить. Потому что он допускает возможность, что мир окажется сложнее его статистики. (А потом голландцы приплывают в Австралию.
Смотрят, мать честная! Чёрный лебедь.)
Статистика прекрасно описывает вчерашний мир. Но очень плохо угадывает завтрашний. Алгоритмы великолепно работают там, где всё повторяется. Но жизнь — сволочь творческая. Она регулярно подкидывает такое, чего никогда раньше не происходило. Пандемия, финансовый кризис, новая болезнь, неожиданное открытие. Человек вдруг берёт и делает то, чего не предсказывала ни одна модель. Любой алгоритм усиливает то, что уже известно. Он прекрасно умеет находить закономерности. Но он не умеет удивляться, сомневаться или сказать: стопэ, а если всё вообще устроено иначе? А человек умеет. По крайней мере, пока окончательно не разучился. Хотя перспектива естественной тупости, которая добровольно переложила своё право думать на машину, пугает.
Если кто дочитал до сюда, обращаюсь к вам: вы же понимаете, что за всей этой историей вообще-то стоят деньги. Можно, конечно, опять процитировать дедушку Маркса, как человека, который когда-то неплохо разобрал двигатель капитализма. Правда, двигатель с тех пор заменили, турбину прикрутили, коробку автомат поставили, ещё и компьютер впихнули. Поэтому Маркса сегодня мало, его недостаточно. Это не значит, что его надо выбросить, нет, его надо продолжить. Потому что Маркс никогда не видел смартфон, TikTok и нейросети. И уж точно не представлял себе ситуацию, когда человек добровольно отдаёт корпорациям своё внимание, своё время, свои привычки и даже свои желания.
Для Маркса главным товаром был труд. Для современного капитализма главный товар — это вы. Точнее, не совсем вы. Ваше внимание, привычки, эмоции, реакции. Всё то, что можно превратить в график, цифру, рекламный профиль и потом продать.
Заметьте, какая красивая схема получилась. Открываешь приложение бесплатно. Думаешь: отлично! Ничего платить не надо. Конечно. Платишь-то не деньгами. Платишь временем, концентрацией, своими интересами, тем, что постепенно хочется именно то, что вам выгодно захотеть с точки зрения рекламной системы. Это рынок.
Современная экономика научилась перерабатывать человеческую психику. Обратимся к Фрейду. Мы не по тому самому делу. Фрейд вообще всю жизнь пытался объяснить, почему человек делает вещи, которые потом сам себе объяснить не может. Почему мы чего-то хотим, почему повторяем ошибки. Почему нас так легко поймать на удовольствии. Фрейд ничего не знал о смартфонах. Но если бы увидел сегодняшние уведомления, ему, наверное, пришлось бы написать ещё три тома. Современное приложение устроено почти как игровой автомат. Дёрнул рычаг: ой, новое сообщение. Ещё раз: о, лайк. Ещё: о, скидка. Ещё: о, кто-то ответил. Ещё: о, новый ролик. И мозг каждый раз получает маленькую конфетку дофамина. Крошечную дозу удовольствия. Ровно столько, чтобы захотелось ещё. Вот почему мы иногда открываем телефон «на минутку»... а потом вдруг обнаруживаем, что прошло сорок пять минут, чай остыл, кот смотрит с осуждением, а вы зачем-то знаете биографию человека, которого впервые увидел семь роликов назад. Алгоритмы давно перестали просто выполнять команды, они учатся управлять человеческим вниманием. А внимание — штука конечная. У вас нет бесконечного запаса концентрации. Каждая минута, подаренная бесконечной ленте, уже не достанется книге, разговору, прогулке, размышлению, молчанию.
И это, пожалуй, самое дорогое, что мы незаметно начали тратить. Деньги можно заработать ещё, время тоже можно освободить, а вот способность долго удерживать мысль — если её не тренировать, она начинает исчезать. Точно так же, как исчезают мышцы, если год пролежать на диване.
Вернемся к слову «работа». Мы привыкли считать работой всё, за что платят. Пришёл, отсидел смену, получил зарплату и домой марш. Но ведь это может быть и труд, а не обязательно работа. Работа — это когда человек создаёт что-то, чего раньше не существовало, когда развивается сам и увеличивает знания. Когда после завершения дела мир становится хоть немного богаче. А если вы восемь часов подряд механически выполняете команды системы, неважно, сидите ли вы у станка или целый день нажимаете кнопки в офисной программе... то возникает вопрос: кто здесь кем пользуется? Вы системой? Или система вами?
Самая дорогая вещь в XXI веке — вовсе не нефть, не золото и не данные. Самая дорогая вещь — способность человека оставаться автором собственных мыслей. Не надо вестись на всю эту модную болтовню про трансгуманизм, где нам обещают нового сверхчеловека, который вот-вот сольётся с машиной, загрузит сознание в облако и станет бессмертным цифровым аватаром с подпиской Premium. Потому что человек никогда не был просто биологическим существом. Мы уже три миллиона лет живём с «протезами»: сначала палка, потом топор, колесо, книга, потом компьютер. В этом смысле смартфон — не революция, а очередная глава старой истории. Но есть одна вещь, которую никакой гаджет не умеет делать вместо нас. Мышление. Не вычисление и не подбор наиболее вероятного ответа и не поиск самого популярного мнения. А именно мышление — способность свернуть с готовой дороги, усомниться, придумать то, чего ещё не существовало, сделать шаг туда, где никакой алгоритм не может подсказать маршрут.
И если однажды мы сами решим, что этого больше не нужно, никакой трансгуманизм нас уже не спасёт. Потому что исчезнет человек, нет, не тот, что из плоти и крови. Исчезнет человек как существо, которое умеет хотеть невозможного, ошибаться, переосмысливать себя и менять мир, а не просто вычислять следующий наиболее вероятный вариант.
Стальное Перо