Восстание машин или цифровая диктатура? Большой разговор с философом о будущем человечества в эпоху ИИ

— Разработка искусственного интеллекта — сфера интереса корпораций, которые ориентируются на метрики прибыли и эффективности. Эта область полностью игнорирует современное гуманитарное знание?

— Действительно, может сложиться впечатление, что сфера разработки ИИ надежно ограждена информационным барьером. Кажется, что замечания этического характера никак не сказываются на работе технологических корпораций, а предупреждения от моральных авторитетов (например, в конце мая папа римский обнародовал энциклику Magnifica Humanitas, в которой рассуждает об ИИ и рисках для человечества, которые несут технологии) они игнорируют.

Однако говорить, что создатели ИИ вовсе не имеют идеологических оснований, а движимы только стремлением заработать, тоже нельзя. У их деятельности есть своя идеология, но она не является гуманитарной в привычном смысле этого слова.

Скорее уместно назвать ее постгуманитарной, поскольку центральное место в ней занимает понятие post-human, то есть то, что будет после человека в результате технологических усовершенствований его природы.

Одним из последних примеров изложения такой идеологии является нашумевший «Манифест Палантира» Питера Тиля и Алекса Карпа — людей, непосредственно связанных с ИИ-индустрией. Довольно часто о скором преодолении ограниченности человека говорят главы технологических корпораций Илон Маск и Сэм Альтман.

Папа римский в своей энциклике полемизирует именно с подобными взглядами: для него человеческая природа священна, а стремиться ее улучшить — значит претендовать на роль Бога и впадать в немыслимую для христианина ересь. Перед нами разворачивается столкновение парадигм, определяющее дальнейшие пути цивилизационного развития. То есть разработчики ИИ не игнорируют гуманитарное знание — просто это не то классическое гуманитарное знание, к которому мы привыкли.

«От ИИ ожидают слишком многого — настолько, что даже непонятно чего»

— Как вы думаете, каковы прогнозы и долгосрочные перспективы «ИИ-оптимизма»?

— Стартовой точкой нынешнего ИИ-ажиотажа можно считать публичный релиз ChatGPT, вышедший в 2022 году. После него, во-первых, разработчики ИИ смогли заявить, что внедрение технологии приведет к чрезвычайному повышению экономической эффективности практически во всех сферах деятельности, и, во-вторых, инвесторы им поверили.

Экономический эффект предполагалось достигнуть главным образом за счет автоматизации интеллектуального труда. По сути, нам обещан переход на новый технологический уклад.

На мой взгляд, нынешний ИИ-ажиотаж уместно рассматривать как глобальный инвестиционный проект, который до последнего времени находился в фазе вложений. Теперь все же необходимо понять, за счет каких механизмов инвестиции начнут окупаться.

Наиболее релевантными вопросами в этом контексте становятся вполне традиционные — о прибылях и убытках: какие выгоды приносит внедрение ИИ и как дорого это обходится.

Адекватная оценка ситуации сильно затруднена маркетинговыми усилиями компаний, которые сегодня ведут интенсивную борьбу за рынок и внимание инвесторов.

Неочевидный момент, на который я здесь хотел бы обратить внимание, — энергоэффективность технологии. Все предыдущие технологические переходы были связаны либо с нахождением новых источников энергии (например, двигатель внутреннего сгорания или расщепление атома), либо с оптимизацией существующих энергозатрат (изобретение прядильного станка или конвейера). На данный момент не вполне понятно, как именно современное поколение нейросетей обеспечит подобный эффект.

Еще один важный момент — капиталоемкость отрасли, совокупные инвестиции в которую уже измеряются сотнями миллиардов. Фактически сейчас технологические корпорации живут в долг и продают свои услуги гораздо дешевле себестоимости. Эта модель не может быть устойчивой, поскольку в определенный момент поток инвестиций иссякнет.

Если же отбросить футуристические предсказания о скором пришествии AGI (Artificial General Intelligence — «искусственный общий интеллект», гипотетический искусственный интеллект, способный понимать, обучаться и выполнять любые интеллектуальные задачи на уровне человека или превосходить его в широком спектре дисциплин), который волшебным образом решит проблемы человечества, а также очистить показатели индустрии от грандиозных внешних вливаний, то вполне может выясниться, что выгоднее поручить работу человеку, чем нейросети.

Я пишу текст, вооружившись кружкой чая и шоколадом, а для функционирования современных LLM нужно очень дорогое и «прожорливое» оборудование. Можно, конечно, возразить, что нейросеть в среднем сделает работу быстрее, качественнее и надежнее, но пока из этого списка верно только первое.

Ситуация сильно разнится в зависимости от вида интеллектуальной деятельности (например, не вызывают больших сомнений успехи нейросетей в написании программного кода), но качество и особенно надежность результата работы моделей пока отстают: проблема «галлюцинирования» так и не преодолена, и есть основания полагать, что на нынешней архитектуре ее преодолеть не получится. И повторю основную мысль: нет твердой уверенности, что нейросети делают сопоставимую работу дешевле.

Все вышесказанное вовсе не означает, что генеративный ИИ бесполезен — напротив, это впечатляющая технология, которая существенно облегчает поиск и обработку информации. Уже сейчас обращение к чат-боту за советом становится неотъемлемой частью повседневных познавательных практик. Проблема только в том, что от ИИ ожидают слишком многого — настолько, что даже не вполне понятно чего.

CEO технологических компаний также не стесняются эти ожидания подстегивать, но их интерес можно понять. В целом ситуацию уместно сравнить с кризисом доткомов начала 2000-х — тогда инвесторы также готовы были дать денег всякому, кто назовет свой проект онлайн-платформой; довольно быстро выяснилось, что не каждая онлайн-платформа приносит прибыль. Тем не менее телекоммуникационные технологии, появившиеся в то время, прочно вошли в нашу жизнь. Возможно, по такому сценарию идет и ИИ, но, проводя аналогии, следует указать и на различия.

На перспективы индустрии влияют разнонаправленные факторы: с одной стороны, она все больше становится политическим фактором и, вероятно, в случае кризиса получит государственную поддержку; с другой — общественное мнение по этому вопросу сильно поляризовано, а ожидания раздуты настолько, что падение может стать действительно катастрофическим и похоронить под обломками то действительно ценное, что в ней есть.

Кто виноват в неправомерном приговоре суда, который подсказал ИИ?

— Кто будет нести ответственность за преступления или злоупотребления, совершенные ИИ?

— Вопрос чрезвычайно запутанный, попробуем распутать его, опираясь на несколько моральных интуиций, которые зафиксированы в большинстве существующих правовых систем.

Во-первых, чтобы быть субъектом морали, человек должен быть свободен в своих поступках. В преступлении, совершенном под принуждением, виноват тот, кто принуждал, но не тот, кого принуждали. Во-вторых, как кажется, значительная часть писаной и неписаной морали выстраивается вокруг минимизации страданий, которые люди могут причинить друг другу.

Если мы исходим из убеждения, что ИИ не обладает способностью страдать и не имеет своих намерений, то вся ответственность остается на человеке — только он может быть действительным источником преступления. Однако следует признать, что мы все чаще будем сталкиваться со случаями, когда применить эти принципы будет непросто.

Кто виноват в неправомерном приговоре, вынесенном с подсказкой ИИ, — разработчик нейросети, судья, который ей доверился, или вышестоящая инстанция, допустившая такой судебный регламент? Похоже, происходит усиление тенденций, описанных еще Кафкой: моральная ответственность размывается в сочленениях системы человеческих и искусственных агентов, и все сложнее указать, кто именно виноват.

— Как быть с огромным количеством сгенерированного контента и прогнозами о том, что скоро люди, работающие с текстами, визуалом, музыкой, останутся невостребованными? Каковы перспективы творческих профессий в эпоху нейрослопа?

— Вопрос о том, способны ли машины к творческой деятельности, имеет богатейшую традицию обсуждения и тесно связан с вопросом о сущности творчества вообще. Одна из наиболее расхожих позиций заключается в том, что творчество подразумевает выход за устоявшиеся рамки и создание чего-то принципиально нового. В этом смысле сгенерированный ИИ контент признать творчеством нельзя.

Например, такую точку зрения в своем свежем тексте предлагает Виктор Пелевин, в свойственной ему провокационной манере заявляя, что «лингвомодель ИИ всего лишь усредняет сказанное прежде», и потому «творчество есть именно то, к чему ИИ не способен».

В то же время следует учесть как минимум два обстоятельства, которые эту картину усложняют. Во-первых, уже сейчас миллионы людей потребляют сгенерированный контент (тексты, музыку, видео) и находят в нем свою красоту. Конечно, можно обвинить их в дурном вкусе, но факт останется фактом: ИИ-артисты уже подписывают контракты со звукозаписывающими компаниями, а голливудские актеры и сценаристы видят в нейросетях прямого конкурента.

Во-вторых, даже в самой творческой профессии есть рутинные элементы, которые нейросеть легко воспроизводит, и провести границу между искусством и ремеслом не всегда просто. Внедрение ИИ влияет на эту сферу деятельности двояко: с одной стороны, автоматизация стандартных процедур сильно облегчает работу, но с другой — под угрозой потерять работу оказались специалисты начального уровня, чья деятельность в основном из этих процедур и состояла.

«Матрица» невозможна потому, что у ИИ нет намерений — ни враждебных, ни дружелюбных

— Насколько велик риск того, что ИИ уничтожит человечество или значительно ему навредит?

— К сценариям, распространенным в массовой культуре (например, из фильмов «Матрица» или «Терминатор»), я отношусь скептически. Они основаны на предпосылке, что ИИ будет обладать намерениями и эти намерения будут враждебны по отношению к людям. На этот счет сейчас ведутся ожесточенные дискуссии, но пока научный консенсус складывается в пользу мнения, что намерений (как враждебных, так и дружелюбных) у ИИ нет.

Опасаться стоит куда более прозаичных и достаточно хорошо изученных техногенных рисков. Например, доверяя автоматизированной системе с ИИ систему энергообеспечения больницы, мы принимаем и вероятность того, что произойдет сбой; и, кажется, это произойдет не потому, что система хотела навредить.

Уже сегодня можно видеть, как риски подобного типа реализуются при использовании ИИ в юридической практике. Например, система COMPAS, используемая в американской судебной системе, анализирует данные о правонарушениях и может предсказать, насколько высока вероятность того, что обвиняемый совершит новое преступление. Судьи опираются на оценку системы при решении о досрочном освобождении. Еще в 2016 году выяснилось, что алгоритм систематически ошибается, тем не менее эта система используется до сих пор.

Еще более экстремальные примеры предоставляет применение ИИ в военном деле — недавний пример с ударом по школе в Минабе: целеуказание осуществлялось с помощью ИИ, который использовал устаревшие карты.

Так что ИИ вряд ли поработит человечество в ближайшем будущем, а вот ущерб при неаккуратном использовании может нанести значительный.

Фото: Envato Elements, Pexels