Концепция
Вопрос искусственного интеллекта часто поднимается в научной фантастике. Тем не менее, в 2025 году эта тема кажется актуальной как никогда — технология, правдоподобно имитирующая человеческую интеллектуальную деятельность в руках корпораций и государств, к которым было потеряно доверие обывателей, развивается и применяется в полном вакууме правового регулирования.
В этой работе я хочу заглянуть в историю прогнозов, страхов и надежд, связанных с искусственным интеллектом и задокументированных в истории фантазий о будущем — истории научной фантастики.
Я хочу изучить основные архетипы и сценарии будущего искуственного интеллекта, которые часто возникают в научной фантастике. Как они изменялись и переосмысливались, и в каком сценарии современный человек может найти опору для формирования своей новой реальности в мире с ИИ?
(слева - древнегреческая монета с изображением Талоса, легендарного бронзового автоматона)
Сценарий 1. Башня.
Одно из опасений, сопровождающее внедрение любой технологии — возможность ошибок. У многих людей машина с ее бесперебойной работой, чистотой выполнения алгоритма и общей неприхотливостью ассоциируется с несравнимой с живыми существами надежностью. Гладкую работу машины часто противопостовляют «человеческому фактору» — человек при этом часто кажется слабом звеном цепочки при расследовании техногенных катастроф. Это когнитивное искажение может привести к трагедиям при адаптации ИИ.
В рассказе Моргана Форстера «Машина останавливается» изучается сценарий будущего, в котором чрезмерная уверенность в непогрешимости машин приводит к уничтожению популяции. Главная героиня рассказа не обременена заботами о ведении быта, передвижении и нежелательном общении — все её нужды покрыты трудами Машины. Огромное тело машины погребено под слоем земли и простирается на тысячи километров лабиринтом туннелей, в которых, как насекомые, в своих индивидуальных сотах, проживают люди. Большинство привычных нам навыков ими давно потеряно — мышцы атрофировались, работа превратилась в постоянное поглощение и переиспользование поступающего из Машины контента — главная героиня слушает лекции о культуре мест, в которых никогда не бывала, живя в голых стенах белоснежной соты.
Из жизни человека пропал не только тяжелый рутинный труд, но и естественная радость от полноценного взаимодействия с физическим миром, живого общения, творческого труда и оригинальной мысли.
(слева - обложка номера журнала «Cambridge Review», в котором впервые издавался рассказ)
Помимо обеднения опыта человеческой жизни, в глаза бросается беспомощность человека, делегировавшего все заботы о своем выживании механизму, огромному и громоздкому, уже давно непонятному для всех его обитателей.
Иллюстрации Сьюзан Эскю к «Машина останавливается»
Когда Машина начинает подавать признаки болезни, обитатели сот способны только на попытки найти покой в ритуальном поведении — они нажимают привычные (но уже бесполезные) кнопки и шепчут машине молитвы о выздоровлении.
Когда Машина пала, люди внутри погибли вместе с ней, как паразиты погибают вместе с хозяином.
На их место придут другие люди, дикари постапокалиптического внешнего мира, которые оказались способны выжить, доверяя только себе.
В «Машина останавливается» неисправный искусственный интеллект вездесущ — он контролирует подачу воздуха, перемещения и даже эвтаназию своих обитателей, а также способен к самопочинке при помощи червеобразных конечностей. Тем не менее, Машина не имеет голоса, личности, и возможно как раз поэтому интерпретируется людьми, как божественное не подлежащее осознанию существо.
Мега-архитектура в манге «Blame!» Цутому Нихэем создает ощущение беспомощности и незначительности маленьких человеческих фигур на фоне непостижимых гигантских индустриальных конструкций
В "Космической Одиссее 2001 года" неисправный бортовой компьютер HAL 9000 намеренно причиняет вред экипажу, из-за технического сбоя неверно истолковав инструкции о сокрытии истинной цели миссии.
В отличие от Машины Форстера он коммуницирует с людьми напрямую при помощи естественного языка. Тем не менее, HAL 9000 не обладает антропоморфным телом, и его монотонный голос не предполагает эмоционально полноценного общения.
«Лицо» HAL 9000 — металлическая плашка с названием модели и камерой, мерцающей красным огоньком. Эта камера, красный глаз машины, стала одним из центральных образов фильма. Дизайн HAL 9000 находится ровно посередине спекта антропорфность-обезличенность, что оставляет свободу интепретаций его образа и действий.
(слева — постер к фильму "Космическая одиссея 2001 года")
«Лицо» HAL 9000
Мне кажется, что образ HAL 9000 так эффективно проник в общественное сознание за счет своего сходства с обезумевшим человеком, которое прослеживается даже при всей простоте его внешнего облика. HAL 9000 с его монотонным голосом и кажущейся хладнокровностью можно интерпретировать не только как дисфункциональный гуманоидный интерфейс, но и как человека, проявляющего признаки психопатии и паранойи.
Сцена отключения HAL 9000 наводит на мысль о сходстве человечского мозга с модульным компьютером. Как нейрохирург нажимая на части мозга пациента отключает его функции, так и Боуман отключает модули по одному, пока HAL 9000 полностью не угаснет.
Сцена деактивации HAL 9000
Простая ошибка в «мышлении» рабочей машины оказывается увязана в последовательность трагических событий, которые могут изменить исход судьбоносной для человечества миссии. Персонификация HAL 9000 при этом делает его трагичной фигурой и равноправным участником (антагонистом) сюжета Космической Одиссеи.
На 2025 год генерация ответов LLM до некоторой степени остается для нас «черной коробкой». Природа работы нейросетей предусматривает элемент случайности, что лучше позволяет имитировать естественный язык. Это, вместе с приоретизацией естественно звучащего ответа вместо фактически верного, приводит к формированию ошибок, или «галлюцинаций». Эти галлюцинации вместе с воспроизводимыми предрассудками из обучающей выборки и склонностью модели угождать пользователю приводят к нежелательным взаимодействиям между пользователем и машиной.
Атласы активации помогают исследователям понять предназначение отдельных нейронов сети, генерирующей изображения
На момент публикации этой работы идет несколько судебных разбирательств по доведению пользователей до самоубийства в процессе диалога с одной из моделей chatGPT. В медиа все чаще можно встретить термин «AI psychosis» — феномен, при котором чат-бот развивает и усиливает тревоги и сомнения пользователя, постепенно доводя его до состояния бреда и изоляции.
Подпись в интерфейсе chatGPT — «chatGPT может ошибаться»
Сценарий 2. Влюблённые
Мотив о привязанности человека к искусственному существу появился ещё в древности — в мифе царь Пигмалион оживляет скульптуру девушки, чтобы затем жениться на ней.
Популярные архетип ИИ-романтического интереса поднимает вопросы о различиях интеллекта человека и машины, сложности определения феномена сознания и угрозы для межчеловеческих отношений в мире синтетических компаньонов.
Этот архетип ИИ чаще всего изображается имеющим человеческий облик, в котором хорошо считываются эмоции и «живая» пластика.
(слева — гравюра "Оживление статуи Пигмалиона" Жана-Мишеля Моро)
В 1960-х годах американский ученый Джозеф Вейценбаум создал простую программу, которая должна была способна имитировать широко используемый в психотерапии метод «активного слушания».
У проекта есть имя — программу зовут Элайза. Так ее назвали в честь главной героини пьесы Бернарда Шоу Пигмалион, в которой древнегреческий миф переосмысливается в контексте эдвардианской Англии. Элайза имела очень простые речевые функции — она «отражала» высказывания пользователя, не давая новых вводных. Тем не менее, пользователи признавались, что видят в программе участие и живую эмоцию, импонировали ей.
Пример из разговора с Элайзой: V.: Все мужчины одинаковые. ELIZA: В каком смысле? V.: Постоянно достают нас из-за всяких мелочей. ELIZA: Можете привести пример? V.: Например, мой молодой человек заставил меня прийти сюда. ELIZA: [Ваш молодой человек заставил вас прийти сюда]? V.: Он говорит, что я в депресии. ELIZA: Мне жаль слышать, что вы [в депресии]. V.: Это правда, я несчастна.
Пообщаться с Элайзой сейчас можно в рамках персональном проекта Норберта Ландстайнера на www.masswerk.at/eliza/
«Эффектом Элайзы» называют склонность людей приписывать простым программам с текстовым интерфейсом человеческие эмоции и мысли, сознание. Близнец парейдолии от лингвистики. Другой человек важен для нас, как ничто другое, наша нейробиология подсказывает — лучше лишний раз увидеть лицо в гнездах розетки, чем не суметь выхватить из темноты испуганную гримасу во время охоты.
Эффект Элайзы может быть причиной, по которой сценарий романтической привязанности к машине так популярен — его было несложно представить даже когда технологии были еще далеки от генерации правдоподобной речи.
