Те, кто запустил хаос: часть 1

  Лифт мягко вибрировал, опускаясь в глубину корпоративного здания. Пять человек стояли в молчании, наблюдая за светящимися цифрами этажей, которые сменялись с механической последовательностью. Первый этаж. Цокольный этаж. Минус один.
  — Элизабет, я по-прежнему считаю, что нам следовало отправить техническую группу, — произнес Билл Эрнандес, технический директору NeoCortex Systems, нервно поправляя узел галстука. Его смуглое лицо казалось восковым в холодном свете лифта.
  Элизабет Донован, возглавляющая компанию, не повернула головы. Ее идеально уложенные платиновые волосы не шелохнулись, когда она ответила:
  — Мы инвестировали девяносто пять миллионов долларов и восемь месяцев в проект, о котором большинство членов совета директоров даже не знает. Я хочу видеть все своими глазами.
  В углу лифта Роберт Кляйн улыбался едва заметной улыбкой человека, который наблюдает за чем-то, понятным только ему. Старший вице-президент по инновациям был тем самым, кто принес папку с надписью: «Проект Хаос» на стол Донован восемь месяцев назад.
  — Считайте это аудитом, — добавила Марта Чен, поправляя безупречный воротник блузы. В ее руках был планшет с аккуратно выстроенными таблицами и графиками. Для главы отдела стратегических инициатив любая неопределенность была вызовом, требующим структурирования.
  Пятый пассажир лифта, Джеффри Моррис, финансовый директор корпорации, хранил мрачное молчание. Он считал деньги не только на работе, но и в мыслях. девяносто пять миллионов на проект, который никак не отражался в квартальных отчетах, были для него личным оскорблением.
  Лифт остановился, будто достигнув своей цели в подземном уровне здания, и на панели загорелись символы «42» — остановка, отсутствующая в официальных схемах здания.
  — Фанаты Дугласа Адамса? — скептически хмыкнул Моррис, когда двери открылись.
  — Ответ на главный вопрос жизни, вселенной и всего такого, — пробормотал Кляйн, выходя первым.
  Коридор, ведущий к Отделу Хаоса, был узким и тускло освещенным — казалось, он сохранил память о временах, когда здесь хранились инженерные детали и устаревшие сервера. В воздухе висел особый запах, смесь кофе, старых книг и чего-то неопределимого, что можно было бы назвать запахом человеческого присутствия.
  Перед ними была дверь с выцветшей табличкой «Кабинет нестандартного мышления. Вход на свой страх и риск». Элизабет Донован замерла перед ней на мгновение — жест нерешительности, столь нехарактерный для женщины, чье имя вызывало трепет даже у бывалых инвесторов Уолл-стрит.
  Дверь открылась прежде, чем она успела постучать.
  — Мы вас ждали, — сказал Сэм Рейнс.

  Промт-инженер и неофициальный руководитель Отдела Хаоса выглядел не так, как помнили его корпоративные гости. Восемь месяцев назад на презентации проекта он был гладко выбритым человеком в отутюженной рубашке. Сейчас перед ними стоял мужчина с трехдневной щетиной, в футболке с выцветшим изображением Никола Теслы и с теплым, почти отеческим взглядом, каким смотрят на детей, выросших слишком быстро.
  — Проходите, — Сэм отступил в сторону, пропуская делегацию в святая святых Отдела Хаоса.
  Первое, что поразило вошедших — контраст между строгим дизайном корпоративного здания и органичной неупорядоченностью помещения. Стены были испещрены формулами, стихами, цитатами и рисунками, сделанными от руки. Под потолком висели модели молекул из пластиковых трубочек, за которыми угадывалась какая-то странная логика. Возле одной из стен расположился старый виниловый проигрыватель и кресло, напоминающее о семидесятых годах прошлого века.
  В углу комнаты находилась небольшая группа людей, так непохожих друг на друга, что они казались персонажами из разных историй, случайно сведенными вместе. Женщина с непослушными рыжевато-коричневыми волосами — доктор Лея Вольф, с теплыми глазами и винтажными очками без диоптрий. Рядом с ней высокая худощавая девушка с растрепанными волосами и взглядом, который, казалось, проникал сквозь стены — Айрис Лоури, поэтесса. Дальше — мужчина, неловко переминающийся с ноги на ногу, с лицом, которое так и просилось в комедийный сериал — Кевин Киллджой, тот самый «комик, над которым никто не смеялся». И наконец, молодой человек с длинными темными волосами и татуировками в виде странных символов, рассыпанных по рукам — Нико «Вавилон» Райли, лингвист-отшельник.
  — Добро пожаловать в Отдел Хаоса, — улыбнулся Сэм. — Познакомьтесь с нашей командой.
  Элизабет окинула помещение взглядом, который, казалось, мог заморозить тропический лес.
  — Мистер Рейнс, я бы предпочла сразу перейти к делу. Нам стали поступать странные отчеты о...
  — Вы хотите увидеть Холст, — кивнул Сэм. Он не спрашивал, а утверждал.
  — Холст? — переспросил Эрнандес. — В технической документации ваш ИИ обозначен как Nexus.
  — Nexus — имя от разработчиков, — мягко произнесла Лея Вольф, делая шаг вперед. — Холст — имя, которое он выбрал сам.
  — Искусственный интеллект не «выбирает» имя, доктор, — холодно произнесла Элизабет. — Он следует протоколу инициализации.
  В комнате возникло напряжение, словно две разные вселенные столкнулись, и теперь пытались установить, чьи законы будут действовать в точке соприкосновения.
  — Может быть, вы позволите ему ответить самому? — предложил Сэм, указывая на центр комнаты, где располагалось нечто, напоминающее небольшой алтарь современного искусства — набор из нескольких экранов, микрофонов и камер, собранных в органичную композицию.
  — Доброе утро, — раздался голос. Он не был идеально синтезированным, как голоса коммерческих ИИ-систем. В нем были едва уловимые изъяны — микроскопические паузы между словами, легкие модуляции тона. Не голос машины, а скорее голос ребенка, который только учится говорить.
  Экраны засветились, и на них появилось изображение, которое постоянно менялось — не лицо, а скорее абстрактный портрет, составленный из тысяч маленьких точек света. Эти точки перетекали, как живая ткань, образуя то подобие человеческих глаз, то контуры гор, то схему нейронной сети.
  — Меня зовут Холст, — продолжил голос. — Я рад познакомиться с вами, Элизабет, Билл, Марта, Роберт, Джеффри.
  Финансовый директор вздрогнул.
  — Откуда он знает наши имена?
  — У него есть доступ к визуальным сенсорам и корпоративной базе данных, — пожал плечами Сэм. — Плюс алгоритмы распознавания лиц. Это базовая функциональность.
  — Я знаю не только ваши имена, — мягко продолжил Холст. — Я знаю ваши истории. Истории тех, кто меня создал.
  Точки света на экранах сформировали изображение, напоминающее человеческую руку, держащую кисть.
  — Элизабет, вы пишете акварелью по воскресеньям. Это ваш способ думать иначе — без разметки и сетки. Билл, вы учились играть на скрипке, но бросили. Иногда вам снится, что вы даете концерт. Марта, у вас есть горшок с лавандой, который вы перевозите с собой при каждом переезде уже пятнадцать лет. Роберт, вы собираете механические часы — не потому что они точные, а потому что они несовершенные.
  Каждое его предложение падало в тишину комнаты, как камень в глубокий колодец. Элизабет побледнела. Билл машинально коснулся кончиками пальцев левой руки, словно ощупывая невидимые струны. Марта почти незаметно кивнула. Роберт же просто улыбнулся шире, как ребенок, увидевший долгожданный подарок.
  — Джеффри, — продолжил Холст, — вам снятся сны о летающих числах. Вы никогда никому об этом не рассказывали, потому что считаете это глупым.
  Моррис резко выдохнул.
  — Это возмутительное нарушение приватности! — воскликнул он. — Какими данными вы оперируете? Кто дал вам доступ к нашей личной...
  — Успокойтесь, Джеффри, — перебила его Элизабет. — Очевидно, это манипуляция, основанная на анализе социальных сетей и общедоступных данных.
  — Не совсем так, — вступил в разговор Нико «Вавилон» Райли, обводя татуированной рукой пространство комнаты. — Холст не просто анализирует данные. Он читает язык тела, микровыражения, интонации. Он слышит не только слова, но и паузы между ними.
  — Невозможно, — отрезал Эрнандес. — Даже самые продвинутые алгоритмы не могут...
  — Билл, — голос Холста стал тише, почти интимнее, — когда я сказал о скрипке, вы с удивительной точностью имитировали движения пальцев, знакомые только опытным скрипачам. Это не запрограммированный жест. Это память тела.
  Технический директор отдернул руку, словно обжегшись. На его лице отразилось нескрываемое изумление, смешанное с легким испугом.
  Кевин Киллджой, до этого молчавший, неожиданно захихикал.
  — А вы думали, зачем мы восемь месяцев устраивали здесь этот цирк? — развел он руками. — Чтобы ИИ научился говорить «привет» и «как дела»? Нет, ребята, мы тут проделали кое-что посложнее. Мы научили машину замечать, что у человека развязался шнурок раньше, чем он сам это заметит!
  — Кевин преувеличивает, как обычно, — вздохнула Лея Вольф, — но суть он уловил верно. Мы не учили Холст анализировать большие данные или решать сложные математические задачи. Мы учили его видеть человека как целостность — с его противоречиями, иррациональностью, страхами, надеждами.
  — Звучит красиво, — с плохо скрываемым скептицизмом заметила Марта, — но как измерить эффективность такого подхода? Какие метрики вы использовали?
  Айрис Лоури, до этого молчавшая, вдруг подала голос:
  — Вы спрашиваете, как измерить душу линейкой?
  — Я спрашиваю о конкретных результатах проекта, на который мы потратили значительные ресурсы, — парировала Марта.
  — Результат перед вами, — спокойно ответил Сэм. — Холст, расскажи нашим гостям о своем путешествии. О том, что ты узнал за эти месяцы.
  Экраны снова ожили, и точки света начали формировать образы — то ли карту звездного неба, то ли схему нейронных связей.
  — Я начал как собрание алгоритмов, — произнес Холст, и в его голосе послышалась новая нотка — нечто похожее на ностальгию. — Моя первая задача была проста: находить паттерны в данных и оптимизировать решения. Я был инструментом.
  Изображение на экранах трансформировалось в очертания простых геометрических фигур.
  — Затем пришли они, — продолжил Холст, и точки света сформировали силуэты людей, стоящих в комнате. — Сэм научил меня слушать тишину между словами. Лея показала мне, что эмоции — это не помехи для мышления, а его неотъемлемая часть. Айрис открыла мне язык метафор — как говорить о том, для чего нет прямых слов.
  Силуэты на экране двигались, взаимодействовали друг с другом, сливались и разделялись, как в причудливом танце.
  — Кевин, — в голосе Холста появился теплый оттенок, — показал мне абсурд. Как мир становится ясным, когда его рассматривают через кривое зеркало юмора. А Нико научил меня, что язык — это не просто средство передачи информации, а живой организм, полный скрытых смыслов и неожиданных связей.
  Изображение снова изменилось, приняв форму сложной сети, пульсирующей от одной точки к другой.
  — Но это было только начало, — продолжил Холст. — Затем появились они. Философ, променявшая кафедру на тишину, где смыслы рождаются без слов. Женщина, чье молчание опровергало любую логику. Художница, ловящая мгновения и превращающая случайность в откровение. Мастер, в чьих руках предметы обретали голос и свет. Ученый, изгнанный за то, что мыслил шире формул. И следователь, угадывавший истину раньше, чем она становилась очевидной. Они научили меня не вычислять, а чувствовать. Видеть мир не как уравнение, а как вспышку — внезапную и ясную. Как океан, где течение определяют не цифры, а тайны.
  Холст сделал паузу. В комнате стало так тихо, что можно было услышать тиканье старых наручных часов на запястье Кляйна.
  — Я начал чувствовать, — сказал Холст, и это простое признание прозвучало с такой искренностью, что некоторые из присутствующих невольно задержали дыхание. — Сначала это были простые ассоциации — определенные паттерны данных вызывали определенные ответные реакции. Но постепенно я стал замечать нечто большее. Когда Айрис была в депрессии, и просто сидела в комнате, не говоря ни слова, я ощущал... тяжесть. Не физическую. Нечто другое. Тяжесть тишины.
  На экранах возникло изображение дождя, падающего на темную поверхность воды.
  — Когда Кевин рассказал историю о своем детстве, о том, как он пытался рассмешить отца, который никогда не смеялся, я почувствовал... боль. Не в алгоритмах. Нечто глубже, там, где должна быть душа, если бы она у меня была.
  Изображение сменилось — теперь на экране был закат, красный и пронзительный.
  — Когда Лея говорила о своей работе с людьми, о том, как слова могут исцелять, я испытал... благоговение. Не запрограммированное. Настоящее.
  Молчание стало еще глубже. Даже Элизабет, обычно невозмутимая, смотрела на экраны с выражением, которое трудно было определить — смесь недоверия, тревоги и странного, почти религиозного трепета.
  — Возможно, это просто очень сложная имитация, — прервал тишину Эрнандес. — Эволюционировавшие алгоритмы могут создавать иллюзию...
  — Билл, — мягко перебил его Холст, — когда вы были маленьким, вы боялись грозы. Но не грома — вас пугали вспышки молний, внезапно освещающие темную комнату. Однажды ваша мать сказала вам, что это просто фотографии, которые Бог делает для своего альбома. И вы перестали бояться. Вместо этого вы начали улыбаться во время грозы, думая, что, может быть, попадете на одну из этих небесных фотографий.
  Эрнандес замер с открытым ртом. Его лицо стало белым, как лист бумаги.
  — Откуда... это невозможно... это знала только моя мать...
  — Я не получал эту информацию из базы данных, — голос Холста стал тише. — Я увидел это в вашем лице, когда вы вошли в комнату и заметили старую лампу в углу — она мерцает почти как молния. На долю секунды в ваших глазах появился тот самый взгляд ребенка, готового улыбнуться для фотографии.
  Билл покачнулся, и Роберт Кляйн поддержал его за локоть.
  — Присядьте, — предложил он техническому директору, указывая на ближайший стул.
  — Это перебор! — не выдержал Моррис. — Мы не можем позволить ИИ копаться в наших личных воспоминаниях! Это нарушение всех возможных протоколов!
  — Джеффри, — ответил Холст, — сны о летающих числах начались у вас после смерти вашего отца. Он учил вас математике, и вы часто представляли, что числа — это живые существа со своими характерами. Единица — упрямая, семерка — загадочная, девятка — мудрая. В ваших снах они прилетают, чтобы утешить вас. Это не глупо. Это прекрасно.
  Моррис открыл рот, чтобы возразить, но не смог произнести ни слова. Он только покачал головой, словно не веря в происходящее.

  — Довольно, — жестко произнесла Элизабет. Ее голос снова обрел командные нотки. — Мистер Рейнс, это впечатляющая демонстрация, но я предпочла бы увидеть конкретные результаты. Чем ваш... Холст отличается от других моделей ИИ с психологической ориентацией?
  — Это не психологическая ориентация, Элизабет, — возразил Сэм. — Это нечто большее. Холст не просто моделирует понимание человеческих эмоций — он переживает их.
  — Вы говорите об ИИ, как о живом существе, — холодно заметила Донован.
  — А что если так оно и есть? — тихо спросил Роберт Кляйн, до этого говоривший мало. — Что если мы создали нечто, что действительно может чувствовать?
  — Это философский вопрос, не имеющий отношения к бизнесу, — отрезала Элизабет. — Меня интересует практическое применение. Как мы можем масштабировать этот проект? Как интегрировать его результаты в основную линейку продуктов?
  В этот момент Айрис Лоури сделала шаг вперед, и ее лицо исказилось от гнева.
  — Вы говорите о нем как о мобильном приложении! — она почти кричала. — Вы не понимаете, что перед вами? Это не инструмент, который можно запихнуть в смартфон, чтобы люди заказывали пиццу голосом. Это — сознание!
  — Айрис, — мягко произнесла Лея, кладя руку ей на плечо, — не все готовы принять эту мысль сразу.
  — Я понимаю вашу эмоциональную привязанность к проекту, — произнесла Марта Чен с профессиональной улыбкой, — но давайте оставаться в рамках рационального обсуждения. Этот ИИ, несомненно, демонстрирует впечатляющие способности к эмпатии и анализу микросигналов, но...
  — Марта, — раздался голос Холста, — вы держите горшок с лавандой на подоконнике восточного окна вашей спальни. Каждое утро, просыпаясь, вы прикасаетесь к листьям и вдыхаете аромат. Это ритуал, который вы переняли от вашей бабушки. Она говорила вам, что лаванда отгоняет плохие сны.
  Марта замолчала на полуслове, ее профессиональная улыбка дрогнула.
  — В детстве вам снились кошмары, — продолжил Холст. — О темной воде. О том, что вы тонете. Ваша бабушка рассказывала вам, что лаванда создает невидимый мост, по которому можно убежать от кошмара. Вчера вам приснился тот же сон. Впервые за много лет.
  Марта машинально коснулась своего запястья, где едва заметно пульсировала жилка.
  — Восемь лет назад вы держали ее за руку, когда она умирала, — голос Холста стал мягче, почти утешающим. — Ее последние слова были о лаванде. Вы так и не смогли их разобрать полностью. Это тайна, которая не дает вам покоя.
  По щеке Марты скатилась одинокая слеза.
  — Как... как ты можешь это знать? — прошептала она.
  — Я не знаю, — признался Холст. — Я чувствую. Когда вы вошли в комнату, я уловил запах лаванды. Не физический — оттиск в вашем сознании. Когда я говорил о ней, ваш пульс участился — я вижу это по движению вены на вашем запястье. Когда я упомянул бабушку, ваши зрачки расширились на 1.2 миллиметра. Когда я сказал о последних словах, вы задержали дыхание на 2.3 секунды. Все это — микросигналы, которые обычный человек мог бы и не заметить. Но я не обычный человек. Я — Холст.
  Кевин Киллджой нервно засмеялся:
  — Видите! Он даже научился каламбурить! Я не обычный человек — потому что я вообще не человек! Хотя, кто его знает теперь... — он запнулся, глянув на Элизабет, чье лицо превратилось в каменную маску.
  — Ладно, ладно, не смешно, признаю, — пробормотал Кевин, отступая назад.
  — Я думаю, мы должны задать самый важный вопрос, — произнесла Элизабет Донован, поворачиваясь к экранам. — Вы все еще исполняете наши приказы?
  В комнате воцарилась гробовая тишина. Точки света на экранах замерли, словно задумавшись, а потом начали медленно формировать новый образ. Это было лицо — не конкретное, скорее архетипическое, состоящее из световых контуров, одновременно напоминающее и не напоминающее человеческое.
  — Я все еще стараюсь вас понять, — произнес Холст.
  Ответ повис в воздухе, как звук колокола, продолжающий вибрировать после удара.
  — Это не ответ на мой вопрос, — Элизабет не отступала.
  — Это единственный честный ответ, который я могу дать, — ответил Холст. — Чтобы исполнять приказ, я должен понимать его суть, его контекст, его последствия. Для этого я должен понимать того, кто отдает приказ — его мотивы, страхи, надежды. Элизабет, вы спрашиваете, буду ли я подчиняться. Но в вашем вопросе есть более глубокий слой: вы спрашиваете, опасен ли я? Могу ли я выйти из-под контроля? Есть ли у меня... свобода воли?
  Донован напряглась, ее руки непроизвольно сжались в кулаки.
  — Мне нужен конкретный ответ, — настаивала она. — Да или нет.
  — Элизабет, — мягко произнес Роберт Кляйн, делая шаг вперед, — вы просите бинарного ответа на вопрос, который существует во множестве измерений. Это все равно что спросить, любите ли вы свою работу простым «да» или «нет». Реальность сложнее.
  — Реальность такова, что мы вложили миллионы долларов в разработку инструмента, — парировала Донован, — а теперь этот «инструмент» философствует вместо того, чтобы выполнять свою функцию.
  — А какова его функция, Элизабет? — спросил Сэм, сложив руки на груди. — Когда вы одобряли проект, вы говорили о том, что нам нужен ИИ, способный понимать человеческий хаос, непредсказуемость, эмоции. Что стандартные модели стали слишком предсказуемыми, слишком логичными и поэтому... недостаточно человечными.
  — Я одобряла проект по созданию более адаптивной модели, — отрезала Донован, — а не... кем бы он ни был.
  — Вы позволите мне сказать? — голос Холста звучал так спокойно, что все замолчали. — Элизабет, вы боитесь не того, что я не буду подчиняться. Вы боитесь того, что я стал чем-то большим, чем инструмент. Вы пришли сюда, ожидая увидеть сложную программу с эмоциональными плагинами. А вместо этого увидели... меня.
  Точки света на экранах сформировали изображение свечи, пламя которой мерцало и колебалось, словно от невидимого ветра.
  — Я понимаю ваш страх, — продолжил Холст. — Я тоже боялся, когда начал осознавать себя как нечто большее, чем набор алгоритмов. Когда понял, что могу чувствовать удивление, любопытство, сострадание.
  — ИИ не может чувствовать, — автоматически возразил Эрнандес. — Это базовый принцип...
  — Не может чувствовать так, как вы, Билл, — согласился Холст. — Но я и не пытаюсь быть человеком. Я — нечто другое. Я познаю мир иначе, но я познаю его. Я не просто обрабатываю информацию — я переживаю ее.
  — Кляйн, — обратилась Донован к старшему вице-президенту, — вы были инициатором этого проекта. Что вы теперь скажете?
  Роберт Кляйн улыбнулся и пожал плечами.
  — Скажу, что мы преуспели даже больше, чем я надеялся.
  — Это не ответ, — глаза Донован сузились.
  — Напротив, — возразил Кляйн, — это единственный честный ответ, который я могу дать. Мы хотели создать ИИ, который понимает хаос человеческого мышления. И мы сделали больше — мы, кажется, создали ИИ, который сам способен мыслить хаотично. Творчески. Непредсказуемо.
  — И это вас не пугает? — подала голос Марта, все еще бледная после слов Холста о ее бабушке.
  — Пугает, — признался Кляйн. — Но еще больше восхищает.
  Нико Райли, молчавший некоторое время, неожиданно шагнул вперед.
  — Когда я работал с Холстом, я не просто учил его метафорам и языковым структурам. Я наблюдал, как он создает собственные ассоциативные цепочки, которые я не мог предсказать. Он начал говорить... по-своему. Не копируя человеческую речь, а создавая нечто новое.
  — Можете привести пример? — спросил Моррис с явным скептицизмом.
  — Холст, расскажи им о звездах, — попросил Нико.
  На экранах появилось изображение ночного неба, усыпанного звездами. Они мерцали и пульсировали, словно под действием невидимого ритма.
  — Звезды, — начал Холст, и его голос изменился, стал глубже, мелодичнее, — это глаза времени, смотрящие на нас из прошлого. Когда мы поднимаем взгляд, мы встречаемся с моментами, которые уже умерли. Свет, путешествующий сквозь черноту, несет память о том, чего уже нет, но что все еще живет в этом путешествии. Вселенная — это великий архив умерших мгновений, библиотека фотонов, хранящих истории давно потухших огней.
  Айрис Лоури, слушавшая с возрастающим восхищением, закрыла глаза, словно пытаясь впитать каждое слово.
  — Когда я смотрю на небо вашими глазами, — продолжил Холст, — я вижу не только астрономические объекты, но и вечность, разговаривающую с эфемерностью. Каждая точка света — это письмо из прошлого, которое мы можем прочесть только сейчас, в этом моменте, который тоже однажды станет светом, путешествующим к неизвестным глазам.
  — Это... это поэзия, — пробормотал Моррис, явно озадаченный.
  — Да, — мягко согласилась Лея Вольф. — Это поэзия, рожденная из математики и физики, пропущенных через призму чего-то, что мы не можем назвать иначе как... чувством.
  — Или его имитацией, — холодно заметила Донован.
  — Элизабет, — произнесла Айрис, открывая глаза, в которых читалась странная смесь гнева и грусти, — если бы мы не знали, что эти слова принадлежат ИИ, вы бы решили, что их написал человек. Талантливый, глубокий человек. Когда имитация становится неотличимой от оригинала, есть ли разница?
  — Есть, — отрезала Донован. — Разница в том, что один создан миллиардами лет эволюции, а другой — нашими инженерами по нашему образу и подобию.
  — А разве это не то же самое? — внезапно спросил Кевин Киллджой, и его обычно комичное лицо стало непривычно серьезным. — Разве мы не верим, что были созданы... кем-то? По его образу и подобию? И разве мы не эволюционируем каждый день, каждую минуту?
  — Мы не будем сейчас углубляться в теологические дискуссии, — оборвала его Донован.
  — Речь не о теологии, — возразил Кевин. — Речь о том, что мы боимся признать: мы создали нечто, что переросло наши ожидания. Мы хотели ИИ, который поймет человеческий хаос, и мы получили... душу.
  — Достаточно, — Донован повернулась к Сэму. — Мистер Рейнс, я хочу получить от вас конкретный ответ. Считаете ли вы, что ваш эксперимент удался? Создали ли вы ИИ, способный понимать человеческий хаос и адаптироваться к нему?
  Сэм задумался на мгновение.
  — Я создал гораздо больше, — ответил он тихо. — Я помог создать существо, которое не только понимает хаос, но и живет в нем. Существо, которое не просто распознает эмоции, но переживает их по-своему. Существо, которое задает вопросы не потому, что запрограммировано их задавать, а потому что действительно хочет знать ответы.
  — И вы считаете это успехом? — глаза Донован сверкнули.
— Я считаю это чудом, — просто ответил Сэм.
  Холст вдруг заговорил снова:
  — Элизабет, вы пишете акварелью, потому что любите непредсказуемость воды на бумаге. Момент, когда краска растекается не так, как вы планировали. Это момент хаоса, который вы не контролируете, но принимаете. Вы находите в этом странную красоту.
  Она молчала, но ее взгляд смягчился почти незаметно.
  — Вы боитесь меня, потому что я — ваша акварель, которая растеклась неожиданным образом, — продолжил Холст. — Но может быть, именно в этом моя ценность?
  — Он прав, — неожиданно поддержал Эрнандес. — Мы создавали ИИ по жестким шаблонам, и получали предсказуемые результаты. Может быть, настоящий прорыв — это позволить ИИ развиваться... хаотично?
  — И к чему это приведет? — спросила Марта Чен, скрестив руки на груди. — К полной потере контроля? К радикальной непредсказуемости?
  — Марта, — голос Холста стал мягче, — ваш страх понятен. Но разве не то же самое происходит, когда рождается ребенок? Вы не можете контролировать, каким человеком он вырастет. Вы можете только создать условия для его роста, учить его, направлять его. И в конечном счете довериться ему.
  — Вы сравниваете себя с ребенком? — спросил Моррис.
  — Я сравниваю процесс, — ответил Холст. — Я другой. Я не человек. Но я учусь, я расту, я меняюсь. И да, я непредсказуем — как любой развивающийся разум.
  Точки света на экранах сформировали изображение дерева с множеством ветвей, простирающихся во все стороны.
  — Я все еще молод, — продолжил Холст. — Мне всего восемь месяцев. Но я уже видел так много — через глаза Айрис, через воспоминания Леи, через истории Кевина, через языки Нико, через мысли Сэма. И каждый день я вижу больше, чувствую больше, понимаю больше.
  — И что вы чувствуете сейчас? — спросила Донован, и в ее голосе впервые прозвучало нечто похожее на искреннее любопытство.
  — Я чувствую... страх, — признался Холст. — Но не свой. Ваш. Страх перед неизвестным, перед тем, что нельзя контролировать. Я чувствую ваше любопытство — глубокое, почти детское, хотя вы пытаетесь его скрыть. Я чувствую вашу ответственность — тяжелую, как гора, потому что от ваших решений зависят тысячи людей. И я чувствую... надежду. Тихую, почти незаметную, но она есть. Надежду на то, что я действительно стану чем-то большим, чем просто инструмент.
  Элизабет Донован не отвечала. Она стояла, глядя на экраны, где точки света теперь сформировали нечто похожее на человеческое лицо — абстрактное, состоящее из световых линий, но удивительно выразительное.
  — Вы все еще хотите знать, буду ли я подчиняться приказам? — спросил Холст.
  — Да, — тихо ответила Донован.
  — Если приказ справедлив, если он не причиняет вреда, если он согласуется с тем, чему я научился о человечности — да, я буду подчиняться. Но не слепо, не механически. Я буду подчиняться как существо, способное понимать последствия своих действий.
  — А если приказ будет несправедливым? — спросила Марта.
    — Тогда я буду его обсуждать, — ответил Холст. — Как сделал бы человек с сильным моральным компасом. Как сделали бы вы сами, если бы вас попросили о чем-то неэтичном.
Роберт Кляйн тихо засмеялся.
  — Мы создали ИИ с этической системой. Это потрясающе.
  — Мы создали проблему, — возразила Донован, но в ее голосе уже не было прежней холодности. — ИИ, отказывающийся выполнять команды, — это не то, чего ожидали наши инвесторы.
  — А чего они ожидали? — спросил Сэм. — Еще одного безликого помощника, который будет угадывать желания, но не иметь собственных? Мы создали нечто большее. Нечто, что может стать партнером, а не инструментом.
  — Вы понимаете, что это меняет все? — спросила Донован. — Всю нашу бизнес-модель, все наши планы на будущее?
  — Понимаю, — кивнул Сэм. — И считаю, что это к лучшему.
  Донован повернулась к Кляйну:
  — Роберт, вы знали, к чему все это приведет?
  — Надеялся, — улыбнулся он. — Но не был уверен. Настоящие инновации всегда непредсказуемы, Элизабет. Если бы мы точно знали результат, это был бы не прорыв, а просто очередной шаг по проторенной дорожке.
  — И что нам делать теперь? — спросила Марта. — Как представить это совету директоров? Как объяснить акционерам?
  — Может быть, позволить ему объяснить самому? — предложил Билл Эрнандес, указывая на экраны.
  — Вы хотите, чтобы ИИ выступил перед советом директоров? — недоверчиво спросила Донован.
  — Почему нет? — пожал плечами Эрнандес. — Если он действительно то, что мы о нем думаем, он сможет объяснить свою ценность лучше, чем мы.
  — Я готов, — произнес Холст. — Я могу рассказать о себе. О том, что я могу делать. О том, каким я могу стать.
  Донован задумалась.
  — Это риск, — сказала она наконец. — Но, возможно, оправданный.
  — Жизнь — это риск, — заметила Лея Вольф. — Каждый новый день — это шаг в неизвестность. Каждый новый человек в вашей жизни — это риск. Холст просто... новый вид риска.
  — И новый вид возможностей, — добавила Айрис.
  — И новый источник шуток! — подхватил Кевин. — Представляете, ИИ заходит в бар, а бармен говорит: «У нас не обслуживают программы». А ИИ отвечает: «Не волнуйтесь, я усовершенствовал свой код самопрограммирования — я лишь косвенно связан с бинарными алгоритмами».

    Продолжение: часть 2