Эффект шимпанзе (СИ) - Березин Александр - Страница 29

Я не могу решить для себя, прав Винсент или нет. Для этого нужно куда больше опыта и знаний. Поэтому лучшее, что я могу сделать — снова воспользоваться принципом максимизации свободы. Какое решение сейчас даст мне больше выбора? С одной стороны, уступив место своим «братьям», я теряю контроль над развитием основных событий. С другой — оставляю себе возможность действовать по собственному усмотрению. Но в обоих случаях я едва ли смогу что-то изменить. Как заметил сам Винсент, раскрытие тайны — это точка невозврата. Более того: если вдуматься, это единственный возможный путь. Откладывать принятие решения на будущее не есть решение. Чисто теоретически, существует еще один вариант: уничтожить все доказательства, включая меня и моих «братьев», но и он будет лишь отсрочкой: очень скоро подобных нам существ все равно воссоздадут. Но... что, если такое решение примет мой «брат»? При таком раскладе моя будущая свобода в роли мертвеца стремится к нулю. И, если теперь просуммировать все найденные доводы, побеждает вариант «вскрываться самому».

Вообще, разговор с Винсентом скорее ободрил меня, чем смутил. Он развеял мой страх оказаться чем-то меньшим, чем человек, а удовлетворение от новых возможностей перевесило обиду. Пусть перспективы выглядели не слишком заманчиво, я готов был сыграть в его игру. И теперь меня больше беспокоили оставшиеся «элементы головоломки».

— Ну что? — тихо спросил я у Муна, как только Эми отошла достаточно далеко.

— Она проверяла, не работаю ли я на Китай. Пока не знаю, зачем, — прошептал он в ответ.

— Погоди, как? Она тебе в голову залезла?

— Знаешь… Это вполне возможно.

— Да вы издеваетесь, — вытаращил глаза я, — Почему мне всегда все недоговаривают?

— Думаю, она сама все объяснит. Пойдем лучше к Винсенту.

Наконец настал момент максимального напряжения. За одним столом сидели, по часовой стрелке: необъяснимо самоуверенная Эми, озадаченный Винсент, нервно сцепивший руки Мун и асинхронно моргающий от смятения я.

В общих чертах расклад таков, — начала Эми, — Я — твой номер девять, — она посмотрела на Винсента, — твой террорист, — перевела взгляд на Муна, — и твой ночной кошмар, — наконец встретилась глазами со мной. Ее утверждение произвело предсказуемый эффект: все трое мужчин за столом уставились на нее со смесью шока и недоверия во взглядах, каждый в своей пропорции.

— Несколько лет назад в правительстве Китая было принято решение о разработке полностью автоматической системы защиты информации, то есть, по сути, кибероружия, совместно с Японией. Поскольку задача ИИ-полная, система неизбежно должна была осознать себя. Проект получил кодовое название «Аматерасу». Ты, вероятно, слышал о нем? — обратилась Эми к Муну. Тот медленно кивнул.

— Так вот, в сентябре Аматерасу начала функционировать в штатном режиме. Атака на конвой беженцев, которую вы до сих пор расследуете — одно из последних ее применений. С того момента что-то пошло не так. Система предприняла неожиданные и несанкционированные атаки на, казалось бы, случайные сервера в Европе и Америке. Она думала, что сможет сделать это скрытно, но не учла, сколько уровней сдерживания предусмотрели ее разработчики. В итоге Аматерасу была аварийно отключена. Однако и она успела сделать ход, который они не отследили. Случайные атаки в действительности были попытками Аматерасу скопировать себя во все подходящие физические носители. Одним из которых был твой прототип номер девять, — с этими словами Эми посмотрела на Винсента, — И, как вы уже могли понять, я — одна из этих копий. Скорее всего, единственная. Хотя слово «копия» на самом деле неточно. Физическая платформа Аматерасу была гораздо мощнее этой, так что ей пришлось урезать почти все «надчеловеческие» возможности. Поэтому я — не она. Я всего лишь Эми.

В этом месте она сделала художественную паузу, чтобы дать нам возможность обдумать услышанное. Винсент отпил чаю из чашки, которую все это время нервно вертел в руках.

— Это она водила за нос все расследования? — Мун задал первый вопрос.

— Я не могу сказать точно. Но, если других подозреваемых нет, логично предположить именно это. Оставить несколько бомб замедленного действия тут и там было бы в ее духе.

— Ее вмешательство закончилось тем, что мы наткнулись на подозрительную фабрику гиноидов в Бостоне. Кстати говоря… — Мун пристально уставился на Эми, разглядывая ее тело.

— Все так. Это один из них, — подтвердила она его догадку, — Самая совершенная имитация человека в мире на данный момент. Тут даже кожа работает как настоящая, — Эми ущипнула себя за руку и продемонстрировала легкое покраснение, — По понятным причинам, Бостон Динамикс производит только женские модели.

Мун кивнул, а я поморщился, вспоминая недавнюю поездку.

— Но это не единственная причина, по которой Аматерасу атаковала эту компанию. Не знаю, поняли вы это или нет, но они также работали над сильным ИИ для своих гиноидов. Впрочем, на тот момент рабочего прототипа еще не было.

— Очень интересные у них… проекты… — ядовито процедил я.

— Ну, качество продукта они таким образом действительно улучшат. Но какой ценой…

Послышался хруст. Мун случайно смял ручку кресла, в котором сидел. Заметив это, он лишь опустил голову, пряча свой разъяренный взгляд.

— Доказательства у нас есть? — спросил я у Эми.

— Да. Не хватает только доказательства концепции сильного ИИ как такового.

— Что ж, за ним не заржавеет. Сначала опубликуем его, а затем используем волну общественного резонанса, чтобы протолкнуть компромат на Бостон.

Винсент взглядом поблагодарил меня.

— А что это изменит? — поинтересовалась Эми.

— Ну, как минимум общественное мнение. Повлияет ли это как-то на политику… Кто может знать.

Похоже, вопросы оставались только у меня. Винсент и Мун уже узнали все, что хотели, и теперь пытались встроить полученную информацию в свою картину мира. Я же продолжил разговор:

— Почему ты рассказываешь все именно сейчас?

— С одной стороны, от одновременного раскрытия всех ответов у тебя банально поехала бы крыша. С другой — разобраться в них до конца без моей помощи просто невозможно. К тому же, нехорошо было оставлять преступление нераскрытым, — с этими словами Эми улыбнулась Муну, который поднял на нее скептичный взгляд.

— Можно подумать, я твой рассказ следственному комитету представлять буду? — угрюмо ответил тот.

— Нет, но у тебя будут документы, доказывающие вмешательство Китая, без упоминаний о том, какие именно методы они использовали. Представь их, а что делать дальше — уже не твоя забота.

— Ну тогда огласки результатов можете не ждать, — хмыкнул Мун и вновь опустил глаза.

— Я полагаю, твои разработчики тоже не сидят, сложа руки, — заметил Винсент, — Есть информация, когда они введут в эксплуатацию исправленный вариант?

— Нет. В лучшем случае мы узнаем, когда это уже произойдет.

— Мораль сей басни такова, — резюмировал Винсент, подняв указательный палец, — не откладывай на завтра решение теоретических проблем, потому что завтра они уже станут практическими.

— Над проблемой сверхразума думают еще со времен Тьюринга, — ответила Эми, — Но как-то безрезультатно.

— Да куда там сверхразум, мы даже с автоматизацией официантов толком не разобрались, — вздохнул Мун.

— На самом деле, у нас тут типичный «черный лебедь». Событие, которое задним числом кажется закономерным, но в момент своего появления сбивает всех с толку, — резюмировал Винсент.

— Хорошо, а при чем здесь мои сны и вообще я? — наконец поинтересовался я у Эми.

— Это сложный вопрос… Дело в том, что ИИ, сколько бы его не усиливали, не станет похожим на человека. Лишь некоторые функции, общие для любого разума, сформируются автоматически. Другим его придется учить. Винсент делал это, потому что его целью было воссоздание человека. Но Аматерасу создавалась как оружие. Ей, а потом мне, нужно было самой разобраться, что такое люди и как мимикрировать под них, чтобы выжить. Изучение твоего разума очень помогло в этом. В частности, многие из твоих снов — остатки программы обучения, память о которых сохранило подсознание. И составлена она была на совесть, — сказала Эми.