Прерванный полёт (джен)

Алекса Табола, менеджер по безопасности полётов авиакомпании «Эйртранс», сопровождала к служебному выходу из здания аэровокзала доктора Сьюзен Келвин, робопсихолога корпорации «Ю. С. Роботс энд Мекэникел Мен».

— Крайне сожалею об этом инциденте, — говорила Табола. — Мы считаем, что использование роботов серии ХЭП должно привести к революции в индустрии авиационного транспорта. Обычные пилоты могут ошибаться, а из-за любой аварии наша компания несёт серьёзные финансовые потери и получает кучу проблем.

Её тёмный деловой костюм прямо-таки кричал слово «корпорация», а должностной нагрудный знак завершал этот вопль громовым ударом в литавры.

— Думаю, что потери гораздо серьёзнее, если речь идёт о человеческой жизни или здоровье, — заметила Келвин. Её привычная удобная рабочая одежда тихо бормотала… Пожалуй, ничего определённого.

— Да, разумеется; я об этом не говорила, потому что… Это же очевидно. Одну минуту, мне следует поговорить с охраной. Вы можете немного подождать?

— Лучше я подожду вас прямо в самолёте.

Легко отыскав нужный ей самолёт, Сьюзен Келвин поднялась по трапу на борт. Нет, лететь она никуда не собиралась. Повреждённое шасси не позволяло этому аппарату даже рулить по аэродрому, а покорёженные законцовки крыла не дали бы подняться в воздух. Его просто притащили сюда с места вынужденной посадки и убрали с глаз долой на дальнюю стоянку.

На борту доктора Келвин встретил пилот Джозеф Хобсон. Пока они обменивались приветствиями, в самолёт, промчавшись через стоянку, ворвалась Табола:

— Простите, я немного задержалась у выхода, говорила с охранниками. Вижу, вы уже познакомились с капитаном Хобсоном, доктор Келвин?

— Разумеется. Думаю, имеет смысл приступить к делу. Как я уже сказала капитану, мне известно содержание официального отчёта авиакомпании. Я здесь для того, чтобы самой увидеть Хэппи и побеседовать с пилотом.

— Хэппи? — переспросила Табола.

— Так мы назвали робота, по созвучию с индексом серии. Прототипам роботов, пока они ещё не пошли в серию, мы часто даём имена.

Табола кивнула:

— Мы иногда даём собственные имена нашим самолётам. Правда, этот имени не получил.

— «Аманда», — вмешался Хобсон. — До установки ХЭП эта машина называлась «Аманда».

— Я была не в курсе, — криво усмехнулась Табола: ей не понравилось, что её поправляют. — Тем не менее, «Эйртранс» полностью уверена, что робопилоты займут своё законное место в кабинах наших воздушных судов. Сейчас, конечно, возникло препятствие, но мы его преодолеем, как только решим все проблемы. Полагаю, вы заберёте робота к себе на завод для подробного изучения?

— Думаю, несколько позже. А сейчас могу я осмотреть Хэппи на его рабочем месте?

— Конечно, доктор Келвин, — ответил Хобсон. — Я провожу вас в кабину, после посадки мы её не запирали.

Все трое прошли в нос самолёта, где по традиции находились места экипажа.

В левом кресле располагалось подобие человека. Его руки держали штурвал, туловище было привинчено к сиденью, а на голову ему кто-то надел пилотскую фуражку. Глаза робота выглядели пустыми и абсолютно безжизненными.

— Во время первых испытаний робота-пилота мы провели опрос пассажиров смоделированного рейса, чтобы выяснить, как они относятся к механическому лётчику, — объяснила Келвин. — Первая модель была просто ящиком с индикаторами, который подключался к системе управления, и люди волновались, когда самолёт «летел» с пустыми пилотскими креслами. Их мнение изменилось, когда мы сделали робота внешне напоминающим человека. Пассажиры стали чувствовать себя комфортнее просто потому, что робот выглядел как лётчик.

— В состав наших экипажей по-прежнему входят пилоты, которые могут в любой момент взять на себя управление, — сообщила Табола.

— И в данном случае это оказалось весьма полезным, — продолжила её мысль Келвин. — Похоже, что все пассажиры этого рейса обязаны вам жизнью, капитан Хобсон. Мне бы хотелось, чтобы вы рассказали об этом полёте, — она ласково похлопала ХЭП и присела на откидное сиденье. — Технические подробности не нужны, мне интереснее ваши наблюдения и ваше взаимодействие с Хэппи.

— Хорошо, — кивнул Хобсон. — Остановите меня, если чересчур ударюсь в профессиональный жаргон. Итак, мы выполняли регулярный рейс из Фэрбанкса в Денвер. Как обычно, провели предполётный контроль, посадку пассажиров и загрузку багажа. Я занял место второго пилота, ХЭП вырулил на взлётную полосу, получил разрешение диспетчера и взлетел. Мы вышли из воздушного пространства Фэрбанкса и практически закончили набор высоты, я отстегнулся и вышел в салон, чтобы приветствовать пассажиров.

— До этого момента не возникло никаких вопросов с ХЭП? — спросила Келвин.

— Это был мой пятый рейс с ХЭП, и никаких отличий я не заметил. Было похоже, что он действует абсолютно нормально. Вообще-то он не слишком разговорчив, но со мной и с диспетчерами общался без проблем. Я запросил у него показания и проверил их значения по своим приборам.

— Показания? — переспросила Келвин с недоуменным видом.

— Показания основных аэронавигационных приборов. Воздушная скорость, курс, высота, обстановка на локаторе. Но вернёмся к нашей истории. Во время разговора с пассажирами в салоне включились сигналы тревоги. Я бросился обратно в кабину и обнаружил, что ХЭП завис. Он не реагировал ни на какие команды и вообще, похоже, был выключен.

— Что произошло, когда вы нажали кнопку перезапуска?

— Ничего. Ни движения, ни жужжания, ни даже короткого щелчка. Разумеется, кроме ХЭП, в самолёте есть обычный автопилот. Он запрограммирован вести машину по прямой, пока штурвал не возьмёт человек, так что я занял место второго пилота и взял управление на себя. Всё было в порядке, кроме запаса топлива: его уровень был критически низким. Как раз в этот момент из Эдмонтона сообщили, что ХЭП передал сигнал об аварии на борту. Я запросил срочную посадку и перевёл двигатели на самый экономичный режим, но тут они остановились. Датчики показали пустой бак. Поблизости не было аэропорта, до которого можно было бы дотянуть, приходилось планировать над канадской тайгой. Буквально в последнюю минуту я заметил в лесу просеку и сумел втиснуть туда машину. Во время жесткой посадки нам покорёжило законцовки крыла и поломало шасси. Пришлось больше двух часов ждать помощи, но в общем все остались живы и почти что целы — если не считать нескольких переломов.

— Вы, разумеется, знаете, что случилось с самолётом.

— Да, это выяснилось в ходе проверки. Полностью разрушилось одно из уплотнительных колец в топливном баке, и горючее вытекло. У нас довольно редко случалась подобная неисправность, и она никогда не приводила к такой серьёзной утечке топлива. Раньше наши машины успевали долететь до ближайшего аэропорта без особых проблем. Да, вытекающее горючее могло уходить за борт через негерметичную обшивку. Возможно, за нами оставался след из его паров или капелек, но никто этого не заметил.

— Стало быть, проблема была не в двигателях и не в топливных насосах, — проговорила Келвин, формируя в уме картину произошедших событий.

— Точно, — подтвердил Хобсон. — Насосы работали нормально, но для перекачки им остался только воздух. А двигатели без горючего, естественно, остановились.

— ХЭП не мог заметить утечку раньше? — спросила Келвин.

Хобсон пожал плечами:

— Тут возможны варианты. Вообще-то на маршруте есть контрольные точки, в которых проводится дополнительная проверка всех систем. Если бы утечка была не такой катастрофической, она была бы обнаружена в контрольной точке по повышенному расходу горючего. Но в нашем случае потеря топлива случилась между двумя контрольными точками и произошла очень быстро. Практически без предупреждения.

— Разве ХЭП не должен был заметить падение уровня топлива после аварии?

— Не сразу. Топливные датчики подают сигнал после выработки каждой четверти бака.

— Без крайней необходимости мы не выпускаем самолёты с полной заправкой, — вступила в разговор Табола. — Слишком большой запас лишнего топлива увеличивает вес самолёта и приводит к удорожанию полёта. Разумеется, мы оставляем резерв на случай неблагоприятной погоды и тому подобного.

— Ну конечно, — откликнулась Келвин. — Так что вы говорите, капитан?

— Да, собственно, почти всё уже сказано, — продолжал Хобсон. — Если авария случилась сразу после сигнала «три четверти бака», никто бы ничего не заметил до следующей контрольной точки или до сигнала «полбака». В этот момент ХЭП должен был обнаружить, что уровень топлива падает слишком быстро, и начать проверку датчиков топливной системы. Как вы понимаете, сигнал мог оказаться и ошибочным; мы стараемся дублировать все датчики, чтобы не остаться без информации из-за единичного сбоя.

— Минутку, — заинтересовалась Табола, — если робот обнаружил проблему, почему он не обратился за помощью?

— Обратился, к диспетчерам Эдмонтона. Но не вызвал капитана Хобсона, потому что это не входило в его программу, — ответила Келвин. — Он запрограммирован действовать как командир воздушного судна, а не как второй пилот. Поэтому он сам попытался решить возникшую проблему. И не смог.

— Что-то я не совсем понимаю вас, доктор, — нахмурился Хобсон.

— Хэппи был сконструирован, чтобы управлять самолётом и принимать наилучшие решения, дабы его пассажиры были доставлены в пункт назначения в целости и сохранности, — продолжала объяснять Келвин. — Первый закон роботехники гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Когда Хэппи определил, что горючее скоро кончится, он попытался составить план действий, который никому не причинил бы вреда, и не смог этого сделать. Поблизости не было мест для аварийной посадки.

Сделав секундную паузу, она продолжала:

— Роботы не могут справиться с безвыходными положениями, потому что неспособны минимизировать причинённый людям вред. Им необходимо полностью его исключить. Но программа Хэппи включала тот факт, что он является командиром воздушного судна и несёт за свой самолёт полную ответственность. На борту он главнее капитана Хобсона — при всём уважении к вам, капитан, — или любого другого человека. Записанный в программе долг командира требовал от него принять решение, что делать дальше, а Первый закон не давал это решение принимать. Он завис, потому что не мог выбрать, что делать, но не мог и не выбирать.

— Разве нельзя ввести оценку по числу человеческих жизней, которые могут быть спасены в результате того или иного плана действий? — спросила Табола.

Доктор Келвин строго глянула на неё:

— Вообще говоря, вы предлагаете указать, что убить несколько человек лучше, чем убить много людей. Это приводит к тем же рассуждениям, которыми пользуются террористы. Или к разрешению убийства, если в долгосрочной перспективе это убийство может спасти другие жизни. Как, например, командир на войне может послать своего подчинённого на верную смерть, чтобы спасти остальных солдат. Но «Ю. С. Роботс» не будет в этом участвовать: подобной логикой слишком легко злоупотребить, а морали роботы не знают.

— А если запрограммировать робота как второго пилота, чтобы он мог в случае чего передать управление человеку? — предложил Хобсон.

— Не выйдет, — покачала головой Келвин. — Робот, который в буквальном смысле слова держит в руках человеческие жизни, но не имеет при этом полного контроля над ситуацией, будет бегать к вам с каждой мелочью, ведь именно вы окажетесь высшей инстанцией. Представьте себе второго пилота, который спрашивает у вас разрешения на любой поворот штурвала. Вам такой точно нужен, капитан?

— Пожалуй, нет, — улыбнулся Хобсон. — Так что, вы сможете его починить? Он неплохо справлялся до этой аварии, а подобные вещи, к счастью, случаются раз в миллион вылетов.

— Кого, Хэппи? Боюсь, что не сможем, — ответила доктор Келвин с ноткой печали в голосе. — Он должен был действовать, но любое его действие или бездействие приводило к причинению вреда людям. Эта дилемма сожгла его позитронный мозг. Он легко мог бы выбрать саморазрушение, если бы это помогло людям, и в конце концов именно так и случилось. Когда он сгорел, вы взяли управление и спасли всех.

— Возможно, позитронный мозг не создан быть пилотом, — предположил Хобсон, — но проблема с топливом не была его виной. Может, внести в его программу — ну, то есть в программу следующего экземпляра — описание этого конкретного случая?

— Некоторые люди тоже не созданы быть пилотами, — возразила Келвин. — Что прикажете делать с другими событиями, которые могут произойти раз в миллион вылетов? Невозможно предусмотреть заранее абсолютно все варианты; в непредвиденных ситуациях в дело вступают логика, разум и интуиция, не говоря уже о случайно подвернувшихся шансах. Возможно, когда-нибудь у нас будет надёжный, никогда не ошибающийся робопилот, но я лично сомневаюсь. Где есть опасность и риск, там всегда могут случиться ошибки и провалы. А полностью избавиться от всех опасностей не выйдет никогда.

Уже направляясь к выходу, она добавила:

— Не думаю, что мне бы понравился стерильный мир, в котором опасности невозможны.