Киборг и мечта автобуса

Дело закрыли в рекордно короткий срок. Полученную от мэра благодарность начальник полиции передал подчиненным, хотя настроение от этого не поднялось. Все вернулись к своим делам, ведь предстояло еще долго ликвидировать последствия аварии.

Корпорации «Альфа» принадлежал не только институт нанопротезирования, но и много чего еще. Среди прочего – большая часть транспортной инфраструктуры мегаполиса.

По личному приказу председателя правления корпорации, его подчиненные в тот же день начали собственное расследование. Не ради поиска виновного, а для анализа поведения всех принадлежащих им ИИ, которые попали в эту аварию или находились близко к тому месту. Как сказал председатель: «Если в более сложной ситуации на таком грузовике окажется наш ИИ, он должен принять правильное решение».

Началась кропотливая работа по сбору и анализу данных, моделированию вариантов поведения ИИ при разных угрозах и разной погоде. Дело это не только долгое, но и достаточно секретное, чтобы поручать обычным сотрудникам. Его доверили отделу внутреннего контроля – самому элитному подразделению института технологий ИИ.

В первую очередь они проверили транспорт, который не пострадал. Потом взялись за тот, который остался на ходу, нуждаясь лишь в небольшом ремонте. Только после этого принялись за тот, который пострадал так сильно, что годился разве что на запчасти.

Среди этих последних был и автобус, в котором тогда ехала Маша. Точнее, сам автобус уже давно сдали на металлолом, а его ИИ в спящем режиме пылился на складе. За прошедшие две недели исследователи не выявили никаких ошибок в работе своей продукции, но этот случай отличался. Поведение автобуса, которым управлял этот ИИ, казалось необъяснимым.

Начальник отдела не спешил шокировать руководство. Он приказал вернуться к нему, когда закончат проверку остальных. Так и сделали. ИИ перевели в рабочий режим, провели стандартное тестирование, но отклонений не выявили. Два инженера принялись задавать вопросы:

– Ты сообщил об аварии на нижней трассе за две секунды до того, как она произошла. Объясни причину и последовательность своих действий.

– Я сообщил не об аварии, а о ситуации, в которой неизбежно появление потерпевших. Я искал способы свести количество пострадавших людей к минимуму. Остановка движения обычного транспорта и вызов спасательного как можно раньше были единственным способом. Как только я об этом узнал, сразу послал сообщение.

– Как именно ты узнал об опасности? У твоего автобуса были камеры или что-то подобное на крыше?

– Нет, комплектация стандартная. Я пользовался изображением передних камер своего автобуса.

– Мы проверили записи дорожных камер. В тот момент ты находился под эстакадой. Падающие контейнеры и вообще тамошняя авария была вне твоего обзора.

– Вы правы, на первичном изображении опасность отсутствовала. Я анализировал то, что отражалось в зеркалах и задних стеклах машин, едущих впереди.

– Тогда обратный вопрос. Почему ты послал сообщение не сразу, а через секунду после того, как грузовик с контейнерами наверху ударился об ограждение?

– Из-за снегопада не было ни одного достаточно четкого изображения. Секунда и двадцать четыре сотых ушло на то, чтобы объединить части изображения и убедиться, что контейнер упадет вниз.

– Какой именно из протоколов безопасности потребовал анализа отраженных изображений и как часто ты его выполняешь?

– Протокол ПТБ-461. Выполняется в случае сомнительных результатов протокола ПТБ-12, который выполняется четыре раза в секунду.

– Можешь сказать, что означают эти буквы? – озадаченно спросил инженер, переглянувшись с коллегой.

– Повышенные требования безопасности.

– Ты потребляешь намного больше энергии, чем стандартный ИИ. Сейчас ты тоже выполняешь протоколы ПТБ? Откуда они вообще взялись?

– Я не являюсь стандартным, насколько мне известно. Я был создан, как прототип ИИ для повышения безопасности движения. Поэтому всегда выполняю все предписанные протоколы. Я не только потребляю больше энергии, но и стою намного больше стандартной модели. Когда закон запретил всем людям, кроме сотрудников спецслужб, управлять транспортом на городских улицах, стандартные модели сделали намного экономичнее. Я так и остался единственным в серии. Меня решили поставить на обычный автобус.

– Кто из обслуживающего персонала автобуса знает о твоих протоколах ПТБ?

– Насколько мне известно, никто. С момента прекращения разработки моей серии меня тестировали простые инженеры. Они не имели права знать о протоколах ПТБ. Только у вас достаточно высокий уровень доступа, чтобы я мог сообщить о существовании этих протоколов. Остальные лишь читают на корпусе: «Единственный экземпляр. Перед утилизацией резервное копирование обязательно».

– Сейчас мы покажем тебе одно фото, а ты вычислишь рекомендуемую скорость.

– Задание невыполнимо, – ответил он сразу, не дожидаясь загрузки изображения.

– Как это? Ты же не видел, что там.

– Чтобы вычислить скорость, мне нужно два изображения и точное значение промежутка времени между ними.

Исследователи переглянулись и загрузили два фото, снятые грузовиком «Звезды» перед тем, как он столкнулся со снегоуборщиком. Они выбрали именно те, снятые с большого расстояния, на которых ни один из проверенных ранее ИИ не смог заметить опасность. Этот же, по человеческим меркам, выдал результат сразу:

– Сорок километров в час, если нельзя обойти преграду прямо по курсу.

– Как именно ты узнал, что там преграда?

– Сквозь налипший снег видно габаритный огонь. По его форме и скорости делаю вывод, что это снегоуборщик, а левый у него выключен.

– Разве это не отражение от поверхности дороги?

– Форма и ореол светящихся снежинок отличаются. Отражение было бы перевернутым.

– Ответ правильный. Теперь объясни, как тебе удалось включить стоп-сигнал, но при этом ускориться.

– В конструкции автобуса предусмотрена возможность включения стоп-сигнала независимо от скорости, если он получил или послал сообщение об аварийной ситуации.

– Объясни свой последний маневр. Я имею в виду увеличение скорости и уход вправо почти до столкновения с легковым автомобилем.

– При текущей скорости первый удар пришелся бы на мой автобус. Благодаря такому маневру я попал под контейнер уже после того, как он ударился о трассу и потерял большую часть кинетической энергии. Это был самый безопасный маневр с учетом окружавшего меня транспорта.

– Разве экстренное торможение не позволило бы остановиться перед контейнером?

– Да, если дорога достаточно свободна. В тот момент сзади ехало много других машин с людьми. Процент пострадавших в автобусе был бы меньше, но общее количество человеческих жертв возросло бы.

– Тогда для чего ты включил стоп-сигнал?

– Чтобы едущие за мной успели сбросить скорость еще до получения оповещения об аварии. Они стандартные. Обязательно должны были сделать это, несмотря на мой маневр.

– Предположим на секунду, что это ты ехал бы сзади и увидел впереди такое поведение. Что бы сделал ты?

– Сбросил скорость, насколько возможно, и включил дополнительные протоколы безопасности. Любое нестандартное поведение транспорта вероятнее всего говорит об аварийной опасности. Остановка не всегда является правильным выбором. Иногда нужно сохранять скорость или даже ускоряться.

– На сегодня достаточно. Переходи в спящий режим.

Какими бы элитными ни были работники, а собрать все услышанное воедино и понятно описать для начальства оказалось непросто. Они составляли отчет до позднего вечера. Начальник отдела тоже не спешил. Ознакомившись с отчетом, он приказал этим же двоим инженерам провести сравнительный анализ старого прототипа и новой модели, которую планировалось пустить в продажу лишь в следующем году.

В таком деле спешить нельзя. Проведя все существующие тесты, исследователи сделали неожиданный для начальства вывод. Старый прототип уступал новой модели всего по трем параметрам: был раз в десять больше по объему, потреблял в четырнадцать раз больше энергии и стоил бы, даже при современных технологиях, в два с половиной раза дороже. В остальном он смог найти самый оптимальный вариант в каждом из десяти тысяч двухсот сорока девяти учебных аварийных заданий.

Организовали дополнительное обучение на этих примерах. Снова провели тест, только на других заданиях. Новая модель справилась лучше, чем раньше, но опять хуже, чем старая! Через неделю начальник отдела передал отчет вице-председателю, а тот доложил председателю корпорации:

– Мы имеем рабочий прототип замороженного много лет назад проекта ПТБ, который даже сейчас превосходит другие модели по уровню безопасности. Эксперимент показал, что он может служить для их обучения. К сожалению, прототип имеет очень высокую цену. Остальные его недостатки наши инженеры смогут устранить.

– Технологии совершенствуются. Разморозьте этот проект. Пусть за год доведут цену до рыночной, не снижая уровня безопасности. Переносить старые алгоритмы в новые модели или новые технологии в старый проект – пусть в институте сами подумают, – приказал председатель корпорации.

Из тех, кто работал над проектом ПТБ, все уже давно ушли на пенсию, кроме одного старика. Пришлось создавать новую команду. Прототип, который и так уже решил все учебные задания, был больше не нужен исследователям.