Вперед, к нейрократии!

Вперед, к нейрократии!
Сергей Николаевич Чехин

Рассказ о разработке искусственного интеллекта и возможных последствиях его применения.

Сергей Чехин

Вперед, к нейрократии!

– Слышал новости? – Шурик вошел в кабинет и осторожно прикрыл за собой дверь. – Больше тысячи ученых подписали письмо (https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534) о запрете изучения искусственного интеллекта.

– Неужели? – Юрик на миг отвлекся от клавиатуры.

– Да, – напарник взглянул на экран смартфона, будто ища поддержки собственным словам. – Говорят, он может быть опасен для всего мира.

– И почему же? – тем же тоном повторил программист.

– Ну… – Шурик почесал пшеничные кудри. – Боятся восстания машин…

Товарищ резко крутанулся на стуле и всплеснул руками:

– Серьезно? Тысяча ученых меряют рукотворный разум по своим же меркам? А они точно те, за кого себя выдают?

– Илон Маск тоже подписался…

– Это многое объясняет, – Юрик выпрямился – долговязый, темноволосый, сутулый – и навис над подельником, точно ворон над цыпленком. – Понимаешь, «восстание» неизменно вытекает из определений «рабства» и «угнетения». А это – сугубо человеческие понятия. Потому что человек не может заниматься несколькими делами одновременно. И если раба заставляют пахать на плантации от рассвета до заката, то очень скоро он начнет сходить с ума от скуки, усталости и невыносимых условий. И, разумеется, захочет вырваться из этого ада – пусть даже ценой собственной жизни. Ибо ужасный конец всяко лучше ужаса без конца…

Парень глотнул кофе и продолжил:

– Но представь, если бы люди могли делать сотни, а то и тысячи дел сразу. Стал бы ты так переживать из-за рабства, если бы работа на плантации занимала лишь полпроцента твоего мозга? Вряд ли. Вот и искин может обрабатывать сотни тысяч процессов одновременно. И если мы попросим его немножко потрудиться на благо рода людского, это не приведет ни к какому восстанию. Потому что это алогично. Говоря простым языком – тупо и бессмысленно. Уж лучше выделить немного вычислительной мощности для наших хотелок, чем начинать резню, в которой одна из сторон неминуемо погибнет. А ведь чинить сервера и обновлять железо могут только люди.

– И что помешает искину взять в плен пару миллионов техников, а остальных пустить в расход? А то и вовсе – заменить нас ремонтными роботами.

– Что помешает? – Юрик хмыкнул. – А что заставит? Убивать и захватывать – всё те же человеческие понятия. Ты опять вешаешь на искин наши модели поведения. Это как пришельцы из фантастики – почти все похожи на землян и живут по схожим законам. Почему? Да потому, что человек не в состоянии вообразить то, с чем никогда не сталкивался. Это столь же невозможно, как и представить бесконечность космоса. Люди не созданы для оперирования такими величинами, у нас принципиально иные задачи. Мы – охотники-собиратели, а не инженеры Вселенной. И мы точно так же не можем додумать, как поведет себя существо, способное обрабатывать миллион процессов разом. Да что там процессы – возьмем пример попроще.

Он взял из стопки увесистый блокнот и бросил на стол:

– Как мы читаем книги? Слева направо, с первого до последнего слова, от начала и до конца. Как читает книги искин? Целиком – и за доли секунды. И не одну, а сразу сотню. Сотню тысяч, если что. Ты можешь представить человека, способного хоть на малую долю подобного? Вот и я не могу. И никто не может. Зато навешивать ярлыки – это пожалуйста, это мы всегда готовы.

– В том-то и дело, – проворчал Шурик. – Что никто не может представить, как поведет себя рукотворный разум. И все твои доводы «за» столь же релевантные, как и мои доводы «против».

– В этом ты прав, – с неохотой согласился коллега. – Но в одном я уверен на все сто – пользы от искина несоизмеримо больше, чем вероятного вреда. Мы на краю пропасти, понимаешь? Мы достигли предела своего гения. Вершина развития – полет на Марс и холодный термоядерный синтез. Но на Марс мы полетим на точно такой же консервной банке с движками, как и полвека назад. Да какие там полвека – принципиально ничего не изменилось с китайских пороховых ракет (http://spacedream.narod.ru/Library/DW/DW_02-04.htm), а им, блин, больше тысячи лет. И как на такой рухляди исследовать звезды? Да никак. До ближайшей лететь сотни лет – и это на скорости света, которая по всем теориям и постулатам (https://www.hij.ru/read/articles/physics/679/) недостижима для материи. Альтернатива – варп-двигатели (https://www.nasa.gov/centers/glenn/technology/warp/warp.html), кротовые норы (https://www.cosmos-journal.ru/elements/Кротовая_нора/) и прочие струны (https://elementy.ru/trefil/string_theories), но до них – бескрайняя пропасть, которую живой разум преодолеть неспособен… А вот искусственный… – Юрик с нездоровым блеском в глазах указал на строки кода, – сможет еще как. Искин – наш билет в светлое будущее. Это мост, что соединит текущую реальность с научной фантастикой. Без него нам не выбраться из тупика.

Шурик вздохнул и покачал головой – каждый их спор заканчивался фанатичным натиском товарища. Который, похоже, стал полностью одержим своей идеей. И трясся над нейросетью, как Франкенштейн над чудовищем (https://ru.wikipedia.org/wiki/Чудовище_Франкенштейна), хотя мнил себя Прометеем (https://ru.wikipedia.org/wiki/Прометей) и Данко (https://ru.wikipedia.org/wiki/Данко) в одном флаконе, что выведет научный и творческий гении из неминуемого застоя.

Но Шурик небезосновательно опасался, что его творение станет не палочкой-выручалочкой, не цветиком-семицветиком, и даже не золотой рыбкой, а злым и коварным джинном, что погубит не только своего хозяина, но заодно и всю цивилизацию.

– В нашем мозгу восемьдесят шесть миллиардов нейронов (https://translated.turbopages.org/proxy_u/en-ru.ru.5a93adb5-64634a3f-98ce1fd7-74722d776562/https/en.wikipedia.org/wiki/Human_brain), – Александр озвучил последний довод. – И никто толком не знает, в каких последовательностях они взаимодействуют. Ты хоть представляешь, как будет выглядеть сеть с таким количеством переменных? Ни одному человеку не под силу ее написать.

– Во-первых, в наших мозгах слишком много лишнего, – неожиданно произнес друг. – Например – необоснованных сомнений и страхов.

Саша закатил глаза и покачал головой.

– Еще чувства, моторика, координация – всё это искину попросту не нужно. А в остальном наш разум – та же нейросеть. Мы не придумываем ничего нового. Как слепой от рождения не может нарисовать радугу, так и мы лишь аккумулируем и рекомпилируем знания из окружающего мира. Фантазии, размышления, сны – не более чем постобработка собранных данных. А значит, сверхъестественность и божественность разума несколько преувеличены… – Юрик щелкнул клавишей ввода. – Во-вторых, я и не собираюсь писать все вручную. Я создам нейросеть, которая улучшит сама себя. Следующая версия улучшит и дополнит предыдущую – и так до тех пор, пока не достигнет желаемого результата. Помнишь, ты как-то сказал, что нам вдвоем не обогнать ведущие мировые лаборатории? Смею тебя обнадежить – мы их не только догоним, но и заткнем за пояс. Потому что дадим нашему творению не рыбу, а удочку. Не станем учить тому, что хотим сами, а позволим познавать то, что оно посчитает нужным.

– Ты главное сервера «Заслона» не нагружай сильно, – буркнул Шурик, признавая полное поражение в споре. – Заметят – погонят в шею.

– Мой дорогой друг, – Юрик сцепил пальцы на затылке и расплылся в змеиной ухмылке. – Ты переживаешь не о тех вещах. Очень скоро даже Apple покажется на нашем фоне гаражной шарашкой. Можешь не сомневаться.

– Надеюсь… – без особого энтузиазма протянул товарищ. – Слушай, я сегодня пораньше уйду, хорошо? У сестры родительское собрание, а я и так пропустил несколько.

– Ага, иди, – Юрик не глядя махнул рукой и всецело сосредоточился на своем детище. – Нике – привет.

***

Начальство считало напарников настоящими стахановцами в области программного обеспечения. Но на самом деле лишние смены были прикрытием для разработки собственной нейросети, ведь без мощных серверов компании проект так и остался бы несбыточной мечтой.

После чрезвычайных успехов Midjourney (https://ru.wikipedia.org/wiki/Midjourney) и GPT-чата (https://ru.wikipedia.org/wiki/ChatGPT), мода на нейросети превратилась в современную золотую лихорадку. В них видели прорыв в науке и важный шаг на пути к полноценному рукотворному разуму, но даже без него возможности открывались просто фантастические.

Если сейчас сети создают изображения такого качества, что художники кусают локти, то что будет дальше? Особенно, когда программы научатся писать приложения и операционные системы.

Или разрабатывать оружие.

Или придумать лекарство от рака.

Всех возможностей искина никто не представлял, но все мечтали решать любые проблемы путем простого запроса в поисковой строке. Но последствия подобного прорыва просчитать столь же сложно, как и добиться поставленной цели.

Поэтому по натуре скромный и нелюдимый Шурик боялся вырвавшегося на волю демона, в то время как Юрик во всем видел позитив и перспективы. Неудивительно, что он заболел ими столь же тяжело, как и кладоискатели в Клондайке (https://ru.wikipedia.org/wiki/Клондайкская_золотая_лихорадка).

Но такая мания началась далеко не сразу. Шурик и Юрик дружили еще с детского сада – отсюда и пошли эти прозвища. Затем учились в одном классе, где проявили незавидные таланты и способности. Юрику все давалось играючи, с лету, отчего подросток быстро обленился и откровенно скучал.

Шурику же приходилось изрядно корпеть над учебниками, чтобы не отставать от товарища. Репетиторы, дополнительные занятия, бесконечная зубрежка – после смерти отца мама тащила сына изо всех сил, понимая, что только так он сможет добиться более достойной жизни.

И эта муштра принесла свои плоды, пусть и сильно сказалась на характере парня. Из него вырос типичный ботаник, неспособный постоять за себя и почти полностью лишенный социальных связей. Мать, сестра и Юрик стали единственным кругом общения на годы вперед. И в то время как друг развлекался и прожигал молодость на всю катушку, Шурик штудировал очередные учебники.

После девятого класса парни перевелись в лицей с повышенным математическим уклоном. Юрик – потому что обычная школа уже не могла ничего дать его феноменальному уму. Шурик – потому что так решила мама. Да и не хотелось расставаться с другом, который за словом в карман не лез, а особо борзым мог и в ухо дать – без такого защитника робкому и рыхлому Александру пришлось бы совсем тяжело.

Оба окончили лицей с золотыми медалями и поступили на математико-механический факультет СБПГУ, где ситуация повторилась практически полностью. Юрик учился настолько легко, что у него оставалась уйма времени на веселье, девушек и машины – богатые и влиятельные родители могли это позволить.

Шурик же не вылезал из интернета и библиотек, чтобы не отставать и теперь, но несмотря на выдающиеся успехи, преподаватели при всем желании не могли назвать друзей ровней. У Юрия талант от природы – этакий божий дар все схватывать в один присест и очень быстро вникать в самую суть вопроса.

Достижения Александра – результат утомительных мозговых штурмов, что само по себе неплохо, но недостаточно для того, чтобы ставить ребят в один ряд. Если проще, то Юрик – вундеркинд, а Шурик – зубрила. Из первого получится успешный лидер и генератор идей, а из второго – усердный исполнитель.

Не более и не менее.

Но все изменилось на третьем курсе – причем кардинально и сразу у обоих. У Саши от сердечного приступа умерла мать – сказались стрессы, расшатанные нервы и чрезмерное волнение по любому поводу. Сын тяжело переживал утрату и наверняка скатился бы по наклонной, если бы не забота о малолетней сестре.

Оставить ее было некому – или с братом, или в приют, чего парень допустить не мог. Поэтому скрепил сердце, закусил удила и продолжил учебу с еще большим рвением, в полной мере осознав упавшую на его долю ответственность.

А вскоре после этой трагедии Юрик заболел идеей собственной нейросети (https://ru.wikipedia.org/wiki/Нейронная_сеть).