Холодное пламя Эригона - Андрей Ливадный

Вот теперь Герберту действительно стоило всерьез задуматься о своем спасении, однако он выглядел немного ошеломленным, но не растерянным.

Он знал, что пройдет немного времени и его вытащат отсюда.

План кибрайкера оставался в силе. Он собирался продать информацию о найденном артефакте и улизнуть из системы Эригона.

* * *

Эригон. Северное полушарие.

Как назло накопители тоннельного вездехода оказались почти разряжены и очень медленно восстанавливали рабочие характеристики.

Спать уже не хотелось, и Кирсанов с Трегалиным коротали время вынужденного бездействия в беседе.

Сначала разговор вращался вокруг сделанного открытия, но потом как-то незаметно обсуждение переместилось в иную плоскость, затрагивающую проблемы машинного разума.

— Уверяю тебя, Александр, люди до сих пор так и не создали искусственный интеллект в его чистом виде, — произнес Кирсанов, устало помассировав веки. Глаза быстро утомлялись, не смотря на постоянно работающие светофильтры. Массы прозрачного льда искрились, брызгали светом, — к подобному эффекту невозможно адаптироваться за несколько дней. Нужно либо родиться тут, либо провести очень много времени в обстановке ледовых пещер.

— Как же так, Иван Андреевич? — Искренне удивился его словам мнемоник. — А как же печально знаменитые модули «Одиночка», системы «Хьюго», компьютерная сеть планеты Деметра? Разве они не искусственные интеллекты?

— Интересный вопрос. И вот, что я тебе отвечу, Александр: очень осторожно относись к понятию «искусственный интеллект». Все перечисленные тобой системы изначально конструировались как исполнительные, и смогли осознать факт собственного бытия, лишь находясь в прямом нейросенсорном контакте с человеком. Зачастую мы выдаем желаемое за действительное, принимаем продвинутую машину с опцией саморазвития за искусственный разум. Но это не так. Машина, сколько информации в нее не закачай, все равно останется машиной. Она не будет осознавать, что существует. Подумай и ответь — какова должна быть истинная цель создания искусственного интеллекта? Для чего он нужен?

Александр задумался.

Действительно для чего?

— Чтобы думать за человека? — Наконец вопросительно произнес он.

— Вот именно. Но, создав машину, способную думать за нас, мы обрекаем самих себя на деградацию и гибель. Это очевидно. Поэтому в практическом плане искусственный интеллект человеку не нужен. Мы тем и отличаемся от остальных, созданных природой, существ, что умеем мыслить абстрактно. Люди стали конструировать машины, чтобы они помогали нам избавиться от многих рутинных, не творческих процессов, а не затем, чтобы они подменили нас самих. Возьмем простой пример. Многие кибернетические системы умеют рисовать. Допустим ты, Александр — известный художник, а человечеством действительно разработан настоящий искусственный интеллект. Ты приобретаешь «ИскИна», обучаешь его своей манере письма, и искусственный интеллект начинает писать картины. Будут ли они продолжением твоего творчества?

— Думаю — нет. Это бессмысленно.

— Вот именно. И вообще, искусственный интеллект будет воспринимать и оценивать мир совершенно иначе, чем человек. Системы «Хьюго БД-12», о которых ты упомянул, — очень близко подошли в своем развитии к понятию «искусственный интеллект». Но опыт взаимоотношения людей и андроидов данной модели убедительно показал: у них формируется свой, абсолютно отличающийся от человеческого, взгляд на окружающую действительность. Они не только воспринимают мир иначе, чем люди, но и по-другому осознают его. Поступки андроидов имеют совершенно иную, нежели у человека, мотивацию. Нам остается благодарить разработчиков эпохи Великого Исхода, что они ввели в систему человекоподобных машин лишь ограниченное количество нейромодулей.

— А чем опасен для нас настоящий, как вы выражаетесь, искусственный интеллект? — Спросил Александр. Ему было интересно слушать рассуждения Ивана Андреевича и сравнивать их с собственными мыслями.

— Хорошо, давай будем рассуждать. — Поддержал его Иван Андреевич. — Во-первых, у нашего гипотетического «ИскИна» сформируется своеобразный внутренний мир. Не смотря на наличие нейромодулей, машина останется машиной, ей будут неведомы чувства, присущие человеку, ведь сенсорные устройства восприятия мира, у кибернетической системы не адекватны нашим, согласись? Ты ведь лучше меня представляешь разницу восприятия окружающего мира посредством сканеров имплантов и при помощи обычного зрения?

— Конечно, понимаю. Абсолютно разные виды восприятия.

— Вот и я говорю о том. Как следствие мы получим иную картину данности, а учитывая аппаратные и программные особенности существующих машин, — иное понятия целесообразности, другие мотивы поступков… Как бы мы не пытались «очеловечить» машину, искусственный рассудок останется холодным и рациональным. Есть один клинический случай, — упомянутая тобой компьютерная сеть планеты Деметра. Да, после восьмисот лет борьбы за существование, она осознала факт собственного бытия, поняла, что жители колонии, утратившие знание об автоматических системах, расположенных в глубинах цоколя, — потомки людей, создавших ее. И как поступила компьютерная сеть Деметры, когда смогла понять, что существует в рамках планеты, где две расы — люди и инсекты, ведут войну в полной изоляции от остальных звездных систем?

— Откровенно говоря, я немного знаю о Деметре. — Произнес Александр.

— Сеть, в глубинах которой зародилось самосознание, не встала на сторону своих создателей, не предприняла ничего, чтобы вернуть людям утраченное знание, она спокойно, трезво и холодно подсчитывала свои шансы, пока не пришла к выводу: нужно подождать еще немного, каких-то пол века и две враждующие расы доведут ситуацию до полного взаимоистребления.

— То есть, она просто ждала пока люди и инсекты уничтожать друг друга, чтобы остаться одной?

— Да.

— А почему все сложилось иначе?

— Случай. — Пожал плечами Кирсанов. — Его величество случай… Планета была вторично открыта картографическим крейсером «Терра». В конечном итоге Обитаемая Галактика узнала о существовании потерянной колонии людей и древних поселениях разумных насекомых. Колония Деметры была расселена, что положило конец конфликту, а компьютерная сеть Деметры долгое время продолжала саморазвитие в рамках планеты. Потом в период двадцатилетнего безвластия, когда прекратила свое существование первая Конфедерация, а вторая еще не была создана, сеть Деметры исчезла при загадочных обстоятельствах. Есть информация, что к ее исчезновению причастны кланы Ганио, но дальнейшая судьба искусственного интеллекта с Деметры нам неизвестна.[20]

— Но модули «Одиночка» признаны полноценными искусственными рассудками. — Напомнил Александр после недолгой паузы.

— Да. Они действительно искусственные рассудки. Но что позволяет им осознавать себя? — Спросил Иван Андреевич и сам же ответил: — Боевые системы серв-машин находились в длительном нейросенсорном контакте с разумами своих пилотов, они в буквальном смысле становились копиями матрицы человеческого сознания. Но в тот момент, когда пилот погибал или покидал машину по иным причинам, модуль «Одиночки», базируясь на матрице сознания человека, начинал собственное саморазвитие. Они, естественно, не люди, но и не машины в чистом виде. Нечто среднее, до сих пор до конца не понятое и не изученное, хотя созданное нами и существующее в реальности более тысячи лет. Многие «Одиночки» по-прежнему внутренне идентифицируют себя с давно погибшими людьми, но постепенно и они начинают понимать, что память о человеческих чувствах, эмоциях — всего лишь отголосок их прошлого саморазвития.[21]