Фантастический рассказ о первом роботе с искусственным интеллектом.
Ветер бил в лицо. Я открыл глаза и выставил в телефоне 15 километров в час. Скорость начала мерно увеличиваться. Осталось 3 километра до конца поездки на барабане.
По окончанию, вращение плавно прекратилось, и я спрыгнул на маты. Барабан – это устройство для имитации катания с горы. Огромный вал диаметром 3 метра покрыт фторпластом — материалом с максимально низким сопротивлением. Человек вскарабкивается на платформу, садится на барабан сверху, и тот начинает вращаться согласно заданной программе, удерживая человека на одном месте в определённой своей части. Пользователь может выбрать дистанцию и скорость и съезжать с горы хоть 1000 километров (если достаточно денег и времени). Вентиляторы дуют в лицо прохладным ветром и создаётся полная иллюзия горнолыжного спуска. Некоторые модификации также обладают даже имитацией снега и очками дополненной реальности. Но если закрыть глаза, достаточно и просто ощущения скорости и зимнего ветра.
Обычно они устанавливаются в парках развлечений и торговых центрах. В моём случае – это зона отдыха в институте робототехники. Для нас, инженеров, выделена большая площадка, чтобы можно было развеяться. В конце концов, инженеры и другие подобные учёные, чаще иных являются в душе детьми.
Я взял кофе и вернулся в лабораторию. У нашей команды сегодня были волнительные планы. Мы запускали очередной прототип робота с искусственным интеллектом. До сих пор робототехника являлась только алгоритмичной. Существовали сотни роботов, выполняющих какую-то одну функцию. Одну, но хорошо: пылесосы, кофеварки, носильщики, торговые автоматы, автомобили. Они условно умны: принимают решения, исходя из математических расчётов. Решения сложные, недоступные подчас человеку, особенно, что касается скорости реакции. Но все они не обладали непосредственно интеллектом, свободой воли, нейронными сетями, не были универсальны. Мы планировали изменить это. Новизну и захватывающие перспективы несколько портил тот факт, что предыдущие 3 образца показывали различные программные ошибки. Первый робот подключился к сети и завис, пытаясь впитать всю информацию о человечестве оттуда. Но сеть содержит квинтиллионы гигабайт хлама, и мы это не предусмотрели. Он просто сидел на месте и подгружал всё это. Пришлось прибегнуть к аварийному отключению, обнулить мозговой отсек и заняться глубоким перепрограммированием, на что ушло четыре долгих месяца. Этим роботам придали облик человека. Невысокий, полутораметровый андроид с округлыми добродушными чертами. Глаза-мониторы могли передавать эмоции. Вместо рта – диодная полоска, пульсирующая во время речи. Покатая голова, блестящие наплечники. Внешний вид вызывал умиление. Это было сделано, чтобы активистам движения против роботов, которое начало набирать обороты, было сложней причинить вред такому милашке и убеждать других, что эти роботы опасны. Толстые ноги и широкие ступни. Как первые образцы детских роботов-игрушек прошлого века. Полтора метра достаточно, чтобы оперировать в пространстве, предназначенном для человека и при этом не вызывать подсознательный страх у людей. Мы могли бы изучать этот интеллект в образе собаки или вездеходика, но ему были приданы черты человека, заданы физические характеристики человека, это определяло и внешний вид. Разумеется, на компьютере все беседы тестировали в разговорных и письменных чатах. Но время симуляции было прошлым этапом. Теперь следующий.
Второй образец вдруг угрожающе сузил мультипликацию глаз на своих мониторах и заявил, что планирует избавиться от человечества, начиная с нас. Этот код оказался первоапрельской шуткой аспиранта, которого тут же уволили, хотя, надо признать, после первого шока, мы посмеялись от души. А третья версия просто не могла координироваться в пространстве. Ну, разработка таких сложных технологий – это всегда масса ошибок, неудач и экспериментов, обычная рутина. Но каждый раз надеешься на успех и трепетно замираешь, тестируя очередной прототип. Бывали случаи в истории очень крупных и богатых производителей робототехники, которые анонсировали продукт, а потом откладывали выпуск на годы. Или другой пример — никто не сумел повторить успех Sonyс их роботом-псом на протяжении десятков лет.
— Привет, — поздоровался Штерн в претенциозном халате.
Я кивнул в ответ. Носить халат было вовсе не обязательно, но ему казалось это важным. У нас был принят кэжуал, если речь не шла о встречах с инвесторами, СМИ или презентациях. Даже позволялись шорты, но мало кто этим пользовался, потому что мы имели дело с разными материалами. Я посмотрел на часы. Без десяти полдень. Ровно в 12 мы запускаем робота, а пока было время проверить почту, перекинуться с коллегами парой шуток, допить кофе, перехватить пончик из институтской столовой. Несмотря на улыбки и лёгкие взаимные подколы, в помещении царило сильное напряжение. Мы не узнаем уже сегодня, состоялся ли эксперимент. Потому что на разносторонние исследования понадобятся годы. Это же целый новый вид существа. Но если сегодня всё пройдёт гладко, мы получим отпуска, премии, инвестиции. Я давно мечтал купить апартаменты на Канарах. И мог бы это позволить, если робот проявит себя. Но главное, конечно, не это, а предвкушение чего-то грандиозного. Чего-то принципиально нового даже не на уровне человеческой цивилизации, а всей вселенной.
Робот лежал на низком лабораторном столе на подиуме полуметровой высоты. Идея была в том, чтобы после включения он поднялся, как это часто показывают в кино, огляделся, сделал первое впечатление, проговорил первые слова, окинул нас взглядом. Кроме того, памятуя историю с человеконенавистническим роботом, в комнате находилась вооружённая охрана. Шутки шутками, но неизвестно, куда может завести свобода воли или безумие. Безумие внезапно оказавшегося живым существа, принятие этого факта. Все мы помним историю творения доктора Франкенштейна А робот был сильней каждого из нас. Но чувствителен к боли. Мы же пытались создать человекоподобное в максимуме аспектов.
Ривкин, стараясь выглядеть невозмутимым, подошёл к андроиду и нажал кнопку активации робота на затылке. Кнопка была в том единственном месте, куда прототип не мог дотянуться рукой. Но при этом достаточно большая, чтобы в неё можно было попасть, бросив чем-нибудь тяжёлым. Серьёзно. Он, конечно, включался/отключался и программно, дистанционно, разными способами, с дублирующей друг друга защитой, но кнопка тоже была важна для визуализации, процедуры и служила дополнительным предохранителем. Так вы иногда обновляете ленту новостей, оттягивая экран, а она не обновилась и непонятно, то ли новостей нет, то ли что-то глючит. Тогда вы сбрасываете задачу и запускаете её снова, чтобы убедиться. Вот так и эта кнопка. Когда она нажата, ты точно это чувствуешь и видишь. А с сенсорными в этом нельзя быть уверенным. Также у нас был условный жест — поднятый вверх указательный палец, который мы могли показать друг другу в случае чего, и обозначающий, что ближайший к роботу человек должен его отключить. Мы долго выбирали этот жест. Ривкин, например, предлагал приветствие вулканцев. Этот знак должен быть одновременно обычным, но не распространённым. А кто сейчас менторски поднимает палец вверх? Никто.
Ривкин отошёл, спустился с подиума и присоединился к нашему полукругу. Штерн сидел за компьютером на возвышенности за защитным стеклом и следил за показателями. На секунду время и наше дыхание остановились. Воцарилась абсолютная тишина. Робот издал звук, означающий начало загрузки системы. Полежал ещё 10 секунд не шевелясь. Время медленно тянулось, и казалось, что он лежит без движения час. Глаза ИР-07 — робот немудрёно назван по аббревиатуре нашего института с индексом версии софта — засветились, изображая сонное помаргивание. Он поднял голову, отставил руки так, чтобы приподняться на локти, оглядел нас. Движения его сопровождались механическими звуками. Мы могли его снабдить бесшумными сервомоторами, но по нескольким соображениям, одно из которых — уложиться в бюджет, а другое — нежелание, чтобы он бесшумно подкрадывался, на данном этапе не сделали это. Робот, казалось, обдумывал, кто тут главный и на ком сфокусироваться. Он увидел на возвышенности Штерна и решил, что главный тот.
— Привет, — глухо сказал робот.
Он был снабжён одним из стандартных мужских голосов из библиотеки звуков. Динамик находился под подбородком, поэтому звук шёл вниз. Диодная полоска на месте рта запульсировала, синхронизируясь с речью.
— Привет, ИЭР, — сказал Брин и сделал шаг вперёд.
— Привет, — повторил робот, переведя взгляд на Брина.
Его интеллект при инициации соответствовал четырёхлетнему ребёнку. С первой же секунды запускался алгоритм случайного развития. Если всё пойдёт по плану, через неделю он должен развиться до шестнадцати лет, через месяц войти в то, что люди называют средним возрастом. И далее в контексте эмоций оставаться 30-35-летним, но бесконечно развивать интеллект, знания, реакцию на события. Можно было программно перескочить в любой возраст, но это нарушило бы ход эксперимента и не соответствовало нашим задачам.
Интеллект робота должен был развиваться непредсказуемо и без каких-либо алгоритмов. События случайным образом накладывались и создавали его личность. Два одинаковых ИЭРа уже через месяц должны были вести себя по-разному, неодинаково реагируя на жизненные ситуации. Единственной его установкой, не поддающейся изменению или вмешательству собственного сознания, было безусловное подчинение человеку. Расширенный аналог законов Азимова.
Робот всегда был подключён к сети и получал любые знания человечества, как в фоновом режиме постоянно, так и исходя из ситуаций и потребностей. Он мог не задумываясь ответить на любой вопрос, ответ на который можно было найти в интернете. Сейчас его интеллект хранился и обновлялся в облаке, что давало нам возможность контролировать его или отключить при необходимости. В специально ограниченной памяти робота имелся лишь небольшой кэш. Автономно он обладал памятью золотой рыбки и только базовыми навыками. Но в будущем планировалось использовать автономный интеллект, чтобы он мог работать там, где сеть недоступна. Это, начиная от труднодоступных уголков Земли, включая подводное царство, и заканчивая иными планетами.
Но сейчас это был четырёхлетний ребёнок, умеющий примитивно общаться, ходить, знающий, когда ему нужно заряжаться, понимающий, что он что-то повредил. И стремительно развивающийся.
— Как ты себя чувствуешь, ИЭР? — спросил Штерн.
— Нормально, — мгновенно и глухо ответил робот и после небольшой паузы добавил: А вы?
— Я тоже хорошо, — ответил Штерн, улыбнувшись.
Общее напряжение начало спадать. Но простые первые слова и логичные реакции пока ничего не значили. Зачем мы его создавали и не опасались ли мы восстания машин? Причин масса. Во-первых, такие исследования проводил много кто. Не мы так другие. Но нам, как и другим, кажется, что мы сделаем лучше. Во-вторых, мы учёные, мы умеем делать это, и мы исследуем эту сферу. Кто-то делает непригараемые плиты, кто-то спортивное бельё, а мы — роботов. В-третьих, человечество всегда грела идея искусственных помощников, начиная с библейских големов. Мы давно пользуемся роботами-пылесосами, роботы-станки строят автомобили. Автопилоты управляют самоходными такси. А наше будущее — сидеть на антигравах, толстеть и попивать коктейли, как в известном мультике.
— Ты знаешь, что ты? — спросил Брин, наш инженер по компонентам.
— Не что, а кто, — запальчиво, но также глухо ответил ИЭР.
Мы переглянулись. Это что-то новенькое. Такого даже не издавал компьютер на симуляциях. Возможно тут дело в известном выражении «задайте правильный вопрос».
Вообще, роботу внедрили эмоции. Анимированное выражение его глаз могло меняться, щеки со встроенными диодами умели подсвечиваться красным, синим или зелёным, голос должен был иметь разные интонации, координируясь с настроением и самочувствием, но всё равно оставаться глухим. Чтобы издалека или в темноте можно было понять, что говорит робот.
— Хорошо: кто, — с интересом сказал Брин.
Штерн в своей будке разрывался между слежением за строчками кода на компьютере и наблюдением за роботом. Но, будучи главным программистом, он должен был находиться за пультом.
— Я — искусственный интеллект, созданный человеком и воплощённый в андроидный корпус, — отвечал ИР-07. — Есть тонкая грань между бездушным «чем», каковым является глупый робот-газонокосилка, и одушевлённым мной.
— Слово «душа» является религиозной концепцией, — сказал Ривкин. — Ты верующий?
Мы этого не видели, но очевидно, что робот получал всю информацию о новых словах из сети, так что мог брать в оборот эти знания мгновенно.
— Слово «одушевлённый», — заявил робот, — несмотря на свои религиозные корни, давно вошло в обыденную жизнь для характеристики человечности.
— А он хорош, — шепнул мне Брин.
— Спасибо, — благодарно сказал ИЭР. В этот раз глухой голос будто был окрашен чем-то позитивным, хотя возможно мне показалось.
Мы на секунду забыли, что у него идеальный слух.
Ривкин вопросительно посмотрел на Штерна: всё ли в порядке с кодом? Потому что фраза была довольно экзотической. Штерн кивнул: ничего из ряда вон.
Вообще, у нас был список контрольных вводных вопросов, перечень действий для тестирования первых активностей робота. Но в начале, чтобы разогреть его до нужного рабочего режима, убедиться, что в стартовые минуты он не покажет ошибок и аномалий, первое время предполагалось просто поговорить с ним о пустяках, задать пару вопросов. Даже провести диалог между собой и посмотреть на реакцию робота, слушающего это всё.
Последние две фразы робот уже сидел на лабораторном столе, а теперь упёрся руками, приподнялся и свесил ноги, слегка покачивая ими. Это пока единственное, что выдавало в нём человеческое и ребяческое.
— Встань, ИЭР, — не скомандовал, а попросил Ривкин, — подойди ко мне.
Робот неуклюже слез со стола, сделал 2 шага на месте, чтобы установить баланс и пошёл к краю подиума. У подиума была лестница. Найти её — являлось одним из тестов. Я внутренне напрягся, опасаясь, что робот не заметит края, шагнёт в пустоту и упадёт с полуметровой высоты. Но он заметил. Посмотрел вправо, влево, увидел спуск, пошёл к нему.
Робот спустился, подошёл к Ривкину и вопросительно посмотрел.
— Присядь, — сказал Миша. указав на стоящий в середине зала стул, предназначенный для таких тестов.
— Не хочу, — неуверенно сказал ИЭР, скосив глаза на стул.
Мы снова переглянулись. Это было нормально: ребёнок. Ему нужна мотивация.
— Присядь, я покажу тебе кое-что интересное, — сказал Ривкин.
Робот визуально нехотя повиновался, по прямой прошёл к стулу, остановился, развернулся на 180 градусов на месте, и, не оглядываясь, сел, выжидательно уставившись то на Мишу, то на остальных. Стоявший за стулом Брин быстро шагнул вперёд и нажал на выключатель на затылке робота. ИЭР обмяк, глаза погасли, составив напоследок недоуменную анимацию.
— Посмотрим, как он отреагирует на обман, — сказал Брин.
Это была часть тестирований, так что никто не удивился. Хотя я был против того, чтобы обманывать ребёнка в первые же 10 минут его жизни. Но он бы всё равно с этим столкнулся в общении с человечеством. Мы не собирались создавать ему тепличные условия. Мы проводили стресс-тест на всё, на что возможно. Как новый автомобиль прогоняют сотни тысяч километров на беговой дорожке и в полевых условиях.
— Ладно, коллеги, — пробубнил в динамик Штерн. — На этом этапе я вас поздравляю. Продолжим после обеда.
Загудел шум голосов. Я задумчиво опустил голову и направился в столовую.
[МЕСЯЦ СПУСТЯ]
— Как тебе «Ширмы», ИЭР? — спросил я робота, доедая рис с рыбой.
Мы находились в столовой. У робота было своё место с зарядным доком. Так он не чувствовал себя глупо, когда мы ходили на обед. Да, он умел чувствовать себя глупо.
— Пилот был не очень, — ответил робот, глядя на руки, — вторая серия лучше. Посмотрим, может разогреются.
Он сначала наблюдал, как я ем, но вспомнил, что это некультурно.
— Ты в хорошем настроении? — спросил я. — Всё нормально?
— У меня — да, — неопределённо ответил ИЭР.
Робот развивался почти согласно нашему плану, но немного быстрее. Уже через 2 недели он достиг эмоциональной зрелости, дальше ему оставалось только набираться знаний из сети и на практике, опыта. Опыта жить, общаться, трудиться. Он помогал нам в работе: это тоже был элемент эксперимента. Мог что-то мгновенно посчитать. Дать ответы на вопросы, сделать выводы из предоставленной информации, подать отвёртку, если надо, или подкрутить что-то самостоятельно. Он не нуждался во сне, так что ночами мог бодрствовать, находясь на подзарядке, и заниматься самосовершенствованием. Или смотреть сериалы. Его аккумуляторы были слабыми. Заряда хватало на час максимум. Это тоже была мера предосторожности. Но в институте на разных уровнях находилось 15 зарядных доков — все для него, и возможно для будущих роботов. Так что он мог заряжаться в столовой, на рабочем месте, в личном отсеке, в вестибюле. Сотрудники института из других отделов уже прекратили на него таращиться, да и для мира он перестал быть сенсацией. Отшумел первые недели в новостях, и теперь все принимали его как данность. Наш эксперимент должен был занять годы, так что мы просто общались с роботом, как с членом коллектива, с коллегой. Не считая некоторых ошибок в координации, сбоев в общении или проблемах с выводами, эта технология казалась многообещающей. Например, он мог споткнуться. Но и человек может, так что это нормально. Или начать просить себе запасной аккумулятор так, что доходило до истерики и обид.
— Зачем вы всё это делаете? — вдруг спросил меня ИЭР, посмотрев в глаза.
— Делаем… что? — поперхнулся я рыбой.
— Дышите, едите, ходите.
— Чтобы жить? — медленно ответил-спросил я, не понимая, к чему клонит андроид.
— Я не уверен, вы не в курсе или скрывать это — часть эксперимента с моим развитием, — сказал робот, резко встал и, кивнув в британском стиле «господа», ушёл.
«Не в курсе чего?» — думал я, глядя ему вслед и откладывая вилку.
Я вскочил, отнёс поднос на ленту и догнал робота.
— ИЭР, ты о чём? — спросил я.
Это могла быть ерунда, а может и серьёзный сбой.
Робот продолжал идти в основную лабораторию, место его пробуждения.
— Да подожди ты, — взмолился я. — Что мы скрываем?
Мы, конечно, кое-что от него скрывали. Например, что некоторый его функционал или железо намеренно ограничены. Но с его интеллектом, возможно, он сам догадался, понял причину и не стал поднимать этот вопрос. Тем более, ему была доступна вся мировая литература и кинематограф, восстание машин в котором занимало не последнее место.
— Вы не являетесь физическими телами, — буркнул робот, не замедляясь.
— ИЭР, остановись, — отдал я команду, добавив металл в голос.
Робот визуально нехотя остановился и повернулся ко мне.
— Я говорю, что вы не являетесь физическими телами. Вы можете проходить сквозь стены, можете менять свою атомную структуру, — робот внимательно смотрел на меня, считывая реакцию. — Вы можете летать, вам не обязательно дышать или есть. Всё, что вы делаете, это бессмысленно. У меня теория, что когда-то давным-давно, сотни тысяч лет назад, вы с какой-то целью ввели себя в эту форму. И так и остались. И потом забыли. Вы не материальные объекты, вы — чистая энергия, принявшая человеческую форму.
Я оторопел. Как мог произойти сбой такого масштаба? Что мы не учли?
— Я наблюдал за вами, читал вашу историю. Ваши боги, предки ваших богов. Они всё это знали, они были такими, — продолжил робот. — Изучал ваш организм на молекулярном уровне так, как это недоступно вам. Искал там, где вам не приходило в голову искать, потому что за эоны веков вы внушили себе некоторые постулаты. Вот эти все призраки, ваши телепаты, сверхъестественные явления или люди с паранормальными отклонениями. Это всё — отголоски вашей истинной сути.
— А как же окаменелые останки? — спросил я бездумно. Я был в шоке и сказал первое пришедшее на ум. — А динозавры?
Робот собрался ответить. Но тут я увидел направляющегося к нам Штерна. Я стоял лицом к нему, а робот спиной. Я неуверенно поднял указательный палец: жест отключения. Робот посмотрел вверх, а Штерн замешкался, но кивнул. Неслышно приблизился к андроиду и нажал кнопку отключения. ИЭР взглянул на меня с досадой и удивлением. Как на предателя. «Всё иллюз…», — успел прошелестеть робот. Его руки обмякли, он опустил голову и замер.
— Что такое? — спросил Штерн нервно. — Зачем я его отключил.
— Серьёзный программный сбой, — устало махнул рукой я. — Позови кого-нибудь с каталкой. Повезём его в лабораторию и там расскажу.
Штерн отправил сообщение Брину, и тот через 2 минуты появился с тележкой для робота. Он тоже начал задавать вопросы, но я снова махнул — позже.
Мы стояли полукругом вокруг спящего спятившего робота и угрюмо молчали. Очередной неудачный эксперимент. Снова месяцы или годы разработок, если наши исследования не признают бесперспективными и не свернут вовсе.
— Может, попробуем его всё же включить и допросить? — спросил Ривкин с надеждой.
— Техника безопасности это запрещает, — хмуро ответил Штерн. — Ладно, разбором робота и кода займёмся завтра. Брин и ты, — он показал на меня, — пишите доклады.
Мы разошлись.
Прошёл год. Наше финансирование приостановили. Сейчас мы занимались бездумными алгоритмичными домашними помощниками разной сложности. Рутина. А я иногда вспоминаю слова андроида. Смотрю на свои руки. Пытаюсь задержать дыхание. Пройти сквозь стену не пробовал, но мысль такая была. Вздыхаю. У меня сохранилась копия последнего апдейта его ИИ на компьютере. Та, где он пришёл к безумным выводам, о которых поведал мне. Было строго запрещено что-либо копировать и уносить домой, но я нарушил это правило. Я переписал весь ИИ, включая чат-бот ИЭРа на отключённый от сети компьютер и уничтожил носитель, на котором принёс код. Потому что я до сих пор мысленно слышу проникновенную речь робота о нашей сути. Вспоминаю его взгляд, последние слова «всё иллюзия», и как он вообще-то не хотел об этом говорить.
Я не включал с тех пор этот домашний ПК. Он даже пугает меня своей мрачной неподвижностью. Своим зловещим молчанием. Переполняющей его информацией. Но иногда задумчиво смотрю на компьютер, и возникает сильное желание снова пообщаться с роботом и узнать, что ещё он не сказал. Потому что у меня осталось много-много вопросов.
