В рассказе Станислава Лема 1965 года про изобретателей Трурля и Клапауция, первый строит для короля Экзилия модель общества, уменьшенного в миллион раз. По сути — компьютерную игру, которая позже вдохновила Уилла Райта создать The Sims. В этом произведении поднимаются вопросы морали в отношении цифровых персонажей: «Вот докажи мне, что они не чувствуют ничего, не мыслят, что они вообще не существуют как создания, сознающие, что они замкнуты между двумя безднами небытия — той, что до рождения, и той, что после смерти, — докажи мне это, и я перестану к тебе приставать! Вот докажи мне, что ты только имитировал страдание, но не создал его!»
В 2019 года система DABUS, построенная на технологиях искусственного интеллекта, была указана в заявке на патент в качестве одного из соавторов. Европейская патентная организация отказала в заявке, формально потребовав от изобретателя фамилию и адрес проживания, которых у нейросети не имелось. С тех пор прошло несколько судебных слушаний на разных уровнях, но ни один суд не позволил ИИ считаться соавтором наравне с человеком.
Это ничего не напоминает?
Самой яркой параллелью с вопросами авторства открытия являются женщины-учёные прошлого. В средние века и ранее считалось, что они вообще не склонны к науке и в этой ипостаси их не рассматривали всерьёз. Для них даже не предусматривалось академическое обучение. Этот стереотип бытует до сих пор. Но, что более важно, женщины зачастую не публиковали изобретения под своим именем. Либо потому что это прямо или косвенно табуировалось обществом, либо они работали с кураторами-мужчинами (научруки, мужья, братья, отцы), которые брали эту миссию на себя, потому что так было проще, быстрей и привычней. Один из ярких примеров — дочь поэта Байрона, Ада Лавлейс, родившаяся в 1815. Её можно назвать первым программистом. Мужем Лавлейс являлся создатель аналитической машины Чарльз Бэббидж. Ада разработала программу, которая демонстрировала возможности счётной машины, а также первой ввела современные термины «рабочая ячейка» и «цикл». В своих заметка Ада писала, что аналитическая машина способна создавать алгебраические формулы, а в перспективе — писать музыку, рисовать картины и указать «науке такие пути, какие нам и не снились». Её вклад остался в тени. При жизни супруги не успели закончить свой проект. Но в период с 1989 по 1991 к двухсотлетию со дня рождения Чарльза Бэббиджа, на основе его чертежей аналитическая машина была воссоздана и выяснилось, что она безупречно работает, не в последнюю очередь благодаря программе Ады.
Другой пример - Хелена Пейн. Закончив обучение в 1923 в Кембридже, она не получила диплом, потому что женщинам дипломы не полагались до 1948 года. В 25 лет Хелена доказала в диссертации, что звёзды состоят из гелия и водорода, сделав революционное на тот момент открытие. Знакомый лично с её исследованиями астроном Генри Норрис Рассел опубликовал то же самое под своим именем спустя 4 года и вся слава досталась ему. Такие примеры можно приводить очень долго.
Наделение субъектов правами не является чем-то новым и оригинальным для землян. Так что мы легко можем обратиться к истории и опыту, чтобы понять, чего ожидать и что предпринимать.
В 2017 году российская компания разработала робота для подбора персонала. Это был андроид ростом 185 см. Он не умел ходить, но обладал способностью проводить интервью с соискателем, после чего выносил суждение о его искренности, мотивированности, психической адекватности. Машина анализировала скорость ответов, интонацию голоса и даже движение зрачков собеседника, распечатывая по итогам встречи отчёт на 12 листов. Робот мог предположить, склонен ли человек к алкоголю, азартным играм, воровству, сливу информации. Машина тестировалась в крупных российских частных и государственных компаниях и везде получила высокую оценку. Достоверность суждений на испытаниях превышала 90%.
Создатели решили разместить резюме андроида на Хэдхантере. Ничто в пользовательском соглашении не обязывало соискателей являться людьми. Однако не прошло и часа, как профиль был забанен человеческим модератором. У разработчиков состоялась бурная дискуссия в чате поддержки, но площадка осталась непреклонна. Они придрались к пункту, что соискатель должен быть старше 18 лет, а роботу не было и двух. А указывать 18 лет являлось ложью, что считалось нарушением правил. Этого робота можно было взять в аренду, что по сути является аналогом зарплаты с одной стороны, но и сдачей оборудования в лизинг с другой. Или купить, что можно назвать работорговлей, ведь в дальнейшем такому Эйчару платить не будут. Он — вещь.
Российские крестьяне во время крепостничества считались бесправным товаром, как и рабы во всех остальных частях мира. Сегодня рабами негласно называют нелегальных мигрантов, работающих по сути за еду и ночлег. Женщины тоже не являлись равными мужчинам в различных сообществах и религиях, а в иных точках планеты не считаются и до сих пор и только теперь активно бьются за право водить автомобиль или жить отдельно или не носить головной убор.
Чем больше человечество становилось образованней, чем цивилизованней, тем более гуманизировалось право и расширялся попадающий под него ареал существ. Это происходит не только по отношению людям. Во Флориде есть больница для черепах. Рассказать такое кому-то 200 лет назад, не поверил бы. Сейчас законы большинства стран защищают фауну, предполагая уголовное наказание за убийство или издевательства, и флору, обещая штрафы за незаконные вырубки деревьев. Но первые огоньки подобного отношения возникли давно. Ещё при правившем в Индии в 3-м веке до нашей эры царе Ашоке перестала поощряться охота ради развлечения и составлен список охраняемых животных. В 15-16 веке польская корона взяла под охрану исчезающих туров. Это не слишком помогло, но продлило существование животных ещё на 200 лет.
Уже когда специалисты Бостон Дайнемикс избивали своего андроида Атласа для проверки и демонстрации работы гироскопов и равновесия, появились сочувствующие машине люди, критикующие компанию за проявление жестокости. Современные дети, растущие среди техники, относятся к роботам с подобием любви или симпатии. Я знаю случай, когда робопёс ребёнка пострадал на съёмках фильма, и родители купили ему точно такого же, потому что мальчик переживал. Я знаю и взрослых, которые привязываются к роботам. Дают имена, наделяют человеческими характеристиками. Это касается даже роботов-пылесосов. Нередко мне с азартом рассказывали владельцы о ситуациях, когда поведение роботов можно было принять за хитрость, лень или экстравагантность. Показательно, что в английском языке к роботу R2D2 всё чаще применяют одушевлённое местоимение «he», а не «it». Симпатия тем сильней, чем больше машина похожа на человека. Мы начинаем проецировать. Человек вообще склонен придавать антропоморфные черты даже скалам или облакам. Так работает подсознание. Поэтому приближение облика роботов к человеческому ускорит и наделение их правами. Но не одного лишь облика. Чат-бот, который покажется человеку разумным и равным или будет искренне и жалостливо просить не отключать себя, может разжалобить пользователя. Уже сейчас люди злятся на Siri или Алису или, сами того не осознавая, ведут с ними доверительные беседы, инстинктивно строя диалог и относясь, как к одушевлённым объектам. Но главные силы приведёт в действие пока не существующий осознанный ИИ. Искусственный разум, который сможет убедить человека, что является равным, закончит трансформацию отношения и проведёт черту, отделяющую его от тостера. Поэтому нет необходимости торопить события. Фантасты и учёные предсказали многие ситуации и можно опираться на их труды, а также на существующие реалии. И постепенно, с появлением более сложных и умных машин, корректировать отношение к их правам в обществе и законодательно.
Самым умным и продвинутым на сегодня роботом неофициально считается София. Саудовская Аравия даже торжественно вручила ей гражданство, создав эпохальный прецедент (а в Москве год назад состоялась свадьба, где другой робот был свидетелем — сейчас каждое событие в робототехнике - прецедент). Её приглашают на ток-шоу, она даёт интервью крупным СМИ, беседует с известными личностями, выступает в ООН. Но существование у Софии интеллекта лично мне не доказали. Я считаю, что София для человечества - это игра в футуристическое будущее, приближение которой все давно ждут. Но такая игра готовит почву для дальнейшего восприятия. В Саудовской Аравии существуют региональные выборы в горсоветы. София может сама дойти и проголосовать или сделать это через интернет? Я уверен, что нет, несмотря на гражданство. Я считаю, что у неё нет понятия о хорошем и плохом на человеческом уровне, или это не доказано.
К тому же, София не умеет шагать, что необходимо для автономизации робота. Наиболее перспективным в этом направлении я вижу испанского андроида REEM-C. Это первый шагающий робот человеческого роста, выпущенный в серию. Он может жить в условном доме, спуститься по лестнице и выйти погулять на улицу. Заряда хватает на 2-3 часа активности. Если появится достаточно продвинутый искусственный интеллект, который мы загрузим в андроида, REEM можно наделить правами, поселить в виде эксперимента в квартире. И наблюдать за его развитием и шагами в прямом и переносном смысле. Моя теория состоит в том, что сделать робота умным или близко имитирующим сознание поможет базовый алгоритм, требующий от машины выжить. Борьбой за выживание обусловлена эволюция земных видов. Существо, которому надо выжить, станет изобретательным, будет защищаться, пытаться распространяться, создавать свои копии, бороться, хитрить. И по поведению станет на 95% похожим на человека. Какой кандидат в депутаты пообещает роботу больше прав, за того он и станет агитировать, если его желание выжить. А с помощью самообучающихся нейросетей, робот наберётся опыта, узнает и запомнит, что за некоторым обещаниями стоит ложь и демагогия.
Самым умным на сегодня ИИ является программа AlphaGo, которая в 2016 сумела победить человека в го. Для игры в го требуются не только математические мощности, но и подобие предвидения, интуиции, воображения. В середине прошлого века такое считалось невероятным, но вот, свершилось. И всё человечество мгновенно признало за ИИ доминирование в го, как ранее в шахматах. Никто не протестовал и не возмущался, включая обычно неповоротливую бюрократию. Люди с удовольствием идут на встречу инновациям, не думая о последствиях, как это делали индейцы, приветствуя приплывших конкистадоров. AlphaGo не умеет ничего другого, но в данный момент создатели изучают расширение сферы применения.
В настоящее время любой алгоритм, принимающий участие в разработке инновации, является не более чем инструментом. Мы же не вписываем в патентную заявку калькулятор или компьютер. Одно дело, если нейросеть сама задалась проблемой и решила её. Но если ей, как в случае с DABUS, поручили задачу, и она нашла решение в ответ, то это просто очень сложная вычислительная машина. Если очень хочется добавить соавтора, можно вписать разработчика алгоритма, но не сам алгоритм. Те, кто пытаются назвать изобретателем код, действуют в первую очередь ради пиара: о судебных слушаниях, где инноватор просил признать ИИ соавтором, написали многие правовые и научные СМИ, сделав проект и героев знаменитыми. Это был прецедент, который пока не повторялся. Во вторую — авторы прощупывают почву на будущее, являясь первопроходцами. Каждое такое обсуждение полезно, потому что очевидно — всё идёт к появлению полноценного искусственного сознания.
Разумеется, умные машины грядут, и нам уже надо начинать составлять представление о том, какое место они займут в жизни сообщества. Отмена рабства в Великобритании началась в 1765 году, когда вылечивший раба врач добился через суд освобождения пациента, потому что «рабство аморально и противоречит английским законам». Потом последовали десятилетия слушаний в парламенте, незначительные и эпохальные судебные заседания, прежде чем в 1838 году рабство было отменено окончательно и законодательно. Но даже после этого обществу ещё лет сто приходилось привыкать к новому положению дел.
При существующих технологиях отключение робота не является убийством. Робота бессмысленно наделять правом голоса и включать в патентную заявку, если только мы не перечисляем использованные для открытия инструменты. Но как только они явят проблеск полноценного интеллекта и автономности, общество после споров и колебаний в итоге даст им жизненное пространство и признает равными. Потому что так уже много раз было. А все наши заблаговременные обсуждения этого вопроса способствуют тому, что человечество будет готово принять в свои ряды новых членов, как это было с эмансипацией женщин или отменой рабства. Каждый шаг, каждый вопрос, каждое судебное заседание, как кирпичик строит этот новый мир уже сегодня.
Поделиться