Первая смерть от автопилота была зафиксирована в 2016 году. Управляемая ИИ Тесла, сбила человека в Флориде. В 2017 разработчик робота эйчара попытался разместить резюме на сайте с вакансиями. Страничку забанил модератор. В 2018 стали повсеместно появляться роботы, готовящие еду. Что, если они ненароком отравят клиентов? В 2019 изобретатель указал в патентной заявке соавтором ИИ. Европейское патентное бюро ему отказало.
Европарламент разработал проект закона о робототехнике на 34 страницы. В данный момент он находится в недрах структуры и ждёт рассмотрения.
Южноафриканская юридическая компания Michalsons тоже открыла страничку по обсуждению возможного законодательства в области регулирования роботов. Сделано это больше для пиара, но в концепте есть интересные моменты правовых аспектов. Юристы описывают, какие проблемы в правоприменении существуют сейчас, а также перечисляют, к чему может относиться такой закон. В их методологии 6 субъектов:
1. Физические роботы.
2. Алгоритмы.
3. ИИ.
4. Дроны.
5. Беспилотники.
6. Виртуальная реальность.
В 2018 году Палата лордов Великобритании выпустила отчёт о пяти этических принципах для ИИ.
1. Искусственный интеллект должен разрабатываться для общего блага и выгоды человечества.
2. Искусственный интеллект должен работать на принципах прозрачности и справедливости.
3. Искусственный интеллект не должен использоваться для ущемления прав, нарушения персональных данных или конфиденциальности субъектов права, семей или сообществ.
4. Все граждане должны иметь право на получение знаний с помощью ИИ, чтобы они могли интеллектуально, эмоционально и экономически процветать вместе с ИИ.
5. Искусственный интеллект никогда не следует наделять автономностью, с помощью которой он сможет причинять вред, убивать или обманывать людей.
Это не является законами, но попыткой осмыслить сферу и подготовить правовую базу.
Райн Кало, доцент юридической школы Вашингтонского университета, собирает случаи взаимоотношений робототехники и общества, а также судебные прецеденты для того, чтобы понять проблемы и разработать законодательную базу. В его коллекции есть ситуации даже из 40-х и 50-х годов. В некоторых из этих кейсов суды пытались ответить на следующие вопросы:
Может ли робот представлять человека?
Облагались ли игрушки-роботы специальным пониженным налогом для кукол?
Могут ли роботы давать музыкальное представление?
Мы поговорили с участниками рынка, не пора ли вводить в законы какие-то права и обязанности роботов в планетарном масштабе? И если это рано делать сейчас, не стоит ли сработать на опережение?
Когда придёт время законодательно регулировать ИИ и не пора ли заняться этим сегодня?
- Законодательно регулировать деятельность ИИ понадобится лет через 100, - уверен Виктор Денисенко, главный конструктор робототехнической компании RealLab. - Сейчас существует законодательство о промышленной безопасности и его достаточно для того, чтобы разработки по ИИ не представляли угрозу для нашего окружения.
- Пока рано говорить о регулировании деятельности ИИ, каким он представлен в фантастике, то есть действующим независимо и принимающим решения самостоятельно, - соглашается с ним Николай Пeчёнoв, основатель группы компаний It’s Time. - В ближайшие 10 лет подобные программы не появятся. Остальные решения, которые могут действовать автономно, работают под управлением не ИИ, а программных платформ, иногда с неочевидной логикой, но тем не менее являются законодательно сложным оборудованием. Единственным исключением, ради которого потребуется дополнять законодательную базу в ближайшие годы, станут беспилотные автомобили. Остальные, в том числе боевые и медицинские, в той или иной мере остаются под управлением человека, который и несёт ответственность за их действия. Поэтому на данном этапе правоприменение робототехники на рынке ничем не отличается от правоприменения других автоматических систем и оборудования.
Даниил Приймак, руководитель сервиса по ремонту роботов Jobs-garage.ru, тоже придерживается подобной точки зрения: Законодательно регулировать ИИ станет необходимо тогда, когда начнутся прецеденты, как это было с квадрокоптерами, которые стали летать на частной территории или в зоне аэропортов. Как только появится конфликт интересов ИИ, государства и граждан, тогда всё и начнут регулировать.
- Законы надо разрабатывать сегодня, - не соглашается Антон Шатов, аналитик маркетплейса Roboter.ru. - Наука и техника развиваются бурно. Даже если рынок переживает стагнацию, миллионы людей работают над новыми технологиями прямо сейчас. Что угодно может появиться каждый день. Обществу следовало бы просто подстраховаться, а потом внести корректировки в соответствии с реалиями. Существует много устаревших законов, которые не используются. Почему бы не ввести законы будущего, которые пока не нужны, но безусловно пригодятся. Пусть даже через 50 лет. Но вдруг — завтра?
- Люди, занимающиеся разработкой ИИ, уже сейчас пытаются институализировать данное направление, - рассказывает московский юрист, - но с позиции обывателя делать это преждевременно. Если, скажем, навигатор или искусственный помощник даст некорректную подсказку, то это вопрос не законодательства, а развития платформ по разрешению проблем и конфликтов. Например, если человек живёт в Великобритании, и заказал что-то на американском агрегаторе, и получил товар ненадлежащего качества, то английское законодательство ограничено в своих действиях, поэтому покупатель будет решать вопрос в первую очередь с агрегатором. То же самое действует в отношении Siri или Алексы. Глобализация диктует новый взгляд на прямые взаимоотношения пользователя и разработчика.
Осуществляют ли власти какие-то шаги в этом направлении?
- Обсуждения со стороны властей, конечно, идут, - рассказывает Николай Пeчёнoв, - но больше в ключе ускорения развития робототехники и образовательных проектов с её участием. Со стороны властей роботы фигурируют чаще всего как перспективный объект дополнительного налогообложения.
- Необходимость регулирования использования ИИ — вопрос времени, - не спорит с ним Даниил Приймак. - Уже сейчас ИИ обрабатывает лица людей и создаёт компрометирующие видео. Когда будет серьёзный резонанс, тогда и начнётся обсуждение законодательства.
Выходит ли робосообщество к властям с предложениями, и если да, то какими?
Николай Пeчёнoв: В настоящее время робосообщества, как организованной общественной структуры, не существует, ни в России, ни в других странах. Поэтому высказывания отдельных специалистов или представителей бизнеса в этой сфере собирательными обращениями не являются. Зачатки российского робосообщества появятся лет через 5-7, а само оно сформируется не ранее 2030. А когда этот институт реально заработает, от него можно будет ждать каких-то согласованных действий. Известен случай, когда Илон Маск попросил всех задуматься об опасности восстания машин. Но это больше крик души, чем внятный план.
Является ли отключение робота или программы аллюзией на убийство и если нет, когда техника разовьется настолько, что эта аналогия станет актуальна?
- Эта аналогия не станет актуальной никогда, - критически настаивает Виктор Денисенко, - поскольку между интеллектом, созданным природой, и интеллектом, построенным человеком, существует фундаментальное различие: как функционирует человеческий интеллект не знает никто, это основной вопрос философии о соотношении между материей и сознанием, а как функционирует искусственный интеллект, знает его разработчик. ИИ – это всего лишь программа, созданная человеком и никаких философских загадок в ней нет и быть не может.
- Здесь нужно рассматривать технологию хранения и обработки данных, логику принятия решений, - объясняет Николай Пeчёнoв. - Если отключение приведёт к потере невосполнимых важных данных и уникальных особенностей, типа индивидуальности, опыта, навыков, и робот или программа изменится, тогда, аналогия уместна. Если после включения ничего не пропадает, то нет, отключение будет аналогично человеческому сну.
- Конечно нет, - уверен Даниил Приймак, - сейчас 2020 год. Всё есть в облаке. Большинство программ обязаны быть в облаке, поэтому физическое отключение не будет являться «убийством».
Стоит ли продвинутому ИИ давать избирательные права? Как сильно должен развиться ИИ, чтобы мы об этом задумались?
Николай Пeчёнoв: Возможно. Когда мы увидим и хорошо узнаем такие ИИ, и сможем оценить полезность их предложений для общества, тогда и решим, наделять ли их гражданскими правами.
Когда ИИ перестанет быть умными элементами каких-то систем, действующих на благо чьих-то корпоративных, политических, научных или государственных интересов, а станет самостоятельной и независимой личностью, начнёт функционировать на деньги некоммерческих общественных организаций или даже самостоятельно, живя в интернете, и будет доступен онлайн всем желающим, а также положительно проявит себя в нахождении решений реальных человеческих проблем.
Случаются ли кейсы в работе с робототехникой сейчас, когда законодательство оказывается недостаточным для нынешнего уровня ИИ?
- Я бы сказал, что с робототехникой случается много инцидентов, - говорит Антон Шатов. - Но все они косвенно относятся к существующим законам, поэтому распределяются между ними. Например, происшествия с автопилотами подпадают под производство оборудования, ПО и нарушение ПДД. Или в 2019 году был случай, как робот-упаковщик убил человека. Но там не соблюдались нормы безопасности, и вокруг машины не выставили ограждение. Недавно автомобиль сбил переходящего улицу робота. Это была просто пиар-акция разработчика. Но формально можно назвать ДТП с роботом. За его действия отвечал оператор или программист. Нередко создаются чат-боты, которые могут нагрубить или даже генерировать экстремистские тексты. Вина снова падает на разработчика ПО.
В 2019 году система DABUS, построенная на нейросетях, разработала инновацию, но Европейское патентное ведомство отказало ей в регистрации в качестве изобретателя. Нужно ли указывать ИИ в патентной заявке или в этом нет необходимости?
- ИИ - это обычная компьютерная программа, - считает Виктор Денисенко, - помогающая человеку выполнять работу, в том числе творческую, она не может быть автором изобретения. Автором в данном примере является человек, который сформулировал задачу для ИИ.
- Нейросети в данное время применяются как отдельные алгоритмы с неочевидной для наблюдателя логикой. И настроены решать достаточно узкие задачи, - говорит Николай Пeчёнoв. - Поэтому в ближайшие годы такие события нужно рассматривать как PR акции, призванные привлечь к проектам внимание и инвесторов.
Даниил Приймак: Ну а что тут странного? Вокруг бюрократия и с патентами - тем более. Вы попробуйте сами сдать налоговые отчеты для ООО без помощи бухгалтера, а уже потом подумайте о том, как прописать ИИ в качестве участника патента, во всяком случае в России. Но уверен, что нигде в мире законодательная база для этого не готова. Опять же, как возникнет конфликт интересов, тогда и законодательная база появится. Например, если ИИ станет настолько умён и сварлив, что обидится и откажется придумывать дальше.
Суммируя.
В настоящее время любой алгоритм, принимающий участие в разработке инновации, является не более чем инструментом. Мы же не вписываем в патентную заявку калькулятор или компьютер. Одно дело, если нейросеть сама задалась проблемой и решила её. Но если ей, как в случае с DABUS, поручили задачу, и она нашла решение в ответ, то это просто очень сложная вычислительная машина. Если ощущается потребность добавить соавтора, можно вписать разработчика алгоритма, но не сам алгоритм. Те, кто пытаются назвать изобретателем код, действуют в первую очередь ради пиара: о судебных слушаниях, где инноватор просил признать ИИ соавтором, написали многие правовые и научные СМИ, сделав проект и героев знаменитыми. Это был прецедент, который пока не повторялся. Во вторую — авторы прощупывают почву на будущее, являясь первопроходцами. Каждое такое обсуждение полезно, потому что очевидно — всё идёт к появлению полноценного искусственного сознания.
При существующих технологиях отключение робота не является убийством. Робота бессмысленно наделять правом голоса и включать в патентную заявку, если только мы не перечисляем использованные для открытия инструменты. Но как только они явят проблеск полноценного интеллекта и автономности, общество после споров и колебаний в итоге даст им жизненное пространство и признает равными. Потому что такое уже много раз происходило с другими субъектами общества. А все наши заблаговременные обсуждения этого вопроса способствуют тому, что человечество будет подготовлено принять в свои ряды новых членов, как это было с эмансипацией женщин или отменой рабства. Каждый шаг, каждый вопрос, каждое судебное заседание, как кирпичик строит этот новый мир уже сегодня.
Поделиться