[МУЗЫКА]

[МУЗЫКА] Уважаемые коллеги,

немного фантастики в рамках нашего курса.

Вот эту фразу я бы мог произвести и, наверное,

был бы прав года три назад, когда тематика,

связанная с регулированием искусственного интеллекта,

роботов, все то, что мы с удовольствием, наверное,

читали в тоннах фантастической литературы, была сплошной экзотикой,

в первую очередь встречалась на страницах книг фантастов,

ну и минимальным образом можно было встретить эти

вопросы на страницах исследований всевозможных футурологов.

Сейчас реалии таковы, что это перестало быть фантастикой,

это крайне сложная тематика, обсуждение которой только началось,

и при этом этой тематике уделяется пристальное внимание государствами,

юридическим сообществом как в мире, так и в России.

Скажем, когда мы говорим о регулировании робототехники,

прекрасный пример реализации государственной политики в этой

связи представляет Евросоюз, который создал полтора года назад,

даже чуть более, специальную рабочую группу, и в рамках деятельности

комитета Европарламента по правовым вопросам буквально недавно,

в начале 2017 года представил соответствующий проект отчета,

связанного с гражданско-правовым регулированием робототехники.

Это очень интересный документ, он рассматривает сферы регулирования

робототехники, в первую очередь, через призму гражданского права,

предлагает модели, задается вопросами крайне важными для будущего развития,

наверное, всего земного шара — как рассматривать умных роботов,

искусственный интеллект в современной системе права, которое совершенно для

этого не приспособлено, которое стабильно развивалась веками и тысячелетиями и,

конечно, совершенно не подразумевает наличия сложных

искусственных систем в гражданском обороте.

В рамках работы этой комиссии закономерно

исследователи обращают внимание на прикладные вопросы,

связанные с ответственностью в сфере робототехники.

А примеров, когда возникают какие-либо конфликты или проблемы в этой сфере,

очень много.

Вы, наверное, слышали, что самодвижущиеся машины уже попадают в аварии,

скажем, в Соединенных Штатах Америки.

Имели место несчастные случае на производстве,

когда из-за роботов страдали и даже погибали люди.

Несомненно, когда все самодвижущиеся устройства, когда другие виды роботов,

например, в сфере медицины наблюдается очевидный прогресс, будут массово

использоваться, таких проблем и случаев окажется очень-очень много.

И вопрос ответственности разработчиков, производителей,

собственников и пользователей всех этих устройств обретает крайне важное значение.

Что происходит в этой связи в Российской Федерации?

В конце прошлого года по заказу Grishin Robotics — компании,

которая активно занимается инвестициями в разработку роботов и которой руководит

Дмитрий Гришин, известный деятель в сфере Интернета, юридической фирмой

Dentons был разработан первый законопроект о роботах в Российской Федерации.

Я имею удовольствие быть в коллективе авторов этого законопроекта, когда мы с

моим коллегой Владиславом Архиповым представили, сознаюсь, упрощенную, но с

нашей точки зрения заслуживающую внимание модель регулирования указанной сферы.

Мы пошли пока по простому пути,

когда предложили поправки в гражданское законодательство Российской Федерации.

В рамках законопроекта была предложена модель, когда все роботы делились

на две части — обычные роботы, назовем их неинтеллектуальные,

и роботы-агенты, которые могут действовать самостоятельно и в результате исполнения

определенных формальностей, которые были предложены в законопроекте,

при определенных условиях могут считаться квазисубъектами в системе права.

Это опять-таки сейчас кажется фантастикой,

это может и должно обсуждаться критическим образом, но мы подумали о том,

что, возможно, в ближайшей перспективе либо позже роботы

могут рассматриваться в качестве специальных субъектов права.

Это как в сфере юридических лиц.

Таковые появились тысячу с лишним лет назад, но это,

конечно, определенная фикция и допущение, которая была удобной

и остается удобной для целей обеспечения экономических отношений.

Никакие юридические лица непосредственно по улицам не ходят,

в лесах не гуляют и деньги непосредственно не выдают.

За них все это делают люди: сотрудники, собственники, органы управления.

И здесь это фикция, которая оказалась выгодной и удобной

для человечества и которая была воспринята правом.

То же и самое в сфере робототехники: рано или поздно сложные системы начнут

действовать целиком самостоятельно.

В режиме самообучения они будут взаимодействовать с внешней средой,

и будет возникать вопрос: что будет происходить,

если эти специальные объекты или квазисубъекты будут участвовать в

гражданских сделках; будут в тех или иных обстоятельствах причинять вред?

Естественно, наверное, неумышленно, но тем не менее вред здоровью, имуществу.

И в этой связи мы предложили модель,

связанную с наделением ограниченной правосубъектностью указанные объекты.

Причем эти объекты в принципе, в первую очередь,

мы рассматриваем в качестве умного движимого имущества.

Хотя это тоже спорный вопрос, поскольку в сфере робототехники и искусственного

интеллекта существуют сферы, где роботы не имеют материальной оболочки.

Применительно к этому законопроекту мы излагаем идеи о том,

что модели роботов должны регистрироваться.

Почему именно модели, а не все роботы?

Поскольку мы ожидаем, что непосредственно роботов будет очень много,

но государство должно из-за задачи обеспечения безопасности контролировать

модельный ряд указанных объектов.

Если этот объект, его модель, прошел соответствующий цикл испытаний, он

безопасен, тогда его можно непосредственно включать и вводить в гражданский оборот.

Вторым условием, помимо регистрации моделей, для того чтобы соответствующий

объект обрел правосубъектность, должно стать публичное заявление

обладателя указанного устройства о том, что робот начинает функционировать.

После этого нажимается красная кнопка и автономный робот, робот-агент, начинает

действовать и участвовать в частности в гражданско-правовых отношениях.

Здесь очень много сложных вопросов.

Нужно иметь в виду, что, конечно, модели регулирования,

поправки в Гражданский кодекс далеко неидеальны.

Несомненно, здесь есть вопросы,

связанные с административным правом, с правом информационным.

Робот — это обязательно информационная система, здесь вопросы обеспечения

информационной безопасности всех устройств и систем для робота являются ключевыми.

Вспомним массу фантастических рассказов и фильмов о восстаниях машин, о том, что

кто-либо проникал в разум робота, влиял, и затем этот робот действовал негативно.

Это все на текущий момент проблематика информационной безопасности и обеспечения

доступа к информационным системам.

Соответственно здесь будет иметь место сорегулирование различными отраслями права

указанной сферы.

После научной дискуссии, в том числе связанной с законопроектом о роботах,

законопроектом Дмитрия Гришина, как его сейчас называют, необходимо определиться

с государственной политикой и путями развития регулирования робототехники.

Та острая дискуссия, которая сейчас имеет место среди ученых,

в целом в системе научного сообщества, говорит о том,

что требуется разработка системного законодательства о робототехнике,

когда следующим этапом после текущего законопроекта и тех инициатив,

которые сейчас предлагаются, необходимо появление специального закона,

который бы ввел определение информационных систем,

объектов и роботов в целом; провел бы определенную классификацию

указанных устройств и систем; совершенно единообразным образом

раскрыл бы права и обязанности государства в указанной сфере,

поскольку государство должно обеспечивать и гарантировать безопасность

соответствующих систем; и затем бы представил на обсуждение

для сообщества и бизнеса вопросы, связанные с

использованием роботов в различных сферах экономики и человеческой деятельности.

Мы уже сейчас имеем соответствующие примеры, когда был наполнен Воздушный

кодекс в отношении дронов, когда буквально около года

назад появились первые ГОСТы, связанные с робототехникой.

Но пока этих примеров и детальности их проработки совершенно недостаточно для

тех вызовов и того технического прогресса, которые нас ожидают в ближайшее время.

Соответственно необходимо обсуждение и предложения конструкции регулирования

и использования роботов в различных сферах от помощи человеку,

от медицины до использования роботов в том числе,

возможно, и в целях государственной безопасности и обороны.

Последнее представляет из себя очень сложную дискуссионную тематику,

тем не менее на этом сосредоточены уже законодатели во многих государствах мира.

Здесь же потребуется ответить на вопрос,

будут ли роботы в каком-то обозримом будущем субъектами права?

Несмотря на то, что сейчас эта проблематика — придание роботам

определенной правосубъектности — пока что представляется довольно экзотической,

тем не менее, исходя их тех темпов развития технологий и появления новых

робототехнических решений, несомненно, этот вопрос станет

краеугольным для и развития и регулирования робототехники,

и на самом деле будет служить предметом очень сложной философской,

социальной, социально-психологической дискуссии в мире.

Поскольку если мы посмотрим на ту самую фантастику, на те тонны книг,

которые я упомянул в начале, действительно, если технологии

станут настолько сильными и умными, мы должны для себя решить,

и право должно дать ответ, и не только право, но и другие сферы знаний,

какова роль человека во взаимодействии с роботами и какова здесь

будет задача и роль роботов в развитии человечества.

[БЕЗ_ЗВУКА]

Искусственный интеллект, роботы и юристы

Правовое регулирование отношений в Интернете. Российская перспектива

Rencontrer les enseignants