WWW.LIBRUS.DOBROTA.BIZ
БЕСПЛАТНАЯ  ИНТЕРНЕТ  БИБЛИОТЕКА - собрание публикаций
 

«МОРХАТ Петр Мечиславович ПРАВОСУБЪЕКТНОСТЬ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СФЕРЕ ПРАВА ИНТЕЛЛЕКТУАЛЬНОЙ СОБСТВЕННОСТИ: ГРАЖДАНСКО-ПРАВОВЫЕ ПРОБЛЕМЫ ...»

На правах рукописи

МОРХАТ

Петр Мечиславович

ПРАВОСУБЪЕКТНОСТЬ ИСКУССТВЕННОГО

ИНТЕЛЛЕКТА В СФЕРЕ ПРАВА

ИНТЕЛЛЕКТУАЛЬНОЙ СОБСТВЕННОСТИ:

ГРАЖДАНСКО-ПРАВОВЫЕ ПРОБЛЕМЫ

Специальность: 12.00.03 – гражданское право;

предпринимательское право; семейное право;

международное частное право

АВТОРЕФЕРАТ

диссертации на соискание учёной степени доктора юридических наук

Москва Диссертация выполнена на кафедре авторского права, смежных прав и частноправовых дисциплин Федерального государственного бюджетного образовательного учреждения высшего образования «Российская государственная академия интеллектуальной собственности» (ФГБОУ ВО РГАИС) Научный ПОНКИН ИГОРЬ ВЛАДИСЛАВОВИЧ консультант доктор юридических наук, профессор Официальные ГАДЖИЕВ ГАДИС АБДУЛЛАЕВИЧ оппоненты: доктор юридических наук, профессор, Заслуженный юрист Российской Федерации Конституционный Суд Российской Федерации, судья, Санкт-Петербургский филиал ФГАОУ ВО «Национальный исследовательский университет «Высшая школа экономики», научный руководитель факультета права, заведующий кафедрой гражданского права

МОЛЧАНОВ АЛЕКСАНДР АЛЕКСАНДРОВИЧ

доктор юридических наук, профессор, ФГКОУ ВО «Санкт-Петербургский университет МВД России», профессор кафедры гражданского права и гражданского процесса

БЕЛИКОВА КСЕНИЯ МИХАЙЛОВНА

доктор юридических наук, профессор, ФГАОУ ВО «Российский университет дружбы народов», профессор кафедры гражданского права и процесса и международного частного права Юридического института Ведущая Федеральное государственное бюджетное образоваорганизация: тельное учреждение высшего образования «Российский университет транспорта (МИИТ)»

Защита состоится 7 февраля 2019 года в 14 ч. 00 мин.

на заседании Диссертационного совета Д 401.001.02 при ФГБОУ ВО «Российская государственная академия интеллектуальной собственности» по адресу:

117279, г. Москва, ул. Миклухо-Маклая, д. 55 А, ауд. 305 .

С диссертацией можно ознакомиться в библиотеке ФГБОУ ВО «Российская государственная академия интеллектуальной собственности» по адресу:

117279, г. Москва, ул. Миклухо-Маклая, д. 55 А, тел. +7-(495)-330-10-83 и на сайте ФГБОУ ВО РГАИС: dis.rgiis.ru

Автореферат разослан 5 ноября 2018 г .

Ученый секретарь диссертационного совета, кандидат юридических наук, доцент В.С. Савина

I. ОБЩАЯ ХАРАКТЕРИСТИКА ДИССЕРТАЦИОННОЙ РАБОТЫ

Актуальность темы диссертационного исследования .

Публичная декларация целей и задач Федеральной службы по интеллектуальной собственности на 2018 год, утверждённая Роспатентом 27.02.2018 № 09/4-04/73вн предусматривала решение задачи внедрения технологий искусственного интеллекта в сферы деятельности Роспатента .

Современные компьютерно-программные технологии, нейротехнологии, биотехнологии, технологии робототехники продолжают стремительно, очень интенсивно развиваться. Одной из наиболее перспективных, потенциально применимых во многих сферах общественных отношений и уже применяемых в ряде сфер и при этом наиболее неоднозначных технологий являются как раз технологии искусственного интеллекта – компьютерных или киберфизических систем с антропоморфным (человекоподобным) «интеллектом» .





Искусственный интеллект иначе именуется «машинным разумом», «машинным интеллектом», «разумной машиной», «думающей машиной», «цифровым существом». Соответственно, носителя искусственного интеллекта (систему, объект, устройство, агента) далее будем именовать юнитом искусственного интеллекта. В будущем могут быть возможны какие-то юниты искусственного интеллекта, созданные преимущественно или исключительно на основе биоматериалов и биотехнологий, но сегодня речь идёт именно о сложных компьютерно-аппаратно-программных виртуальных или киберфизических юнитах (не живых в биологическом смысле) .

Новые сложнейшие и очень быстро возникающие и развивающиеся вызовы современности, такие, как трансформация и усложнение гетерогенности и энтропийности интернет-пространства, интенсивное развитие робототехники, технологий и юнитов искусственного интеллекта, не могут не отражаться на состоянии и развитии законодательства в самых разных сферах общественных отношений. Одной из таких сфер, требующих пристального научного внимания, является сфера интеллектуальной собственности .

Функционал действующих с относительно недавнего времени в России представителя Президента РФ по вопросам цифрового и технологического развития, во Франции – государственного секретаря по цифровым вопросам при Премьер-министре (secrtaire d'tat auprs du Premier ministre charg du Numrique), аналогичных должностных позиций в ряде других государств мира включает в себя, в числе прочего, содействие развитию и внедрению технологий искусственного интеллекта .

Актуальность избранной для настоящего диссертационного исследования темы обусловлена следующими детерминантами:

1) критически значительное рассогласование реалий, которые создает и экспектативно создаст применение технологий и юнитов искусственного интеллекта при реальном производстве результатов интеллектуальной деятельности (творческих продуктов), и ныне действующего законодательства Российской Федерации в сфере права интеллектуальной собственности, дезупорядочивающее правоотношения в этой сфере;

2) в целом множественные критически существенные пробелы в правовом понимании и толковании феномена искусственного интеллекта, его правового положения и сопряжённых с ним проблем; в числе прочих, уже актуализировались неразрешимые пока прикладные проблемы – обладает ли работник, обслуживающий юнит искусственного интеллекта, автономно создающий творческие результаты интеллектуальной деятельности, правом на этот продукт как на служебное произведение; а также – за кем должны быть закреплены права на технологию и результат расшифровки искусственным интеллектом объектов нерасшифрованной письменности (например – недавний случай с расшифровкой фрагмента «манускрипта Войнича»);

3) экспоненциальный рост разрыва между существенным скачком в инновационно-технологическом развитии робототехнических, компьютернопрограммно-аппаратных технологий и уже безнадёжно отставшим нормативным правовым и нормативным техническим регулированием в этой сфере, в том числе – в части определения правового положения сложных юнитов искусственного интеллекта;

4) появление целой линейки обусловленных новейшими достижениями в сфере информационных технологий, робототехники и искусственного интеллекта вызовов, угроз и рисков (преимущественно – имплицитных) для прав, свобод и законных интересов человека, в том числе – в сфере права интеллектуальной собственности, что тем более выраженно актуально в условиях заявляемого на высшем государственном уровне проекта реформирования сферы гражданского законодательства в РФ;

5) имеющий место конфликт между стремлением законодателя к созданию правовых условий для интенсификации инновационнотехнологического развития в сфере искусственного интеллекта и обоснованными опасениями перед лицом угроз, рисков и неопределенностей, детерминируемых разработкой, внедрением и применением технологий и юнитов искусственного интеллекта и связанных с ними технологий «интеллектуального» («умного») города, интеллектуальных транспортных средств и сетей, «цифровой интеллектуальной» экономики;

6) уже сегодня юниты искусственного интеллекта автономно создают уникальные оригинальные новейшие картографические объекты, системы картирования и топологии (кадастры и т.д.), что уже поднимает вопрос об обладателях прав на творческие результаты интеллектуальной деятельности юнитов искусственного интеллекта, не говоря уже о том, что юниты искусственного интеллекта сегодня успешно публично демонстрируют способности автономно создавать уникальные оригинальные музыкальные, поэтические, художественно-изобразительные и др. творческие произведения;

«обратной стороной монеты» является то, что по уже в ближайшее время юниты искусственного интеллекта могут стать идеальными инструментами криминальной подделки оригиналов произведений известных художников;

7) разработки в обозначенной сфере уже спровоцировали гонку за патентами и правами на интеллектуальную собственность на технологии и юниты искусственного интеллекта среди ведущих мировых технологических компаний, с большим числом заявок на патенты, оформленных и поданных на указанные разработки; число выданных патентов в названной сфере выросло в 3 раза с 708 в 2012 г. до 2888 в 2016 г., только в США за этот же период количество выданных патентов ИИ увеличилось на 1628 1;

8) издание (принятие) в России целого ряда пакета нормативных правовых и концептуально-программных документов, предопределяющих приоритетность разработки и внедрения технологий и юнитов искусственного интеллекта (в числе других цифровых технологий) под решение задач перспективного экономического развития, решение задач совершенствования системы государственного управления, в том числе в сфере экономики, и в частности под решение задач совершенствования судебной системы2;

9) появление за рубежом первых профильных нормативных правовых и концептуально-программных документов (Германия, Китай, Япония и др.) в Firth-Butterfield K., Chae Y., Allgrove B., Kitsara I. Artificial Intelligence Collides with Patent Law. – Geneva (Switzerland): World Economic Forum, 2018. – 23 p. – P. 5 .

В их числе: Указ Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития РФ на период до 2024 года» (пп. «б» п. 11, пп. «ж» п. 1, пп. «б» п. 2, пп. «б» п. 11), Стратегия развития информационного общества в Российской Федерации на 2017–2030 годы, утвержд. Указом Президента РФ от 09.05.2017 № 203 (пп. «в»

п. 36), Стратегия научно-технологического развития РФ, утвержд. Указом Президента РФ от 01.12.2016 № 642, (пп. «а» п. 20, пп. «е» п. 20) и мн. др .

сфере разработки, функционирования и применения искусственного интеллекта, активизация зарубежом (США и др.) и на международном уровне (ЕС) референтной законопроектной и документарно-проектной работы .

Всё это требует фундаментального научного гражданско-правового исследования и переосмысления тематического горизонта искусственного интеллекта, в том числе и конкретно – в сфере интеллектуальной собственности. И прежде всего – гражданско-правового научного исследования, поскольку аттрактором (центром схождения) всей совокупности вопросов тематического горизонта искусственного интеллекта и права является вопрос о правовом положении юнита искусственного интеллекта .

Оценка состояния научной разработанности темы. Постановка базовой научной проблемы в основе нашего исследования и исходное формирование концептуальных исследовательских траекторий и подходов к познанию, описанию, осмыслению, интерпретации, объяснению знаний и описанию указанной предметно-объектной области требуют детализированного анализа её научной разработанности. Менее всего этот феномен исследован и проработан именно с юридической точки зрения, есть лишь совсем немного работ в отечественной науке, посвящённых этим вопросам. Тематика правового понимания и регулирования технологий и юнитов искусственного интеллекта только начинает масштабно подниматься в отечественной и зарубежной научной литературе, хотя такие публикации изредка встречаются на протяжении последних 20–30 лет. При этом в зарубежной научной литературе (прежде всего – англоязычной, но также и франкофонной, испано-, немецко- и итальяно-язычной, а также на японском и китайском языках) этот тематический горизонт проработан несколько больше, нежели в отечественной. В научной литературе общие, компьютерно-программные, инженерные, математические, биоэтические и в целом нравственно-этические, философские вопросы разработки, производства, программирования, оборота, применения (задействования), функционирования, самообучения и саморазвития, прекращения жизнедеятельности (разрушения) и утилизации юнитов искусственного интеллекта отражены несопоставимо больше, нежели искомые юридические научно-теоретические и научно-практические аспекты данной предметно-объектной области .

Тематическому горизонту феномена и онтологии искусственного интеллекта, нормативного правового регулирования разработки, производства, программирования, оборота, применения (задействования), функционирования, самообучения и саморазвития, прекращения жизнедеятельности (разрушения) и утилизации юнитов искусственного интеллекта, правового положения и правосубъектности юнитов искусственного интеллекта, особенностей их онтологии (бытийствования) как субъектов, оснований, содержания, механизмов воплощения и правовых перспектив концепта правосубъектности так называемого электронного лица («виртуального лица» и т.д.) в российском научном пространстве было посвящено мало работ, впрочем, и зарубежная наука только начинает осваивать этот тематический горизонт3. Некоторые наработки других авторов следует вкратце далее обозреть для позиционирования места наработок диссертанта .

Комплексно правовые аспекты феномена искусственного интеллекта и правовые аспекты онтологии (бытийствования) и задействования юнитов искусственного интеллекта на фундаментальном уровне в отечественной науке почти не исследовались .

Определения и интерпретации понятия «искусственный интеллект», описания его существенных признаков в определённой степени нашли отражение в работах следующих российских авторов: Л.С. Болотова, Т.А. Гаврилова, А.А. Жданов, В.П. Куприяновский, И.В. Понкин, А.С. Потапов, А.Н. Райков, А.И. Редькина, В.Н. Ручкин, В.Н. Синельникова, Д.В. Смолин, В.А. Фулин, В.Ф. Хорошевский, А.В. Шилейко, Л.Н. Ясницкий. Есть ещё ряд переводных изданий по этой тематике, в частности – авторства Этема Алпайдина, Стюарта Рассела и Питера Норвига, Джорджа Люгера, Алекса Эндрю, Эрла Ханта, Патрика Генри Уинстона, Нильса Нильсона, Стивена Хокинга, Роджера Пенроуза, Эбнера Шимони и Нэнси Картрайт, Ника

Бострома. Эти же вопросы нашли отражение в трудах зарубежных авторов:

Джордж Люгер (George F. Luger), Даниэль Кастро и Джошуа Нью (Daniel Castro and Joshua New), Роберт С. Энгельмор (Robert S. Engelmore), Нильс Нильсон (Nils J. Nilsson), Майкл Гихо, Энн Мэтью и Николас Сузор (Michael Guihot, Anne F. Matthew, Nicolas Suzor), Рэймонд Курцвейл (Raymond Kurzweil) и др .

Из иностранных авторов, писавших об общих правовых аспектах феномена искусственного интеллекта и правовых аспектах его онтологии (бытийствования), считаем необходимым обозначить следующих: Паулюс Черка (Paulius erka), Юргита Григене (Jurgita Grigien), Гинтаре Сирбиките (Gintar Sirbikyt), Николас Петит (Nicolas Petit), Джессика Аллэйн (Jessica S .

Полный библиограф. и источниковедч. обзор представлен: Морхат П.М. Искусственный интеллект. Право. Технологии. Экономика. Управление: Библиограф. указат. – М.: ЮнитиДана, 2018. – 131 с. Морхат П.М. Искусственный интеллект: правовой взгляд. – М.: Буки Веди, 2017. – 257 с. – С. 14–35 .

Allain), Жоау Паулу де Альмейда Ленардон (Joo Paulo de Almeida Lenardon), Мэтью Шерер (Matthew U. Scherer), Адам Тьирер и Андреа Кастильо (Adam Thierer, Andrea Castillo), Симон Аркус (Simon Arcus), Брюс Макклинток (Bruce McClintock), Райан Кало (Ryan Calo), Эрика Пальмерини (Erica Palmerini). Из российских авторов выделим здесь Е.В. Аристова, К.М. Беликову, Г.А. Гаджиева, А.А. Карцхия, И.Н. Куксина, О.А. Кузнецову, В.П. Куприяновского, А.А. Молчанова, И.В. Понкина, А.И. Редькину .

Вопросы правосубъектности юнитов искусственного интеллекта, их онтологии (бытийствования) как субъектов, основания, содержание и правовые перспективы концепта так называемого электронного лица в той или иной мере прямо или фрагментарно затрагивались нижеследующими российскими авторами: Е.Г. Афанасьева, А. Вашкевич, Г.А. Гаджиев, С.Н. Гринь, Д.С. Гришин, Н.С. Еманова, А.А. Карцхия, Е. Красилова, А. Лагутенков, К.В. Леончик, А.В. Нестеров, Т.В. Павлова, А.Е. Парфентьева, М.Н. Петренко, С.Б. Полич, И.В. Понкин, А.И. Редькина, П.П. Сергун, В.Н. Синельникова, О.А. Степанов, Ф.В. Ужов, О. Ускова, В.К. Ушаков, Т.Я. Хабриева, В.Н. Черкасов, Н.Н. Черногор, М.А.Шмаков, О.А. Ястребов. Из иностранных авторов, касавшихся тем правосубъектности юнитов искусственного интеллекта, правосубъектности «электронного лица», считаем необходимым обозначить следующих: Джеймс Гэрфорт (James Garforth), Маршал С. Уиллик (Marshal S .

Willick), Мафалда Миранда Барбоза (Mafalda Miranda Barbosa), Альжбета Краузова (Albta Krausov), Джон Байерс (John Buyers), Джек Балкин (Jack B .

Balkin), Рональд Линес (Ronald E. Leenes), Федерика Люсиверо (Federica Lucivero), Гэбриэл Холливи (Gabriel Hallevy), Питер Асаро (Peter M. Asaro), Альберто Галассо (Alberto Galasso), Луис Франко (Luis Franco), Эмили Уайтценбоук (Emily M. Weitzenboeck), Кёртис Карноу (Curtis E.A. Karnow), Ричард Купп (Richard L. Cupp), Джоанна Брайсон (Joanna J. Bryson), Михаилис Диамантис (Mihailis E. Diamantis) и др. Вопросы цифровых онтологий и формализации права исследовались Г.А. Гаджиевым, В.П. Куприяновским, И.В. Понкиным, А.И. Редькиной .

Особенности онтологии (бытийствования), правовые и нравственноэтические аспекты функционирования киберфизических систем (cyber-physical systems) рассматривались в работах следующих зарубежных авторов: Чил Шолтен (Chiel Scholten), Адриана Тапю (Adriana Tapus), Майкл Хеншоу (Michael Henshaw), Йост ван Барневельд (Joost van Barneveld), Брам Вандерборг (Bram Vanderborght), Кристиан Каррер (Christian Kurrer), Льев Ван Военсель (Lieve Van Woensel), Михалис Критикос (Mihalis Kritikos) .

«Право роботов» (правовое регулирование робототехники) нашло отражение в работах следующих иностранных авторов: Эрве Жакмэн (Herv Jacquemin), Жан-Бенуа Юбэн (Jean-Benot Hubin), Аида Понсе дель Кастильо (Ada Ponce Del Castillo), Уго Пагалло (Ugo Pagallo), Федерика Люсиверо (Federica Lucivero), Ален Бансусан (Alain Bensoussan), Жереми Бансусан (Jrmy Bensoussan), Мартин Форд (Martin Ford), Эдуар Пфлэмлэн (douard Pflimlin), Александра Бансамун (Alexandra Bensamoun), Антуан Латрей (Antoine Latreille), Мари-Кристин Пьятти (Marie-Christine Piatti), Оливье Гилем (Olivier Guilhem), Лоранс Девийе (Laurence Devillers), Натали Невеянс (Nathalie Nevejans), Райан Кало (Ryan Calo). Из российских авторов выделим Е.В. Аристова, О.А. Кузнецову, А.В. Незнамова, В.Б. Наумова .

Вопросы правового понимания и регулирования искусственного интеллекта, персонификации юнитов искусственного интеллекта в контексте авторского права, патентного права и в целом права интеллектуальной собственности в той или иной мере затрагивались в работах таких авторов, как Г.А. Ахмедов, Ю. Брумштейн, Е.А. Войниканис, К.Д. Глазунова, А.В. Гурко, М. Дубина, М. Ильменский, В. Калятин, А.А. Карцхия, И. Колесников, В.Б. Наумов, И.В. Понкин, М.М. Поповский, В. Пшеунова, О.В. Ревинский, А.И. Редькина, Н.Л. Сенников, А.Г. Серго, В.Н. Синельникова, А. Штенгауэр .

Из зарубежных авторов, касавшихся этой темы, считаем необходимым обозначить следующих: Жеральдин Гофо-Калебо (Graldine Goffaux-Callebaut), Александр Крюкенэр (Alexandre Cruquenaire), Антуан Дельфорж (Antoine Delforge), Жан-Бенуа Юбэн (Jean-Benot Hubin), Манон Кнокер (Manon Knockaert), Бенуа Мишо (Benot Michaux), Тома Томбаль (Thomas Tombal), Элен Маргрете Бёлер (Helene Margrethe Bhler), Эннмари Бриди (Annemarie Bridy), Андрес Гуадамус (Andres Guadamuz), Роберт К. Деникола (Robert C .

Denicola), Ричард Кемп (Richard Kemp), Дэвид Комувес (David Komuves), Буркхард Шафер (Burkhard Schafer), Калин Христов (Kalin Hristov) и др .

Возможности, особенности, перспективы и пределы задействования технологий и юнитов искусственного интеллекта в профессиональной юридической практике, юридической экспертной деятельности нашли некоторое отражение в работах Е.В. Булгаковой, В. Волкова, Г.А. Гаджиева, А. Иванова, Р. Квитко, И. Кондратьевой, И. Кондрашова, С.Е. Коржова, С. Переверзева, А. Пронина, А. Савельева, А.Г. Серго, И. Цветковой. Эти же вопросы нашли некоторое отражение в работах следующих иностранных авторов: Дана Римас (Dana Remus), Фрэнк Леви (Frank S. Levy), Деннис Гарсиа (Dennis Garcia), Ричард Холовчак (Richard D. Holowczak), Нэйбил Адам (Nabil R. Adam), Эдвина Риссланд и Кевин Эшли, Джон МакДжиннис (John O .

McGinnis), Рассел Пирс (Russell G. Pearce), Дэрин Томпсон (Darin Thompson), Ларри Каменер (Larry Kamener) и др .

Вопросы ответственности за действия и последствия действий юнитов искусственного интеллекта находили отражение в работах авторов:

К.О. Беляков, Г.А. Гаджиев, Е.Н. Ирискина, Т.М. Лопатина, А.В. Нестеров,

И.В. Понкин, А.И. Редькина, О.А. Ястребов. В числе зарубежных авторов:

Джон Байерс (John Buyers), Луис Франко (Luis Franco), Аманда Свенсон и Фазал Хан (Amanda Swanson and Fazal Khan), Паулюс Черка, Юргита Григене и Гинтаре Сирбиките (Paulius erka, Jurgita Grigien and Gintar Sirbikyt), Питер Асаро (Peter M. Asaro) .

При наличии определённого числа публикаций по тематическому горизонту правового регулирования разработки, производства и задействования искусственного интеллекта, вместе с тем, в современной юридической науке:

1) не сформировано единое релевантное правовое понимание и объяснение феномена искусственного интеллекта, содержания и природы возможного / должного / допустимого правового положения юнитов искусственного интеллекта, а также правовое понимание и объяснение того, кто, на каких основаниях и в каком порядке должен нести ответственность за последствия действий (бездействия) юнитов искусственного интеллекта, а равно кто является правообладателем на произведения (результаты интеллектуальной деятельности), создаваемые юнитами искусственного интеллекта или с их фактически или юридически существенным участием;

2) заявленный тематический горизонт не охвачен в должной полноте обобщающими научными описаниями, интерпретациями и объяснениями;

отсутствуют релевантные полноценные научно-теоретические концепты и конструкты; понятийно-категориальный аппарат должным образом не сформирован; представленные в научной литературе интерпретации характеризуются противоречивостью, фрагментарностью, пробельностью, поверхностностью; ключевые содержательные моменты крайне слабо проработаны (в российской науке – особенно слабо);

3) сегодня в отечественной науке нет комплексных полномасштабных (по охвату и объёму) и фундаментальных (по глубине научно-исследовательской проработки тематического горизонта и содержательной глубине результирующих научных обобщений, концептов, конструктов, теорий) научно-юридических исследований феномена искусственного интеллекта, правового положения юнитов искусственного интеллекта, особенностей разработки, производства, программирования, оборота, применения (задействования), функционирования, самообучения и саморазвития, прекращения жизнедеятельности (разрушения) и утилизации юнитов искусственного интеллекта, а также реальности, отношений, процессов и проблем, со всем этим связанных; даже в научно-правовых исследованиях (как отечественных, так и зарубежных), отличающихся наиболее высоким качеством, на сегодня не представлена полномасштабная теория, позволяющая сложить из явно недостаточного числа отдельных разрозненных (хотя и несколько проработанных) элементов «мозаики» целостную картину исследуемой предметно-объектной области и, в числе прочего, объясняющая линейку наиболее сложных вопросов указанного тематического горизонта искусственного интеллекта и права и сопрягаемая с фундаментальными научными исследованиями связанных с искусственным интеллектом тем в рамках других научных направлений .

Восполнению этих содержательных научных пробелов и посвящена настоящая диссертация .

Объектом диссертационного исследования являются общественные отношения, осуществляемые в сфере разработки, функционирования и применения технологий и юнитов искусственного интеллекта, задействования таковых при создании произведений (результатов интеллектуальной деятельности), а равно отношения в сопряжённых сферах .

Предметом диссертационного исследования выступили положения международных документов, нормы гражданского (и других отраслей) законодательства Российской Федерации и ряда зарубежных государств, регулирующие имеющие отношение к заявленной теме общественные отношения; соответствующие концептуально-программные документы в этой сфере и материалы правоприменительной практики, референтная судебная практика, а также научные доктрины и содержание научных дискуссий по данному кругу вопросов .

Целью диссертации являются гражданско-правовое научное исследование и фундаментальное гражданско-правовое осмысление феномена искусственного интеллекта, состояния и особенностей правового регулирования в области искусственного интеллекта, правового положения (сегодня и на перспективу) юнитов искусственного интеллекта в целом и в сфере права интеллектуальной собственности, связанных с этим общественных отношений и детерминированных этим рисков и гражданско-правовых и иных проблем .

Цель диссертации предопределила формулирование и решение нижеследующих научно-исследовательских задач:

– анализ и обобщение научно-правовых и других научных интерпретаций понятия «искусственный интеллект», концептуальных объяснений этого феномена и его существенных признаков, детерминантов неопределённости понятия «искусственный интеллект» и, как следствие, сложности выработки универсальной дефиниции понятия «искусственный интеллект»; выработка авторского определения указанного понятия;

– анализ состояния и качества законодательства Российской Федерации и зарубежных государств в части регулирования искусственного интеллекта в целом и в сфере права интеллектуальной собственности в частности;

– исследование особенностей и проблем регулирования разработки, производства, программирования, оборота, применения (задействования), функционирования, прекращения жизнедеятельности (разрушения) и утилизации юнитов искусственного интеллекта, связанных с этим рисков и неопределенностей;

– оценка возможностей и целесообразности, преимуществ и недостатков, направлений, особенностей, рисков и проблем функционирования и задействования юнитов искусственного интеллекта в юридической практике и в судебном процессе (гражданском судопроизводстве); оценка концепта и возможности функционирования юнита искусственного интеллекта как электронного судьи; проблем применения юнита искусственного интеллекта, связанных с его пониманием и толкованием права;

– исследование критериев творческого вклада юнита искусственного интеллекта в создание произведения и правовых проблем, связанных с задействованием юнита искусственного интеллекта в создании результатов интеллектуальной деятельности; анализ существующих концептуальных подходов к определению правового положения юнита искусственного интеллекта (в контексте права интеллектуальной собственности) и определению меры закрепления за ним прав на созданные им или с его участием результаты интеллектуальной деятельности;

– анализ правовых вопросов и проблем задействования юнитов искусственного интеллекта в создании и патентовании изобретений;

– исследование и классификация возможных моделей определения ответственности за действия юнита искусственного интеллекта, повлёкшие за собой наступление вредных последствий;

– проведение гражданско-правового исследования возможной (в настоящее время и на перспективу) правосубъектности юнитов искусственного интеллекта, исследование правовых и иных проблем и детерминантов сложности определения юридической ответственности юнитов искусственного интеллекта;

– исследование юридических и фактических возможностей, особенностей и последствий экстраполяции модифицированных прав человека на юниты искусственного интеллекта;

– обзор существующих подходов к наделению юнита искусственного интеллекта правосубъектностью; исследование и оценка прагматической релевантности, валидности, реалистичности концепта правосубъектности «электронное лицо» (предложенного Комиссией по гражданско-правовому регулированию в сфере робототехники Европейского Парламента);

– анализ рисков и возможных негативных последствий наделения юнитов искусственного интеллекта определённой правосубъектностью;

– разработка авторского научного гражданско-правового концепта правосубъектности юнита искусственного интеллекта «электронное лицо», выработка соответствующей авторской дефиниции;

– содействие адаптации российского права интеллектуальной собственности и в целом гражданского права к новым реалиям и вызовам, разработка соответствующих предложений относительно направлений и мер совершенствования законодательства Российской Федерации .

Научно-методологическую основу диссертации составил комплекс разнообразных методов познания, исследования, описания и объяснения исследуемого тематического горизонта .

В основу диссертации заложена крупная проблема критически значительного рассогласования реалий, которые создает и экспектативно создаст применение технологий и юнитов искусственного интеллекта при реальном производстве результатов интеллектуальной деятельности (творческих продуктов), и ныне действующего законодательства Российской Федерации в сфере права интеллектуальной собственности, дезупорядочивающее (угрожающее дезорганизовать) правоотношения в этой сфере, наложенная на ситуацию экспоненциального роста разрыва между существенным скачком в инновационно-технологическом развитии робототехнических, компьютерно-программно-аппаратных технологий и уже безнадёжно отставшим нормативным правовым и нормативным техническим регулированием в этой сфере, в том числе – в части определения правового положения сложных юнитов искусственного интеллекта .

Избрание в качестве частной предметно-объектной области исследования (в рамках метода дедукции – от общего к частному) – сферы права интеллектуальной собственности как специфической сферы применения юнитов искусственного интеллекта было обусловлено тем, что объективно в большинстве областей заявляемого применения технологий и юнитов искусственного интеллекта такое применение сегодня более демонстративно-декларативное, речь можно вести лишь об элементах искусственного интеллекта, нежели о полноценном искусственном интеллекте, тогда как в сфере права интеллектуальной собственности, действительно, уже существуют и функционируют рабочие экземпляры юнитов искусственного интеллекта с творческими способностями (по ряду позиций сопоставимыми со способностями человека), способные создавать произведения (художественные и даже поэтические тексты, картины, музыкальные композиции и т.д.), делать изобретения. Сказанное делает сферу права интеллектуальной собственности (авторского права, патентного права и др.) уникальнейшей эмпирической областью .

Интегральный общенаучный исследовательский метод научного анализа (метод системного анализа, ряд других специальных аналитических методов) был задействован в качестве базового исследовательского метода в настоящей диссертации. Посредством данного метода были осмыслены и концептуализированы основные сегменты исследуемого тематического горизонта, обеспечено его понимание на метауровне (то есть на фундаментальном уровне понимания искусственного интеллекта) .

Применение общенаучного исследовательского метода синтеза дало возможность создать основные авторские научные концепты, дефиниции и классификации .

Применение общенаучного исследовательского метода абдукции (в том числе – через выдвижение и проверку исходных авторских научных гипотез) дало возможность отыскать и обосновать интерреляции между различными правовыми аспектами разработки, производства, функционирования и применения технологий и юнитов искусственного интеллекта, между возможными (проектируемыми или объясняемыми нами) концептами правосубъектности юнитов искусственного интеллекта, возможными правовыми режимами в этой сфере.

В основу диссертации так же были заложены следующие научные гипотезы (которые позже в рамках диссертационного исследования подверглись проверке и были подтверждены, превратившись в элементы авторской научной теории):

1) гипотеза о принципиальной невозможности единой гомогенной (однородной и однопорядковой) правосубъектности для различных по функционально-целевому назначению и способностям (заложенным и приобретённым) юнитов искусственного интеллекта и о невозможности в обозримом будущем признания и атрибутирования полнообъёмной (сопоставимой с правосубъектностью взрослого не поражённого в правах человека) правосубъектности в отношении юнитов искусственного интеллекта, кроме случая эксплуатации таковых в открытом дальнем космосе или на других планетах; 2) гипотеза о редуцированности значения и веса нормативного правового регулирования в сфере искусственного интеллекта, о сложных интерреляциях нормативного правового и иного (помимо права) регулирования в этой сфере .

Активно задействовался общенаучный исследовательский метод классификации, позволявший сконструировать целый ряд авторских классификаций в диссертации .

Применение общенаучного исследовательского метода индукции (от частного к общему) позволило сделать ряд обобщающих выводов и оценок исследуемых феноменов, процессов, отношений .

Применение общенаучного исследовательского метода дедукции (от общего к частному) позволило сделать переход от общего исследования понятия искусственного интеллекта, особенностей и проблем регулирования разработки, производства, программирования, оборота, применения (задействования), функционирования, прекращения жизнедеятельности (разрушения) и утилизации юнитов искусственного интеллекта, связанных с этим рисков и неопределенностей, – к исследованию таких особенностей уже в рамках сферы права интеллектуальной собственности. Применение этого метода также позволило декомпозировать отдельные сложные феномены на линейки дескриптивных признаков, принципов и элементов, вскрыть и объяснить внутренние структурно-функциональные и прочие зависимости .

Разумеется, была задействована и линейка специальных научных исследовательских методов: формально-правового (позволившего выявлять релевантное содержание исследуемых актов и норм), сравнительно-правового (позволившего выявить различия в подходах, реализуемых ныне в разных государствах), юридико-телеологического (позволившего разобраться в целях имеющего место и перспективного (экспектативно полагаемого) правового регулирования в исследуемой сфере) и ряд др .

Возможности подтверждения достоверности заявляемой методологии и полученных результатов. Сопровождение обширным и точным ссылочным аппаратом задействованного в настоящем диссертационном исследовании и в авторских научных публикациях (охват научного материала в которых суммарно шире, чем представлено в диссертации) цитатного материала, наличие в тексте диссертации трассировок и описаний логики и методологии проведённого научного исследования предоставляют необходимые и достаточные возможности для верификации (подтверждения достоверности) и валидации (подтверждения меры соответствия применяемых методов и результатов поставленным задачам) основных научных результатов диссертации, заявляемой научной методологии, для подтверждения действительности авторского вклада, научной корректности и релевантности авторских научных выкладок .

Теоретическую основу диссертации составили (в части рецепции именно образцов исследовательских подходов и научной методологии, безотносительно конкретно темы искусственного интеллекта) научные работы ряда отечественных исследователей в сфере права интеллектуальной собственности, сфере гражданского права, в прочих отраслях, прежде всего – В.А. Алексеева, С.С. Алексеева, В.В. Безбаха, К.М. Беликовой, И.А. Близнеца, Е.В. Блинковой, С.Н. Братуся, Е.В. Вавилина, Д.Х. Валеева, А.В. Габова, Э.П. Гаврилова, Б.М. Гонгало, Е.Ю. Грачевой, В.А. Дозорцева, И.В. Дойникова, В.В. Еремяна, И.В. Ершовой, В.В. Зайцева, Т.В. Закупень, С.С. Занковского, И.А. Зенина, М.М. Карелина, В.Н. Коваля, Е.Б. Козловой, Н.А. Козловой, П.В. Крашенинникова, М.Н. Кузнецова, О.А. Кузнецовой, В.С. Мельникова, И.А. Михайловой, В.П. Мозолина, С.Ю. Морозова, А.А. Мохова, И.С. Мухамедшина, Л.А. Новоселовой, В.В. Орловой, В.П. Павлова, И.В. Понкина, О.А. Рузаковой, В.С. Савиной, А.Г. Серго, В.Н. Синельниковой, Л.Б. Ситдиковой, Р.И. Ситдиковой, С.А. Степанова, С.А. Сударикова, Е.А. Суханова, М.А. Федотова, О.А. Хатунцева, Л.А. Чеговадзе, М.Ю. Челышева, Е.А. Чефрановой, Е.А. Шерстобитова, Л.В. Щенниковой, Е.Н. Щербака, В.Ф. Яковлева, О.А. Ястребова .

Источниковую и источниковедческую базу диссертации составил обширный объём нормативных правовых и правоприменительных актов и документов, а также отечественных и зарубежных научных публикаций по исследуемому тематическому горизонту и сопряжённым с ним междисциплинарным темам и темам в рамках других научных дисциплин .

Нормативную и эмпирическую основу диссертационного исследования составили:

1) законодательство Российской Федерации;

2) законодательство и официальные документы зарубежных государств (в том числе: Великобритания, Германия, Индия, Испания, Италия, Казахстан, Канада, Китай, Нидерланды, Объединенные Арабские Эмираты, Сингапур, Соединённые Штаты Америки, Франция, Швеция, Южная Корея, Япония);

референтные теме законопроекты зарубежных государств (Канада, США и др.);

3) международные акты и документы, документы международных организаций (ООН, ВОИС, Совет Европы, Европейский Союз, ВОЗ и др.);

4) массивы документов судебных органов зарубежных государств (Австралии, Великобритании, США, Франции и др.);

5) документы Европейского суда Справедливости (Суда ЕС), Европейского суда по правам человека;

6) обсуждаемые в России законопроекты, в том числе проект Федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» (авт. – Д.С. Гришин, Grishin Robotics, и компания Dentons), проект Федерального закона от 20.03.2018 № 419059-7 «О цифровых финансовых активах»; проект Федерального закона от 26.03.2018 № 424632-7 «О внесении изменений в части первую, вторую и четвертую Гражданского кодекса Российской Федерации»;

7) результаты 2 опросов ведущих специалистов в областях:

а) юридической науки и практики (в том числе и прежде всего – права интеллектуальной собственности); б) искусственного интеллекта, проведённых непосредственно диссертантом в 2018 году на основе авторских опросных листов, призванных дать уточнённую картину исследуемой предметнообъектной области и апробировать основные научные результаты проведённого диссертационного исследования;

8) позволившие осмыслить гетерогенность функционально-целевого назначения и мультимодальность задействования юнитов искусственного интеллекта (и соответственно, осмыслить экспектативную мультимодальность правового положения юнитов в разных сферах) документы и материалы нескольких десятков прикладных и исследовательских проектов в сфере искусственного интеллекта (SRI's Artificial Intelligence Center (AIC); Инициатива Европейской платформы (IoT – European Platforms Initiative); Advancing open standards for the information society (OASIS) LegalDocumentML (LegalDocML) TC;

Проект «Scalable policy-aware linked data architecture for privacy, transparency and compliance» (SPECIAL) (масштабируемая политическая привязка к архитектуре данных для обеспечения конфиденциальности, прозрачности и соответствия требованиям); Консорциум MIREL (Ontology-based access to normative knowledge);

Центр Digital Built Britain и мн. др.), множество проектов в сфере «умного города», «интеллектуальных транспортных систем и средств», «интеллектуальной цифровой экономики» .

Научная новизна диссертации определяется особенностями избранных объекта и предмета исследования, исследовательских цели и задач, особенностями воплощённых исследовательских методологических подходов и траекторий, обеспечивших возможности проведения настоящего исследования и получения научных результатов, возможности разработки и представления авторской научной теории, концептуализирующей и объясняющей феномен искусственного интеллекта в контексте права интеллектуальной собственности и в контексте вопроса о правосубъектности.

Помимо всего прочего, научная новизна диссертационного исследования детерминирована следующими научными достижениями:

– в результате произведённого диссертантом системного обобщения научного знания относительно содержания понятия искусственного интеллекта и его существенных признаков, видов искусственного интеллекта, перспектив развития технологий и возможностей искусственного интеллекта, роли и значения, релевантной применимости и пределов применения технологий и юнитов искусственного интеллекта (в различных сферах общественных отношений), разработана соответствующая авторская теория;

– сформулированы авторские научные дефиниции (сопровождённые авторскими объяснениями) ключевых понятий исследуемого тематического горизонта;

– концептуально проработаны вопросы о правовом положении юнитов искусственного интеллекта и об ответственности за действия (бездействие) юнита искусственного интеллекта, увенчавшаяся разработкой авторской концепции мультимодальной правосубъектности юнита искусственного интеллекта;

– концептуально оформлены основные возможные ответы на вопрос о носителе прав на результаты интеллектуальной деятельности, произведённые при фактически или юридически существенном участии юнита искусственного интеллекта или произведённые полностью автономно непосредственно самим юнитом искусственного интеллекта; описаны и объяснены отвечающие на этот вопрос машиноцентрический концепт, концепт гибридного авторства, концепт служебного произведения, антропоцентрический концепт, концепт «исчезающего» (нулевого) авторства, контаминационный концепт, описаны их содержание и основания, достоинства и недостатки; сделан вывод о значении мультимодального подхода к ответу на указанный вопрос;

– представлены авторские классификация и объяснения возможных режимов правового регулирования прав интеллектуальной собственности на результаты интеллектуальной деятельности, произведённые при фактически и юридически существенном участии юнита искусственного интеллекта или произведённые полностью автономно непосредственно самим юнитом искусственного интеллекта;

– представлены авторские классификация и объяснения возможных моделей определения ответственности за действия юнита искусственного интеллекта, повлёкшие за собой наступление вредных последствий;

– описана и объяснена линейка основных концептов правосубъектности юнита искусственного интеллекта: концепт индивидуального субъекта права применительно к электронному лицу (правосубъектность юнита искусственного интеллекта, коррелируемая (соотносимая, сопоставимая) с правосубъектностью человека), концепт коллективного субъекта права применительно к электронному лицу (правосубъектность юнита искусственного интеллекта, коррелируемая (соотносимая, сопоставимая) с правосубъектностью юридического лица), концепт специальной ограниченной правосубъектности электронных лиц в контексте агентских отношений;

показаны риски и возможные негативные последствия наделения юнитов искусственного интеллекта определённой правосубъектностью;

– представлен авторский научный гражданско-правовой концепт правосубъектности юнита искусственного интеллекта «электронное лицо», сделаны выводы относительно возможных его форм;

– сделаны авторские выводы относительно структуры общего объема нормативного регулирования в сфере искусственного интеллекта;

– сделаны авторские выводы о мере должного в совершенствовании законодательства по исследуемому тематическому горизонту .

В качестве основных научных результатов диссертационного исследования, позиционируемых нами как обладающие научной новизной, научно-теоретическим и научно-практическим значением, заявляются и выносятся на защиту нижеследующие авторские научные концептуальные теоретические построения и научные выводы:

1. Концепт правосубъектности «электронное лицо» является гибридным, вбирая в себя (интегрируя в себе) некоторые элементы уже существующих концептов правосубъектности физических, но более всего – юридических лиц, в интерсекциональности этих двух концептов, но всё же обладая при этом самостоятельностью и уникальностью .

Соответственно, согласно нашему авторскому концепту, разработанному по результатам проведённого исследования, электронное лицо – это обладающий некоторыми признаками юридической фикции (по аналогии с юридическим лицом) формализованный технико-юридический образ (в значении воспринимаемой и сознаваемой третьими лицами целостной информационной проекции), отражающий, воплощающий модальную фреймизацию и детерминирующий в юридическом пространстве конвенциально (условно) специфическую правосубъектность персонифицированного юнита искусственного интеллекта, обособленную от человеческого субстрата и гетерогенную (в части комплексов «прав» и обязанностей юнита) в зависимости от функционально-целевого назначения и возможностей такого юнита, и в силу этого аппроксимированный к конкретному целеполаганию производства и задействования такого юнита, то есть его функционально-целевому назначению .

При этом, согласно нашему авторскому определению, искусственный интеллект – это полностью или частично автономная самоорганизующая (и самоорганизующаяся) компьютерно-аппаратно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе био-кибернетическая (bio-cybernetic), система (юнит), не живая в биологическом смысле этого понятия, с соответствующим математическим обеспечением, наделённая/обладающая программно-синтезированными (эмулированными) способностями и возможностями:

– антропоморфно-разумных мыслительных и когнитивных действий (осуществления и демонстрации таких действий), таких, как распознавание, понимание, интерпретация и генерирование образов, символьных систем и языков, рефлексия, рассуждение, моделирование, образное (смыслопорождающее и смысло-воспринимающее) мышление, обобщение, анализ и оценка информации;

– самореферентности, саморегулирования, самоограничения, самоадаптирования под изменяющиеся условия, автономного самоподдержания себя в гомеостазе;

– самостоятельного (автономного) сложного накопления информации и опыта;

– самостоятельного (автономного) осуществления генетического поиска (genetic algorithm) и обработки информации, то есть реализации эвристического алгоритма поиска с сохранением важных аспектов «родительской информации»

для «последующих поколений» информации;

– обучения и самообучения (в том числе – на своих ошибках и своём опыте); самостоятельной разработки и самостоятельного применения алгоритмов самоомологации;

– антропоморфно-разумного самостоятельного (автономного), в том числе – творческого, принятия решений, формулирования и решения задач и проблем, доказывания математических теорем;

– самостоятельной разработки тестов и алгоритмов под собственное тестирование, самостоятельного осуществления самотестирований и тестирований виртуальной (компьютерной) реальности;

– при заданной и обеспеченной возможности (способности) – сообщения (взаимодействия) с физической реальностью, восприятия воздействий (сигналов) на сенсорные входы (их аналоги) и реагирования на таковые сигналы, самостоятельного осуществления тестирований физической реальности .

2. Согласно нашему авторскому концепту, правосубъектность юнита искусственного интеллекта является (и должна являться) мультимодальной

– гетерогенной (в части комплексов «прав» и обязанностей юнита) в зависимости от функционально-целевого назначения и возможностей такого юнита, и в силу этого аппроксимированной к конкретному целеполаганию производства и задействования такого юнита, то есть его функционально-целевому назначению .

Иначе говоря, правосубъектность юнита искусственного интеллекта должна быть своего рода «плавающей» в зависимости от типа юнита искусственного интеллекта, от его изначальной экспектативной или текущей реальной функционально-целевой нагрузки. Правовое положение может разниться на шкале вариантов – от симплифицированной формы (формализованной онтологии, отражаемой юридико-техническим образом) правового положения такого юнита исключительно как инструмента человека до случая наделения правосубъектностью «электронного лица» и далее, в самом максимуме, до полной правосубъектности юнита искусственного интеллекта – например, в будущем при задействовании юнита искусственного интеллекта в отсутствие человеческого экипажа в дальнем космосе, на других планетах (то есть где это насущно необходимо, но не создаст никаких рисков для человека). На основе этого подхода и должно осуществляться проектирование, конструирование юридических формулировок в правовом обеспечении правосубъектности «электронное лицо» .

3. Основным аксиологическим (ценностным) источником детерминантов необходимости инвазивного государственного нормативно-правового и нормативного технического регулирования искусственного интеллекта (в эпистемологически обусловленных пределах) выступают публичные интересы. В регулировании искусственного интеллекта, в силу его специфики, должны быть задействованы следующие системы нормативной регламентации (в сложных их интерреляциях): 1) нормативно-правовое регулирование, в том числе – имплементирующее нравственно-этические нормы в этой сфере:

1.1) международное публичное право; 1.2) национальное законодательство;

2) техническое нормативное регулирование; 3) нормы биоэтики и этики в целом; 4) нормы lex mercatoria; 5) акты саморегулирования. При этом наиболее релевантная модальность регулирования искусственного интеллекта и связанных с ним отношений и деятельности состоит в доминировании именно гражданско-правового регулирования в общем объёме нормативно-правового регулирования указанной предметно-объектной области (наряду и в сложной корреляции с нормативным техническим регулированием). Техническое нормативное регулирование должно занимать доминирующее значение в части предотвращения рисков причинения вреда вследствие функционирования и применения юнитов искусственного интеллекта .

4. Основные релевантные концепты разрешения вопроса относительно носителя прав на результаты интеллектуальной деятельности, произведённые при фактически или юридически существенном участии юнита искусственного интеллекта или произведённые полностью автономно непосредственно самим юнитом искусственного интеллекта: 4.1) машиноцентрический концепт (юнит искусственного интеллекта как полноправный автор создаваемых им результатов интеллектуальной деятельности); 4.2) концепт гибридного авторства (юнит искусственного интеллекта как своего рода соавтор человека в создании результатов интеллектуальной деятельности); 4.3) концепт служебного произведения (юнит искусственного интеллекта как наёмный работник, создающий результаты интеллектуальной деятельности, презюмируемые и позиционируемые как служебное произведение);

4.4) антропоцентрический концепт (юнит искусственного интеллекта просто как инструмент человека в создании результатов интеллектуальной деятельности); 4.5) концепт «исчезающего» (нулевого) авторства;

4.6) контаминационный концепт, отражающий особо сложные ситуации интерсекциональности (пересекаемости) вышеуказанных концептов (в разных сочетаниях и с разными весовыми характеристиками) .

Все из указанных концептов имеют свои положительные и отрицательные стороны, ни один из них нельзя назвать полностью подходящим или полностью некорректным, и полноценное воплощение в жизнь каждого из них потребует определённого (вплоть до глубинного) реформирования законодательства, в том числе, об интеллектуальной собственности. Однако именно такой мультимодальный подход, когда презюмируется возможность задействования любой из позиций вышеуказанной линейки концептов – в зависимости от ситуации и функционально-целевой нагрузки, в достаточно релевантной мере соответствует нашему концептуальному подходу к дефинитивному описанию и объяснению сути правосубъектности искусственного интеллекта именно через концепт её мультимодальности .

5. Согласно нашей авторской концепции, возможные варианты режимов правового регулирования прав интеллектуальной собственности на результаты интеллектуальной деятельности, произведённые при фактически и юридически существенном участии юнита искусственного интеллекта или произведённые полностью автономно непосредственно самим юнитом искусственного интеллекта, обоснованно классифицировать следующим образом:

1) полный отказ от наделения юнита искусственного интеллекта какимилибо правами интеллектуальной собственности:

1.1) наделение юнита искусственного интеллекта правовым статусом инструмента (подобно печатной машинке) либо создание (в технических целях) вымышленного гуманоидного (человеческого) автора, с передачей прав интеллектуальной собственности: а) лицу, создавшему базовую концепцию (замысел) соответствующего результата интеллектуальной деятельности, которая в последующем была лишь обработана (переработана, программными средствами воплощена, достроена) юнитом искусственного интеллекта при участии его пользователя-оператора; б) пользователю-оператору юнита искусственного интеллекта; в) производителю аппаратного комплекса (компьютерной системы), оснащённого искусственным интеллектом;

г) владельцу базового программного обеспечения юнита искусственного интеллекта; д) владельцу аппаратного комплекса (компьютерной системы), оснащённого искусственным интеллектом;

1.2) наделение юнита искусственного интеллекта правовым статусом социального агента без предоставления ему каких-либо прав интеллектуальной собственности (соответственно, все произведения, создаваемые таким юнитом искусственного интеллекта или с его участием, автоматически переходят (считаются переходящими) в общественное достояние);

2) произведения юнита искусственного интеллекта презюмируются как служебные произведения;

3) гибридное наделение правами интеллектуальной собственности одновременно юнита искусственного интеллекта и человека, со сложносочетанным распределением таких прав: а) между юнитом искусственного интеллекта и лицом, создавшим базовую концепцию (замысел) соответствующего результата интеллектуальной деятельности, которая в последующем была лишь обработана юнитом искусственного интеллекта при участии его оператора; б) между юнитом искусственного интеллекта и его пользователем-оператором; в) между юнитом искусственного интеллекта и владельцем базового программного обеспечения; г) между юнитом искусственного интеллекта и владельцем аппаратного комплекса (компьютерной системы), оснащённого искусственным интеллектом;

4) наделение юнита искусственного интеллекта определённым объёмом прав интеллектуальной собственности .

6. Правовые решения в сфере патентно-правовой охраны изобретения, созданного при фактически и юридически существенном участии юнита искусственного интеллекта или созданного полностью автономно непосредственно самим юнитом искусственного интеллекта, могут быть в рамках следующих моделей (выбираемые государством исходя из собственных реалий): а) патентно-правовая охрана названного изобретения в общем порядке и на общих условиях – как для всех прочих изобретений, с персональным закреплением таких прав (с учётом решения вопроса о том, за кем должны быть закреплены эти права, исходя из выше представленной модели); б) патентноправовая охрана названного изобретения в общем порядке и на общих условиях, за исключением только того, что патентно-правовая охрана предоставляется на существенно редуцированный (сокращённый) срок;

в) полный запрет патентно-правовой охраны названных изобретений с априорным переводом таковых в общественное достояние (по смыслу статьи 1282 ГК РФ) или с наделением таковых режимом открытой лицензии;

г) патентно-правовая охрана названного изобретения с передачей полномочий по управлению такими правами некоторому специально создаваемому государственному фонду; д) гибридная модель (совмещающая вышеуказанные) .

7. Модели определения ответственности за действия юнита искусственного интеллекта, повлёкшие за собой наступление вредных последствий (в том числе в сфере права интеллектуальной собственности):

а) модель инструмента реального актора, в рамках которой юнит искусственного интеллекта презюмируется как принципиально невиновный («безвинный») агент, инструмент действительного исполнителя правонарушения; б) модель естественных вероятных последствий, в рамках которой презюмируется, что юнит искусственного интеллекта реализует действия, являющиеся естественным, логически закономерным и вероятным следствием (производным) его производства / программирования, а лицо, создавшее и/или запрограммировавшее машину, презюмируется проявившим преступную небрежность; в) модель прямой ответственности непосредственно юнита искусственного интеллекта за его действия (или бездействие); г) модель квази-субститутивной ответственности (ответственность за небрежность других лиц) владельца и/или эксплуатанта юнита искусственного интеллекта за неспособность надлежащим образом истолковать намерения и действия этого юнита и предупредить эти действия .

В принятии конкретной модели следует ориентироваться также на мультимодальный подход .

8. Повсеместная полная замена судей-людей «электронными судьями»

(специализированными аппаратно-программными юнитами искусственного интеллекта) маловероятна, во всяком случае – в обозримом будущем. Вместе с тем, применение искусственного интеллекта в судопроизводстве вполне обоснованно и возможно для выполнения целого ряда обеспечительных (в первую очередь – наиболее рутинных) функций. В общем и целом обоснованно выделить следующие юридически (в том числе процессуально) и фактически (технически) возможные и релевантные направления и формы задействования юнита искусственного интеллекта (как «компаньона»

судьи) в судопроизводстве, в гражданском, арбитражном, административном, уголовном процессе, а также в арбитражном третейском процессе:

1) пруденциальный (внутренний превентивный) контроль деятельности судьи, в том числе в целях превенции заведомых предвзятости / непредвзятости его позиции и действий, правосудности / неправосудности и ошибочности / безошибочности выносимых им решений: контроль процессуальных действий судьи; контроль выносимых судьёй решений;

интеллектуальный перманентный мониторинг судебных ошибок и условий, содействующих судебным ошибкам; оценка юнитом искусственного интеллекта юридической и фактической обоснованности аргументов стороны, выдвигающей требование об отводе судьи;

2) информационно-документарное обеспечение судопроизводства:

автоматизированное интеллектуальное классифицирование юнитом искусственного интеллекта юридических документов, формирование и документарное ведение дел; выработка юнитом искусственного интеллекта проектов решений различных правовых проблем посредством задействования и изучения баз данных;

3) интеллектуальное экспертно-аналитическое обеспечение судопроизводства: сопоставление юнитом искусственного интеллекта норм права, сопоставление нормативных правовых актов в целях определения их иерархии, установления норм и актов более высокой юридической силы из числа сопоставляемых; генерация и выдача юнитом искусственного интеллекта оперативных экспертных оценок в рамках судебной экспертизы или мнения специалиста (применение систем искусственного интеллекта в экспертных юридических системах, автоматизированных системах поддержки правовых решений на основе искусственного интеллекта, иных экспертных системах);

оказание юнитом искусственного интеллекта помощи судье в выявлении и артикулировании обстоятельств, указывающих на возможное злоупотребление стороной (сторонами) правом (правами), на возможное намеренное искусственное необоснованное затягивание судебного разбирательства, процесса; в выявлении и артикулировании сфальсифицированных материалов и аргументов, применения манипулятивных приёмов; содействие юнитом искусственного интеллекта превенции упущения очевидных проблем и фактов, имеющих существенное юридическое значение в процессе; оказание юнитом искусственного интеллекта помощи судье и адвокату обвиняемого в выявлении и артикулировании обстоятельств, обусловливающих сомнения в виновности подсудимого; производство юнитом искусственного интеллекта комплексного переоценивающего анализа рассмотренных ранее судами дел по вновь выявленным обстоятельствам; содействие принятию решений по крупным объёмам неоднородных задач в сложных условиях неопределённостей, на основе неточной, недостаточной или плохо определённой информации, в условиях применения метода «игры с ненулевой суммой», в ситуациях, когда получение оптимальных или точных ответов и решений редундантно (чрезмерно избыточно) трудоёмко, требует редундантно и сложно обеспечиваемо больших объёмов специфичных знаний или вовсе невозможно;

4) лингвистическо-переводческое обеспечение судопроизводства:

осуществление юнитом искусственного интеллекта синхронного профессионального юридического перевода (между человеческими языками – в смысле, что не машинными) в судебном процессе, в обеспечение соответствующих прав сторон процесса и в обеспечение основных принципов правосудия;

5) организационное обеспечение судопроизводства: применение искусственного интеллекта в юридической медиации (внесудебном и досудебном урегулировании конфликтов и споров); выбор арбитров (из линейки таковых) под конкретное дело .

9. Законодательство о праве интеллектуальной собственности, не обнаруживающее реагирования на серьёзнейшие новации и вызовы, связанные с интенсивным развитием и внедрением технологий и юнитов искусственного интеллекта, практикой их применения, уже безнадёжно устарело, нуждается в существенном усовершенствовании. Право интеллектуальной собственности должно подвергнуться определённым существенным изменениям с учётом развития новых технологий (в том числе – их потенциально возможного и прогнозируемого развития), однако нет насущной необходимости скороспешно и кардинально менять всю систему и принципы данной отрасли права для того, чтобы обеспечить признание соответствующей правосубъектности юнитов искусственного интеллекта. По крайней мере, с учётом актуального уровня программно-технического и математического обеспечения развития искусственного интеллекта, нет насущной необходимости (во всяком случае – сейчас и в обозримом будущем) признания юнитов искусственного интеллекта полноценным (полноправным, полно-правосубъектным) субъектом авторских и патентных прав, в целом прав интеллектуальной собственности .

По результатам проведённого диссертационного исследования разработаны следующие предложения о внесении изменений в законодательство Российской Федерации .

Дополнить статью 1228 ГК РФ (Четвёртой части) новыми пунктами 5 и 6 следующего содержания:

«5. Права на результат интеллектуальной деятельности, созданный творческим трудом гражданина, внёсшего существенный личный творческий вклад в создание такого результата, при использовании технологий искусственного интеллекта, обеспечивших техническое или информационноконсультационное содействие или помощь, принадлежат этому гражданину .

6. Права на результат интеллектуальной деятельности, созданный комплексом программных и программно-аппаратных средств искусственного интеллекта автономно, то есть в условиях отсутствия существенного личного творческого вклада человека, принадлежат:

1) производителю этого комплекса;

2) в случае заключения производителем комплекса программноаппаратных средств искусственного интеллекта, имеющим на него права, соответствующего лицензионного договора на использование указанного комплекса или его возможностей с физическим или юридическим лицом – лицензиату по указанному договору;

3) в случае предоставления производителем комплекса программноаппаратных средств искусственного интеллекта, имеющим на него права, открытой лицензии на использование указанного комплекса или его возможностей, в смысле статей 1286.1, 1368 и последнего абзаца пункта 1 статьи 1259 настоящего Кодекса, – гражданину, личный творческий вклад которого имел существенное значение как основа для создания этого результата интеллектуальной деятельности, или при отсутствии такового, переходят в общественное достояние.»

Дополнить статью 2 Федерального закона от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» новым пунктом 21 следующего содержания:

«21) искусственный интеллект – автономный комплекс программных или программно-аппаратных средств (юнит) с человеко-компьютерным интерфейсом, представляющий собой виртуальную вычислительную систему или оснащённую средствами “технического” зрения (восприятия воздействий (сигналов) на сенсорные электронные аналоги органов чувств) и средствами непосредственного самостоятельного взаимодействия с физической реальностью (актуаторами) и с цифровой реальностью киберфизическую систему, с программно-технически и математически эмулированными и обеспеченными способностями (возможностями) биоподобных когнитивных и антропоморфно-интеллектуальных рече-мыслительных действий (функций), обучения и самообучения, самоорганизации и самотестирования, творческой (эвристической) деятельности, в том числе на основе накопленных и “исторических” данных и данных мониторинга;» .

Полагаем, что на данном этапе (по крайней мере, на ближайшие 2–3 года) больше пока никаких законодательных изменений здесь не требуется, в том числе и в отношении правосубъектности юнитов искусственного интеллекта .

Единственное, что требует так же безотлагательного внесения изменений в законодательство РФ, – это смарт-контракты, вопросы ответственности за военное применение автономных систем вооружений, оснащённых искусственным интеллектом, и вопросы ответственности за последствия причинения вреда беспилотными транспортными средствами, управляемыми искусственным интеллектом, но хотя эти темы и были затронуты нами в наших работах, таковые были нами обоснованно оставлены за рамками авторской научной концепции и заявленной темы .

Оставаясь при своём мнении относительно преждевременности юридического введения специфической правосубъектности юнитов искусственного интеллекта «электронное лицо», полагаем, что чисто теоретически релевантное решение могло бы состоять в закреплении в ГК РФ отсылочной нормы к необходимому в будущем профильному Федеральному закону «О правовом регулировании в сфере искусственного интеллекта», который должен был бы закрепить правовую дефиницию искусственного интеллекта и его юнита, виды таковых, требования и ограничения в этой сфере, урегулировать правосубъектность с линейкой её видов и, возможно, всё равно с отложением вступления этих норм в силу на определённое время .

Теоретическое значение диссертации, помимо вышеуказанных научных результатов, состоит в фундаментальном гражданско-правовом осмыслении до настоящего времени практически не исследованных или, самый максимум, исследованных крайне поверхностно и фрагментарно крупных научно-теоретических и научно-практических проблем в рамках заявленного тематического горизонта искусственного интеллекта и права, в предложении авторских теоретико-методологических подходов к их исследованию, описанию и объяснению, определяется созданием авторской научной теории, обеспечивающей существенные приращение и систематизацию научного знания в этой области, позволяющей концептуализировать эту область. В научный оборот введён обширный круг источников .

Практическое значение диссертации определяется тем, что в ней впервые разработан научно-теоретический фундамент под решение целой линейки сложнейших прикладных проблем, являющийся залогом самой возможности их разрешения, а также существенной научно-прикладной доминантой в общем объеме научного материала .

Прикладное значение диссертации заключается и в разработанном по её итогам комплексе авторских предложений относительно совершенствования законодательства Российской Федерации .

Научные результаты диссертационного исследования могут быть использованы в учебном процессе при преподавании ряда учебных дисциплин и курсов. Разработана авторская учебная программа, прошедшая апробацию 4 .

Апробация результатов диссертационного исследования. Диссертация подготовлена, обсуждена и одобрена на кафедре авторского права, смежных прав и частноправовых дисциплин ФГБОУ ВО «Российская государственная академия интеллектуальной собственности» .

По теме диссертационного исследования автором опубликовано 5 научных монографий и 3 пособия, несколько десятков научных статей в рецензируемых юридических журналах из перечня ВАК Минобрнауки России, в журнале из перечня Scopus, статьи в иностранных научных журналах, ряд докладов на конференциях, иные публикации. Формой апробации явилась развернувшаяся вокруг научных работ автора научная дискуссия (несколько десятков рецензий авторства известных правоведов, а также учёных других научных направлений в научных рецензируемых изданиях) .

Ключевые результаты диссертации излагались диссертантом (и соответственно, были апробированы) в его выступлениях на ряде конференций, в их числе: Всерос. науч. конф., посвящ. памяти Н.А. Куфаковой «Публичноправовые механизмы в обеспечении общественного развития» (16.03.2018, Морхат П.М. Учебная программа дисциплины «Искусственный интеллект и право»

направления подготовки 030900.68 Юриспруденция (квалификация (степень) «магистр»). – М.: Юнити-Дана, 2018. – 123 с .

г. Москва, РУДН); Науч. конф. «Современное административное и финансовое право» (29.03.2018, г. Москва, МГИМО); Науч.-практич. конф. «Интеллектуальная собственность в условиях цифровой экономики». (13.04.2018, г. Москва, юридич .

факультет МГУ им. М.В. Ломоносова); XVI Междунар. конгресс «Блищенковские чтения» (14.04.2018, г. Москва, РУДН); Науч. семинар «Автоматизация права:

сценарии правового регулирования» (18.04.2018, г. Москва, МГЮА); II Междунар .

науч.-практич. конф. «Организационно-правовое регулирование безопасности жизнедеятельности в современном мире» (19–20.04.2018, г. Санкт-Петербург, СПб Университет гос. противопож. службы МЧС России); XVIII Междунар. науч. конф .

«Муромцевские чтения» – «Современные риски и право: правовые средства предупреждения, управления, защиты» (26.04.2018, г. Москва, РГГУ); Всерос .

науч.-практич. конф. «Судебная система и судопроизводство России: новые концепции развития» (20.04.2018, г. Москва, Всерос. гос. университет юстиции (РПА) Минюста России); XXII Междунар. конф. Роспатента «Роль интеллектуальной собственности в прорывном научно-технологическом развитии общества» (19–20.09.2018, г. Москва, Роспатент) и мн. др .

Формой апробации, проверки и подтверждения достоверности и валидности основных научных результатов диссертации явились проведённые в 2018 году автором диссертации 2 опроса ведущих специалистов в области права интеллектуальной собственности и в области искусственного интеллекта, результаты чего подтвердили качество и достоверность научных результатов диссертации, а также позволили уточнить некоторые авторские выводы5 .

Определённая апробация полученных по итогам диссертационного исследования результатов была проведена в ходе проведения диссертантом лекционных и практических занятий в ФГБОУ ВО «Московский государственный юридический университет имени О.Е. Кутафина (МГЮА)», Институте права и национальной безопасности ФГБОУ ВО «Российская академия народного хозяйства и государственной службы при Президенте РФ», что подтверждается соответствующими актами .

Ряд результатов диссертации получил практическое внедрение, что подтверждено соответствующими актами .

Опросный лист опубликован: Морхат П.М. Понимание искусственного интеллекта и

связанных с ним проблем: опросы специалистов // Нравственные императивы в праве. – 2018. – № 1. – С. 45–51. Результаты обработки ответов опубликованы:

Морхат П.М. Искусственный интеллект: некоторые итоги обработки результатов проведения экспертных опросов специалистов // Нравственные императивы в праве. – 2018. – № 2 .

Структура диссертации определена темой диссертации, целью научного исследования и вытекающими из неё исследовательскими задачами, авторской логикой построения исследования. Диссертация включает Введение, 3 главы с разбивкой на параграфы, заключение, список использованных источников и научной литературы, приложение .

II. ОСНОВНОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИОННОЙ РАБОТЫ

Во Введении диссертации обоснована актуальность избранного тематического горизонта и произведена оценка меры его исследованности .

Обозначены объект и предмет, цель и задачи диссертационного исследования .

Сформулированы ключевые проблемы в основе диссертации, методологические основы исследования и воплощенные в диссертации научно-методологические подходы и особенности авторской концепции организации и реализации исследования. Изложены основные научные результаты диссертации, выносимые на защиту научные положения, обоснованы теоретическое и прикладное значение диссертации, даны сведения об проведенных верификации и апробации полученных результатов .

Первая глава диссертации – «Правовое понимание, гражданскоправовое регулирование и юридические аспекты применения искусственного интеллекта» – посвящёна научно-теоретическому (в рамках науки гражданского права) исследованию правовых интерпретаций понятия «искусственный интеллект» (§ 1.1), особенностей и проблем регулирования разработки, производства, программирования, оборота, применения, функционирования, прекращения жизнедеятельности и утилизации юнитов искусственного интеллекта (далее – юнит ИИ) (§ 1.2), возможностей, особенностей и проблем функционирования и задействования юнитов ИИ в юридической практике (§ 1.3) .

Приведены подтверждения реальности и релевантности исследуемого круга вопросов и проблем. Показаны состояние и тенденции развития законодательства ряда государств в рассматриваемой сфере .

Обосновываются необходимость релевантного определения содержания понятия искусственного интеллекта и сложность выработки универсальной релевантной дефиниции понятия «искусственный интеллект». Дан обзор референтных научных дискуссий и экспертных позиций. Объяснено содержание понятий «сильный» («общий») искусственный интеллект и «слабый» («частный») искусственный интеллект, а также сопряжённых понятий («робот», «интеллектуальное управление», «дрон», «био-киберфизическая система» и др.) .

Представлен обзор дефиниций понятия «искусственный интеллект», закреплённых в зарубежных нормативных актах и официальных документах – Японии (ст. 16 Базового закона Японии от 14.12.2016 № 103 «Об улучшении использования данных публичного и частного секторов»), США (§ 482A.020 гл. 482А «Автономные транспортные средства» Пересмотренный свод законов штата Невада (США) в 2011 году) и др .

Изложена авторская интерпретационная концепция. Представлена авторская научная концепция дефиниция понятия «искусственный интеллект» .

Проанализированы основные правовые проблемы и риски создания и задействования юнитов ИИ. Объяснены основные концепты правового регулирования разработки, производства, программирования, оборота, задействования, функционирования, самообучения и саморазвития, прекращения «жизнедеятельности», утилизации юнитов ИИ .

Поскольку юниты ИИ могут выступать не только в роли создателей (или компаньонов либо инструментов), но и быть задействованы при разрешении споров и конфликтов по поводу результатов интеллектуальной деятельности, выстраиваемая авторская концепция потребовала апробации и уточнения на основе исследования возможностей, направлений, особенностей и проблем функционирования и задействования юнитов ИИ в юридической практике и в судебном процессе, этому и посвящён параграф 1.3. Соответственно, в обеспечение решения задач диссертации, дополнительно сформулированы (без ухода в процессуальное право) направления уже сегодня реализуемого и возможного в ближайшем будущем задействования юнитов ИИ в юридической практике (в диссертации представлены детализированные «раскладки»), показаны значимые правовые проблемы применения юнитов ИИ в такой практике. Исследованы и объяснены концепт «электронного судьи» и проблемы его применения, связанные с надлежащим пониманием и толкованием юнитом ИИ права и с установлением им фактических обстоятельств дела, а также связанные искусственным интеллектом, с пределами возможной формализации применимых норм права. Показана референтная судебная практика .

Повсеместная полная замена судей-людей «электронными судьями»

маловероятна в обозримом будущем, однако применение юнитов ИИ в судопроизводстве вполне обоснованно и возможно для выполнения целого ряда обеспечительных функций. Соответственно, обозначена линейка юридически и фактически (технически) возможных и релевантных направлений и форм задействования юнита ИИ (как «компаньона» судьи) в юридическом, в том числе судебном, процессе .

Вторая глава – «Право интеллектуальной собственности и искусственный интеллект» – посвящёна очерчиванию исследуемого научнотеоретического и практического поля (§ 2.1), правового положения юнита ИИ в контексте права интеллектуальной собственности, ответу на вопрос о том, кем или чем является в этом случай такой юнит (§ 2.2), исследованию правовых вопросов и проблем задействования юнитов ИИ в создании и патентовании изобретений (§ 2.3) .

Показаны правовые проблемы, уже сегодня существующие и связанные с задействованием юнита ИИ в создании результатов интеллектуальной деятельности. Соответственно, проблема определения прав и носителей прав на РИДы, создаваемые юнитами ИИ или с их фактически или юридически существенным участием, уже стала одной из юридически сложных и актуальных .

Исследован вопрос о том, способен ли с юридической точки зрения непосредственно юнит ИИ самостоятельно выступать в качестве субъекта права интеллектуальной собственности (со всеми вытекающими из этого юридическими последствиями) .

Представлен обзор Доклада ведомства по интеллектуальной собственности Европейского Союза (2016 г.), Доклада Европейский Парламента о влиянии искусственного интеллекта на стандарты гражданского права (2017 г.), Резолюции Европейского Парламента вместе с рекомендациями Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента от 16.02.2017 «Нормы гражданского права о робототехнике», подходов, в них отражённых .

Объяснено, что научное осмысление проблем защиты прав юнитов ИИ (или связанных с ними людей) на результаты их интеллектуальной деятельности невозможно без надлежащего учёта целей права интеллектуальной собственности, а также без учёта потенциальных негативных и положительных последствий признания и обеспечения защиты таких прав .

Показаны проблемы нарушения авторских прав третьих лиц, когда юнит ИИ самообучается с помощью данных, получаемых им, а затем в каком-либо виде несанкционированно использует эти данные в процессе создания новых работ .

Эти проблемы могут осложняться в тех случаях, когда речь идёт о создании произведений юнитами ИИ в рамках онлайн-сервисов оказания платных услуг, которые при этом продолжают самообучение на основе данных, загружаемых потребителями таких услуг .

Рассмотрен вопрос о критериях творческого вклада юнита ИИ в создание произведения. Показана проблема соответствия создаваемых юнитом ИИ произведений и изобретений требованиям законодательства об интеллектуальной собственности, чтобы эти произведения и изобретения могли таковыми считаться. Чтобы юнит ИИ мог быть признан автором произведения, его участие должно выходить за рамки лишь технического обеспечения достижения результатов интеллектуальной деятельности, должно быть творческим. Но дискуссионным является употребление понятия «творчество» к деятельности компьютерной системы .

Далее в § 2.2 рассматривается вопрос о правовом положении юнита ИИ в сфере и в контексте права интеллектуальной собственности. Исследовано, кем или чем является такой юнит: автором, соавтором, наёмным работником или всего лишь инструментом. Объяснены существующие подходы к определению в этих ситуациях правового положения юнита ИИ и к определению меры закрепления за ним прав на созданные им или с его существенным участием результаты интеллектуальной деятельности .

Детализировано исследуются и интерпретируются выделяемые в авторской концепции основные релевантные концепты (их достоинства и аргументы, их основания и предпосылки, возможности соотнесения с ГК РФ) разрешения вопроса относительно носителя прав на результаты интеллектуальной деятельности, произведённые при фактически или юридически существенном участии юнита ИИ или произведённые полностью автономно непосредственно самим юнитом ИИ: машиноцентрический концепт (юнит ИИ как полноправный автор создаваемых им произведений – результатов интеллектуальной деятельности); концепт гибридного авторства (юнит ИИ как своего рода соавтор человека в создании результатов интеллектуальной деятельности); концепт служебного произведения (юнит ИИ как наёмный работник, создающий результаты интеллектуальной деятельности, презюмируемые и позиционируемые как служебное произведение);

антропоцентрический концепт (юнит ИИ просто как инструмент человека в создании результатов интеллектуальной деятельности); концепт «исчезающего»

(нулевого) авторства (предполагает возможность отсутствия авторов на созданное юнитом ИИ произведение); контаминационный концепт, отражающий особо сложные ситуации интерсекциональности (пересекаемости) вышеуказанных концептов (в разных сочетаниях и с разными весовыми характеристиками). Контаминационный концепт подробно не разбирается в диссертации и зарезервирован исходя из прогнозируемой возможности появления ситуаций, им отражаемых .

Исследована референтная судебная практика США, Австралии, Великобритании, зарубежные официальные документы в этой сфере .

Исследован вопрос о патентовании изобретений, созданных юнитом ИИ или при его фактически и юридически существенном участии. На этом прикладном тематическом поле в § 2.3 верифицируется (проверяются на предмет достоверности) и валидируется (проверяются на предмет соответствия заданным исходным требованиям) ранее выстроенная авторская система концептуальных подходов .

Показано, что технологии и юниты ИИ способны практически полностью автономно осуществлять деятельность, которую можно отнести к изобретательской. Одной из наиболее спорных тем в праве интеллектуальной собственности в контексте развития технологий искусственного интеллекта являют вопросы о том, кому в случае создания изобретения юнитом ИИ принадлежат на них права, а также каков порог патентоспособности таких изобретений. Исследованы материалы Национальной комиссии США по новым технологическим применениям произведений, защищённых авторским правом .

Исследованы 2 крупные проблемы: 1) проблема патентоспособности изобретений, создаваемых юнитами ИИ, – как сама по себе, так и с учётом практической возможности подачи патентных заявок этими юнитами, то есть проблема специальной правосубъектности с точки зрения права интеллектуальной собственности; 2) проблема патентования собственно технологий искусственного интеллекта, которая тоже стоит достаточно остро .

Исследуются критерии и возможности патентоспособности изобретений, создаваемых юнитами ИИ. Для поиска ответов автор обращается, в частности, к патентному праву США, к интерпретациям Верховного суда США .

Рассмотрены проблемы патентования непосредственно самих технологий и юнитов ИИ. Указывается, что проблема патентоспособности технологий и юнитов ИИ обладает существенной спецификой в контексте проблемы патентования изобретений, создаваемых системами искусственного интеллекта, и специальной правосубъектности таких систем. Показана сложность ситуации, когда в качестве изобретения и изобретателя выступает один и тот же юнит ИИ .

По результатам проведённой проверки выстроенного в диссертации системного комплекса теоретических концептов на прикладном тематическом поле патентования изобретений, созданных юнитом ИИ или при его фактически или юридически существенном участии, в диссертации удалось подтвердить адекватность, достоверность, валидность и обоснованность авторской теории .

Как итог главы 2, излагаются возможные варианты режимов правового регулирования прав интеллектуальной собственности на результаты интеллектуальной деятельности, произведённые при фактически и юридически существенном участии юнита ИИ или произведённые полностью автономно непосредственно самим юнитом ИИ, излагаются концепты разрешения вопроса относительно носителя прав на результаты интеллектуальной деятельности, произведённые при фактически или юридически существенном участии юнита ИИ или произведённые полностью автономно непосредственно самим юнитом ИИ, а также авторские выводы по поводу применимости этих режимов и подходов и в отношении мер развития законодательства в этой сфере .

Третья глава – «правосубъектность юнитов искусственного интеллекта: гражданско-правовое исследование» – посвящёна исследованию модусов и содержания ответственности за действия (бездействие) юнитов ИИ, проблем определения их юридической ответственности (§ 3.1), возможностей и пределов распространения «модифицированных» прав человека на юниты ИИ (§ 3.2), осмыслению идеи и авторскому конструированию концепта правосубъектности юнита ИИ «электронное лицо» (§ 3.3) .

Исследованы проблемы определения юридической ответственности юнитов ИИ, юридические и фактические возможности применения концептов правосубъектности к юнитам ИИ, вопросы и задачи, которые, действительно, могут быть релевантно решены только именно посредством введения нового правового субинститута электронных лиц, а также проблемы и риски, которые может повлечь воплощение данного концепта в жизнь, проанализировать тенденции, модели и проблемы правосубъектности искусственного интеллекта .

Исследованы и объяснены основные модели определения ответственности за действия юнита ИИ с вредными последствиями, в том числе в сфере права интеллектуальной собственности (их достоинства и аргументы, их основания и предпосылки): модель инструмента реального актора, модель естественных вероятных последствий, модель прямой ответственности непосредственно юнита ИИ за его действия (или бездействие); модель квази-субститутивной ответственности (ответственность за небрежность др. лиц) владельца и/или эксплуатанта юнита ИИ за неспособность надлежащим образом истолковать намерения и действия этого юнита и предупредить эти действия .

В § 3.2 исследованы возможности и способы экстраполяции модифицированных прав человека на юниты ИИ. Обобщены и описаны выделяемые в научной литературе «права» юнитов ИИ .

В § 3.3 исследованы понятие и содержание специфической гражданскоправовой правосубъектности юнита искусственного интеллекта «электронное лицо», предложенной Комиссией по гражданско-правовому регулированию в сфере робототехники Европейского Парламента и поддержанной Резолюцией Европейского Парламента вместе с рекомендациями Комиссии по гражданскоправовому регулированию в сфере робототехники Европейского Парламента от 16.02.2017 «Нормы гражданского права о робототехнике» .

Исследуются факторы необходимости, обоснованности и целесообразности урегулирования правового положения юнитов ИИ, и связанные риски. Исследованы существующие гражданско-правовых научных подходов к наделению юнита ИИ правосубъектностью и к определению понятия «электронное лицо», дана оценка их релевантности и перспективности .

Оценены референтные исследуемому предмету российский законопроект

– проект Федерального закона «О внесении изменений в Гражданский кодекс РФ в части совершенствования правового регулирования отношений в области робототехники» (авт. – Д.С. Гришин и компания Dentons), а также проект Федерального закона США «Об основополагающем понимании применимости и реалистичной эволюции искусственного интеллекта» от 2017 г .

Исследованы и объяснены выделяемые диссертантом основные релевантные концепты (их достоинства и аргументы, основания и предпосылки) разрешения вопроса о правосубъектности юнита ИИ: 1) концепт индивидуального субъекта права применительно к электронному лицу;

2) концепт коллективного субъекта права применительно к электронному лицу;

3) концепт специальной ограниченной правосубъектности электронных лиц в контексте агентских отношений (например, в смарт-контрактах). Обозначены другие имеющиеся теоретические подходы .

Согласно концепции диссертанта, наделение юнита ИИ индивидуальной правосубъектностью, сопоставимой с правосубъектностью человека, необоснованно и нецелесообразно по следующим причинам (соответственно, под вопросом способность такого юнита реализовывать свои права, выполнять обязанности и нести за это ответственность): 1) юнит ИИ лишён интенциональности; 2) юнит ИИ не способен ощущать на себе последствия своих действий (бездействия), не способен страдать от наказания и/или от саморефлексий по поводу причиненного третьему лицу вреда; 3) юнит ИИ не способен в своём принятии решений и в своей деятельности быть связанным нравственно-этическими императивами, выбором и саморефлексиями; 4) юнит ИИ, в силу своей природы, не может быть привлечён к ответственности – в силу совершенной бессмысленности в данном случае мер уголовной или административной ответственности, которые просто неприменимы к юнитам ИИ, лишены смысла по отношению к ним; 5) наделение юнита ИИ правами человека (такими, как право на достоинство, на гражданство), такие права юнита ранее или поздно войдут в противопоставление и противоречие с правами человека (физического лица). Необоснованным и неперспективным явился бы подход к наделению юнита ИИ статусом электронного лица только лишь в силу его подразумеваемых свойств и качеств, по аналогии с человеческим существом, имеющим моральное право на правосубъектность в силу таких качеств, – в отличие от института электронного лица – юридической фикции, позволяющей релевантно решить практические проблемы .

Наделение искусственного интеллекта индивидуальной правосубъектностью, сходной с правосубъектностью человека, необоснованно и нецелесообразно по следующим причинам: 1) проведение аналогии между правосубъектностью электронного лица и правосубъектностью юридического лица необоснованно, поскольку подразумевается существование людей за юридическим лицом, которые руководят им, что не относится (в прямой аналогии) к роботу, который может совершать действия независимо от людей;

2) юридическая фикция «юридическое лицо» была сконструирована именно под цели создания юридико-технического образа организации (коллективного субъекта), и слепое копирование не даст работающего варианта, ибо ни одна из концепций правосубъектности юридического лица не применима к юнитам искусственного интеллекта. Концепт коллективного субъекта права применительно к электронному лицу (правосубъектность юнита ИИ, соотносимая с правосубъектностью юридического лица) представляется автору более релевантным и корректным, более вероятным к воплощению, так как представляет собой лишь юридическую фикцию, которая может быть направлена только на упрощение правового регулирования некоторых взаимоотношений и некоторых видов деятельности. При этом наделение юнита ИИ правовым статусом электронного лица направлено (должно быть направлено) не на признание автономности и самостоятельности такого юнита и освобождение физических и юридических лиц от ответственности за его действия, а, напротив, на укрепление такой подотчётности и решение проблем идентификации юнитов ИИ и стоящих за ними реальных людей. Объяснены понятие и содержание смарт-контрактов .

Оценены риски наделения юнитов ИИ определённой правосубъектностью и перспективы признания правосубъектности электронных лиц в рамках существующих правовых систем. Представлен развёрнутый авторский концепт правосубъектности «электронное лицо» .

В Заключении диссертации подведены основные итоги проведённого исследования, представлены обобщающие выводы, сформулированы авторские идеи и предложения относительно совершенствования законодательства РФ .

В Приложении в табличном виде представлены сведения о соответствующих теме диссертации законодательстве и официальных документах ряда зарубежных государств .

Основные научные положения диссертации изложены в следующих научных публикациях автора:

Научные монографии:

1. Морхат П.М. Понятие инноваций в науке: Обзор научной мысли. – М.:

Буки Веди, 2015. – 94 с .

2. Морхат П.М. Искусственный интеллект: правовой взгляд. – М.: Буки Веди, 2017. – 257 с .

Рец.: 1. Кузнецов М.Н., д.ю.н. Актуальная сложная теория, объясняющая сложные юридические вопросы искусственного интеллекта // Право и государство: теория и практика. – 2017. – № 9. – С. 134–136. 2. Братановский С.Н., д.ю.н. «Разумные машины» – в глазах правоведа // Право и образование. – 2018. – № 5. – С. 160–165. 3. Богатырев А.Г., д.ю.н. Правовое регулирование роботов с искусственным интеллектом // Вестник Воронежского государственного университета. Сер. «Право». – 2018. – № 2. – С. 299–301. 4. Евдокимов А.Ю., д.т.н. Немного об искусственном интеллекте // Вестник Московского городского педагогического университета. Сер .

«Юридические науки». – 2018. – № 3. – С. 101–104. 5. Дугенец А.С., д.ю.н. Научно-правовая теория искусственного интеллекта // Административное право и процесс. – 2018. – № 9. – С. 81–82 .

6. Ботнев В.К., д.ю.н. «Машинный интеллект» и право // Государственная служба. – 2018. – № 5 .

3. Морхат П.М. Правосубъектность юнитов искусственного интеллекта .

Гражданско-правовое исследование. – М.: Юнити-Дана, 2018. – 113 с .

Рец.: 1. Синельникова В.Н., д.ю.н. Правосубъектность «электронное лицо»: в чём суть? // Закон и право. – 2018. – № 7. – С. 187–189. 2. Гребенников В.В., д.ю.н. Искусственный интеллект в правовом пространстве // – – № 8. – С. 155–158 .

Lex Russica. 2018 .

3. Аристов Е.В.,д.ю.н. «О бедном роботе замолвите слово» // Государственная служба и кадры. – 2018. – № 3. – С. 171–172. 4. Андреев К.М., к.ю.н., Андреев Э.К. Каким мог бы стать правовой статус робота с искусственным интеллектом и что может быть дозволено ему делать? // Аграрное и земельное право. – 2018. – № 5 .

4. Морхат П.М. Право интеллектуальной собственности и искусственный интеллект. – М.: Юнити-Дана, 2018. – 121 с .

Рец.: 1. Гребенников В.В.,д.ю.н. Искусственный интеллект в правовом пространстве // Lex Russica .

– 2018. – № 8. – С. 155–158. 2. Шевченко О.А.,д.ю.н. Интеллектуальный робот как автор произведения или изобретения // Закон и право. – 2018. – № 8. – С. 176–178. 3. Кашуро О.А., к.ю.н. Роботы творческих профессий // Нравственные императивы в праве. – 2018. – № 1. – С. 41–42. 4. Куприяновский В.П. Новые цифровые вызовы праву интеллектуальной собственности // Право и государство: теория и практика. – 2018. – № 5. – С. 149–150. 5. Куксин И.Н.,д.ю.н. Искусственный интеллект vs Право интеллектуальной собственности // Закон и право. – 2018. – № 10. – С. 156–157 .

5. Морхат П.М. Право и искусственный интеллект / Предисл. И.А. Близнеца и И.В. Понкина; под ред. И.В. Понкина / Российская гос. академия интеллектуальной собственности. – М.: Юнити-Дана, 2018. – 544 с. 30 п.л .

Рец.: 1. Забейворота А.И., д.ю.н. Современная российская юридическая наука об онтологии и феноменологии искусственного интеллекта // Право и образование. – 2018. – № 11 .

2. Берзин В.А., д.ю.н. Право в цифровой онтологии // Вестник военного права. – 2018. – № 4 .

Учебные пособия и библиографические указатели:

1. Морхат П.М. Искусственный интеллект. Право. Технологии .

Экономика. Управление: Библиографический указатель. – М.: Юнити-Дана, 2018. – 131 с. 8,25 п.л .

Рец.: 1. Догадайло Е.Ю., д.ю.н. Необходимое на данном этапе развития правовой мысли обобщение опыта правового регулирования искусственного интеллекта и правовых аспектов его применения // Право и образование. – 2018. – № 9. – С. 170–173. 2. Фролова Н.А., д.ю.н. Библиография в сфере искусственного интеллекта и юриспруденции // Вестник Московского городского педагогического университета. Сер. «Юридические науки». – 2018. – № 4 .

2. Морхат П.М. Учебная программа дисциплины «Искусственный интеллект и право» направления подготовки 030900.68 Юриспруденция (квалификация (степень) «магистр»). – М.: Юнити-Дана, 2018. – 123 с .

3. Морхат П.М. Искусственный интеллект: референтная судебная практика. – М.: Юнити-Дана, 2019 .

Статья в журнале из перечня Scopus

1. Морхат П.М. Искусственный интеллект в сфере спорта: возможности, направления и способы задействования // Теория и практика физической культуры. – 2018. – № 10. – С. 95–97 .

Статьи в журналахиз утверждённого ВАК Минобрнауки России перечня ведущих рецензируемых журналов и изданий:

1. Морхат П.М. Проблемы определения юридической ответственности за действия искусственного интеллекта // Право и государство: теория и практика. – 2017. – № 9. – С. 70–74 .

2. Морхат П.М. Особенности правового регулирования использования искусственного интеллекта // Аграрное и земельное право. – 2017. – № 9. – С. 61–65 .

3. Морхат П.М. Искусственный интеллект с точки зрения международного гуманитарного права // Право и государство: теория и практика. – 2017. – № 10. – С. 18–24 .

4. Морхат П.М. Применение систем искусственного интеллекта в системе государственной власти // Современное общество и право. – 2017. – № 6. – С. 10–16 .

5. Морхат П.М. Правовые проблемы применения искусственного интеллекта // Аграрное и земельное право. – 2017. – № 10. – С. 58–64 .

6. Морхат П.М. Правосубъектность юнитов искусственного интеллекта и ответственность за их действия // Право и государство: теория и практика. – 2017. – № 11. – С. 30–36 .

7. Морхат П.М. К вопросу о юридическом понимании искусственного интеллекта // Аграрное и земельное право. – 2017. – № 11. – С. 89–95 .

8. Морхат П.М. К вопросу об определении понятия искусственного интеллекта // Право и государство: теория и практика. – 2017. – № 12. – С. 25–32 .

9. Морхат П.М. Риски и угрозы, связанные с применением искусственного интеллекта // Аграрное и земельное право. – 2017. – № 12. – С. 60–65 .

10. Морхат П.М. Искусственный интеллект и права человека: теоретикоправовое исследование // Право и образование. – 2018. – № 3. – С. 35–44 .

11. Морхат П.М. Проблема определения ответственности третьих лиц за совершение юнитами искусственного интеллекта причиняющих вред действий // Аграрное и земельное право. – 2018. – № 2. – С. 79–84 .

12. Морхат П.М. Рассмотрение проблем патентования изобретений, созданных юнитом искусственного интеллекта // Право и государство: теория и практика. – 2018. – № 3. – С. 53–56 .

13. Морхат П.М. К вопросу о необходимости обеспечения защиты права человека на приватность в контексте развития и использования технологий искусственного интеллекта // Право и образование. – 2018. – № 4. – С. 112–116 .

14. Морхат П.М. К вопросу о правосубъектности «электронного лица» // Юридические исследования. – 2018. – № 4. – С. 1–8. 1 п.л .

15. Морхат П.М. Смарт-контракты и искусственный интеллект: гражданскоправовой взгляд // Юридические исследования. – 2018. – № 5. – С. 1–6 .

16. Морхат П.М. К вопросу о соответствии автономных интеллектуальных систем вооружений принципам международного гуманитарного права // Вестник военного права. – 2018. – № 2. – С. 58–65 .

17. Морхат П.М. К вопросу о правовой дефиниции термина «искусственный интеллект» // Вестник Московского городского педагогического университета. Сер. «Юридические науки». – 2018. – № 2. – С. 74–80 .

18. Морхат П.М. К вопросу об особенностях развития права интеллектуальной собственности в контексте использования искусственного интеллекта // Копирайт. – 2018. – № 2. – С. 44–51 .

19. Морхат П.М. Возможности, особенности и условия применения искусственного интеллекта в юридической практике // Администратор суда. – 2018. – № 2. – С. 8–12 .

20. Морхат П.М. Юнит искусственного интеллекта в контексте права интеллектуальной собственности: автор, соавтор, наёмный работник или инструмент? // Современное общество и право. – 2018. – № 3. – С. 76–82 .

21. Морхат П.М. Юнит искусственного интеллекта как электронное лицо // Вестник Московского государственного областного университета. Сер .

«Юриспруденция». – 2018. – № 2. – С. 63–75 .

22. Морхат П.М. Критерии и возможности патентоспособности изобретений, создаваемых юнитами искусственного интеллекта // Аграрное и земельное право. – 2018. – № 4. – С. 4–8 .

23. Морхат П.М. Использование искусственного интеллекта при осуществлении правосудия как способ преодоления судейского усмотрения // Право и государство: теория и практика. – 2018. – № 5. – С. 6–11 .

24. Морхат П.М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах // Закон и право. – 2018. – № 6. – С. 63–67 .

25. Морхат П.М. Особенности правового обеспечения развития и использования технологий искусственного интеллекта // Право и образование. – 2018. – № 7. – С. 116–122 .

26. Морхат П.М. Некоторые правовые проблемы применения технологий искусственного интеллекта и патентования изобретений // Интеллектуальная собственность. Промышленная собственность. – 2018. – № 7. – С. 41–46 .

27. Морхат П.М. Особенности правового регулирования применения юнитов искусственного интеллекта в различных целях // Право и образование. – 2018. – № 8. – С. 69–77 .

28. Морхат П.М. Проблемы патентования изобретений, созданных юнитом искусственного интеллекта // Закон и право. – 2018. – № 8. – С. 40–43 .

29. Морхат П.М. Концепт гибридного авторства (юнит искусственного интеллекта как соавтор человека в создании результатов интеллектуальной деятельности) // Бизнес. Образование. Право. Вестник Волгоградского института бизнеса. – 2018. – № 8. – С. 292–296 .

30. Морхат П.М. Система искусственного интеллекта как субъект авторского и патентного права // Копирайт. – 2018. – № 3. – С. 82–92 .

31. Морхат П.М. Правосубъектность юнита искусственного интеллекта:

некоторые гражданско-правовые подходы // Вестник Костромского государственного университета. – 2018. – Т. 24. – № 3. – С. 280–283 .

Статьи в иностранных рецензируемых научных изданиях:

1. Морхат П.М. Определение роли авторства в области искусственного интеллекта // Znanstvena misel journal. – 2018. – № 2. – С. 28–31. (Словения. На рус. языке) .

2. Морхат П.М. Искусственный интеллект, как компаньон судьи // Scientific discussion. – 2018. – Vol. 21. – № 1. – P. 63–67. (Чехия. На рус. языке) .

2. Морхат П.М. Создание юнитом искусственного интеллекта изобретения: проблемы патентования // Интеллектуальная собственность в Беларуси. – 2018. – № 3. – С. 28–31. (Беларусь. На рус. языке) .

3. Морхат П.М. Право на результаты интеллектуальной деятельности, произведённые юнитом искусственного интеллекта: гражданско-правовые проблемы // Право и государство. – 2018. – № 1–2. – С. 204–215. (Казахстан .

На рус. языке) .

4. Морхат П.М. Възможности, насоки, особености и проблеми на функциониране и въвличане на единици на изкуственния ителект за държавно управление // Годишник на департамент «Администрация и управление», Нов бьлгарски университет. – 2018. – Т. 3. (Болгария. На рус. языке) .

Публикации в прочих научных изданиях:

1. Морхат П.М. К вопросу о степени научной разработанности темы правового понимания и регулирования искусственного интеллекта // Нравственные императивы в праве. – 2017. – № 4. – С. 3–11 .

2. Морхат П.М. Понимание искусственного интеллекта и связанных с ним проблем: опросы специалистов // Нравственные императивы в праве. – 2018. – № 1. – С. 45–51 .

3. Морхат П.М. Электронное правосудие как инструмент исключения правового риска заключения сделок в преддверии несостоятельности (банкротстве) должника физического лица // Современные риски и право:

правовые средства предупреждения, управления, защиты: XVIII Междунар .

науч. конф. «Муромцевские чтения» (26.04.2018, г. Москва): Сб. – М.: РГГУ, 2018. – 447 с. – С. 356–368. 0,7 п.л .

4. Морхат П.М. Правосубъектность электронного лица:

методологические подходы в гражданском праве // Интеллектуальная собственность. Авторское право и смежные права. – 2018. – № 7. – С. 39–46 .

5. Морхат П.М. Юнит искусственного интеллекта в контексте права интеллектуальной собственности: автор, соавтор, наёмный работник или инструмент // Интеллектуальная собственность. Авторское право и смежные права. – 2018. – № 8. – С. 35–42 .

6. Морхат П.М. Юнит искусственного интеллекта в контексте права интеллектуальной собственности: Автор, соавтор, наёмный работник или инструмент // Дайджест робоправа. – 2018, июнь-август. – С. 75–77 .

7. Морхат П.М. Искусственный интеллект: некоторые итоги обработки результатов проведения экспертных опросов специалистов // Нравственные императивы в праве. – 2018. – № 2 .

8. Морхат П.М. Интеллектуально-правовые парадоксы с созданием искусственным интеллектом художественных произведений и изобретений: Интервью // Интеллектуальная собственность. Авторское право и смежные права. – 2018. – № 11. – С. 5–15 .

9. Морхат П.М. Искусственный интеллект как правовой институт общественного развития // Публично-правовые механизмы в обеспечении общественного развития: Матер. Всерос. науч.-практ. конф. памяти Н.А. Куфаковой




Похожие работы:

«Руководство по определению и применению валютного курса после дня введения евро Цель данного руководства – объяснить вопросы по определению и применению валютного курса после дня введения евро. Принципы применения валютного курса будут установлены в соответствующих нормативных правовых актах,...»

«Условия проведения и участия в Маркетинговой Инициативе "Розыгрыш призов VEGAS Кунцево" (далее по тексту – "Правила") 1. Термины и определения Маркетинговая Инициатива акция под названием...»

«"ЛЕНИНОГОРСК ИСПОЛНИТЕЛЬНЫМ КОМИТЕТ МУНИЦИПАЛЬ РАЙОНЫ" МУНИЦИПАЛЬНОГО МУНИЦИПАЛЬ ОБРАЗОВАНИЯ БЕРМЛЕГЕ "ЛЕНИНОГОРСКИЙ БАШКАРМА КОМИТЕТЫ МУНИЦИПАЛЬНЫЙ РАЙОН" КАРАР ПОСТАНОВЛЕНИЕ М. УА'сШУ№ г.Лениногорск Об утверждении Программы улучшения условий и охраны труда в Лениногорск...»

«Выпуск 5 НаучНые труды Омск-2018 УДК 27-1(051) ББК 86.37 В 38 Под общей редакцией ректора Омской Духовной Семинарии Митрополита Омского и Таврического Владимира В 38 Вестник Омской Православной духовной Семинарии / главный редактор Н.В. Воробьева. – 2018. – Вып. 2 (5)....»

«Отчет на соответствие стандарту Ecomaterial 1.2 Приложение к заключению № 000 001 07 от 16 мая 2011г. Продукция компании ЕвроЦемент – ЗАО "Михайловцемент" Аудитор Environmental organization Группа компаний EcoStandard Моск...»

«ПРОЕКТНАЯ ДЕКЛАРАЦИЯ многоквартирный жилой дом со встроенными помещениями обслуживания, встроенопристроенным подземным гаражом, встроено-пристроенным дошкольным общеобразовательным...»

«Journal of Siberian Federal University. Chemistry 4 (2018 11) 518-530 ~~~ УДК 544.23:544.25:544.77 Sol-Gel Synthesis and Adsorption Properties of Mesoporous Silica with Mercapto Groups Svetlana A. Novikova*, Vladimir A. Parfenov and Julia N. Zaitseva Institute of Chemistry and Chemical Technology SB RAS FRC "Krasnoyarsk Science Ce...»

«itogovyj_test_7_klass_russkij_yazyk_v_formate_ege.zip Какое сочетание слов является грамматической основой в предложении Г?Подышать воздухомПодышать, послушатьПослушать музыкуПриятно подышатьА 6. Какое...»

«Criminal procedure 159 УДК 34 Publishing House ANALITIKA RODIS (analitikarodis@yandex.ru) http://publishing-vak.ru/ Уголовный про цесс Данил ов Вад им Владим иров ич Малышк ин Павел Викторов ич Котл...»

«GOST 30333-2007 Лимонная кислота Моногидрат 99,5 % p.a., ACS, ISO номер статьи: 3958 дата составления: 23.10.2018 Версия: GHS 1.1 ru Пересмотр: 12.12.2018 Заменяет версию: 23.10.2018 Версия: (GHS 1) РАЗДЕЛ 1: Идентификация химической продукции и сведения о производителе или постав...»







 
2019 www.librus.dobrota.biz - «Бесплатная электронная библиотека - собрание публикаций»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.