E-law в Росії: навіщо роботам права і хто буде відповідати за їхні злочини

Кейси
10 липня 2020

E-law в Росії: навіщо роботам права і хто буде відповідати за їхні злочини

Далі

Анастасія
Никушина

Контриб’ютор

Анастасія
Никушина

Контриб’ютор

Роботи, що замінюють людей, давно не фантазія сценаристів науково-фантастичних фільмів. Сильний штучний інтелект (ШІ) стає краще з кожним роком: тема перестала бути лише цікавістю розробників. Задаватися питанням про етичне ставлення до роботів вже не смішно, але необхідно. У Росії вже є кілька проектів, які займаються робоправом. А підприємці активно обговорюють створення спеціального закону про роботів. «Хайтек» розповідає про те, як сучасні правові системи відповідають на питання «Робот — тварюка механічна або право має?» і хто буде нести відповідальність, якщо механізми та ІІ нашкодять людині.

Уявіть світ, в якому люди співіснують з системами, які так само, як і ми, володіють розумом, думками, почуттями та самосвідомістю. У них є бажання і інтенції, печалі та радості. Немає тільки органічних тіл — це роботи, які можна вмикати і вимикати.

«Чудовий новий світ» підкидає етичні головоломки. Як вести себе з роботами? Чи є у нас моральний обов’язок перед тими, кого ми створили? Може бути, прогрес взагалі варто зупинити, поки штучний інтелект не перевершив людський? Поки такі питання залишаються лише спекуляціями на тему, тому що реальних прикладів розумних роботів у людства поки що немає.

Фільм «той, що Біжить по лезу 2049» розповідає про найближчому майбутньому, де питання про ставлення до андроїдам вже вирішене. Але не всі з цим згодні

Те, що відчувають інші люди, залишається недоведеною загадкою для спостерігача: ніхто не може бути впевнений у тому, що його співрозмовник дійсно мислить так, як мислить сам розмірковує. І все-таки в розумність інших людей прийнято вірити беззастережно. Допустити, що у роботів є глибокий емоційний інтелект, набагато важче.

Як повірити, що він — людина?

Щоб зрозуміти, чи можна прийняти конкретний ІІ за людину, його потрібно тестувати за допомогою тесту Тюрінга. У 1950 році його створив піонер комп’ютерних технологій Алан Тьюринг. Мова не йшла про заміни дійсної людини комп’ютером: ученого цікавило питання, чи може машина володіти видимим інтелектом.

В редакції тест Тюрінга виглядає як діалог між співрозмовниками, а його ціль лише відповісти на єдине питання: «чи Є ваш співрозмовник людиною?». З комп’ютером спілкується один експерт. На сучасних змаганнях по ту сторону екрана розташовується ціла команда суддів. Вони визначають, чи говорять вони з живою людською істотою, виключно завдяки його відповідей на поставлені запитання. Крім того, судді паралельно спілкуються з цими людьми. Виходить своєрідна гра в наперстки, в якій гравцеві потрібно вгадати, де «ховається» справжній чоловік.

До недавнього часу у чат-ботів не виходило обдурити суддів. Ситуація змінилася, коли російська програма, «хлопчик» Eugene, нарешті пройшла тест. Це сталося на десятиліття пізніше, ніж припускав Тьюринг — замість 50 років комп’ютерів було 64 роки. Треба сказати, що стовідсотково пройти тест не змогла жодна машина. Більш того, для перемоги потрібно навіть менше, ніж 50% голосів суддів — всього 30%. Eugene здався людиною 33% експертів. Розмова з людьми у нього був коротким, всього п’ять хвилин на кожну людину. Правила, як можна помітити, далекі від суворих.

Стиль спілкування Жені Густмана (Eugene Goostman) далекий від людського. Чат-бот прикидається 13-річним хлопчиком з Одеси, який так чи інакше здатний відповідати на питання про свою особистість, захоплення і знаннях. Він не такий розумний, як міг би — зайва «начитаність» ШІ лише породжує сумніви в експертів. А ще він постійно задає питання сам, допомагаючи розвитку діалогу.

Не надто суворий критерій входження в почесний клас «людей» не влаштував вченого Х’ю Лебнера, які запропонував новий «золотий стандарт» тесту Тюрінга у 1990 році. Нові правила вимагають, щоб людина і комп’ютер розмовляли не менше 25 хвилин, при тому довгу розмову чат-бот повинен вести за кожним з чотирьох суддів. Машина виграє, тільки якщо зможе обдурити хоча б половину експертів. Eugene такий тест пройти не зміг.

Є й інші, більш складні варіації тесту Тьюринга. Наприклад, ИИ може спілкуватися з трьома суддями за дві години з кожним. Він повинен переконати двох із трьох експертів. Футуролог Рей Курцвейл і засновник компанії програмного забезпечення Lotus Мітч Капор навіть уклали парі на $20 тис.: Курцвейл поставив на те, що хоча б один робот зможе пройти такий жорсткий тест Тюрінга до 2029 року. Ставка досі в силі.

Може робот бути суб’єктом правовідносин?

Чат-боти, схожі на людей, ще не люди. Розробники подібних програм вважають, що «пишуть не стільки алгоритми, скільки романи». Бихевиористическое наслідування не виявляє справжньої розумової активності, креативності, асоціювання і всього того, що притаманне людському розуму і здоровому глузду. У питанні про права роботів мова поки не йде про взаємну відповідальність між суб’єктом і державою, а також іншими учасниками правовідносин. Право, що регулює відношення до роботизованим систем, не може бути абсолютно людяним, а тому перед юристами з’являється необхідність абсолютно нових законів.

Правові системи всіх країн світу будуються на припущенні про те, що права можуть бути тільки у людей. Тут необхідне уточнення. Філософи Нового часу розвивали систему природних і позитивних прав — невідчужуваних від природи і створюються завдяки суспільному договору. Наділяють правами тільки одні істоти на планеті — люди. Але тих, кого можна ще наділити, набагато більше.

Сьогоднішні дебати навколо прав роботів підсумовуються в книзі професора з Північного Іллінойсу Девіда Ганкеля. Вона так і називається: Robot rights (з англ. «Права роботів» — «Хайтек»). Статус автономних машин, як стверджує вчений, постійно змінюється, тому що роботи подаються «сірою зоною» між фізичними особами і об’єктами. Фактично ми вже живемо в світі, який наповнений штучними сутностями з правами і обов’язками «особи»: це і IBM, і Amazon, і mcdonald’s. Вони, безумовно, не стають людьми, але якимось чином взаємодіють з родом людським.

Фільми на кшталт «Термінатора» і «2001: Космічна одіссея» переконують глядачів у тому, що роботи можуть нашкодити людям. Звичайно, і людство здатне дати здачі машин, хоча сюжетів, коли люди стають агресорами проти роботів, практично немає. Тим не менш, Американське суспільство по запобіганню жорстокому поводженню з роботами (ASPCR) взяв за основу протилежну ідею. Організація була заснована в 1999 році, але досі випереджає час. Організатори не вважають, що роблять щось дивне: «Нездатність визнати права нелюдського ІЇ та надати їх йому аналогічна нездатності колонизаторских західних культур визнати гуманність і права неєвропейських народів». Ще на сайті є примітна ремарка про те, що у 1890-х роках, коли було засновано перше товариство захисту тварин, його місія була також осміяна.

ASPCR перестало існувати в 2016 році, а його основа, наскільки б жартівливій вона не була, не зникла. Європейський парламент вважає, що ідея про права роботів заслуговує серйозної уваги. Доповідь від 2016 року, складений Маді Делво з Люксембургу, розвиває питання про створення нового правового статусу — електронної особистості, щоб так позначити ІІ і роботів. Бути електронній особистістю — означає мати обов’язки і права.

Уявімо, що робот обдурив людини і вкрав його гроші при транзакції. Доповідь пропонує відповідь на питання про те, хто повинен нести відповідальність у такому випадку. Запропоноване рішення полягає в тому, щоб дати роботам юридичну відповідальність. При цьому власники або власники роботів повинні сплачувати страхові внески в державні фонди, щоб у електронних особистостей була можливість покрити витрати.

План заснований на трьох законів робототехніки, які виклав ще письменник-фантаст Айзек Азімов. По-перше, робот не може заподіяти шкоду людині. По-друге, робот повинен підкорятися наказам людини, якщо це не веде до заподіяння шкоди іншим людям. По-третє, робот повинен захищати власне існування до тих пір, поки це не завдає шкоди людині. Нарешті, Азімов додав «нульовий», четвертий закон: робот не може нашкодити людству або діяти так, що в результаті людству буде завдано шкоди.

Зараз необхідність розробки прав роботів здається надуманою, але члени Європарламенту пишуть, що майбутня можлива автономія ставить юридичні питання вже зараз. «Зрештою, існує ймовірність того, що протягом кількох десятиліть ІІ зможе перевершити інтелектуальні здібності людини і, якщо система не буде підготовлена, поставити під загрозу людську здатність контролювати власне творіння — і, отже, здатність відповідати за свою долю і виживання виду», — йдеться в доповіді. Тому навіть передчасні заходи задають поле для роздумів.

У 2017 році з’явився ще один доповідь ЄС, в якому, крім іншого, були дані рекомендації від Комісії за цивільно-правовими нормами в галузі робототехніки. Він доповнює все те ж поняття про електронні осіб, які можуть нести відповідальність за нанесення збитку. Передбачається, що роботи відповідного статусу можуть приймати самостійні рішення або взаємодіяти з третіми особами, крім своїх творців, самостійно.

Створення нового суб’єкта правовідносин, тим більше такого незвичайного, може бути лазівкою для виробників, які хочуть піти від відповідальності за шкоду від роботів. Але роботи дійсно беруть на себе все більше повсякденних завдань, деякі з яких бувають небезпечними для оточуючих. І мова не про спецзавдання. Наприклад, дрон може нести коробку і випадково впустити її на голову людини. У людському праві є відповідальність і за бездіяльність: може нести її ШІ?

Що відбувається з e-law в Росії?

Російська економіка відстає в роботизації, але зате російське право, навпаки, вживає заходів заздалегідь. Так, ще в кінці 2016 року російський підприємець і засновник Grishin Robotics Дмитро Гришин створив концепцію першого повноцінного окремого закону про робототехніки. Він працював у співавторстві з ІТ-юристом Віктором Наумовим.

Робот — пристрій, здатний діяти, визначати свої дії і оцінювати їх наслідки на основі інформації, що надходить із зовнішнього середовища, без повного контролю з боку людини.

Стаття 3 закону Дмитра Гришина


Концепція Гришина пропонує прирівняти робота відразу і до тварин, і до юридичних осіб. Хоча автономні машини і не мають почуттів, вони можуть діяти самостійно, а значить, потрапляють в зону дії поняття «відповідальність». Втім, по-справжньому людську відповідальність закон роботам не ставить, натомість каже, що для них потрібно створити окремий реєстр, схожий на реєстр юридичних осіб. У роботів можуть бути виробники та власники. Якщо робот спочатку потенційно небезпечний, то відповідальність за його дії лягає на «господаря», а якщо травму людині заподіє робот-пилосос, то платити доведеться виробнику.

Крім того, роботи можуть стати суб’єктами кримінального права, але лише у чотирьох випадках:

  • Робота створили для вчинення протиправних дій.
  • Робота перепрограмували для нанесення шкоди людині, відключивши його блок, що відповідає за безпеку при спілкуванні з людиною.
  • Робота спочатку створили без цього блоку.
  • Робота сконструювали без усвідомлення того, що його можна використовувати на шкоду людині.

Концепція Дмитра Гришина ґрунтується на чотирьох законах робототехніки Айзека Азімова, які, як вважає підприємець, до цих пір не втратили актуальності. Також в інтерв’ю автор закону дає приклади роботів, для яких текст буде важливий в першу чергу: безпілотні автомобілі і дрони.

Крім Гришина, робоправо в Росії розвиває проект «#ПравоРоботов».Також створений в кінці 2016 році, проект спрямований на вдосконалення законів в області ШІ, обороту даних і кібербезпеки. Команда займається широким спектром завдань, з якими доведеться стикатися цифровій економіці, коли вона буде побудована.

Не всі російські підприємці налаштовані оптимістично. Гендиректор Alpha Robotic Venture Володимир Білий вважає, що безглуздо створювати окремі закони для машини. По суті, вони були і залишаються інструментами, а за дію інструмента завжди відповідає той, хто ним керує, виробляє.

Тим не менш, офіційна влада тримається курсу на розробку повноцінного законопроекту про робототехніки. Спікер Держдуми В’ячеслав Володін заявляв, що подібний текст з’явиться приблизно в 2022 році. Більше нічого конкретного про робототехніки російська влада не говорила, а прогнозувати щось в 2020-му особливо нелегко.

Читайте також:

Комета NEOWISE видно в Росії. Де її побачити, куди дивитися і як зробити фото

З’ясувалося, що змусило цивілізацію майя покинути свої міста

На 3 день хвороби більшість хворих COVID-19 втрачають нюх і часто страждають нежитем

Источник

Описание admin

Рекомендуем прочесть

Tesla представить двофакторну аутентифікацію

Новини 16 серпня 2020 Tesla представить двофакторну аутентифікацію Далі Ильнур Шарафиев Редактор Ильнур Шарафиев Редактор …

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *