Пасажир чи пішохід: кого вибере робокар в разі неминучої аварії, – дослідження

Уявіть собі: ви їдете за кермом, і прямо перед вашим автомобілем – не помічаючи його і дивлячись в інший бік – дорогу починає переходити людина. Ви різко вдаряєте по гальмах, щоб не збити пішохода – і у вас врізається машина ззаду.

Що сталося? Давайте розберемося.

Ви як водій зробили свідомий вибір, перенісши ризик зіткнення: з розсіяного пішохода – на себе і своїх пасажирів. І вибір цей продиктований не тільки вашою оцінкою небезпеки (зрозуміло, що люди в автомобілі більш захищені, ніж людина, яка переходить дорогу), але і вашими моральними принципами.

Ускладнимо завдання. Припустимо, у вас відмовили гальма і ви повинні вибрати: переїхати невезучого пішохода або викермувати на тротуар і збити там відразу кількох людей?

Вибір здається очевидним. Але що, якщо на дорозі перед вами інвалід або вагітна жінка? Адже особистість пішохода цілком може вплинути на ваше рішення. А якщо це ваш близький друг або навіть ваша дитина?

А тепер уявіть собі, що ви – пасажир, а ніякого водія у вашій машині немає – це безпілотний автомобіль, робокар. Який моральний вибір повинен зробити штучний інтелект, який ним керує? Як його потрібно запрограмувати?

Над цим питанням не перший рік б'ються всі розробники безпілотних автомобілів – від Audi і Toyota до Tesla і "Яндекс". Але, як з'ясували вчені, відповідь дуже залежить від того, кого ви запитуєте, – передає ВВС.

Кого врятувати – літню людину чи дитину?

Щоб розробити універсальний алгоритм прийняття рішень для безпілотних машин, вчені Массачусетського технологічного інституту (MIT) розробили спеціальний онлайн-тест, пройти який міг кожен охочий.

Кожному учаснику опитування пропонувалася дюжина гіпотетичних дорожніх ситуацій на зразок тих, що наведені вище, в яких водієві необхідно зробити моральний вибір, який неминуче тягне за собою смертельний результат. Наприклад, на смерть збити трьох літніх пішоходів на автостраді або скерувати машину в бетонну огорожу, вбивши трьох пасажирів, які в ній знаходились.

Щоб точніше виявити пріоритети респондентів, сценарії онлайн-тесту варіювалися. Кого учасники врятують з найбільшою ймовірністю – молодих чи літніх? Бідних чи багатих? Одну дитину чи декількох дорослих?

Масштаби експерименту, результати якого опубліковані в журналі Nature, вражають: за півтора року в ньому взяли участь 2,3 млн осіб з 233 країн і територій (тест спеціально переклали на десяток мов). В цілому вчені зібрали майже 40 млн відповідей. І, проаналізувавши цю величезну базу даних, вони зробили кілька важливих висновків.

Перший і, мабуть, найважливіший з них: моральні пріоритети сильно залежать від країни проживання. Автори дослідження виділили три типи країн, які вони умовно назвали "західними", "східними" і "південними". Умовно – тому що Франція, наприклад, потрапила в "південний тип", а ось Єгипет – в "східний".

"Західняки" частіше віддавали перевагу рятувати молодших людей, а "східняки" – більш літніх. Представники "південних" країн частіше віддавали перевагу жінкам і дітям, а також людям, які володіють більш високим соціальним статусом.

На подивування вчених, люди, які посідають більш високе становище в суспільстві, викликали більше симпатій і у жителів "західних" країн – на відміну від "східних".

Зате "східні" мешканці майже не брали до уваги різницю в кількості врятованих життів, засновуючи свої переваги на інших факторах.

Другий висновок: відповіді залежать і від демографічних показників учасників експерименту, таких як стать, вік і т. д., але вже не настільки сильно.

І третій – можливо, досить очевидний: моральний вибір сильно корелює не тільки з глибоко вкоріненими в культурі уявленнями про етику, але й із сучасним станом громадянських інститутів.

Наприклад, жителі відносно багатих країн із сильною і незалежною судовою системою (Фінляндія та Японія) виявляли куди менше симпатій до пішохода, який вийшов на дорогу в недозволеному місці, ніж респонденти з Нігерії або Пакистану.

Більш детальну карту і графік розбіжності в пріоритетах можна подивитися на сайті журналу.

"Універсальних правил немає"

Опитування, проведене в 2016 році, виявило досить цікавий парадокс. З одного боку, більшість респондентів заявили, що безпілотний автомобіль повинен ставити на чільне місце безпеку пішоходів, навіть якщо це означає додаткові ризики для пасажирів. З іншого – люди зізнавалися, що самі не стали б купувати машину, запрограмовану подібним чином.

Саме це спонукало вчених MIT на створення онлайн-тесту Moral Machine, в розробці якого взяли участь психологи, антропологи і економісти з усього світу.

"Люди, розмірковуючи про машинну етику, виходять з того, що можна створити для роботів якийсь ідеальний набір правил. Але наші дані показують, що ніяких універсальних правил немає", – стверджує один з авторів дослідження Іяд Рахвал.

Сам Рахвал народився в Сирії, закінчив університет в Австралії, а тепер працює в США. Втім, за результатами експерименту всі ці три країни потрапили в "західний" кластер.

Зрозуміло, що в повсякденному житті ми вкрай рідко стикаємося з необхідністю робити подібний вибір. Критики дослідження справедливо запитують, чи можна взагалі пропонувати сидячій перед комп'ютером людині подібні гіпотетичні сценарії, ставити перед нею умоглядне питання життя і смерті – і покладатися на її вибір?

Однак автори роботи стверджують, що так чи інакше моральний вибір водіям доводиться робити кожен день - нехай і не з такою драматичними наслідками. І виявлені тестом культурні відмінності необхідно брати до уваги як виробникам безпілотних автомобілів, так і законодавцям.

Як зазначає Nature, представники Audi вже погодилися з тим, що результати тесту допоможуть їм в обговоренні проблем, що стоять перед розробниками безпілотних машин.

Решта компаній, що тестують безпілотні автомобілі, в тому числі Toyota і Uber, від коментарів відмовилися.

ЧИТАЙТЕ ТАКОЖ: Компанія Tesla представила новий електрокар (фото)