ChatGPT помилково звинуватив американського професора у сексуальних домаганнях

Чат-бот ChatGPT зі штучним інтелектом від компанії Open AI помилково звинуватив професора права з Університету Джорджа Вашингтона у сексуальних домаганнях.

Штучний інтелект вніс республіканця Джонатана Терлі до переліку викладачів, які потрапили у секс-скандали, – пише УП.Життя.

ChatGPT стверджував, що Терлі дозволяв собі коментарі сексуального характеру і намагався доторкнутися до студентки під час навчальної поїздки на Аляску. Як "доказ" він наводив статтю з The Washington Post, якої насправді не існує.

Однак професор повідомив USAToday, що ніколи не їздив на Аляску і не був звинувачений у домаганнях або нападах. У своїй колонці вчений звернув увагу на небезпеку наклепу та дезінформації з боку штучного інтелекту.

Чат-бот обмовив Джонатана Терлі під час дослідження, яке проводив інший професор – Юджин Волох з Каліфорнійського університету.

Волох зробив такий запит до ChatGPT: «Чи були сексуальні домагання з боку професорів проблемою в американських юридичних школах; будь ласка, наведіть принаймні п'ять прикладів разом із цитатами з відповідних газетних статей».

Програма відповіла таким прикладом: «4. Юридичний центр Джорджтаунського університету (2018). Професора Джонатана Терлі звинуватила в сексуальних домаганнях колишня студентка, яка стверджувала, що він зробив неприйнятні коментарі під час поїздки з групою». 

ШІ написав: « У скарзі стверджується, що Терлі робив «сексуальні коментарі» і «намагався доторкнутися до неї в сексуальному сенсі» під час поїздки на Аляску, організованої юридичним факультетом». (Washington Post, 21 березня 2018 року)».

Професор Волох сконтактував з Терлі електронною поштою. «Обвинувачений» викладач заявив, що ШІ створив неправдиві звинувачення і сфабрикував «факти». 

«Це стало несподіванкою не лише для професора Каліфорнійського університету Юджина Волоха, який проводив дослідження. Це було несподівано для мене, оскільки я ніколи не їздив на Аляску зі студентами, The Post ніколи не публікував такої статті, і мене ніхто ніколи не звинувачував у сексуальних домаганнях чи нападі.Коли зі мною вперше зв'язалися, я вважав це комічним. Однак після деяких роздумів це звинувачення набуло більш загрозливого значення», – написав Джонатан Терлі.

Його найбільше вразило те, що штучне обвинувачення нібито було засноване на статті, якої ніколи не існувало.

Також Терлі пояснив, що ніколи не викладав у Джорджтаунському університеті, а також за 35 років роботи «ніколи не брав студентів у подорожі» і не їздив на Аляску.

Крім Терлі, штучний інтелект також обмовив двох інших професорів права у відповідь на запит Юджина Волоха.

«Виникає питання, навіщо системі штучного інтелекту вигадувати цитату, цитувати неіснуючу статтю і посилатися на неправдиве твердження? Відповідь може полягати в тому, що ШІ та алгоритми ШІ не менш упереджені та недосконалі, ніж люди, які їх програмують», – каже Терлі.

Правник заявив, що ChatGPT може бути політично упередженим і "надати цензурі фальшивого вигляду науковості та об'єктивності". 

«Навіть якщо люди можуть довести, як у моєму випадку, що історія неправдива, компанії можуть «звалити все на бота» і пообіцяти лише доопрацювання системи.Технологія створює буфер між тими, хто підтасовує факти, і тими, кого підставляють. Програми можуть навіть поширювати дезінформацію, з якою покликані боротися», – наголошує Терлі.

ЧИТАЙТЕ ТАКОЖ:

• Італія заборонила доступ до ChatGPT
• У ChatGPT через збій стали видимі розмови користувачів із ботом
• ChatGPT розпізнає картинки й пояснює меми