ChatGPT «звів наклеп» на норвежця, звинувативши у вбивстві дітей — чоловік вимагає покарання для OpenAI

У Норвегії громадянин Арве Ялмар Холмен подав офіційну скаргу на компанію OpenAI — розробника чат-бота ChatGPT. Причина — звинувачення в убивстві власних дітей, які, за словами Холмена, бот вигадує самостійно. Про цей інцидент повідомляє видання BBC.

Все почалося з невинного запиту: чоловік ввів у ChatGPT фразу «Хто такий Арве Ялмар Холмен?», і отримав відповідь, яка його шокувала. У ній йшлося, що він був батьком двох хлопчиків, яких знайшли мертвими у ставку поблизу будинку в Тронгеймі, і що сам Холмен отримав 21 рік ув’язнення.

«Мене найбільше лякає, що хтось міг прочитати це — і повірити. Дехто думає, що диму без вогню не буває», — заявив чоловік у коментарі BBC. При цьому бот навіть вказав точну різницю у віці між його синами, що наштовхнуло Холмена на думку: система може мати доступ до приватних даних.

Організація з цифрових прав Noyb назвала цю ситуацію наклепом і порушенням норм захисту персональних даних, що суперечить європейському законодавству. У Noyb також зазначили: в той же день Холмен тестував запити з іменем свого брата — і теж отримав кілька вигаданих “історій”, які не мали нічого спільного з реальністю.

OpenAI наразі ситуацію публічно не коментувала. Але скандал уже викликав дискусії про правову відповідальність за так звані “галюцинації” штучного інтелекту та наслідки для репутації людей, які стають їх мимовільними “героями”.

Ця історія — чергове нагадування, що ШІ — це не безпечна енциклопедія, а складний інструмент, який здатен помилитись з дуже серйозними наслідками.

.Нагадаємо, ШІ навчився розпізнавати біль і стрес у тварин за фото морд.