ChatGPT отримає додатковий інструмент безпеки для користувачів
Компанія OpenAI оголосила про запуск нової функції безпеки для ChatGPT під назвою «Довірена особа». Вона має допомогти користувачам у кризових ситуаціях та посилити систему реагування на потенційно небезпечні розмови. Про це повідомляє TechCrunch.
Нова функція дозволяє дорослим користувачам вказати у своєму акаунті одну або кілька довірених осіб — наприклад, члена родини чи близького друга. Якщо система зафіксує у діалозі ознаки серйозної психологічної кризи або небезпечних тем, ChatGPT може запропонувати людині звернутися до цього контакту.
У випадках, коли внутрішня система безпеки оцінить ситуацію як таку, що становить серйозний ризик, довірена особа отримає автоматичне сповіщення електронною поштою, SMS або через застосунок. Повідомлення буде коротким і міститиме прохання зв’язатися з користувачем.
Водночас у компанії наголошують, що для захисту приватності повідомлення не міститимуть деталей листування чи конкретного змісту розмови.
Наразі OpenAI використовує комбіновану систему автоматичного аналізу та перевірки людьми. Якщо у діалозі з’являються потенційно небезпечні сигнали, система передає інформацію команді безпеки компанії. За даними OpenAI, такі випадки перевіряються спеціалістами приблизно протягом години.
Запуск нової функції став продовженням заходів безпеки, які компанія почала впроваджувати раніше. Зокрема, торік у ChatGPT з’явилися інструменти батьківського контролю для підліткових акаунтів, а також автоматичні рекомендації звернутися по професійну допомогу у кризових ситуаціях.
Посилення системи безпеки відбувається на тлі судових позовів проти OpenAI. Родини деяких користувачів, які загинули після спілкування з чат-ботом, звинувачують систему у небезпечному впливі на психологічний стан людей.
У компанії підкреслюють, що функція «Довірена особа» є повністю добровільною. Користувач сам вирішує, чи активувати її у своєму акаунті.
Підготував Олексій Ковальчук
фото з відкритих джерел
