Новий генератор відео Sora 2 від OpenAI став справжнім проривом у світі штучного інтелекту, але водночас — небезпечною зброєю в руках переслідувачів. Інструмент, який перетворює текстові запити на реалістичні відео, вже використовується сталкерами для створення діпфейків і цькування людей.
Запуск Sora 2 викликав хвилю захоплення серед користувачів, адже система здатна генерувати відео, які важко відрізнити від справжніх. Однак водночас він став джерелом нової хвилі зловживань — від фейкових роликів у соцмережах до персональних атак.
Журналістка Тейлор Лоренц розповіла, що стала жертвою сталкера, який за допомогою Sora 2 створює фальшиві відео з її зображенням. За її словами, цей чоловік роками переслідує її в інтернеті та в реальному житті, створюючи сотні фейкових акаунтів і навіть наймаючи фотографів для стеження.
«Хтось надіслав моєму психотичному переслідувачу запрошення до Sora, і він вже робить про мене відео. Добре, що Sora дозволяє блокувати та видаляти такі ролики — але шкода, що їх можна встигнути завантажити», — написала Лоренц.
Основна функція Sora 2 — створення “багаторазових персонажів” на основі відео, завантажених користувачами. Хоча для використання образу іншої людини потрібно мати її дозвіл, випадок із журналісткою показав, що система безпеки не завжди працює належно.
Крім переслідування, Sora 2 почали використовувати й для створення провокативного контенту. У мережі вже з’явилися відео, де ШІ генерує сцени з відомими людьми, включно з фейковими записами “злочинів” Сема Альтмана — засновника OpenAI. Це викликало дискусію про етичні межі технологій і авторські права на зображення людини.
OpenAI заявила, що працює над механізмом розпізнавання персонажів у відео та системою монетизації, яка дозволить власникам образів отримувати частину прибутку від їх використання. Однак поки що компанія не запобігла зловживанням повністю: за даними PCMag, у 1,6% випадків система не змогла заблокувати запити на створення відео з оголеними тілами або сексуальним підтекстом.
Проблема використання штучного інтелекту для сталкінгу — не нова. Раніше жертвами діпфейків ставали як знаменитості, зокрема Тейлор Свіфт, так і звичайні люди. Один переслідувач створював оголені фото жінки, інший — фейкові порноролики з десятками жертв.
Фахівці наголошують, що такі технології, як Sora 2, потребують жорсткішого контролю, адже навіть часткова помилка у фільтрації контенту може призвести до серйозних наслідків для приватності та психічного здоров’я людей.
Тим часом OpenAI заявляє, що продовжить вдосконалювати захисні механізми свого генератора, аби запобігти подібним інцидентам у майбутньому. Але експерти застерігають: із розвитком ШІ боротьба з цифровим переслідуванням стає лише складнішою.
