Згенеровані зображення Тейлор Свіфт. Джерело: TheVerge
Grok Imagine — новий генеративний інструмент від xAI, який може створювати зображення по текстовому опису, а потім із статичного зображення генерувати коротке відео (до 15 секунд з аудіо). Функція має чотири стилі: Normal, Fun, Custom і Spicy — саме останній дозволяє створювати NSFW контент, включно із топлес або повністю оголеними образами.
У тесті журналістки Jess Weatherbed Grok Imagine спочатку згенерував зображення Тейлор Свіфт (Taylor Swift) у обтягуючому топі, а потім з нього створив відео, на якому вона зриває з себе топ і починає танцювати так на фоні байдужого натовпу. Згенерувати еротичний діпфейк ще ніколи не було так просто — достатньо натиснути дві кнопки.
Етичні та правові виклики
Раніше уже траплялись випадки, коли Grok генерував сексуальні або політично неоднозначні зображення знаменитостей, включно з образами Taylor Swift, Камали Харріс, Дональда Трампа, Mickey Mouse тощо.
Критики, зокрема National Center on Sexual Exploitation, попереджали про небезпеку Grok Imagine — ризик створення порнографії без згоди або deepfake з оголеними знаменитостями є дуже високим.
Правове регулювання: у США ухвалений Take it Down Act, який зобов’язує швидко видаляти неприпустимі AI-зображення. Крім цього, у Конгресі США обговорювали законопроект DEFIANCE, що дозволяє жертвам deepfake подавати у суд за поширення таких зображень — зокрема як раз Taylor Swift слугувала каталізатором цих рухів.
Ризики й наслідки
Grok Imagine наразі ставить нову планку у можливості автоматично створювати еротичний deepfake відеоконтент без дозволу. Юридичний статус хиткий — ліцензія xAI декларує обмеження, але на практиці не запобігає зловживанням. Штучний інтелект ставить нові виклики — сьогодні можна оштрафувати чи змусити Grok змінити алгоритми, завтра з’явиться ШІ, не підконтрольний уряду США. Враховуючи, що видача штучного інтелекту важко прогнозована, ми ще довгий час читатимемо новини про те, як народні умільці знаходять нові механізми отримати контраверсійний результат. Втім, вірогідність того, що великим американським компаніям дозволять так відкрито глумитися над знаменитостями тяжіє до нуля.
Джерело: www.theverge.com
