Фахівці з технічної етики та працівники секс-індустрії готуються до наслідків
Кайл Віггерс Аманда Сілберлінг 1 рік
Рудоволоса жінка стоїть на Місяці, її обличчя приховано. Її оголене тіло має такий вигляд, ніби його можна побачити на плакаті, який висить на стіні спальні гормонального підлітка, — і так доти, доки ви не дійдете до її торса, де з її плечей випирають три руки.
Системи зі штучним інтелектом, на кшталт Stable Diffusion, які перекладають текстові підказки на картинки, використовували бренди і художники для створення концептуальних зображень, відзначених нагородами (хоча й неоднозначних) принтів і повноцінних маркетингових кампаній.
Але деякі користувачі, які бажають вивчити більш каламутні боки цих систем, тестують їх для іншого роду використання: порно.
Порно, створене штучним інтелектом, не менш тривожне і недосконале, ніж можна було б очікувати (руда голова на Місяці, найімовірніше, не була згенерована кимось із фетишем на зайві руки)… Але в міру вдосконалення технології вона викликатиме складні запитання як у фахівців з етики ШІ, так і у працівників секс-бізнесу.
Порнографія, створена за допомогою новітніх систем генерації зображень, уперше з’явилася на дискусійних майданчиках 4chan і Reddit на початку цього місяця, після того, як один із користувачів 4chan злив систему Stable Diffusion з відкритим кодом до її офіційного релізу. А минулого тижня з’явився один із перших сайтів, присвячених створенню порно за допомогою штучного інтелекту.
Сайт під назвою Porn Pen дає змогу користувачам налаштовувати зовнішній вигляд оголених моделей, згенерованих ШІ, — усі вони жінки — за допомогою перемикаються тегів, як-от «малятко», «модель спідньої білизни», «пухкенька», національностей (наприклад, «росіянка» та «латинка») і фонів (наприклад, «спальня», «душ» та підставних знаків, як-от «місяць»). Кнопки дають змогу знімати моделі спереду, ззаду або збоку, а також змінювати вигляд створюваної фотографії (наприклад, «плівкове фото», «дзеркальне selfie»). Однак у дзеркальних селфі, мабуть, є помилка, тому що в стрічці користувацьких зображень деякі дзеркала насправді не відображають людину — але, звичайно, ці моделі зовсім не люди. Порноручка працює як «Цієї людини не існує», тільки вона NSFW.
На форумі Y Combinator’s Hacker News користувач, який видає себе за творця, описує Porn Pen як «експеримент» з використанням передових моделей перетворення тексту в зображення. «Я спеціально прибрав можливість вказувати користувацький текст, щоб уникнути появи шкідливих зображень», — пише він. «Нові теги будуть додані, коли алгоритм створення підказок буде доопрацьовано». Творець не відповів на прохання TechCrunch про коментар.
Однак Porn Pen порушує безліч етичних питань, як-от упередженість систем, що генерують зображення, і джерела даних, на основі яких вони були отримані. Крім технічних наслідків, виникає питання, чи не зашкодить нова технологія створення персоналізованого порно — якщо вона приживеться — творцям контенту для дорослих, які заробляють на життя подібним чином.
«Я думаю, що це якоюсь мірою неминуче, що це з’явиться, як з’явився [OpenAI] DALL-E», — сказав TechCrunch електронною поштою Ос Кіз, кандидат наук в Університеті Вашингтона. «Але все одно пригнічує те, що і опції, і налаштування за замовчуванням відтворюють дуже гетеронормативний і чоловічий погляд».
Ешлі, секс-працівниця та організаторка колег, яка займається справами, пов’язаними з модерацією контенту, вважає, що контент, який створює Porn Pen, не становить загрози для секс-працівників у його нинішньому стані.
«Існує нескінченна безліч засобів масової інформації», — каже Ешлі, яка не захотіла публікувати своє прізвище, побоюючись переслідувань за свою роботу. «Але люди відрізняються не тільки тим, що роблять найкращі медіа, а й тим, що є доступними, цікавими людьми. Пройде багато часу, перш ніж ШІ зможе замінити це».
На існуючих порносайтах, що монетизуються, таких як OnlyFans і ManyVids, творці повинні підтверджувати свій вік і особистість, щоб компанія знала, що вони є повнолітніми. Порномоделі, створені штучним інтелектом, звичайно ж, не можуть цього зробити, тому що вони не справжні.
Однак Ешлі непокоїться, що якщо порносайти почнуть боротися зі штучним інтелектом, це може призвести до посилення обмежень для працівників секс-бізнесу, які й так уже стикаються з посиленням регулювання з боку таких законів, як SESTA/FOSTA. У 2019 році Конгрес представив Акт про вивчення безпечної роботи секс-працівників, щоб вивчити вплив цього законодавства, яке ускладнює роботу секс-працівників в Інтернеті. Це дослідження показало, що «громадські організації [повідомили] про зростання бездомності серед секс-працівників» після втрати «економічної стабільності, що забезпечується доступом до онлайн-платформ».
«SESTA продавалася як боротьба із секс-торгівлею дітьми, але вона створила новий кримінальний закон про проституцію, в якому нічого не говориться про вік, — каже Ешлі.
Наразі у світі існує лише кілька законів, що стосуються глибоко підробленого порно. У США тільки в штатах Вірджинія і Каліфорнія діють правила, що обмежують певне використання підроблених і глибоко підроблених порнографічних носіїв.
Такі системи, як Stable Diffusion, «вчаться» генерувати зображення з тексту на власному прикладі. Виходячи з мільярдів фотографій, забезпечених анотаціями, що вказують на їхній зміст, — наприклад, фотографія собаки з написом «Такса, ширококутний об’єктив», — системи вчаться того, що певні слова і фрази відносяться до конкретних стилів мистецтва, естетики, місць тощо…
На практиці це працює відносно добре. Запит на кшталт «картина з птахом у стилі Ван Гога» передбачувано приведе до зображення птаха в стилі Ван Гога. Але все стає складніше, коли підказки розпливчасті, посилаються на стереотипи або мають справу з предметами, з якими системи не знайомі.
Наприклад, Porn Pen іноді генерує зображення без людини взагалі — імовірно, система не розуміє підказки. В інших випадках, як уже йшлося, він показує фізично неправдоподібні моделі, як правило, із зайвими кінцівками, сосками в незвичних місцях і спотвореною плоттю.
«За визначенням [ці системи] представлятимуть тих, чиї тіла приймають і цінують в основному суспільстві», — каже Кіз, зазначаючи, що на Porn Pen є категорії тільки для циснрормативних людей. «Мене не дивує, що в підсумку ви отримаєте непропорційно велику кількість жінок, наприклад».
Хоча Stable Diffusion, одна із систем, що, ймовірно, лежать в основі Porn Pen, має відносно невелику кількість «NSFW» зображень у своєму навчальному наборі даних, ранні експерименти з Redditors і користувачами 4chan показують, що вона цілком компетентна у створенні порнографічних глибоких підробок знаменитостей (Porn Pen — можливо, не випадково — має опцію «знаменитості»). А оскільки програма має відкритий вихідний код, ніщо не завадить творцеві Porn Pen доопрацювати систему на додаткових оголених зображеннях.
«Створювати [порно] вже існуючої людини — це, звісно, не дуже здорово», — каже Ешлі. «Це може бути використано для переслідування».
Підроблене порно часто створюється для того, щоб погрожувати і переслідувати людей. Ці зображення майже завжди створюються без згоди суб’єкта зі злим умислом. У 2019 році дослідницька компанія Sensity AI виявила, що 96 % відео deepfake у мережі — це порно без згоди.
Майк Кук, дослідник штучного інтелекту, що входить до групи Knives and Paintbrushes, каже, що є ймовірність того, що в наборі даних є люди, які не давали згоди на використання їхніх зображень для навчання подібним чином, зокрема працівники секс-індустрії.
«Багато хто з [людей з оголеною натурою в навчальних даних] може отримувати дохід від виробництва порнографії або контенту, пов’язаного з порнографією», — каже Кук. «Як і у випадку з художниками, музикантами або журналістами, твори, створені цими людьми, використовуються для створення систем, які також позбавляють їх можливості заробляти на життя в майбутньому».
Теоретично, порноактор може використовувати захист авторських прав, дифамацію і, можливо, навіть закони про права людини, щоб боротися з творцем глибоко підробленого зображення. Але, як зазначається в статті в MIT Technology Review, збір доказів на підтримку юридичних аргументів може виявитися серйозною проблемою.
Коли кілька років тому більш примітивні інструменти штучного інтелекту популяризували deepfaked порно, розслідування Wired показало, що відео deepfake, зроблені без згоди користувача, набирали мільйони переглядів на популярних порносайтах на кшталт Pornhub. Інші глибоко підроблені роботи знайшли притулок на сайтах на кшталт Porn Pen — за даними Sensity, чотири найкращі сайти глибоко підробленого порно набрали понад 134 мільйони переглядів у 2018 році.
«Синтез зображень за допомогою штучного інтелекту став широко поширеною і доступною технологією, і я не думаю, що хтось готовий до наслідків цього повсюдного поширення», — продовжує Кук. «На мій погляд, за останні кілька років ми дуже, дуже далеко забігли в невідомість, мало замислюючись про наслідки цієї технології».
За словами Кука, один із найпопулярніших сайтів для порно, створеного штучним інтелектом, наприкінці минулого року розширив свою діяльність завдяки партнерським угодам, рефералам і API, що дало змогу сервісу, на якому розміщено сотні неконсенсусних підробок, пережити заборону на платіжну інфраструктуру. А 2020 року дослідники виявили бота Telegram, який генерував образливі глибокі підробки зображень понад 100 000 жінок, включно з неповнолітніми дівчатами.
«Я думаю, що в найближче десятиліття ми побачимо набагато більше людей, які відчувають межі як технологій, так і кордонів суспільства», — сказав Кук. «Ми повинні взяти на себе певну відповідальність за це і працювати над тим, щоб просвіщати людей про наслідки того, що вони роблять».
