Дипфейк: прорив чи проблема – колонка

Завдяки технологічному прориву в галузі штучного інтелекту, зокрема з появою ChatGPT у 2022 році, алгоритми штучних технологій стали застосовуватись у безлічі сфер людської діяльності, в тому числі у сфері створення та обробки контенту. Однією з найбільш дискусійних інновацій стала технологія створення дипфейків, яка дозволяє маніпулювати відео та аудіо записами з небувалою точністю. 

Ця технологія викликає суперечливі реакції: з одного боку, вона є технологічним проривом, з іншого — становить серйозну загрозу для порушення прав людини, моральності, громадського порядку та суспільної безпеки.

Детальніше про це в авторській колонці для AIN.UA розповіла Ольга Зав’язун, юристка практики Супроводу бізнесу в Juscutum.

Що таке дипфейки

Дипфейк (deepfakes) — це методика синтезу зображення людини, яка базується на штучному інтелекті (ШІ). Вона використовується для створення відео або зображень, де обличчя однієї особи замінюється на обличчя іншої, створюючи ілюзію, що ця особа говорить або робить щось, чого насправді не робила.

У юридичному контексті, дипфейки можуть порушувати права на приватне життя та гідність, інтелектуальну власність і можуть бути використані для поширення дезінформації, створення фальшивих доказів у судових справах. Це ставить під загрозу довіру до відеоматеріалів і може мати серйозні наслідки для особистої репутації, моральності, громадського порядку, політичної стабільності та національної безпеки. Ці технології потенційно загрожують правам на вільне вираження думки та інформаційну свободу, оскільки вони можуть спричинити появу фальшивої й недостовірної інформації, яка впливає на суспільну думку та погляди людей. Технології ШІ, які використовуються для створення дипфейків, також можуть бути застосовані для їхнього виявлення, але це є складним завданням через постійне вдосконалення методів їхнього створення. 

Дипфейки та політика

Сьогодні політики доволі часто потерпають від дипфейків. Наприклад, у соціальній мережі X поширили новинне відео France 24 про те, що нібито український уряд готував замах на французького президента Еммануеля Макрона під час перебування останнього в Києві. За цим сценарієм, Україна начебто намагалася залучити міжнародну увагу та збільшити військову підтримку, звинувативши в замаху росію. Однак це було викрито як дипфейк. Невідповідності в русі губ і дивні візуальні аномалії біля рота ведучого вказують на штучне створення відео. До того ж низька якість запису підсилює підозри про його фальшивість. Франкомовні користувачі соцмережі X також висловили сумніви, зазначивши, що манера вимови та інтонація ведучого не відповідають звичайним. Сервіс Aiornot, який аналізує аудіо на предмет штучного створення, підтвердив, що звук був синтезований.

Крім цього, нещодавно стало відомо, що премʼєр-міністр Італії Джорджія Мелоні вимагає 100 тисяч євро як відшкодування збитків за створення порнографічного дипфейку із зображенням її обличчя. Саме відео було створене ще до того, як вона почала обіймати керівну посаду. Відповідно до італійського законодавства, дії двох чоловіків, що створили відео, підпадають під кримінальну відповідальність як поширення про особу неправдивої інформації, що принижує її честь і гідність, шкодить діловій репутації. 

Останнім часом спостерігається зростання активності російських фейкових кампаній, які використовують ШІ для дестабілізації ситуації в Україні та підриву довіри до країни серед її союзників. Нещодавно також було спростовано інший дипфейк, де ексголовнокомандувач ЗСУ Валерій Залужний начебто закликав до перевороту в Україні.

Дипфейки в шоубізнесі

Почнемо з хорошого. Видання мексиканського Playboy зробило прорив, використовуючи модель, створену за допомогою алгоритмів ШІ, для своєї обкладинки березневого номера 2024 року. Ця ШІ-модель швидко завоювала популярність у соцмережах і на платформах для дорослих, як-от Patreon та FanVue, ставши новим феноменом у світі цифрового контенту.

А тепер до неприємного. Дослідження дипфейк-відео, а саме дослідження фейкового порно компанією DeepTrace Labs, дало зрозуміти, що воно майже повністю спрямоване проти жінок.

Минулого місяця в соціальних мережах широко обговорювались сексуальні діпфейки з Тейлор Свіфт, але вона не єдиний об’єкт таких атак.

Нині кількість порнографічних діпфейків лише зростає. За даними стартапу Home Security Heroes, кількість таких відео в мережі зросла на 550% з 2019 по 2023 рік, досягнувши понад 95 тисяч. DeepTrace повідомляє, що 96% всіх дипфейків створені з жінками без їхньої згоди.

Але є позитивне «але» — скандал з Тейлор Свіфт може призвести до регулювання порнографічних дипфейків. Оскільки негайна реакція Тейлор Свіфт на дипфейк, в тому числі осуд від її прихильників, громадськості та навіть законодавців і у США, і в ЄС стала поштовхом до того, що сенатори США вже пропонують законопроєкт для заборони створення такого контенту, як з використанням ШІ, так і з традиційними інструментами редагування.

Відповідальність за кордоном

В Австралії, до прикладу, закони вже криміналізують сексуальне насильство на основі зображень. А в Китаї розміщення будь-якої публікації із завідома неправдивою інформацією, в тому числі й фото/відео, що створена за допомогою технології дипфейку, визнається злочином. Відповідно всі публікації, які містять цю технологію, повинні бути відзначені спеціальною відміткою, що повідомлятиме користувачам про використання ШІ.

У Європейському Союзі також планують визначити кримінальну відповідальність за створення підробних відео. Було досягнуто згоди ухвалити Директиву про боротьбу з насильством щодо жінок та домашнім насильством, яка криміналізує фізичне, а також психологічне, економічне та сексуальне насильство щодо жінок у всьому ЄС, як офлайн, так і онлайн. Крім того, за новими правилами будуть криміналізовані найпоширеніші форми кібернасильства, в тому числі обмін інтимними зображеннями без згоди (включаючи дипфейки), кіберпереслідування та кібердомагання.

Відповідальність в Україні

Використання оманливих відео та фото, які завдають шкоди честі та гідності особи, може бути підставою для відповідальності. Згідно з нормами українського законодавства про захист персональних даних, використання та обробка персональних даних, включаючи фотографії, дозволені лише з дотриманням чітко встановлених правил. Несанкціоноване використання зображень особи у відео, що маніпулюють реальністю, є порушенням права на приватність та може бути оскаржене в судовому порядку.

У випадках, коли особи використовують ШІ для створення та поширення порнографічних дипфейків, такі дії мають наслідок — кримінальну відповідальність. У рамках кримінального розслідування проводиться аналіз, який виявляє ознаки фальсифікації, такі як некоректні тіні, неприродні рухи очей та міміки, логічні невідповідності. Ці методи дозволяють виявити порушників, які зловживають технологією дипфейків, та притягнути їх до відповідальності. 

Наразі Кримінальний кодекс України передбачає відповідальність за ввезення, виготовлення, збут і розповсюдження порнографічних предметів (зображень, творів) відповідно до статті 301. Такі дії караються штрафом від 17 000 до 68 000 гривень або арештом на строк до 6 місяців, або обмеженням волі на строк до 3 років.

18 серпня 2023 у Верховній Раді було зареєстровано Проєкт Закону №9623 про внесення змін до Кримінального кодексу України щодо забезпечення свободи від втручання в приватне життя людини, який передбачає декриміналізацію порнографії. Але це не означає, що створення порнографічних дипфейків у разі ухвалення законопроєкту не буде притягуватися до відповідальності. Законопроєкт пропонує криміналізувати такі діяння: (1) розповсюдження або збут порнографії без згоди особи, яка у ній зображена, або (2) виготовлення такої продукції із зображенням особи, якій не відомо про такі дії. 

Відповідальність передбачається у вигляді штрафу від 17 000 до 51 000 гривень або арешт на строк до 6 місяців, або обмеження волі на строк до 3 років.

Пропонований склад злочину не охоплює всі можливі форми сталкінгу чи сексуального домагання, обмежуючись лише вузьким переліком дій. До прикладу не враховуються погрози розповсюдження порнографії без згоди особи. 

Сервіс Take It Down

Розвиток технологій дипфейків та ШІ відкриває нові можливості та виклики для суспільства. З одного боку, це інструменти, які можуть бути використані для розваг, освіти та позитивних змін. З іншого — вони несуть ризики зловживань, порушення приватності та поширення дезінформації.

У відповідь на ці виклики, компанії та уряди починають впроваджувати інструменти та законодавство для регулювання та контролю за використанням дипфейків. 

Наприклад, сервіс Take It Down був інтегрований в останній місяць компанією Meta спільно з декількома популярними платформами для дорослих, включаючи OnlyFans і Pornhub. Цей сервіс надає можливість підліткам анонімно повідомляти про небажані відверті зображення та відео, які були розміщені в інтернеті без їхньої згоди. Інструмент працює як з фотографіями, так і з відео, створеними за допомогою ШІ.

Take It Down було розроблено Національним центром зниклих та експлуатованих дітей США, а його роботу частково фінансує Meta Platforms. Серед платформ, які підтримують цю ініціативу, — Facebook, Instagram, Yubo, OnlyFans та Pornhub. Проте, якщо зображення було розміщено на сторонньому сайті або передано через зашифровану платформу, воно не підлягає видаленню через цей сервіс.

Нещодавно цей сервіс став доступним і в Україні, про що повідомила громадська організація EdCamp Ukraine. Користувачі можуть ознайомитися з можливостями платформи та залишити заявку на видалення контенту анонімно.

Також, як згадувалося раніше, законодавство в деяких країнах вже включає положення, що стосуються дипфейків.

В Україні, хоча спеціалізоване законодавство ще в процесі розробки, чинні закони вже надають певний захист від неправомірного використання фото та відео. Розвиток національного законодавства та міжнародної співпраці є ключовими для гарантування безпеки та приватності людини в цифровому світі. А поки що, в Україні основну боротьбу з дипфейками ведуть громадські організації та медіа.

І ще одне ключове питання, яке постає, — хто буде нести відповідальність: розробник або власник програми, яка використовує технології ШІ для створення дипфейків або користувач та розповсюджувач дипфейків? На шляху до з’ясування та визначення значний вплив матиме Artificial Intelligence Act (Закон про штучний інтелект ЄС), який було ухвалено 13 березня 2024 року. Україна як кандидат на вступ до ЄС повинна також його ухвалити. Сам Акт почне діяти не раніше як 2026 року, але з негативними викликами ШІ технологій держави стикаються вже сьогодні. Таким чином, баланс між інноваціями та захистом прав людини залишається пріоритетом у відповідь на швидкий розвиток технологій.

Авторка: Ольга Зав’язун, юристка практики Супроводу бізнесу в Juscutum.