Google забороняє у своєму маркетплейсі ШІ-застосунки, які «роздягають» людей

Для розробників ШІ-застосунків маркетплейс Google Play випустив нові правила, які мають запобігти створенню фальшивих оголених тіл та іншому образливому контенту. Про це пише TechCrunch.

  • Тепер, щоб потрапити на маркетплейс, застосунки із функціями штучному інтелекту мають запобігати створенню сексуального чи насильницького контенту, а також надавати користувачам можливість позначати знайдений ними такий вміст.
  • Google Play заборонятиме застосунки, які рекламують «роздягання» людей чи генерування оголеного тіла людини без її згоди. Розробники також не можуть рекламувати, що їхній застосунок порушує будь-які правила Google Play. Якщо таке помітять — застосунок видалять із платформи.
  • Йдеться, що розробники несуть відповідальність за захист своїх застосунків від підказок про те, як можна зманіпулювати ШІ для створення образливого контенту.
  • Google рекомендує проводити закриті тестування з користувачами та документувати їх, оскільки компанія може попросити переглянути їх у майбутньому.

Чому це важливо

Дискусії про безпечність штучного інтелекту точаться чи не з перших днів, відколи він став популярним і доступним. ШІ використовують безліч компаній для покращення життя та роботи людей, зокрема Україна використовує його у війні з росіянами

Але також штучним інтелектом не нехтують шахраї, аферисти та злочинці. AIN.UA розповідав низку історій про це. Зокрема, як шахраї використовують технологію deepfake у любовних аферах. 

Як пише TechCrunch, американські школи повідомляють про те, що учні генерують оголені фото інших школярів чи вчителів для знущань і домагань. Нещодавно журналісти видання 404 Media виявили застосунок для Instagram, який використовував фото інфлюенсерки Кім Кардашян і слоган: «Роздягни будь-яку дівчину безкоштовно». 

Після розголосу Apple і Google вилучили ці застосунки зі своїх магазинів, але проблема все ще широко актуальна.

Залишити коментар

Коментарі | 0

Пошук