Для розробників ШІ-застосунків маркетплейс Google Play випустив нові правила, які мають запобігти створенню фальшивих оголених тіл та іншому образливому контенту. Про це пише TechCrunch.
- Тепер, щоб потрапити на маркетплейс, застосунки із функціями штучному інтелекту мають запобігати створенню сексуального чи насильницького контенту, а також надавати користувачам можливість позначати знайдений ними такий вміст.
- Google Play заборонятиме застосунки, які рекламують «роздягання» людей чи генерування оголеного тіла людини без її згоди. Розробники також не можуть рекламувати, що їхній застосунок порушує будь-які правила Google Play. Якщо таке помітять — застосунок видалять із платформи.
- Йдеться, що розробники несуть відповідальність за захист своїх застосунків від підказок про те, як можна зманіпулювати ШІ для створення образливого контенту.
- Google рекомендує проводити закриті тестування з користувачами та документувати їх, оскільки компанія може попросити переглянути їх у майбутньому.
Чому це важливо
Дискусії про безпечність штучного інтелекту точаться чи не з перших днів, відколи він став популярним і доступним. ШІ використовують безліч компаній для покращення життя та роботи людей, зокрема Україна використовує його у війні з росіянами.
Але також штучним інтелектом не нехтують шахраї, аферисти та злочинці. AIN.UA розповідав низку історій про це. Зокрема, як шахраї використовують технологію deepfake у любовних аферах.
Як пише TechCrunch, американські школи повідомляють про те, що учні генерують оголені фото інших школярів чи вчителів для знущань і домагань. Нещодавно журналісти видання 404 Media виявили застосунок для Instagram, який використовував фото інфлюенсерки Кім Кардашян і слоган: «Роздягни будь-яку дівчину безкоштовно».
Після розголосу Apple і Google вилучили ці застосунки зі своїх магазинів, але проблема все ще широко актуальна.
