Сан-Франциско зобов’язав Apple і Google видалити застосунки для створення інтимних дипфейків

Міська влада Сан-Франциско наказала Apple і Google видалити зі своїх магазинів десятки застосунків, які за допомогою штучного інтелекту створюють із фотографій зображення оголених людей без їхньої згоди. Юридичні листи також вимагають від компаній зв’язатися з містом упродовж 28 днів.

Каліфорнійське законодавство криміналізує свідоме сприяння створенню несанкціонованої дипфейк-порнографії та дозволяє постраждалим подавати цивільні позови до сторонніх посередників. Міський прокурор заявив, що платформи не лише розміщували такі програми, а й обробляли платежі за незаконний контент, попри попередні попередження.

Реакція магазинів застосунків

Apple повідомила, що вже видалила три названі програми й припиняє участь їхніх розробників у своїй програмі. Ще чотири мають усунути порушення правил, інакше їх також видалять. Google заявила, що призупинила всі п’ять застосунків із листа та раніше заблокувала сотні подібних програм і пов’язані пошукові запити.

Рішення розширює регуляторний тиск на правила двох магазинів. Раніше британська CMA пропонувала змінити політику Apple і Google щодо зовнішніх оплат у застосунках, а тепер Сан-Франциско вимагає від тих самих платформ активного контролю незаконних ШІ-інструментів. Конкретний наступний крок — відповіді компаній місту протягом 28 днів і завершення видалення програм та облікових записів розробників, які не приведуть продукти у відповідність до закону.