ШІ-фейки проти реальних людей: наглядова рада Meta вимагає жорсткіших правил

Йдеться про ролики, в яких ШІ приписав реальним людям слова й дії, яких вони ніколи не робили. Один із них стосувався шотландського радника від Лейбористської партії: штучний інтелект вклав йому в уста фразу про біженців та «зґвалтування наших жінок». Політик цього не говорив. Рада зауважила навіть технічну деталь — звук не збігався з рухами обличчя, що викривало підробку.

Другий випадок — про молоду мусульманку з Європи, яка бере участь у кампанії з підвищення обізнаності про менструальне здоров'я та зменшення стигми щодо здоров'я жінок і дівчат з етнічних меншин. За допомогою ШІ її зображення вставили у відео, де жінку нібито показували за абсурдними фізичними вправами та вживанням шкідливої їжі.

Спершу фейсбук вирішив, що порушень немає. Наглядова рада, яку часто називають «верховним судом» компанії, категорично не погодилася і зобов'язала Meta видалити обидва відео. У випадку з мусульманкою контент визнали порушенням правил щодо булінгу та домагань.

Після розгляду цих справ рада запропонувала цілий пакет змін. Серед них — частіше ставити позначки про високий ризик введення в оману, зменшувати поширення такого контенту через алгоритми рекомендацій і додавати попередження перед переглядом окремих ШІ-матеріалів. Також пропонують суворіше карати акаунти, які регулярно поширюють оманливі ШІ-відео, і більше розповідати користувачам, коли та чому контент отримав позначку про використання штучного інтелекту.

Окремо рада наполягає розширити визначення небажаних маніпулятивних зображень. Зараз воно не покриває дипфейки приватних людей, яких неправдиво показують такими, що роблять або говорять те, чого насправді не було. Саме ця прогалина й дозволила обом відео спершу залишитися в мережі.