Наглядова рада Meta наказала компанію видалити два відео, створені штучним інтелектом, з Facebook, а також закликала до посилення заходів для боротьби з поширенням діпфейків.
Один із випадків стосується шотландського політика, якого в діпфейк-відео неправдиво зобразили, що він робить запальні коментарі про біженців. На відео видно, як радник нібито говорить: «Біженців тут вітають, навіть якщо вони ґвалтують наших жінок, бо білі люди теж це роблять».
Наглядова рада дійшла висновку, що відео, ймовірно, було синтетично згенероване, вказавши на відсутність синхронізації між аудіо та мімікою радника. Сам політик описав використання свого відтвореного голосу як «досить травматичне».
Як повідомляє The Guardian, Meta раніше відмовилася видаляти відео після його скарги.
За словами компанії, публікація не була позначена жодною з її «довірених партнерських» організацій і не виглядала як така, що впливає на виборчі процеси. Відео також не мало маркування про створення за допомогою ШІ.
Рада вважає, що Meta мала б видалити відео, оскільки воно порушує правила компанії щодо ненависницької поведінки, приписуючи біженцям як групі злочинну та хижацьку поведінку. Також зазначається, що відео мало бути чітко позначене як створене за допомогою ШІ.
У своєму рішенні рада характеризує наявні захисні механізми Meta як «послідовно і фундаментально неадекватні» для протидії швидкому зростанню контенту, створеного ШІ, на її платформах.
«Більшість вважає, що Meta потребує більш надійних політик щодо діпфейків, включно з розширенням ситуацій, коли можуть застосовуватися мітки «високого ризику», додатковими заходами для зменшення поширення оманливого контенту ШІ, посиленням покарань для акаунтів, які його неодноразово поширюють, та більшою прозорістю щодо даних про застосування міток ШІ», — йдеться в повідомленні.
Рада рекомендує дев’ять змін до політик Meta. Серед них — заходи для забезпечення того, щоб алгоритми зменшували поширення контенту, класифікованого як «високий ризик», і робили такий матеріал менш помітним у стрічках користувачів. Також запропоновано заходи, як-от попереджувальні екрани, які вимагатимуть від користувачів додаткового натискання перед переглядом певного контенту, створеного ШІ.
«Від політиків до приватних осіб, діпфейки, створені ШІ, все частіше використовуються для переслідування та замовчування жінок, які беруть участь у публічному дискурсі», — заявила Памела Сан Мартін, співголова Наглядової ради.
«Ці випадки демонструють ширшу, тривожну закономірність, коли жінки, які публічно висловлюються з певних питань, непропорційно зазнають переслідувань та дезінформації. Meta та інші соціальні платформи потребують надійніших політик для протидії поширенню діпфейків».
Наглядова рада була заснована Meta у 2020 році для перегляду складних рішень щодо модерації контенту та надання рекомендацій щодо політики. Її індивідуальні рішення щодо контенту є обов’язковими для компанії, тоді як її загальні рекомендації щодо політики — ні. Meta має 60 днів для відповіді на останні рекомендації.