Meta оголошує про новий інструмент виявлення AI, але він має обмеження
Компанія Meta представила новий інструмент виявлення зображень, створених штучним інтелектом, під час запуску свого моделі генерації зображень Muse Image. Проте, як показав аналіз Reuters, цей інструмент не зміг ідентифікувати деякі зображення, згенеровані самою компанією, після їх обрізки.
Дослідження, проведене Reuters, виявило, що з 40 зображень, створених за допомогою Muse Image, інструмент зміг підтвердити всі оригінальні AI-зображення, але не зміг ідентифікувати 55% тих же зображень після їх обрізки до приблизно третини або половини від початкового розміру.
На своєму сайті Meta стверджує, що інструмент виявлення здатний ідентифікувати свої власні зображення, навіть якщо вони були обрізані, завдяки невидимій системі водяних знаків, яка називається Content Seal. Ця система вбудована в кожне зображення, згенероване Muse Image, і призначена для допомоги користувачам у верифікації того, чи було зображення створено моделями AI Meta.
У відповідь на результати аналізу Meta зазначила, що інструмент є лише попередньою версією. Компанія зазначила, що водяний знак має залишатися незмінним після звичайних редагувань, але сигнал може бути втраченим, якщо зображення сильно обрізане.
Конкуренти Meta, такі як Google та OpenAI, також попереджають, що їхні інструменти виявлення не є абсолютно надійними проти технік зміни зображень.
У березні цього року Наглядова рада Meta, орган експертів, який приймає обов’язкові рішення та видає рекомендації щодо контенту на платформах компанії, закликала Meta зробити більше для боротьби з “поширенням оманливого контенту, згенерованого AI”, та інвестувати в більш потужні інструменти виявлення.
Сіуей Лю, професор комп’ютерних наук в Державному університеті Нью-Йорка в Баффало, який займається дослідженням комп’ютерної експертизи зображень, зауважив, що хоча він не оцінював інструмент Meta, системи на основі водяних знаків мають свої обмеження. “Методи на основі водяних знаків можуть бути дуже ефективними, коли водяний знак залишається незмінним, але будь-яке модифікування, яке видаляє або послаблює вбудований сигнал — наприклад, обрізка, зміна розміру, сильна компресія чи редагування — може зменшити їхню ефективність, залежно від того, як спроектовано водяний знак”, — зазначив Лю.
Сара Баррінгтон, дослідник AI та аспірант в Школі інформації UC Berkeley, сказала, що водяні знаки мають потенціал для майбутнього контенту, згенерованого AI, але можуть лише в певних межах вирішувати проблему. “Як і багато запобіжних заходів у кібербезпеці або фізичній безпеці, вони можуть не бути абсолютно надійними, але навіть якщо ми виявимо лише 90% випадків, це все ще великий крок від 0”, — додала вона.
