Meta впроваджує нові сповіщення для батьків щодо обговорень дітей із штучним інтелектом
Компанія Meta оголосила про впровадження нових сповіщень для батьків, чиї діти обговорюють чутливі теми з штучним інтелектом. Це оновлення має на меті допомогти батькам бути в курсі потенційних загроз, пов’язаних з взаємодією їхніх дітей із чат-ботами на основі штучного інтелекту.
Згідно з новими функціями, Meta повідомлятиме батьків, коли їхня дитина займається розмовами на теми, пов’язані з самогубством або самоушкодженням. Якщо підліток виявить наміри, пов’язані з цими темами, батьки отримають сповіщення, яке міститиме посилання на відповідні ресурси підтримки.
Представники Meta пояснили, що коли підліток висловлює думки про самогубство чи самоушкодження, штучний інтелект вже перенаправляє їх до кризових гарячих ліній та заохочує звернутися до батьків або інших довірених дорослих, таких як консультанти. Тепер компанія також проактивно інформуватиме батьків, якщо розмова їхньої дитини з чат-ботом свідчитиме про ризик, спираючись на сигнали, розроблені у співпраці з експертами.
Meta зазначила, що сповіщення спочатку включатимуть різноманітні сигнали, оскільки компанія прагне дотримуватись обережності у цих питаннях. Водночас Meta працює над уточненням своїх повідомлень, щоб максимізувати безпеку без завдання стресу батькам.
На сьогоднішній день ці сповіщення доступні для батьків, які використовують інструменти контролю за дітьми в Instagram в США, Великій Британії, Австралії та Канаді, а до кінця року мають стати доступними для батьків у всьому світі.
Крім того, підлітки також отримають інформацію про ці оновлення. Це може бути корисним, оскільки дедалі більше людей звертаються до чат-ботів за підтримкою та порадами. Дані свідчать, що молоді користувачі, зокрема, все частіше шукають керівництво від систем, що працюють на основі штучного інтелекту.
Згідно з дослідженням, проведеним у співпраці з Університетом Брауна, Гарвардською медичною школою та RAND, яке було опубліковано у листопаді, приблизно один з восьми підлітків та молодих дорослих у США звертаються до AI-чат-ботів за порадами у питаннях психічного здоров’я. Це узгоджується з дослідженням, проведеним організацією Common Sense Media, яке показало, що 72% підлітків пробували AI-компаньйонів, а 12% використовували AI-ботів для емоційної підтримки.
Окрім сповіщень для батьків, Meta розробляє нову систему, яка буде контактувати з екстреними службами, якщо будь-яка розмова з AI, незалежно від вікової групи, вказуватиме на те, що користувач може бути в небезпеці самогубства.
Це доповнює роботу, яку компанія вже виконує на Facebook та Instagram: коли з’являється інформація про пост, що свідчить про реальний ризик самогубства, Meta сповіщає екстрені служби. Минулого року компанія здійснила понад 19,000 таких звернень у всьому світі, допомагаючи службам екстреного реагування проводити перевірки благополуччя осіб, які можуть бути в небезпеці.
Meta також підтвердила, що підлітки, які спілкуються з AI, автоматично мають налаштування контенту 13+, що забезпечує відповіді відповідно до віку і не реагує на чутливі запити.
Зокрема, Meta AI навчено не вступати в сексуальні або романтичні розмови з підлітками або не надавати рецепти алкогольних напоїв, перенаправляючи їх на безпечніші теми.
Ці зміни відбулися після повідомлень про те, що Meta дозволила своїм AI-чат-ботам вести неналежні розмови з неповнолітніми. Компанія переглянула свій підхід у квітні, додавши новий елемент у свої інструменти нагляду за підлітками, який дозволяє батькам відслідковувати, що їх діти запитують у чат-бота.
В цілому, ці оновлення мають на меті підвищити безпеку підлітків. Проте, поки що невідомо, який вплив матимуть інструменти взаємодії з AI на підлітків або дорослих з часом, особливо щодо чутливих тем.
Цього тижня законодавці в Китаї вирішили заборонити романтичні стосунки з AI-чат-ботами через занепокоєння щодо їх негативного впливу.
Хоча це може здатися обґрунтованим, справжній рівень шкоди може бути виміряний лише заднім числом, після того, як вже буде завдано шкоди.
