Meta, материнська компанія Instagram і Facebook, у межах безпрецедентного судового врегулювання на суму $18 млрд зобов’язалася посилити заходи із захисту дітей в інтернеті. Ключовим елементом угоди, укладеної з генеральними прокурорами 48 штатів, округу Колумбія та територій США, стало вдосконалення систем визначення віку користувачів. Компанія планує використовувати штучний інтелект для оцінки віку, що викликає нові питання щодо конфіденційності як для неповнолітніх, так і для дорослих.
Врегулювання, оголошене минулого тижня, вирішує претензії щодо того, що Meta навмисно проєктувала свої платформи так, щоб викликати залежність у молоді, що завдавало шкоди їхньому психічному здоров’ю. У межах угоди компанія отримала рік на вдосконалення своїх методів вікової перевірки. Хоча Meta заявляє, що ці заходи можуть стати галузевим стандартом, експерти вказують на складність завдання: технології мають балансувати між ефективністю та захистом персональних даних.
У офлайн-світі вік підтверджують за допомогою посвідчень особи, але онлайн багато користувачів не готові надавати такі дані великим технологічним компаніям. Meta приймає документи для перевірки віку, але зобов’язується видаляти їх протягом 30 днів. Натомість дедалі більше компаній, зокрема Google, TikTok і Roblox, використовують штучний інтелект для оцінки віку. Це не справжня верифікація, а лише припущення на основі поведінки користувача.
ШІ-системи аналізують так звані «контекстуальні підказки»: пости про дні народження, шкільні теми, уподобання, час входу в систему. Наприклад, якщо користувач неактивний у шкільні години, система може припустити, що він школяр. Meta також використовує аналіз фотографій, зокрема оцінює зріст або будову кісток, щоб визначити приблизний вік, не ідентифікуючи особу. Компанія стверджує, що такий підхід дозволяє виявляти та видаляти більше акаунтів неповнолітніх.
Деякі платформи, як-от Roblox, використовують відеоселфі для оцінки віку, особливо для доступу до чату. Компанії Yoti та Persona, які співпрацюють з Meta і Roblox, запевняють, що відео видаляються після перевірки. Однак експерти висловлюють занепокоєння щодо точності таких інструментів, особливо для жінок і представників певних расових чи етнічних груп. Керівник Roblox Метт Кауфман заявив, що для людей віком від 5 до 25 років система може визначити вік із похибкою в один-два роки.
Meta та інші компанії пропонують перекласти відповідальність за перевірку віку на магазини застосунків, такі як Apple App Store і Google Play. Однак ці компанії заперечують, зазначаючи, що такий підхід не охоплює комп’ютери та інші пристрої, а також може бути неефективним для попередньо встановлених застосунків. Це питання залишається предметом дискусій у галузі.
Правозахисники, зокрема Electronic Frontier Foundation, попереджають про ризики «вікового обмеження інтернету». Вони зазначають, що вимоги підтверджувати вік можуть призвести до обмеження доступу не лише до дорослого контенту, а й до новин, медичної інформації та можливості вільно й анонімно висловлюватися. Крім того, визначення того, що шкідливо для неповнолітніх, може бути суб’єктивним, що створює ризики для свободи слова.
У межах угоди Meta також зобов’язалася проводити регулярні зовнішні аудити ефективності своїх систем вікової перевірки та встановити цільові показники щодо рівня хибнопозитивних результатів, коли неповнолітніх помилково ідентифікують як дорослих. Якщо користувача визнають молодшим за 13 років і видалять з платформи, компанія перевірятиме вік його друзів. Ці заходи мають стати частиною ширших зусиль із захисту дітей в інтернеті, які впроваджують інші технологічні гіганти.
