Колишня менеджерка з продукту Facebook Френсіс Гауген, чиї викриття 2021 року стали основою для фільму «The Social Reckoning», вважає, що генеральний директор Meta Марк Цукерберг «грає з вогнем», намагаючись наздогнати лідерів у сфері штучного інтелекту. Про це вона розповіла в інтерв'ю, коментуючи стрічку, яка вийшла в американський прокат цього тижня.
За словами Гауген, прагнення Цукерберга залишити по собі позитивну спадщину штовхає його до агресивної ШІ-стратегії, тоді як Meta досі відстає від таких компаній, як Anthropic та OpenAI. Вона зазначає, що очільник Meta активно виступає проти регуляторних ініціатив, аби мати простір для наздоганяння конкурентів. «Він хоче наздогнати, тому хоче, щоб не було жодних обмежень, поки він принаймні не опиниться за одним столом із великими гравцями», — сказала Гауген. Вона також не побачила змін у корпоративній культурі компанії від часу свого викриття.
Фільм «The Social Reckoning» режисера Аарона Соркіна є продовженням стрічки «The Social Network» 2010 року. Якщо перша розповідала про заснування Facebook, то нова — про момент розплати: рішення Гауген у 2021 році вийти з компанії з десятками тисяч сторінок внутрішніх документів. У фільмі її роль виконує Майкі Медісон, а журналіста Wall Street Journal Джеффа Горвіца, який отримав документи, грає Джеремі Аллен Вайт. Саме ці матеріали лягли в основу серії розслідувань The Facebook Files, яка, зокрема, виявила, що внутрішні дослідники компанії визнали: Instagram погіршує сприйняття власного тіла в частини дівчат-підлітків.
Гауген подала скарги до Комісії з цінних паперів і бірж США та свідчила в Сенаті. Її викриття згодом сприяли хвилі судових позовів проти соцмереж. Вона сподівається, що фільм спонукає працівників передових ШІ-лабораторій побачити себе в її персонажі. «Якщо вони щось бачать, то відчувають, що можуть про це сказати», — зазначила вона.
Попри загальну тривогу в ШІ-індустрії, Гауген не підтримує паузу в розробці штучного інтелекту. «Ми ніколи не робили заборони, яку могли б належно перевірити. Уповільнення означає лише, що переможе той, хто не хоче сповільнюватися», — пояснила вона. Замість мораторію вона підтримує ідею незалежних аудиторів, яку нещодавно запропонував генеральний директор Anthropic Даріо Амодеї. Він пропонує надати стороннім оцінювачам постійний доступ до перевірки практик безпеки та звітування про інциденти. Генеральний директор OpenAI Сем Альтман заявив, що його компанія готова до того ж.
На думку Гауген, найкращий спосіб мінімізувати шкоду від ШІ — зробити такий аудит обов'язковим на законодавчому рівні для всієї галузі, подібно до того, як зовнішні аудитори мають право перевіряти звітність банків. Вона визнає, що ШІ-компанії публікують значно більше досліджень про свої продукти, ніж свого часу Facebook, але сумнівається, чи опубліковане відображає реальний стан справ усередині компаній.
Окремо Гауген торкнулася теми модерації контенту. Частина її викриттів 2021 року стосувалася того, як Meta обробляла шкідливий контент. Деякі внутрішні документи свідчили, що компанія реагувала лише на 3–5% мови ворожнечі на платформі. Минулого року Meta змінила підхід до автоматичної модерації, зосередившись на найсерйозніших порушеннях, і замінила частину сторонньої програми фактчекінгу в США на систему Community Notes за зразком X. Цього року компанія пішла далі: у березні заявила, що менше покладатиметься на зовнішніх підрядників і людей-модераторів, а в червні Financial Times повідомила, що ШІ-моделі вже обробляють близько половини запитів на перевірку.
Гауген очікує, що досконаліші моделі робитимуть менше помилок і виявлятимуть більше шкідливого контенту, але не весь. За її оцінкою, на момент її виходу компанія виявляла близько 5% шкідливого контенту. Вона прогнозує, що навіть дуже просунутий ШІ зможе досягти лише 10–20%, оскільки мова надзвичайно нюансована. «Справжнє рішення — проєктувати системи безпечними від самого початку, а не просто намагатися очистити їх у кінці», — підсумувала вона.
7
