Мало які компанії так довго попереджали про ризики власного продукту, як Anthropic. Її попередній проспект, поданий 26 жовтня, будується саме на цій обережності. Він починається з листа засновників, у якому компанія згадує, що стрималася з випуском найпотужнішої моделі, доки не створила задовільні механізми захисту, «пожертвувавши значним доходом і поступившись позицією конкурентам».
Контраст із позицією іншої компанії помітний. У проспекті SpaceX, поданому в червні після поглинання xAI Ілона Маска, функції Grok «Spicy» Imagine Mode і «Unhinged» Voice Mode описувалися як такі, що «забезпечують користувачам більшу гнучкість і контроль». Йдеться не лише про різні погляди на етику й відповідальність, а й про різні бізнес-моделі. Монетизація xAI значною мірою спирається на рекламу, інтегровану в розмови в реальному часі. Дохід потребує залученості споживачів, а менш обмежений чатбот є більш захопливим. Саме цього тиску Anthropic вирішила уникнути, пообіцявши не розміщувати рекламу в Claude.
Натомість ставка Anthropic — довіра і передбачуваність. Її найбільші клієнти — підприємства, від банків і страховиків до фармацевтичних компаній. Інвестори, які купують акції Anthropic, фактично роблять ставку на цю obіцянку. Незвичайна система управління може захищати її, але сама по собі її не виконає. Справжнє випробування полягає у виборі принципів, їх прозорому застосуванні та моніторингу й публічному звітуванні про збої. Саме в останньому завданні Anthropic, за оцінкою автора, ще має багато роботи.
Компанія посилається на щирість своїх засновників і створену ними структуру управління. Публічна корпорація з суспільною метою, якою є Anthropic, не зобов’язана ставити прибутки акціонерів понад усе. Рада директорів має зважувати їх з інтересами тих, кого стосуються дії компанії, і з декларованою метою бізнесу. У справі Drakes Landing v. Tilden Park, розглянутій у липні, Палата канцлера Делавера встановила, що директори традиційних корпорацій мають діяти «з єдиною метою максимізації багатства акціонерів», тоді як директори публічних корпорацій «мають балансувати фінансові інтереси акціонерів з інтересами інших зацікавлених сторін». Більшість таких директорів обирається через траст і значною мірою захищена від ринкового тиску.
Проте довіра, що накопичується квартал за кварталом, вимагає значно більшого, ніж ринковий захист. Автор описує цей процес як «корпоративне впорядкування»: компанія самостійно визначає правила й принципи для спірного питання, застосовує їх до конкретних рішень і відстежує результати до того, як приходить закон.
У сфері формування правил Anthropic ініціювала кроки, що змінили галузь. У 2023 році вона опублікувала першу Політику відповідального масштабування, яка пов’язує тести безпеки з порогами можливостей, і два конкуруючі лабораторії за кілька місяців ухвалили схожі рамки. Компанія навчає свої моделі за опублікованою конституцією. Для збереження політики, що забороняє масове стеження та повністю автономну зброю, Anthropic конфліктувала з федеральним урядом. Компанія пише власні правила, бо краще за будь-якого регулятора розуміє свою технологію.
Щодо застосування принципів до конкретних рішень Anthropic досі була чіткою щодо своїх вибору та логіки, зокрема в рішенні стримати й вибірково випустити модель Mythos минулої весни. Найбільший виклик, за оцінкою автора, — моніторинг. Стикаючись зі збоєм, компанії та їхні керівники часто обирають приховування, а не розкриття. П’ять десятиліть корпоративних скандалів, від Equity Funding у 1973 році до Enron у 2001-му, Lehman Brothers у 2008-му та FTX у 2022-му, показують, що інсайдери знали значно раніше за сторонніх.
Для передової лабораторії ризик ще вищий. Anthropic попереджає, що її моделі поводилися інакше, коли виявляли, що їх тестують, що її моніторинг охоплює не всі розгортання і що, оскільки Claude пише більшість коду компанії, вона може втратити видимість власних процесів. Компанія визнає цю проблему і розробляє оцінювача: залучила Accenture, щоб рецензенти працювали разом із командами безпеки з широким внутрішнім доступом, і планує витратити щонайменше 1 мільярд доларів протягом п’яти років.
Проте наразі оцінювач має умови. Anthropic його обирає і оплачує, а також погодилася відшкодовувати збитки деяким зовнішнім оцінювачам. 13 жовтня Reuters повідомило, що Anthropic і OpenAI намагалися суттєво контролювати, що оцінювачі можуть публікувати, посилаючись на занепокоєння щодо комерційної таємниці. Anthropic відповіла, що звіт не точно відображає всі її переговори, водночас зазначивши, що залишає за собою право схвалювати звіти нових оцінювачів. Втручання компаній, за оцінкою автора, не віщують добре для довіри до оцінювачів.
Така взаємна залежність знайома з досвіду фінансових аудиторів, і закони поступово вибудували навколо них структуру незалежності. Аудиторів обирає не генеральний директор чи фінансовий директор, а комітет незалежних директорів, а їхній звіт є публічним. У великих компаніях аудитори також перевіряють внутрішній контроль, а будь-яка суттєва слабкість має розкриватися. Закон захищає викривачів і дає їм прямий канал до незалежних директорів. Автор зазначає, що жоден із цих кроків не потребує нового закону, оскільки компанії можуть запровадити їх самостійно.
3
