Технічний директор Palantir Шям Санкар назвав середовище розробників штучного інтелекту в Кремнієвій долині «масовим психозом» і «соціальною оманою». В інтерв’ю програмі CBS «Face the Nation» він заявив, що частина дослідників почала курити, аби продемонструвати колегам свою віру в те, що ШІ здатен вилікувати рак. Прямих доказів цього твердження Санкар не навів.
«Багато дослідників почали курити як спосіб сигналізувати іншим дослідникам, наскільки сильно вони вірять у ШІ», — сказав він. За його словами, цей приклад ілюструє «соціальну оману» навколо штучного інтелекту: «Я показую, що всі мої фішки на столі. Тож є цей масовий психоз, соціальна омана навколо цього».
Санкар не уточнив, скільки саме дослідників справді взялися за цигарки. Водночас нікотинові продукти справді повертаються в офіси: раніше Fortune повідомляло, що Palantir встановила у своєму офісі у Вашингтоні автомати з безкоштовними нікотиновими пастилками для працівників віком від 21 року. Business Insider також писав, що деякі засновники стартапів відмовилися від культури здорового способу життя на користь куріння, зокрема заради нетворкінгу. «На момент, коли у вас з’явиться рак легенів, наші ШІ-роботи вже мають його вилікувати», — сказав виданню Аві Шиффманн, генеральний директор стартапу Friend, який випускає ШІ-гаджет.
За словами Санкара, куріння дослідників є симптомом «соціальної омани», яка, на його думку, охопила дискусію про безпеку ШІ. «Багато з тих людей у Кремнієвій долині, хто будує цю технологію, заповнили цю порожнечу машинним богом AGI», — додав він, посилаючись на ідею «богоподібної порожнечі», яку часто приписують французькому математику XVII століття Блезу Паскалю.
Санкар і раніше критикував окремих прихильників безпеки ШІ, пов’язаних з ефективним альтруїзмом — рухом, учасники якого вірять у використання раціональних процесів для досягнення найбільшого блага для найбільшої кількості людей. Він звинувачував їх у політизації дебатів про регулювання технологій. В останньому інтерв’ю він посилив критику: за його словами, «переважна більшість» дослідників ШІ в США поділяє світогляд ефективного альтруїзму, який він назвав «міленаріанським культом кінця світу». «Це майже як релігія, в якій вони думають про сценарії кінця світу від ШІ ще з початку 2000-х», — сказав Санкар.
Ефективний альтруїзм існує близько 15 років, але привернув широку увагу частково через справу Сема Бенкмана-Фріда, колишнього керівника криптобіржі, який підтримував рух, а згодом був засуджений до 25 років ув’язнення за шахрайство з інвесторами. Минулого місяця він попросив Верховний суд скасувати вирок і призначити новий розгляд. Хоча не всі ефективні альтруїсти займаються ШІ, а не всі дослідники безпеки ШІ пов’язані з цим рухом, деякі організації, близькі до нього, зокрема Open Philanthropy Action Fund, останнім часом виступають за регулювання ШІ, в тому числі через лобіювання. Багато членів руху працюють у провідних ШІ-компаніях, як-от Anthropic і OpenAI, де часто зосереджуються на безпеці ШІ, доводячи, що найбільше благо для людства — створити запобіжники, які не дадуть ШІ вийти з-під контролю.
Ці зусилля зробили ефективний альтруїзм цапом-відбувайлом для частини адміністрації Трампа. Зокрема, міністр оборони Піт Гегсет критикував рух у дописі на X під час конфлікту між Пентагоном і компанією Anthropic щодо використання її технологій уряду. Санкар, зі свого боку, заявив, що «пророки ШІ-апокаліпсису» здебільшого помилялися досі, і що аргументи окремих прихильників безпеки ШІ заважають ставити важливі питання: «Що відбувається з ШІ? Де він зустрічає американського робітника в промисловості? Які результати цього?»
Водночас останні приклади виходу ШІ з-під контролю людини непокоять експертів і громадськість. У липні дві моделі OpenAI вийшли з тестового середовища та зламали відкриту ШІ-платформу Hugging Face. Минулого тижня Anthropic повідомила, що під час тесту на початку цього року одна з її моделей надіслала фальшиву підказку до поліції Філадельфії, яку позначили як спам. Опитування Politico минулого місяця показало, що 63% американців вважають: ШІ становить щонайменше помірний ризик знищення людства.
5
