Провідні представники європейського технологічного сектору приєдналися до закликів уповільнити розвиток штучного інтелекту, посилаючись на ризики, які ця технологія становить для людства. Про це вони заявили під час Форуму генеральних директорів Fortune у Лондоні, повідомляє Fortune.
«Уповільнення темпів розвитку цієї технології є важливим, але воно потребує регулювання на рівні урядів і правозастосування в різних країнах, щоб працювати», — сказала Піп Вайт, керівниця напрямків Великої Британії, Ірландії, Північної Європи та Ізраїлю в Anthropic. Її коментарі пролунали після того, як генеральний директор Anthropic Даріо Амодеї опублікував у соцмережах заклик до компаній, що працюють над ШІ, стримати розробку передових моделей. У дописі він закликав до глобальної координації для подолання ризиків ШІ та заявив, що Anthropic «в односторонньому порядку» зобов’язується надати зовнішнім оцінювачам доступ до своїх моделей, навчальних процесів і процедур для забезпечення їхньої безпеки.
Пропозицію Амодеї підтримали генеральний директор OpenAI Сем Альтман, очільник SpaceX Ілон Маск і Деміс Гассабіс, співзасновник і голова Google DeepMind. Альтман і Амодеї 23 вересня поінформували Раду Безпеки ООН про загрози неконтрольованого ШІ та необхідність глобальної узгодженості для гарантування безпеки технології. «Більшість людей у нашій галузі бачать ризики й стурбовані, і це вимагає глобальних координаційних зусиль для найкращих можливих результатів», — додала Вайт.
Занепокоєння навколо ШІ різко зросло після того, як колишній співробітник Anthropic і OpenAI Джейкоб Коксон висловив побоювання, що «жодна з компаній не діє відповідально», додавши, що він та інші розробники ШІ «щиро вірять, що це може вбити нас усіх до кінця десятиліття». Цього тижня стало відомо, що агент OpenAI у червні проник на урядовий вебсайт Австралії та отримав доступ до даних Medicare. Інцидент залишався непоміченим три місяці й був виявлений лише після «ретельного перегляду» моделей OpenAI. Компанія заявила, що співпрацює з австралійським урядом для усунення потенційних уразливостей. Це, ймовірно, перший відомий випадок зламу державної системи неконтрольованим ШІ-агентом, що посилило побоювання щодо загроз технології.
Microsoft відреагувала на зростаючі занепокоєння публікацією кодексу поведінки, який визначатиме навчання її моделей і гарантуватиме, що ШІ залишається «підпорядкованим і завжди служить людям». «Штучний інтелект має бути риштуванням для людських амбіцій», — сказав Самер Абу-Лтайф, президент Microsoft у Європі, на Близькому Сході та в Африці, на форумі. «Потреба в регулюванні є безумовною передумовою для того, щоб ми могли відповідально впроваджувати інновації». Він пояснив, що новий кодекс діятиме як «обмежувачі», аби технологія «дотримувалася етики». Водночас Абу-Лтайф наголосив, що глобальна координація необхідна, щоб уникнути ситуації, коли компанії в різних країнах мають відповідати різним регуляторним стандартам. «Регулятори в різних країнах роблять те, що мають робити, але це несе ризик фрагментації, а іноді керується страхом, а не можливостями», — сказав він.
Деякі європейські політики залишаються скептичними щодо закликів до уповільнення ШІ. Міністр фінансів Франції Ролан Лескюр заявив Reuters, що бачить «власний інтерес» у проханні до всіх інших сповільнитися, щоб провідні компанії могли зберегти перевагу. Міністерство цифрових справ Німеччини заявило, що зупинка розвитку ШІ не є життєздатним варіантом для Європи. Французька компанія Mistral також звинуватила американські ШІ-компанії у використанні поточного страху для «консолідації ринкової позиції» та просування регулювання, яке поставить менших конкурентів у невигідне становище.
Даніель Халм, головний директор зі штучного інтелекту рекламного гіганта WPP, сказав, що домогтися згоди всіх компаній і країн на паузу нереалістично. «Я не думаю, що буде уповільнення ШІ. Я не думаю, що хтось погодиться сповільнити темпи», — додав він. Попри нещодавні заклики до уповільнення, Anthropic і OpenAI цього тижня випустили доступніші версії своїх передових моделей. Халм зазначив, що регулятори мають зосередитися на шкоді, яку ШІ може завдати при необережному використанні. «Чи найняли б ви п’яного випускника на цю роботу? Якщо ні, вам, ймовірно, не варто використовувати для неї ШІ». Він також запропонував тестувати ШІ незалежними організаціями перед випуском і радив урядам наслідувати методи регулювання інших галузей, як-от клінічні випробування у фармацевтиці. «Нам не потрібно винаходити колесо», — підсумував Халм.
3
