Для компаній, які впроваджують штучний інтелект, головне питання тепер стосується не того, з якої країни походить модель, а того, куди потрапляють їхні дані. Про це йдеться у матеріалі співзасновника платформи Ollama, найбільшого у світі сервісу для локального запуску відкритих моделей. За його словами, керівників цікавлять прості запитання: куди йдуть дані під час роботи з моделлю, хто їх бачить і скільки часу їх зберігають.
Занепокоєння посилилося через серію нещодавніх хакерських атак, зокрема вразливість PHP2Shell, яка залишила вразливими мільйони вебсайтів у всьому світі. Водночас ШІ дедалі глибше входить у повсякденну роботу бізнесу. Інструменти для написання коду, системи безпеки та внутрішні асистенти надсилають моделі великі обсяги інформації: вихідний код, внутрішні документи, дані клієнтів і контекст щоденної роботи команд. Така інформація має високу цінність для компанії і водночас може бути цікавою тим, хто хоче навчити власну модель.
Автор наголошує, що ситуація не є однозначною. Частина сервісів пропонує нижчі ціни в обмін на право навчати моделі на надісланих даних. Для клієнта це може бути прийнятною угодою, якщо він свідомо на неї погоджується. Інші провайдери обіцяють політику нульового зберігання: запити обробляються, але не зберігаються і не використовуються для навчання. Між цими крайнощами лежить широка сіра зона, де дані не використовують для навчання, але можуть зберігати протягом кількох днів. Компаніям, за його словами, варто ставитися до зберігання даних так само, як до будь-якого іншого ризику від постачальника: ставити питання прямо, отримувати відповідь у письмовій формі та за замовчуванням обирати нульове зберігання.
Окреме питання стосується самого типу моделей. Відкриті моделі раніше часто вважали менш безпечними, однак на практиці багато підприємств бачать протилежне. Їх можна запускати у власному середовищі компанії, тоді дані взагалі не виходять за її межі, або через довіреного провайдера в регіоні, який погодила служба комплаєнсу. У будь-якому разі вибір місця зберігання даних залишається за компанією. Автор посилається на дані Menlo Ventures, за якими частка відкритих моделей у корпоративному використанні зростає, що, на його думку, свідчить про значне майбутнє зростання.
За даними Ollama, близько 10 мільйонів розробників у світі щомісяця використовують платформу для запуску відкритих моделей, а це трильйони токенів на день. Понад 85 відсотків компаній зі списку Fortune 500 встановили Ollama на робочі комп’ютери для локального запуску моделей. Серед причин — нижча вартість і порівнянна або краща продуктивність у більшості завдань розробки програмного забезпечення.
Автор наводить приклади з власних клієнтів. Фінтех-компанія, за його словами, витратила 60 відсотків річного бюджету на ШІ лише за три місяці договору з передовою моделлю, причому 85 відсотків цих витрат припали на інженерів, які за замовчуванням використовували найдорожчі варіанти. Після двох тижнів, коли більшість інженерних завдань передали відкритим моделям, а складні задачі залишили за передовими, компанія отримала миттєву економію на вартості токенів у розмірі 30 відсотків. Інший великий споживчий ШІ-бізнес, який витрачав понад 10 мільйонів доларів на передові моделі, виявив, що відкрита модель Gemma 4 у внутрішній оцінці зрівнялася з моделлю, яку вони використовували, за приблизно одну десяту вартості.
Відкриті моделі також стають практичним інструментом для кіберзахисту. Команди безпеки мають розбирати шкідливий код, перевіряти власні системи та реагувати на інциденти в режимі реального часу. Доступ до таких можливостей у закритих моделях може бути обмеженим окремими програмами, тоді як відкриті моделі доступні будь-якій команді, якій вони потрібні. Автор визнає, що відкриті моделі не застраховані від зловживань, але вважає, що відповідь полягає не в тому, щоб позбавити захисників інструментів, а в тому, щоб запускати їх обережно, на перевіреній інфраструктурі та з чіткими правилами роботи з даними.
Він також посилається на заявку Anthropic, у якій компанія визнає, що кібер- та безпекові ризики можуть затримати випуск її найпотужніших моделей. Такий підхід може бути відповідальним, але залежність від одного обмеженого провайдера означає, що захисники можуть залишитися без доступу саме тоді, коли він потрібен найбільше. Автор підсумовує, що моделі розвиваються швидше, ніж більшість корпоративних політик у сфері ШІ встигають за ними, і саме тому компаніям варто переглянути власні правила роботи з даними вже зараз.
Джерело: fortune.com
12
