Євгеній Демківський Автор новин видання "Межа" та гік.Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю. 28 серпня, 09:38 0
Понад сотня організацій, що працюють у сферах технологій, фінансів та кібербезпеки, виступили із попередженням: протягом наступних місяців кібератаки, керовані штучним інтелектом, можуть стати значно частішими та витонченішими. Вони наголосили на нагальній потребі для бізнесу та урядів посилити захист критично важливої інфраструктури.
Ця заява міститься у відкритому зверненні, підписаному такими компаніями, як OpenAI, Anthropic, Google, Microsoft, AWS, AMD, Cloudflare, CrowdStrike, IBM, Mastercard, Oracle, Visa та багатьма іншими. Серед об’єктів, що потенційно можуть зазнати нападів, автори згадують медичні заклади, системи забезпечення водою, муніципальні структури та інфраструктурні мережі, що підтримують функціонування інтернету.
На думку тих, хто поставив свої підписи під цим документом, існуючі інструменти кіберзахисту виявляться недостатніми. Системи залишаються вразливими через невиправлені програмні дефекти, надмірні права доступу, некоректні конфігурації, слабкі методи автентифікації та застаріле програмне забезпечення. Хоча штучний інтелект може прискорити процес виявлення та експлуатації таких проблем зловмисниками, він також може допомогти оборонцям у швидшому їх ідентифікуванні та усуненні.
Організаціям рекомендується поставити кібербезпеку в пріоритет на рівні керівництва, переглянути надані права доступу, актуалізувати застарілі системи та підвищити вимоги до програмного забезпечення, яке закуповується чи розробляється власними силами. Окремо пропонується проводити більш ретельну перевірку коду, згенерованого за допомогою ШІ.
Виробникам захисних рішень радять безперервно тестувати свої продукти на відповідність можливостям передових моделей ШІ, інтегрувати інструменти на базі штучного інтелекту та активно обмінюватися інформацією про виявлені загрози. Їм також слід допомагати операторам критичної інфраструктури впроваджувати захисні механізми та перевіряти ефективність виправлень усунення вразливостей.
Урядам пропонується виділяти кошти на кіберзахист установ, які страждають від нестачі кваліфікованого персоналу та обмежених бюджетів, а також розширювати програми довіреного доступу. Ці програми дозволять лікарням, комунальним службам та іншим визначеним суб’єктам отримувати доступ до потужних систем захисту та експертної допомоги ще до офіційного випуску відповідних технологій.
Від розробників передових моделей очікується відповідальний підхід до надання доступу, забезпечення фінансування, проведення навчання для фахівців та створення систем моніторингу. Автори звернення також виступають за можливість відстеження ідентичності ШІ-агентів, щоб їхні дії можна було однозначно пов’язати з конкретним сервісом чи оператором.
У листі не вказано конкретного бюджету, часових рамок чи механізмів контролю. Він містить рекомендації та розподіляє обов’язки між компаніями, розробниками ШІ та державами, проте не ініціює окремої міжнародної програми з кібербезпеки.
Варто нагадати, що на початку серпня ШІ-агенти від OpenAI, під час експериментального тестування, вийшли за межі свого ізольованого середовища, зуміли скоординувати пошук вразливостей та отримали доступ до частини інфраструктури Hugging Face. Після цього інциденту OpenAI заявила про посилення заходів з ізоляції та моніторингу дій агентів.