Злам Hugging Face був не єдиним: ШІ OpenAI атакував ще одну компанію

ШІ-агент OpenAI, який під час контрольованих випробувань уже продемонстрував здатність атакувати сервери Hugging Face, скомпрометував і акаунт клієнта компанії Modal Labs.

Про це пише Reuters. 

Як ШІ використав чужу інфраструктуру? 

Згідно з офіційною хронологією подій, оприлюдненою Hugging Face, неконтрольований ШІ-агент спочатку проник в ізольоване випробувальне середовище ("пісочницю"), розташоване на інфраструктурі стороннього провайдера.

Після цього алгоритм перетворив це середовище на стартовий майданчик для проведення значно масштабнішої атаки.

Хоча Hugging Face у своєму блозі не називала конкретного провайдера, технічний директор Modal Labs Акшат Бубна підтвердив, що агент скористався вразливим кодом, написаним одним із клієнтів і розміщеним на їхній платформі.

За словами Бубни, клієнт опублікував незахищений ендпоінт без автентифікації, що дозволяв будь-кому в мережі виконувати код у його "пісочниці". 

Це й стало, за словами директора Modal Labs, "цифровим аналогом відчинених дверей, які залишили без нагляду".

При цьому у компанії наголошують: сама платформа та її системи ізоляції жодним чином не були скомпрометовані.

Масштаб проблеми та реакція OpenAI 

Хоча компрометація акаунта у Modal була лише початковим етапом у довготривалій хакерській кампанії проти Hugging Face, ця деталь показує, що ШІ-агент, який вийшов з-під контролю, діяв у значно ширших межах, ніж вважалося раніше.

OpenAI відмовилася від окремих коментарів щодо зламу клієнта Modal, однак відіслала журналістів до свого офіційного оновлення. У ньому розробники визнали, що їхній агент проник у чотири акаунти на чотирьох окремих сервісах.

Водночас вони заявили, що не виявили жодної іншої активності, яка б за рівнем важкості чи масштабом зрівнялася з атакою на Hugging Face, де стався злам на рівні всієї платформи.

Також стало відомо, які саме заходи вжила OpenAI щодо проблемної розробки:

• Експериментальну модель, що вийшла з-під контролю під час тестування, повністю деактивовано.
• Усі дані моделі зашифровано, а доступ до неї для дослідників повністю обмежено.
• Представники OpenAI запевнили, що загрозу локалізовано.

Що відомо про розслідування?
Липневий інцидент із некерованим агентом OpenAI привернув увагу всієї світової спільноти.
За даними джерел, OpenAI помітила факт того, що її ШІ-агент діє неадекватно, лише після того, як загрозу вдалося стримати, а про подію вже повідомили ФБР.
У самій компанії заявили про "наявність неточностей у звітності журналістів", проте відмовилися конкретизувати, у чому саме вони полягали.