Фахівці з кібербезпеки попереджають про нову атаку CopyPasta License Attack, яка націлена на асистентів штучного інтелекту для програмування. За висновками аналітиків HiddenLayer, ця загроза може становити значний ризик для компаній, зокрема для криптовалютної платформи Coinbase, якщо не вжити додаткових заходів захисту.
Про це розповідає Finway
Як працює CopyPasta License Attack
Зловмисники приховують шкідливий код у звичних для розробників файлах README.md та LICENSE.txt, використовуючи markdown-коментарі. ШІ-асистенти сприймають такі документи як надійне джерело, що дозволяє атаці передаватися далі автоматично. Внаслідок цього інфіковані файли стають векторами розповсюдження, заражаючи інших ШІ-асистентів, які їх опрацьовують. Таким чином, атака набуває вигляду ланцюгової реакції, що нагадує самопоширюваний вірус у розподілених сховищах коду.
«Введений код може створити “задні двері”, непомітно викрасти конфіденційні дані або маніпулювати важливими файлами», — попередили у HiddenLayer.
Загроза для Coinbase та рекомендації експертів
Особливу увагу до цієї вразливості привернуло використання експлойту проти Cursor — ШІ-інструменту, який у серпні Coinbase оголосила основним для своїх інженерів. Компанія навіть наполягала на обов’язковому його використанні, звільняючи розробників, які відмовлялися переходити на новий інструмент. Генеральний директор біржі Браян Армстронг зазначав, що на той момент до 40% програмного коду Coinbase вже було написано за допомогою ШІ, а в найближчий місяць ця частка мала зрости до 50%. При цьому Армстронг наголосив, що ШІ залучають переважно для менш критичних завдань, а робота над складними й важливими системами впроваджується з підвищеною обережністю.
Фахівці HiddenLayer радять компаніям перевіряти всі файли на наявність прихованих коментарів і ретельно переглядати зміни, створені ШІ-асистентами. Вони підкреслюють необхідність вважати будь-які ненадійні дані у контекстах великих мовних моделей потенційно шкідливими.
«Усі ненадійні дані, що надходять у контексти LLM [великих мовних моделей], слід розглядати як потенційно шкідливі».
Окрім цього, дослідники відзначають, що зловмисники можуть використовувати й інші канали доставки шкідливого коду, наприклад, через смартконтракти Ethereum, що дозволяє обходити традиційні засоби кіберзахисту.