Як AI інструменти розробки створюють нові виклики для безпеки IT-компаній

Використання інструментів для на написання коду на базі штучного інтелекту, таких як GitHub Copilot, Сursor, Windsurf  стрімко зросло за останні роки, і 84% розробників наразі використовують або планують використовувати такі інструменти. Хоча ці інструменти підвищують продуктивність, вони також створюють серйозні ризики для безпеки, які більшість організацій ще не вирішили.

Без належного управління та валідації використання інструментів для кодінгу на основі штучного інтелекту може наражати організації на значні загрози. До них належить проблема «фантомної залежності», коли штучний інтелект пропонує пакети, яких насправді не існує, створюючи ризики при імпорті таких залежностей. Існує також ризик того, що штучний інтелект створює вразливий код, який містить недоліки безпеки, такі як вразливості XSS, SQL-ін'єкцій, або навіть жорстко закодовані бекдори.

Традиційні інструменти та процеси безпеки не розроблені для вирішення унікальних проблем, що виникають через згенерований код. Код може здаватися функціональним та проходити тести, але приховувати глибинні проблеми. Також набагато складніше перевірити походження та відповідність ліцензії.

Щоб вирішити ці ризики, організаціям необхідно встановити чіткі правила щодо використання інструментів розробки на основі штучного інтелекту, включаючи перевірку учасників моделей та ліцензій. Вони також повинні впроваджувати специфічні для штучного інтелекту інвентаризації для відстеження залежностей та процеси валідації для забезпечення безпеки. Це має бути збалансовано зі збереженням продуктивності, що забезпечується інструментами штучного інтелекту.

Вікно для проактивних дій швидко звужується, оскільки регуляторні органи та галузеві організації вимагають більшої прозорості та управління використанням систем штучного інтелекту. Організації які зволікають, будуть мати проблеми з  безпекою, а отже і репутаційно-фінансові наслідки, тоді як ті хто діє зараз - можуть отримати конкурентну перевагу.