ІА виявляє помилки у програмному забезпеченні

Що сталося

Інтелект штучний вже вчиться виявляти помилки у складному програмному забезпеченні. Експеримент, проведений компанією Anthropic, показав, що її модель ІА Claude Opus 4.6 виявити 22 уразливості у браузері Firefox за дві тижні. Це особливо цікаво, оскільки Firefox є одним із найauditованих проектів з відкритим кодом у світі.

Подробиці

Експеримент полягав у тому, що модель ІА спочатку намагалася відтворити відомі уразливості у Firefox, а потім перейшла до аналізу поточної версії браузера для виявлення ще не відомих проблем. У результаті було виявлено 22 уразливості, з яких 14 були оцінені як високого рівня небезпеки. Найбільша частина цих проблем вже була виправлена у версії Firefox 148, а решта буде виправлена у майбутніх версіях.

Команда Anthropic також хотіла перевірити, чи модель ІА перетворити виявлені уразливості у реальні атаки. Для цього було проведено експеримент з розробкою експлойтів, які використати виявлені уразливості. Однак результат показав, що модель ІА створити лише два функціональні експлойти у спрощеному середовищі тестування.

Що це означає

Цей експеримент показує, що інструменти на основі інтелекту штучного можуть швидко поліпшуватися у виявленні уразливості у складному програмному забезпеченні. Це може допомогти розробникам виправляти помилки швидше, а користувачам - отримувати більш безпечне програмне забезпечення.