Злочинці почали масово використовувати штучний інтелект, створюючи власні мовні моделі без жодних правил, фільтрів чи етичних обмежень. На чорних ринках уже з’явився цілий клас небезпечних LLM, призначених спеціально для проведення атак.

Дослідники Palo Alto Networks проаналізували декілька таких нелегальних моделей і оприлюднили тривожні висновки.

WormGPT 4 — комерційна «чорна» нейромережа для фішингу та написання шкідливого коду

Одну з найпопулярніших моделей — WormGPT 4 — продають у Telegram та на даркнет-форумах.
Вартість “підписки”: від $50 до $220.

Можливості WormGPT 4:

·         створює надзвичайно правдоподібні фішингові листи, не гірші за офіційні комунікації банків;

·         допомагає генерувати шкідливий код на Python;

·         дозволяє навіть новачкам збирати повноцінні інструменти для атак;

·         не має жодних етичних або технічних обмежень.

Фактично ця модель перетворює будь-кого на творця малварі — достатньо ввести запит.

KawaiiGPT — безкоштовний інструмент для мережевих атак

Ще одна модель, KawaiiGPT, викликає не менше занепокоєння:

·         доступна безкоштовно на GitHub;

·         встановлюється менш ніж за 5 хвилин;

·         працює через простий командний інтерфейс;

·         генерує фішингові сценарії та інструменти компрометації мереж через SSH;

·         допомагає збирати цілі ланцюжки атак.

За словами дослідників, навіть школяр із мінімальними технічними знаннями здатен використати таку нейромережу для спроби злому.

Штучний інтелект як конструктор кіберзлочинів

Обидві моделі дозволяють автоматизувати майже весь процес злочинної діяльності:

·         створення фішингових приманок;

·         написання шкідливих програм;

·         підготовка інструкцій для жертви;

·         шифрування даних;

·         організація вимагання викупу у криптовалюті.

Ці LLM навмисно тренувалися без етики, без відмов, без фільтрації небезпечних запитів. Їхня єдина задача — допомагати в атаках.

Новий ландшафт загроз: кіберзлочинність без навичок

Головна небезпека — доступність та простота використання.

Сьогодні більше не потрібно бути програмістом чи досвідченим хакером, аби:

·         створити шкідливий код,

·         організувати фішингову кампанію,

·         зламати чужий сервер,

·         запустити ransomware-атаку.

Достатньо завантажити нейромережу та написати кілька команд.

Це означає, що кіберзлочинність переходить у фазу, де поріг входу майже нульовий, а кількість потенційних атак зростатиме експоненційно.

Ми продовжуємо моніторити появу нових загроз, аналізувати діяльність даркнет-спільнот та інформувати суспільство про реальні ризики, пов’язані з неконтрольованим розвитком «злочинного» штучного інтелекту.