Claude запобіг кібератакам на Україну, захищаючи інформаційні системи

Anthropic запобіг кібератакам з використанням моделей Claude

Компанія Anthropic виявила та зупинила спроби використання своїх моделей Claude для проведення кампанії кібершпигунства проти України, яка, за припущеннями, має зв’язок з Росією.

У звіті компанії, оприлюдненому Reuters, зазначається, що кібератаки, що здійснюються за підтримки держави, дедалі частіше використовують штучний інтелект для організації та проведення значної частини своєї діяльності. Люди в цих випадках частіше виконують роль спостерігачів, а не безпосередніх виконавців. OpenAI оголосила, що не планує виходити на біржу через занепокоєння щодо безпеки штучного інтелекту.

Згідно з даними Anthropic, одна з хакерських груп проводила фішингові атаки, захоплювала мережі Wi-Fi в готелях та зламувала акаунти в WhatsApp, намагаючись націлитися на урядові, військові та дипломатичні структури України, використовуючи штучний інтелект на кожному етапі. Нещодавні технічні роботи спричинили збої у функціях «єВідновлення» та «єОселя» додатка «Дія».

Методи роботи цієї групи нагадують стиль діяльності російської хакерської групи Midnight Blizzard, яку раніше зв’язували з російською службою зовнішньої розвідки СВР.

Згідно з інформацією, ця група використовувала штучний інтелект для створення системи, яка автоматично виявляла, коли її шкідливе програмне забезпечення було виявлене системами захисту, і переписувала код, поки він не залишався непоміченим.

Anthropic також повідомила про виявлення та зупинку діяльності, пов’язаної з групою ShinyHunters, яка наразі є однією з найбільш активних кіберзлочинних угруповань і пов’язана з атаками на великі корпорації по всьому світу.

Нагадаємо, що провідний дослідник OpenAI нещодавно висловив занепокоєння щодо швидкого розвитку штучного інтелекту, зазначивши, що людям стає все важче розуміти та контролювати ці технології. Він сподівається, що лабораторії, які працюють над штучним інтелектом, добровільно сповільнять темпи розвитку з міркувань безпеки.