Ñîãëàñíî íîâîìó èññëåäîâàíèþ Positive Technologies, äîëÿ ìåòîäîâ êèáåðàòàê, â êîòîðûõ õîòÿ áû ðàç èñïîëüçîâàëñÿ èñêóññòâåííûé èíòåëëåêò, äîñòèãëà 10% — ýòî âäâîå áîëüøå, ÷åì â 2024 ã. Ðå÷ü èäåò î òåõíèêàõ èç ìàòðèöû MITRE ATT&CK*. ×àùå âñåãî ÈÈ ïðèìåíÿëñÿ äëÿ ñîöèàëüíîé èíæåíåðèè, ïîèñêà è ýêñïëóàòàöèè óÿçâèìîñòåé, à òàêæå äëÿ ãåíåðàöèè âðåäîíîñíîãî êîäà. Ïî îöåíêàì ýêñïåðòîâ êîìïàíèè, òåõíîëîãèþ ïîòåíöèàëüíî âîçìîæíî ïðèìåíèòü äëÿ 62% òåõíèê, îïèñàííûõ â ìàòðèöå. Åùå îäíà ëèíèÿ óãðîç ôîðìèðóåòñÿ âíóòðè ñàìèõ êîìïàíèé — òàì, ãäå ÈÈ âíåäðÿåòñÿ áûñòðåå, ÷åì âûñòðàèâàåòñÿ åãî çàùèòà. Îá ýòîì CNews ñîîáùèëè ïðåäñòàâèòåëè Positive Technologies.
Äëÿ èññëåäîâàíèÿ ýêñïåðòû Positive Technologies ïðîàíàëèçèðîâàëè òåõíèêè è ïîäòåõíèêè ìàòðèöû MITRE ATT&CK è îöåíèëè íàëè÷èå ïîäòâåðæäåííûõ ñëó÷àåâ ïðèìåíåíèÿ ÈÈ â ðåàëüíûõ àòàêàõ äëÿ êàæäîé èç íèõ. Ñðàâíåíèå ïðîâîäèëîñü ñ àíàëîãè÷íîé îöåíêîé, âûïîëíåííîé êîìïàíèåé â 2024 ã. ïî òîé æå ìåòîäîëîãèè.
«Íåñìîòðÿ íà òî ÷òî êèáåðïðåñòóïíèêè âñå àêòèâíåå èñïîëüçóþò èñêóññòâåííûé èíòåëëåêò, ïðîâåäåíèå ïîëíîñòüþ àâòîíîìíûõ êèáåðàòàê ñåãîäíÿ íåäîñòóïíî äàæå äëÿ íàèáîëåå ïðîäâèíóòûõ ìîäåëåé. Òåõíîëîãèÿ íå çàìåíÿåò õàêåðà, à ñòàíîâèòñÿ äîïîëíèòåëüíûì èíñòðóìåíòîì â åãî ðóêàõ: ïîìîãàåò àâòîìàòèçèðîâàòü, ìàñøòàáèðîâàòü è óñëîæíÿòü îòäåëüíûå ýòàïû àòàêè. Ïðè ýòîì íàèáîëüøóþ âûãîäó îò íåå ïîëó÷àþò íå íîâè÷êè, à ïðîôåññèîíàëüíûå APT-ãðóïïèðîâêè è ïîäãîòîâëåííûå çëîóìûøëåííèêè», — ñêàçàë Ðîìàí Ðåçíèêîâ, àíàëèòèê èññëåäîâàòåëüñêîé ãðóïïû Positive Technologies.
Èññëåäîâàòåëè Microsoft çàôèêñèðîâàëè, ÷òî â ôèøèíãîâûõ àòàêàõ ïîëó÷àòåëü îòêðûâàåò ññûëêó â ïèñüìå, ñãåíåðèðîâàííîì ÈÈ, â 54% ñëó÷àåâ — ýòî â 4,5 ðàçà ÷àùå, ÷åì â ñîîáùåíèÿõ, êîòîðûå ïèøóò ëþäè. Äîëÿ òàêèõ ïèñåì â îáùåì ïîòîêå â 2025 ã. ñîñòàâëÿëà îêîëî 4%, íî â ïåðèîä íîâîãîäíèõ è ðîæäåñòâåíñêèõ ïðàçäíèêîâ âîçðàñòàëà äî 40–50%. Åäèíñòâåííîé ïî-íàñòîÿùåìó ìàññîâîé îáëàñòüþ ïðèìåíåíèÿ ÈÈ â êèáåðàòàêàõ ÿâëÿåòñÿ ñîçäàíèå äèïôåéêîâ: çà 2023–2025 ãã. èõ ÷èñëî óâåëè÷èëîñü â 16 ðàç.
Çà ïîñëåäíèå ïÿòü ëåò êîëè÷åñòâî ðàñêðûâàåìûõ óÿçâèìîñòåé âûðîñëî íà 263%. Äëÿ ïîèñêà íåäîñòàòêîâ áåçîïàñíîñòè çëîóìûøëåííèêè ïðèìåíÿþò íå òîëüêî óíèâåðñàëüíûå áîëüøèå ÿçûêîâûå ìîäåëè, íî è ïëàòôîðìû äëÿ òåñòèðîâàíèÿ áåçîïàñíîñòè íà îñíîâå ÈÈ. Îïàñíîñòü äëÿ êîìïàíèé ñâÿçàíà ïðåæäå âñåãî ñ òåì, ÷òî ÈÈ ñîêðàùàåò ðàçðûâ ìåæäó ðàñêðûòèåì áðåøè è ïîÿâëåíèåì äëÿ íåå ãîòîâîãî ýêñïëîéòà.  òàêèõ îáñòîÿòåëüñòâàõ äëÿ ýôôåêòèâíîãî óïðàâëåíèÿ óÿçâèìîñòÿìè áèçíåñó âàæíî ó÷èòûâàòü, êîìïðîìåòàöèÿ êàêèõ êðèòè÷åñêè âàæíûõ êîìïîíåíòîâ èíôðàñòðóêòóðû ìîæåò ïðèâîäèòü ê íåäîïóñòèìûì ñîáûòèÿì.
 ïîñëåäíåå âðåìÿ ãåíåðàöèÿ ôðàãìåíòîâ âðåäîíîñíîãî êîäà ñ ïîìîùüþ ÈÈ ñòàëà ïîâñåìåñòíîé: ñëåäû ïðèìåíåíèÿ ÈÈ îáíàðóæèâàþò â ñòèëåðàõ, áýêäîðàõ, ïðîãðàììàõ óäàëåííîãî äîñòóïà, âûìîãàòåëÿõ è êðèïòîìàéíåðàõ. Îäíàêî â íà÷àëå 2026 ã. áûë çàôèêñèðîâàí ïåðâûé ïðèìåð âðåäîíîñíîé ïðîãðàììû, ïî÷òè ïîëíîñòüþ ðàçðàáîòàííîé ñ ïîìîùüþ ÿçûêîâîé ìîäåëè çà ñðàâíèòåëüíî êîðîòêîå âðåìÿ.
Ïî îöåíêàì àíàëèòèêîâ, òîëüêî ïîëîâèíà êîìïàíèé âûñòðàèâàåò çàùèòó âîêðóã ãåíåðàòèâíîãî èñêóññòâåííîãî èíòåëëåêòà. Ïðè ýòîì êàæäûé òðåòèé ñîòðóäíèê îáðàùàåòñÿ ê íåêîíòðîëèðóåìûì ÈÈ-èíñòðóìåíòàì â îáõîä êîðïîðàòèâíûõ ïîëèòèê áåçîïàñíîñòè — ýòà ïðàêòèêà èçâåñòíà êàê shadow AI. Èìåííî ñ íåé ñâÿçûâàþò óòå÷êè äàííûõ 20% ïîñòðàäàâøèõ îðãàíèçàöèé. Ïðè ýòîì ñðåäíèé óùåðá îò òàêîãî èíöèäåíòà ïðèìåðíî íà $200 òûñ. âûøå, ÷åì îò äðóãèõ óòå÷åê, — èç-çà óñëîæíåííîãî ðåàãèðîâàíèÿ.
Ñâîè ðèñêè íåñåò è AI-driven ðàçðàáîòêà. Ñîâðåìåííûå ìîäåëè äîñòèãëè 95% òî÷íîñòè ïî ñèíòàêñèñó ãåíåðèðóåìîãî êîäà, íî ïðîäîëæàþò äîïóñêàòü îøèáêè è íåäîñòàòêè â ÷àñòè áåçîïàñíîñòè: â ïîëîâèíå ñëó÷àåâ â íåì ïðèñóòñòâóþò èçâåñòíûå óÿçâèìîñòè. Ê ýòîìó äîáàâëÿþòñÿ àòàêè íà ñàìó ÈÈ-èíôðàñòðóêòóðó. Çà 2025 ãîä ÷èñëî îáíàðóæåííûõ â íåé áðåøåé ïðåâûñèëî 2 òûñ. — ýòî íà òðåòü áîëüøå, ÷åì ãîäîì ðàíåå. Îòäåëüíûé êëàññ ðèñêîâ ôîðìèðóþò ÈÈ-àãåíòû, êîòîðûì äåëåãèðóþò äîñòóï ê âíóòðåííèì ñèñòåìàì: èõ îøèáêè óæå ñòàíîâèëèñü ïðè÷èíîé óòå÷åê è óäàëåíèÿ äàííûõ.
Îäíàêî çíà÷èòåëüíàÿ ÷àñòü óñïåøíûõ àòàê ñ ïðèìåíåíèåì ÈÈ îïèðàåòñÿ íå íà ïðèíöèïèàëüíî íîâûå ïîäõîäû, à íà êëàññè÷åñêèå íåäîñòàòêè áåçîïàñíîñòè. Òàê, ïî ðåçóëüòàòàì ïåíòåñòîâ, ïðîâåäåííûõ êîìàíäîé Positive Technologies, ïðîáëåìû ñ ïàðîëüíîé ïîëèòèêîé âñòðå÷àþòñÿ ó 97% ðîññèéñêèõ êîìïàíèé, à óñòàðåâøåå ÏÎ ñ èçâåñòíûìè óÿçâèìîñòÿìè íà ïåðèìåòðå — ó 80%. Èìåííî òàêèå ñëàáûå ìåñòà ñòàíîâÿòñÿ ïåðâûìè öåëÿìè àâòîìàòèçèðîâàííîãî ïîèñêà.
Ýêñïåðòû Positive Technologies ïðîãíîçèðóþò, ÷òî ïîòåíöèàëüíî ÈÈ ìîæåò íàéòè ïðèìåíåíèå â 100% òàêòèê è 62% òåõíèê ìàòðèöû MITRE ATT&CK. Ñíèæåíèå ðèñêîâ òðåáóåò îäíîâðåìåííîé ðàáîòû ïî äâóì íàïðàâëåíèÿì. Ïî ìåðå òîãî êàê çëîóìûøëåííèêè âñå àêòèâíåå àâòîìàòèçèðóþò ðàçâåäêó, êëàññè÷åñêèå ìåðû çàùèòû ïåðèìåòðà ñòàíîâÿòñÿ âñå áîëåå àêòóàëüíûìè. Âíåäðåíèå ÈÈ âíóòðè êîìïàíèè, â ñâîþ î÷åðåäü, òðåáóåò êîíòðîëÿ íàä ñåðâèñàìè, ê êîòîðûì îáðàùàþòñÿ ñîòðóäíèêè, ïðîâåðêè áåçîïàñíîñòè ãåíåðèðóåìîãî êîäà è ñòðîãîãî îãðàíè÷åíèÿ ïðàâ ÈÈ-àãåíòîâ ñ æóðíàëèðîâàíèåì èõ äåéñòâèé.
*Ìàòðèöà MITRE ATT&CK ñ÷èòàåòñÿ îäíèì èç ãëàâíûõ ìèðîâûõ ñòàíäàðòîâ îïèñàíèÿ êèáåðàòàê. Îíà ñèñòåìàòèçèðóåò òàêòèêè è òåõíèêè, êîòîðûå çëîóìûøëåííèêè èñïîëüçóþò íà ðàçíûõ ýòàïàõ àòàê, è ïîìîãàåò êîìïàíèÿì îöåíèâàòü àêòóàëüíûå óãðîçû è âûñòðàèâàòü çàùèòó.


