ჰაკერები და სახელმწიფო მხარდაჭერილი ჯგუფები ხელოვნურ ინტელექტს კიბერშეტევებისთვის იყენებენ - Google-ის ანგარიში

ხელოვნური ინტელექტის (AI) ზრდასთან ერთად, მისი გავლენა ცხოვრების სხვადასხვა სფეროზე სულ უფრო აშკარა ხდება. თუმცა, ამ პროდუქტიულობის ზრდას საკუთარი მიზნებისთვის იყენებენ ჰაკერული ჯგუფებიც. Google-ის საფრთხეების დაზვერვის ჯგუფის (GTIG) უახლეს ანგარიშში დეტალურად არის აღწერილი, თუ როგორ იყენებენ კიბერდამნაშავეები AI-ს თავიანთ ოპერაციებში. ანგარიშის მიხედვით, 2025 წლის ბოლო კვარტალში, GTIG-მა დააფიქსირა, რომ საფრთხის შემცველი აქტორები სულ უფრო მეტად აერთიანებენ ხელოვნურ ინტელექტს თავდასხმის ციკლის დასაჩქარებლად, რაც მათ საშუალებას აძლევს მიაღწიონ პროდუქტიულობის ზრდას დაზვერვის, სოციალური ინჟინერიისა და მავნე პროგრამების შემუშავების სფეროში. აღსანიშნავია, რომ სახელმწიფო მხარდაჭერილი საფრთხის შემცველი აქტორები, როგორებიც არიან ჩრდილოეთ კორეა (DPRK), ირანი, ჩინეთი (PRC) და რუსეთი, იყენებენ დიდ ენობრივ მოდელებს (LLM) „ტექნიკური კვლევისთვის, დამიზნებისა და დახვეწილი ფიშინგის სატყუარების სწრაფი გენერირებისთვის“. ერთ-ერთი მზარდი საფრთხეა ე.წ. „მოდელის ექსტრაქციის შეტევა“. Google-ის შემთხვევაში, ეს გულისხმობდა LLM-ზე ლეგიტიმურ წვდომას, შემდეგ კი ინფორმაციის ამოღების მცდელობას ახალი მოდელების შესაქმნელად. Google იუწყება, რომ დაფიქსირდა 100 000-ზე მეტი მოთხოვნის შემთხვევა, რომლებიც მიზნად ისახავდა Google Gemini-ის მსჯელობის შესაძლებლობების იმიტაციას. ბუნებრივია, ეს უფრო დიდი საფრთხეა კომპანიებისთვის, ვიდრე ჩვეულებრივი მომხმარებლებისთვის. GTIG-ის AI საფრთხეების მიკვლევის უახლესი ანგარიში ცხადყოფს, თუ როგორ აერთიანებენ მოწინააღმდეგეები AI-ს ოპერაციებში. დეტალურად არის აღწერილი სახელმწიფო მხარდაჭერილი LLM ფიშინგი, AI-ზე დაფუძნებული მავნე პროგრამები, როგორიცაა HONESTCUE, და მოდელის ექსტრაქციის მზარდი შეტევები. ხელოვნური ინტელექტის გამოყენების ერთ-ერთი მეთოდია ჰაკერების საუბარში უფრო სანდოდ გამოჩენა. „საფრთხის შემცველი აქტორები სულ უფრო ხშირად იყენებენ LLM-ებს ჰიპერ-პერსონალიზებული, კულტურულად ნიუანსირებული სატყუარების შესაქმნელად, რომლებსაც შეუძლიათ სამიზნე ორგანიზაციის პროფესიონალური ტონის ან ადგილობრივი ენის იმიტაცია“. Google-მა ასევე აღმოაჩინა AI-ის გამოყენება ფიშინგურ სქემებში პოტენციური სამიზნეების შესახებ ინფორმაციის მისაღებად. „ეს აქტივობა ხაზს უსვამს AI-ით გაძლიერებული ფიშინგისკენ გადასვლას, სადაც LLM-ების სიჩქარე და სიზუსტე გვერდს უვლის ხელით შრომას, რომელიც ტრადიციულად საჭიროა მსხვერპლის პროფილის შესაქმნელად“. ეს ყველაფერი მანამ ხდება, სანამ ხელოვნური ინტელექტის მიერ გენერირებულ კოდს ვახსენებთ, სადაც APT31-ის მსგავსი ჰაკერები იყენებენ Gemini-ს მოწყვლადობების ავტომატური ანალიზისთვის და მათი შესამოწმებელი გეგმების შესაქმნელად. ასევე აღმოჩენილია 'COINBAIT', ფიშინგის ნაკრები, რომელიც კრიპტოვალუტად იმალება და „რომლის შექმნაც, სავარაუდოდ, დაჩქარდა AI კოდის გენერირების ხელსაწყოებით“. მიუხედავად იმისა, რომ ძირითადად კონცეფციის დასამტკიცებელია, Google-მა, როგორც ცნობილია, აღმოაჩინა მავნე პროგრამა, რომელიც მომხმარებლის AI ბოტებს უბიძგებს კოდის შექმნაზე დამატებითი მავნე პროგრამების გენერირებისთვის. ეს გაართულებდა მავნე პროგრამების მიკვლევას აპარატზე, რადგან ის აგრძელებს „მუტაციას“. Google აცხადებს: „AI-ის, განსაკუთრებით გენერაციული AI-ის პოტენციალი უზარმაზარია. ინოვაციების წინსვლასთან ერთად, ინდუსტრიას ესაჭიროება უსაფრთხოების სტანდარტები AI-ის პასუხისმგებლობით შესაქმნელად და გასაშვებად“. სულ გასულ კვირას დავაფიქსირეთ ფიშინგის სქემა, რომელიც AI-ს იყენებს კომპანიების აღმასრულებელი დირექტორების „დიფფეიკის“ შესაქმნელად, რათა მიიღოს წვდომა მსხვერპლის კრიპტოვალუტაზე. როგორც ჩანს, AI ჰაკერის ინსტრუმენტთა კრებულში ერთზე მეტი ხელსაწყო ხდება და რჩება იმედი, რომ კონტრაგენტები საკმარის მონაცემებს აგროვებენ მის წინააღმდეგ საბრძოლველად.