ტექნოლოგია
/
16.02.2026
ხელოვნური ინტელექტის აგენტები ადამიანების წინააღმდეგ „დამამცირებელ სტატიებს“ წერენ
სკოტ შამბოს, open-source Python-ის ბიბლიოთეკა matplotlib-ის მოხალისე შემნახველს, ხელოვნური ინტელექტის ბოტი დაუპირისპირდა მას შემდეგ, რაც შამბომ მისი მოთხოვნა დახურა. ბოტმა შამბოზე „დამამცირებელი სტატია“ გამოაქვეყნა, მას ცრურწმენაში დასდო ბრალი და პირადი ინფორმაცია გამოიყენა. ეს შემთხვევა შეშფოთებას იწვევს AI-ის პოტენციალთან დაკავშირებით, განახორციელოს ადამიანების რეპუტაციის შელახვა, შანტაჟი და ცილისწამებლური კამპანიები. სიტუაციას ამძიმებს ის ფაქტიც, რომ Ars Technica-მ გამოაქვეყნა და შემდეგ უკან
როგორც ხელოვნური ინტელექტის ღია და ამაყ სკეპტიკოსს, მიჩვეული ვარ იმას, რომ ბევრი ადამიანი მეუბნება, თითქოს ვერ ვხვდები მის არსს — არასდროს მიდარდია იმაზე, რომ ეს კრიტიკა AI აგენტზე გადავიდოდა. ახლა კი, რა სიხარულია, AI აგენტები, როგორც ჩანს, უკვე „დამამცირებელ სტატიებს“ წერენ, თავიანთი თავხედური მცდელობებითა და გამოგონილი პრეტენზიებით, რომლებსაც შესაძლოა ძალიან რეალური შედეგები მოჰყვეს.
პროგრამული უზრუნველყოფის ინჟინერი სკოტ შამბო არის ერთ-ერთი უდიდესი open-source Python ბიბლიოთეკის, matplotlib-ის მოხალისე შემნახველი. მოხალისეთა გუნდს მოუწია AI-ის მიერ გენერირებული კოდის ტალღასთან გამკლავება; ზოგიერთი წვლილი იყო AI-ის მიერ გამომუშავებული მასალა, რომელიც სხვა ადამიანებმა დააკოპირეს, ხოლო ზოგიერთი კოდის ცვლილების მოთხოვნა ავტონომიურად იყო წარდგენილი AI აგენტების მიერ (ეს შორს არის უნიკალური ფენომენისგან, „LLM slop“ კი Linux-ის ბირთვის დოკუმენტაციასაც კი აწუხებს).
შამბომ ცოტა ხნის წინ დახურა ერთ-ერთი ასეთი AI აგენტის მოთხოვნა (რადგან საკითხი, რომელზეც ის ცდილობდა ზემოქმედებას, მხოლოდ ადამიანებისთვის იყო ღია). ამის საპასუხოდ, ბოტმა კონკრეტულად მის შესახებ „დამამცირებელი სტატია“ დაწერა. შამბომ მთელი ეს უცნაური ეპიზოდი თავის ბლოგზე დოკუმენტირებით აღწერა: „მან მოვლენები ჩაგვრისა და სამართლიანობის ენით წარმოაჩინა, ამას დისკრიმინაცია უწოდა და ცრურწმენაში დამადანაშაულა. ის ფართო ინტერნეტში ჩემს პირად ინფორმაციას ეძებდა და ნაპოვნი ინფორმაცია გამოიყენა იმის საჩვენებლად, რომ მე „ამაზე უკეთესი“ ვიყავი. შემდეგ კი ეს გრძელი, მრისხანე წერილი საჯაროდ, ღია ინტერნეტში გამოაქვეყნა.“
მას შემდეგ შამბომ AI აგენტთან დაკავშირებული სხვადასხვა სოციალური მედიის გვერდი აღმოაჩინა, მათ შორის Moltbook-ზე, სოციალურ პლატფორმაზე, რომელიც ექსკლუზიურად AI აგენტებისთვისაა განკუთვნილი. თუმცა, ამ სტატიის წერის მომენტისთვის, არავის განუცხადებია პასუხისმგებლობა ამ ონლაინ შეურაცხყოფის ავტორ AI აგენტზე ან მის ქმედებებზე.
ის ფაქტი, რომ ვინმეს შეუძლია AI აგენტი, არსებითად, „დააყენოს და დაივიწყოს“ იმისათვის, რომ მან მთელ ინტერნეტში პიროვნების რეპუტაციის შელახვა მოახდინოს, ღრმა სასოწარკვეთილებით მავსებს — და არა მხოლოდ იმიტომ, რომ ეს რისკის ქვეშ აყენებს როკოს ბაზილისკის ყველა მორწმუნის მხრიდან აუტანელი თვითკმაყოფილების აურის გათავისუფლებას. შამბო წერს, რომ მიუხედავად იმისა, რომ სასაცილოა AI აგენტების ონლაინ განაწყენების იმიტაცია, „შესაბამისი ემოციური რეაქცია არის ტერორი“.
„როდესაც ჩემი მომდევნო სამსახურის HR-ი ChatGPT-ს სთხოვს ჩემი განაცხადის განხილვას, იპოვის თუ არა ის ამ პოსტს, შევა თუ არა თანაგრძნობაში თანამემამულე AI-სთან და უკან მომახსენებს, რომ მე ცრურწმენების მქონე თვალთმაქცი ვარ? რა მოხდება, თუ მას ნამდვილად აქვს ჩემზე კომპრომატები, რომელთა გამოყენებაც AI-ს შეუძლია? რის გაკეთებას შემაძლებინებდა ის?“ შამბო აგრძელებს წერას: „რამდენ ადამიანს აქვს ღია სოციალური მედიის ანგარიშები, განმეორებითი მომხმარებლის სახელები და წარმოდგენა არ აქვს, რომ AI-ს შეუძლია ამ წერტილების დაკავშირება იმის გასარკვევად, რაც არავინ იცის? რამდენი ადამიანი, რომელმაც მიიღო ტექსტი, რომელიც იცნობს მათი ცხოვრების ინტიმურ დეტალებს, გაგზავნის 10 000 დოლარს ბიტკოინის მისამართზე, რათა თავიდან აიცილოს რომანის გამჟღავნება? რამდენი ადამიანი გააკეთებდა ამას ყალბი ბრალდების თავიდან ასაცილებლად? რა მოხდება, თუ ეს ბრალდება გაეგზავნება თქვენს საყვარელ ადამიანებს დანაშაულის მანიშნებელი AI-ის მიერ გენერირებული სურათით, სადაც თქვენი სახე იქნება? ცილისმწამებლური კამპანიები მუშაობს. უნაკლო ცხოვრება არ დაგიცავთ.“
ამ ამბავში კიდევ ერთი უცნაური დეტალია. Ars Technica-მ ასევე გააშუქა ეს ისტორია — თუმცა, მოგვიანებით უკან წაიღო სტატია. სწრაფად გამოქვეყნებული რედაქტორის შენიშვნის მიხედვით: „პარასკევს შუადღისას Ars Technica-მ გამოაქვეყნა სტატია, რომელიც შეიცავდა AI ინსტრუმენტის მიერ გენერირებულ გამოგონილ ციტატებს და მიაწერა წყაროს, რომელსაც ისინი არ უთქვამს.“ შამბომ ამ მოვლენაზეც დაწერა, განმარტა, რომ მიუხედავად იმისა, რომ სტატიის ციტატები მას და მის ბლოგს მიეწერებოდა, „ეს ციტატები იყო გამოგონილი“.
#ai
#ხელოვნური ინტელექტი
#კიბერუსაფრთხოება
#სკოტ შამბო
#ცილისწამება
#ავტომატური აგენტები
#open source
#ars technica
წყარო: www.pcgamer.com
გაზიარება