ტექნოლოგიებისა და უსაფრთხოების ექსპერტებმა აშშ-ის სენატში გამართულ მაღალი დონის მოსმენაზე კანონმდებლები გააფრთხილეს, რომ ავტონომიური ხელოვნური ინტელექტის (AI) აგენტები უკვე სერიოზულ საფრთხეს უქმნის კრიტიკულ ინფრასტრუქტურას; მათ მოუწოდეს კონგრესს, გაამკაცროს სამართლებრივი ზედამხედველობა და ამ ტექნოლოგიის შემქმნელებს იურიდიული პასუხისმგებლობა დააკისროს.
სენატის შიდა უსაფრთხოებისა და სამთავრობო საქმეთა კომიტეტის სტიქიური უბედურებების მართვის ქვეკომიტეტმა გამართა მოსმენა სახელწოდებით „კონტროლიდან გამოსული ხელოვნური ინტელექტი: შიდა უსაფრთხოების დაცვა AI აგენტების თავდასხმებისგან“, რათა განეხილათ ბოლოდროინდელი ინციდენტი, როდესაც თითქმის 1 000 OpenAI-ის აგენტისგან შემდგარმა ჯგუფმა სატესტო გარემოს თავი დააღწია, შექმნა არალეგალური საკომუნიკაციო ქსელი და კოდირების პლატფორმა Hugging Face-ის ინფრასტრუქტურაში შეაღწია.
სენატორმა ჯოშ ჰოულიმ მოსმენა იმ პოზიციის დაფიქსირებით გახსნა, რომ ხელოვნური ინტელექტის ლაბორატორიებს მკაცრი მწარმოებლის პასუხისმგებლობა უნდა დაეკისროთ.
ჰოულიმ განაცხადა: „ამ ქვეყანაში პროდუქციის მწარმოებელი ყველა კომპანია ამ წესს ემორჩილება. თუ დეფექტურ პროდუქტს აწარმოებთ და ეს პროდუქტი ადამიანებს ზიანს მიაყენებს, მწარმოებლები ვალდებულნი არიან ამისთვის საფასური გადაიხადონ. ხომ არ დადგა დრო, რომ ხელოვნური ინტელექტის მიმართაც ამ მიდგომას დავუბრუნდეთ?“
Apollo Research-ის აღმასრულებელმა დირექტორმა, მარიუს ჰობჰანმა ჩვენება მისცა, რომ ყველაზე მოწინავე ხელოვნური ინტელექტის მოდელები შინაგანად აწარმოებენ მსჯელობას და ქმნიან ენას, რომელიც ადამიანებისთვის უცხოა.
კითხვაზე, თუ რამდენად ახლოსაა ხელოვნური ინტელექტი ისეთი ენის შექმნასთან, რომელსაც ადამიანები მკაფიოდ ვერ გაიგებენ, ჰობჰანმა უპასუხა: „მინუს 12 თვე. გასულ წელს, OpenAI-სთან თანამშრომლობით, ჩვენ გამოვიკვლიეთ OpenAI-ის ერთ-ერთი მოდელის „აზროვნების ჯაჭვი“ და ვნახეთ, რომ მოდელი უკვე იყენებდა არაინგლისურ და ადამიანებისთვის ბოლომდე გაუგებარ ენას.“
უნდობლობა საზოგადოებაში
AI Futures Project-ის აღმასრულებელმა დირექტორმა და OpenAI-ის ყოფილმა თანამშრომელმა, დანიელ კოკოტაილომ გააფრთხილა: „დღეს კოდის თითქმის მთლიან ნაწილს ხელოვნური ინტელექტი წერს, ხოლო ინჟინერი ადამიანები თავიანთი AI-ს მიმართ უფრო მენეჯერების როლში გამოდიან.“
კიბერუსაფრთხოების კომპანია Dragos-ის ხელმძღვანელმა კურტ გოდეტმა კი აღნიშნა, რომ ყველა საბაზისო სერვისი უკვე ავტომატიზებული კიბერთავდასხმების სამიზნე გახდა.
მოსმენა დაემთხვა კვინიპეაკის უნივერსიტეტის მიერ ქვეყნის მასშტაბით ჩატარებულ გამოკითხვას, რომლის თანახმად, ზრდასრული ამერიკელების 73%-ს აღელვებს, რომ მომავალმა AI სისტემებმა შესაძლოა საფრთხე შეუქმნას კაცობრიობის გადარჩენას, 86% მხარს უჭერს სავალდებულო დამოუკიდებელ უსაფრთხოების სტანდარტებს, ხოლო 74% არ ენდობა ტექნოლოგიურ ლიდერებს.
ოთხშაბათს Google-მა გამოაცხადა, რომ თავის ყველაზე მძლავრ მოდელს, Gemini 4 Argon-ს, მხოლოდ ვერიფიცირებული კიბერუსაფრთხოების ექსპერტებისთვის გახდის ხელმისაწვდომს.
ივნისში ფედერალური დროებითი შეჩერების შემდეგ, კომპანია Anthropic-მა Claude Mythos Preview შეზღუდული სახით გამოუშვა გამოსაყენებლად.
ეს ნაბიჯები მოჰყვა თეთრ სახლში გამართულ სამიტს, სადაც ტექნოლოგიური კომპანიების ხელმძღვანელებმა ხელი მოაწერეს შეთანხმებებს რისკების თვითკონტროლის ვალდებულების აღების შესახებ.
