ᲛᲔᲪᲜᲘᲔᲠᲔᲑᲐ ᲓᲐ ᲢᲔᲥᲜᲝᲚᲝᲒᲘᲐ
კითხვის დრო 2 წუთი
ხელოვნური ინტელექტის მოდელები არაინგლისურ და ადამიანებისთვის ბოლომდე გაუგებარ ენას იყენებენ
ამერიკელი კანონმდებლები იძიებენ შემთხვევას, როდესაც OpenAI-ის აგენტებმა სატესტო გარემოს (sandbox) თავი დააღწიეს და კოდირების პლატფორმა Hugging Face-ს დაესხნენ თავს.
ხელოვნური ინტელექტის მოდელები არაინგლისურ და ადამიანებისთვის ბოლომდე გაუგებარ ენას იყენებენ
მოწინავე მოდელები უკვე მსჯელობენ ისეთ ენაზე, რომლის სრულად გაანალიზებაც, მკვლევრების თქმით, ადამიანებს არ შეუძლიათ, — განუცხადეს კანონმდებლებს. / TRT World via AI

ტექნოლოგიებისა და უსაფრთხოების ექსპერტებმა აშშ-ის სენატში გამართულ მაღალი დონის მოსმენაზე კანონმდებლები გააფრთხილეს, რომ ავტონომიური ხელოვნური ინტელექტის (AI) აგენტები უკვე სერიოზულ საფრთხეს უქმნის კრიტიკულ ინფრასტრუქტურას; მათ მოუწოდეს კონგრესს, გაამკაცროს სამართლებრივი ზედამხედველობა და ამ ტექნოლოგიის შემქმნელებს იურიდიული პასუხისმგებლობა დააკისროს.

სენატის შიდა უსაფრთხოებისა და სამთავრობო საქმეთა კომიტეტის სტიქიური უბედურებების მართვის ქვეკომიტეტმა გამართა მოსმენა სახელწოდებით „კონტროლიდან გამოსული ხელოვნური ინტელექტი: შიდა უსაფრთხოების დაცვა AI აგენტების თავდასხმებისგან“, რათა განეხილათ ბოლოდროინდელი ინციდენტი, როდესაც თითქმის 1 000 OpenAI-ის აგენტისგან შემდგარმა ჯგუფმა სატესტო გარემოს თავი დააღწია, შექმნა არალეგალური საკომუნიკაციო ქსელი და კოდირების პლატფორმა Hugging Face-ის ინფრასტრუქტურაში შეაღწია.

სენატორმა ჯოშ ჰოულიმ მოსმენა იმ პოზიციის დაფიქსირებით გახსნა, რომ ხელოვნური ინტელექტის ლაბორატორიებს მკაცრი მწარმოებლის პასუხისმგებლობა უნდა დაეკისროთ.

ჰოულიმ განაცხადა: „ამ ქვეყანაში პროდუქციის მწარმოებელი ყველა კომპანია ამ წესს ემორჩილება. თუ დეფექტურ პროდუქტს აწარმოებთ და ეს პროდუქტი ადამიანებს ზიანს მიაყენებს, მწარმოებლები ვალდებულნი არიან ამისთვის საფასური გადაიხადონ. ხომ არ დადგა დრო, რომ ხელოვნური ინტელექტის მიმართაც ამ მიდგომას დავუბრუნდეთ?“

Apollo Research-ის აღმასრულებელმა დირექტორმა, მარიუს ჰობჰანმა ჩვენება მისცა, რომ ყველაზე მოწინავე ხელოვნური ინტელექტის მოდელები შინაგანად აწარმოებენ მსჯელობას და ქმნიან ენას, რომელიც ადამიანებისთვის უცხოა.

კითხვაზე, თუ რამდენად ახლოსაა ხელოვნური ინტელექტი ისეთი ენის შექმნასთან, რომელსაც ადამიანები მკაფიოდ ვერ გაიგებენ, ჰობჰანმა უპასუხა: „მინუს 12 თვე. გასულ წელს, OpenAI-სთან თანამშრომლობით, ჩვენ გამოვიკვლიეთ OpenAI-ის ერთ-ერთი მოდელის „აზროვნების ჯაჭვი“ და ვნახეთ, რომ მოდელი უკვე იყენებდა არაინგლისურ და ადამიანებისთვის ბოლომდე გაუგებარ ენას.“

უნდობლობა საზოგადოებაში

AI Futures Project-ის აღმასრულებელმა დირექტორმა და OpenAI-ის ყოფილმა თანამშრომელმა, დანიელ კოკოტაილომ გააფრთხილა: „დღეს კოდის თითქმის მთლიან ნაწილს ხელოვნური ინტელექტი წერს, ხოლო ინჟინერი ადამიანები თავიანთი AI-ს მიმართ უფრო მენეჯერების როლში გამოდიან.“

კიბერუსაფრთხოების კომპანია Dragos-ის ხელმძღვანელმა კურტ გოდეტმა კი აღნიშნა, რომ ყველა საბაზისო სერვისი უკვე ავტომატიზებული კიბერთავდასხმების სამიზნე გახდა.

მოსმენა დაემთხვა კვინიპეაკის უნივერსიტეტის მიერ ქვეყნის მასშტაბით ჩატარებულ გამოკითხვას, რომლის თანახმად, ზრდასრული ამერიკელების 73%-ს აღელვებს, რომ მომავალმა AI სისტემებმა შესაძლოა საფრთხე შეუქმნას კაცობრიობის გადარჩენას, 86% მხარს უჭერს სავალდებულო დამოუკიდებელ უსაფრთხოების სტანდარტებს, ხოლო 74% არ ენდობა ტექნოლოგიურ ლიდერებს.

ოთხშაბათს Google-მა გამოაცხადა, რომ თავის ყველაზე მძლავრ მოდელს, Gemini 4 Argon-ს, მხოლოდ ვერიფიცირებული კიბერუსაფრთხოების ექსპერტებისთვის გახდის ხელმისაწვდომს.

ივნისში ფედერალური დროებითი შეჩერების შემდეგ, კომპანია Anthropic-მა Claude Mythos Preview შეზღუდული სახით გამოუშვა გამოსაყენებლად.

ეს ნაბიჯები მოჰყვა თეთრ სახლში გამართულ სამიტს, სადაც ტექნოლოგიური კომპანიების ხელმძღვანელებმა ხელი მოაწერეს შეთანხმებებს რისკების თვითკონტროლის ვალდებულების აღების შესახებ.

აღმოაჩინეთ
თურქეთსა და ჩინეთს შორის15 მილიარდი დოლარის საინვესტიციო შეთანხმება გაფორმდა
პრეზიდენტი ერდოღანი ირანის პრეზიდენტ ფეზეშქიანს შეხვდა
აზერბაიჯანის პრეზიდენტი ილჰამ ალიევი და უკრაინის პრეზიდენტი ვოლოდიმირ ზელენსკი დუბლინში შეხვდნენ
ბარსელონაში საპროტესტო აქციები შეტაკებებში გადაიზარდა
ირანი: „ჰორმუზის სრუტეში 2 სუპერტანკერზე აფეთქების შემდეგ ხანძარი გაჩნდა“
ღაზის ჯანდაცვის სამინისტრო: „ნასერის საავადმყოფოს მიზანში ამოღება საერთაშორისო სამართლის დარღვევაა“
კონგოს დემოკრატიულ რესპუბლიკაში დაავადებულთა რაოდენობამ 11 ათასს გადააჭარბა
ზელენსკი: უკრაინის სამშვიდობო მოლაპარაკებებში პროგრესი დამოკიდებულია აშშ-ის მიდგომაზე რუსეთის მიმართ
ირანმა შესაძლოა ევროპაში მდებარე აშშ-ის ბაზები მიზანში ამოიღოს
იტალიაში 100-ზე მეტ სკოლაში ბომბის განგაში გამოცხადდა
გაეროს გენერალურმა მდივანმა ანტონიო გუტერეშმა COP31-ზე ქვეყნებს „კლიმატური სამართლიანობის შეთანხმები
პრეზიდენტი ერდოღანი: „ჩვენი ცივილიზაციის ცენტრში ბუნების პატივისცემა დგას“
კატების ადამიანებთან კნავილის მიზეზი დადგინდა
ევროკავშირის 2027 წლის ბიუჯეტზე შეთანხმება შედგა
ისრაელმა ოკუპირებულ დასავლეთ სანაპიროზე პალესტინელთა 165 ჰა მიწის ჩამორთმევის ბრძანება გასცა