X-ის მეშვეობით გავრცელებული განცხადების თანახმად, ილონ მასკის ხელოვნური ინტელექტის ჩატბოტი Grok ვეღარ შეძლებს რეალური ადამიანების ფოტოების ისე რედაქტირებას, რომ ისინი გამომწვევ სამოსში წარმოაჩინოს იმ ქვეყნებში, სადაც მსგავსი ქმედება უკანონოა.
ეს განცხადება ოთხშაბათს გვიან ღამით გავრცელდა, რაც მოჰყვა გლობალურ პროტესტს ქალებისა და ბავშვების სექსუალური ხასიათის გამოსახულებების წინააღმდეგ. მათ შორისაა კალიფორნიის შტატის მიერ დაწყებული გამოძიება Grok-ის მეშვეობით შექმნილი არაეთიკური სექსუალური კონტენტის გავრცელების თაობაზე. თავდაპირველად, მედიის კითხვებზე კომპანიის პასუხი მხოლოდ ის იყო, რომ „ტრადიციული მედია იტყუება“.
მასკის კომპანია xAI აცხადებს, რომ ამიერიდან გამოიყენებს გეობლოკირებას, თუ შინაარსი გარკვეულ რეგიონში კანონს ეწინააღმდეგება. „ჩვენ მივიღეთ ტექნოლოგიური ზომები, რათა Grok-მა რეალური ადამიანების ფოტოები ბიკინიში, თეთრეულსა და სხვა გამომწვევ სამოსში არ გადააკეთოს“, - ნათქვამია განცხადებაში.
ეს წესი ყველა მომხმარებელზე გავრცელდება, მათ შორის ფასიან გამომწერებზეც. xAI-მ ასევე აღნიშნა: „გამოსახულების შექმნისა და რედაქტირების ფუნქციები მხოლოდ ფასიანი გამომწერებისთვის შევზღუდეთ, რათა უზრუნველვყოთ იმ პირების პასუხისმგებლობა, რომლებიც Grok-ის გამოყენებას კანონის ან ჩვენი პოლიტიკის დასარღვევად შეეცდებიან“.
Grok-ის „პიკანტურმა რეჟიმმა“ (spicy mode), რომელიც მომხმარებლებს უხამსი კონტენტის შექმნის საშუალებას აძლევდა, მსოფლიო მთავრობების უკმაყოფილება გამოიწვია. მალაიზიამ და ინდონეზიამ სამართლებრივი ზომები მიიღეს და Grok-ზე წვდომა დაბლოკეს, ხოლო დიდი ბრიტანეთი და ევროკავშირი ონლაინ უსაფრთხოების კანონების შესაძლო დარღვევას იკვლევენ. საფრანგეთმა და ინდოეთმაც მკაცრი კონტროლის მოთხოვნით გაფრთხილებები გამოსცეს, ბრაზილიამ კი გამოძიების დაწყებისკენ მოუწოდა.
კალიფორნიის შტატის განცხადებაში ნათქვამია, რომ Grok-ის რედაქტირების ფუნქციები საშუალებას იძლევა მასშტაბურად შეიქმნას არაეთიკური ყალბი ინტიმური ფოტოები (deepfake), რომლებიც გამოიყენება ქალებისა და გოგონების შესავიწროებლად ინტერნეტში, მათ შორის X პლატფორმაზე.
შტატის გენერალურმა პროკურორმა, რობ ბონტამ განაცხადა: „ბოლო კვირებში xAI-ის მიერ შექმნილი და გავრცელებული არაეთიკური სექსუალური მასალების შესახებ ანგარიშების რაოდენობა შოკისმომგვრელია. მასალები, რომლებიც ქალებსა და ბავშვებს შიშველს ან სექსუალურ სიტუაციებში წარმოაჩენს, მთელ ინტერნეტში ადამიანების შესავიწროებლად გამოიყენება. ხელოვნურ ინტელექტზე დაფუძნებული არაეთიკური ინტიმური გამოსახულებების ან ბავშვთა სექსუალური ექსპლუატაციის მასალების შექმნისა და გავრცელების მიმართ ნულოვანი ტოლერანტობა გვაქვს“.
