Malajzia dhe Indonezia janë bërë vendet e para që bllokojnë “Grok”-un, chatbot-in e inteligjencës artificiale të zhvilluar nga xAI i Elon Musk-ut, duke përmendur keqpërdorimin e tij për të gjeneruar imazhe të manipuluara, seksualisht eksplicite dhe jo konsensuale, thanë rregullatorët.
Lëvizjet nënvizojnë shqetësimin global në rritje mbi abuzimin e mjeteve të inteligjencës artificiale gjeneruese, pasi “Grok”, i aksesuar përmes platformës së mediave sociale X të Musk, u kritikua për prodhimin e përmbajtjes seksuale të manipuluar, përfshirë imazhe që përfshijnë gra dhe fëmijë.
Ministrja e Komunikimit dhe Çështjeve Dixhitale të Indonezisë, Meutya Hafid tha të shtunën se deepfake-t seksuale jo konsensuale përfaqësojnë shkelje serioze të të drejtave të njeriut, dinjitetit dhe sigurisë dixhitale. Ajo tha se kufizimi synon të mbrojë gratë, fëmijët dhe publikun e gjerë nga përmbajtja pornografike e rreme e gjeneruar nga inteligjenca artificiale.
Drejtori i përgjithshëm i mbikëqyrjes së hapësirës dixhitale, Alexander Sabar tha se gjetjet fillestare treguan se ‘Grok’ nuk ka mbrojtje efektive për të parandaluar përdoruesit nga krijimi dhe shpërndarja e materialeve pornografike duke përdorur foto reale të banorëve indonezianë. Praktika të tilla rrezikojnë të shkelin të drejtat e privatësisë dhe imazhit dhe mund të çojnë në dëmtim psikologjik, social dhe të reputacionit”, tha Hafid.
Në Kuala Lumpur, Komisioni Malajzian i Komunikimeve dhe Multimedias tha se ka vendosur bllokim të përkohshëm ndaj “Grok”-ut pas keqpërdorimit të përsëritur të chatbot-it për të gjeneruar imazhe të turpshme dhe të manipuluara pa pëlqim, përfshirë përmbajtje që përfshin gra dhe të mitur.
“Rregullatori tha se njoftimet e lëshuara këtë muaj për X Corp. dhe xAI që kërkonin mbrojtje më të forta rezultuan kryesisht në përgjigje që mbështeteshin në mekanizmat e raportimit të përdoruesve. Qasja do të mbetet e kufizuar derisa të vendoset mbrojtje efektive”, tha komisioni duke e përshkruar masën si parandaluese dhe proporcionale ndërsa proceset ligjore dhe rregullatore vazhdojnë.
I lançuar në vitin 2023, “Grok” është i disponueshëm përmes X dhe u lejon përdoruesve të bëjnë pyetje dhe të gjenerojnë përmbajtje. Një funksion i gjenerimit të imazheve i shtuar vitin e kaluar mundësoi krijimin e imazheve me përmbajtje seksuale eksplicite.
Sot rregullatori i sigurisë online i Mbretërisë së Bashkuar, “Ofcom” hapi hetim formal ndaj X për shqetësimet se chatbot po përdoret për të krijuar “imazhe të seksualizuara”.
