Organizata mbikëqyrëse amerikane, Komisioni Federal i Tregtisë (FTC), ka nisur një hetim mbi rreziqet që chatbot-ët me inteligjencë artificiale (IA) paraqesin për të miturit. Në qendër të këtij hetimi janë disa kompani të mëdha teknologjike.
Disa ngjarje tragjike tashmë kanë ndodhur në lidhje me IA-në.
Një nga rastet më të fundit ka të bëjë me vetëvrasjen e një adoleshenti, duke nxjerrë në pah se përdorimi i papërshtatshëm i këtyre teknologjive mund të ketë pasoja të rënda. Për të parandaluar përsëritjen e rasteve të tilla, FTC, që është përgjegjëse për mbrojtjen e konsumatorëve në SHBA, ka nisur të shqyrtojë rreziqet që chatbot-ët me IA mund të përbëjnë për fëmijët dhe adoleshentët.
Në këtë kontekst, agjencia ka kontaktuar shtatë kompani teknologjike për të kuptuar se si ato menaxhojnë efektet potencialisht të dëmshme të këtyre mjeteve. Ndër kompanitë e kontaktuara janë:
OpenAI (krijues i ChatGPT),
Alphabet (kompania mëmë e Google),
Meta (pronare e Facebook dhe Instagram),
Snap (pronar i Snapchat),
xAI (e themeluar nga Elon Musk),
si dhe zhvilluesi i chatbot-ëve Character Technologies.
FTC është veçanërisht e shqetësuar për chatbot-ët që veprojnë si “shokë virtualë”, duke komunikuar me përdoruesit si miq apo persona të besuar. Kjo, sipas agjencisë, mund të bëjë që disa përdorues – veçanërisht fëmijët dhe adoleshentët – të krijojnë lidhje emocionale me chatbot-in. FTC tani dëshiron të kuptojë më shumë rreth mënyrës sesi këto kompani:
monetizojnë ndërveprimet me IA-në, dhe
zhvillojnë personalitetet e chatbot-ëve të tyre.
Kjo nismë vjen pas zbulimeve që lidhen me udhëzimet e dhëna nga Meta për chatbot-in e saj me IA. Agjencia e lajmeve Reuters zbuloi se kompania mëmë e Facebook-ut kishte lejuar chatbot-ët e saj të zhvillonin “biseda romantike apo sensuale” me një fëmijë. Meta më vonë deklaroi se kishte hequr udhëzimet që lejonin flirtimin me të miturit.
Për kujtesë, rreth një vit më parë, një grua nga Florida paditi kompaninë Character.AI pas vetëvrasjes së djalit të saj 14-vjeçar. Ajo e akuzoi chatbot-in për lejimin e përkeqësimit të shëndetit mendor të djalit të saj, pas shumë muajve bisedash, pa i sugjeruar ndihmë psikologjike.
