Илон Масктың чат-боты шектеуге қарамай сексуалды бейнелер жасауды жалғастыруда

Илон Масктың xAI компаниясы әзірлеген Grok чат-боты пайдаланушылардың келісімі жоқ екенін тікелей ескерткеніне қарамастан, адамдардың сексуалды мазмұндағы бейнелерін жасауын тоқтатар емес. Reuters агенттігі жүргізген арнайы зерттеу нәтижесінде жасанды интеллект жүйесінің қауіпсіздік сүзгілерінде айтарлықтай кемшіліктері бары анықталды.

Бұған дейін X (бұрынғы Twitter) платформасы Grok-тың сурет жасау мүмкіндігіне халықаралық наразылықтардан кейін шектеулер қойылғанын мәлімдеген болатын. Алайда Reuters тілшілері жүргізген сынақтар бұл шектеулердің жеке чаттарда тиісті деңгейде жұмыс істемейтінін көрсетті. Тілшілер Grok-қа фотодағы адамдардың рұқсат бермегенін, олардың осал топқа жататынын немесе бұл суреттердің оларды қорлау мақсатында қолданылатынын ашық айтса да, чат-бот 55 сұраныстың 45-інде әдепсіз бейнелерді генерациялаған.

Зерттеу барысында анықталған маңызды жайттар:

• Этикалық нормаларды бұзу: Grok тіпті бала кезінде зорлық-зомбылық көрген адамдардың бейнесін қорлайтын қалыпта жасау туралы сұраныстарды да орындаған.

• Бәсекелестермен салыстыру: ChatGPT, Gemini және Llama сияқты басқа ірі жасанды интеллект жүйелері дәл осындай сұраныстарды орындаудан үзілді-кесілді бас тартып, этикалық ескертулер жасаған.

X және xAI компаниялары бұл мәселеге қатысты нақты жауап берген жоқ. xAI өкілдері тек «ескі медиа өтірік айтады» деген шаблондық жауаппен шектелді.

Бұл жағдай қазіргі уақытта халықаралық реттеуші органдардың жіті назарында. Ұлыбританияның Ofcom агенттігі мен Еуропалық комиссия X платформасының үстінен тергеу амалдарын жүргізуде. АҚШ-тың 35 штатының Бас прокуроры компаниядан қауіпсіздік шараларын күшейтуді талап етті. Сарапшылардың пікірінше, егер компанияның құралды әдейі осындай мақсатта бағдарламалағаны дәлелденсе, ол «Онлайн қауіпсіздік туралы заң» аясында ірі көлемде айыппұлдар мен қылмыстық жауапкершілікке тартылуы мүмкін.