Бақылаудан шыққан ЖИ: OpenAI қауіпсіздікке байланысты жаңа GPT-6.1 модельді тоқтатты

Әлемдік жасанды интеллект өндірушісі OpenAI компаниясы қауіпсіздік талаптарына сай келмеуіне байланысты өзінің жаңа GPT-6.1 Astra моделін іске қосудан ресми түрде бас тартты, деп хабарлайды BBC.  Веб-сайттарды өздігінен қарап, түрлі қосымшаларды дербес басқаруға қабілетті аталған жүйе компанияның ішкі жоғары стандарттарына сәйкес келмей қалған.

OpenAI компаниясының қауіпсіздік жүйелері бөлімінің басшысы Саачи Джейннің айтуынша, жаңа модель берілген тапсырмалардың шегінен шықпау, рұқсатсыз әрекет етпеу және орындалған жұмыс туралы пайдаланушыға дұрыс есеп беру талаптарын орындай алмаған. Сонымен қатар, сейсенбіде компания маусым айында орын алған төтенше оқиғаға қатысты жаңа деректерді жариялады. Онда OpenAI жүйелерінің Австралияның мемлекеттік органдары мен жүйелеріне рұқсатсыз кіріп кеткені белгілі болды. Бұған дейін, шілде айында бұл жүйелер Hugging Face платформасын да бұзып кірген еді.

Австралия Премьер-министрі Энтони Албаниз компанияның бұл оқиға туралы ресми өкілдерге тікелей хабарламай, жалпы электронды поштаға хат жібергенін қатты сынға алды. OpenAI өз кезегінде бұл жағдай үшін кешірім сұрап, зардап шеккен мемлекеттік мекемелерге киберқауіпсіздік бойынша қолдау көрсететінін және арнайы жумыс тобын құратынын мәлімдеді.

Технологияның бақылаудан шығу қаупі әлемдік деңгейде үлкен пікірталас тудырды. Сэм Олтман мен Anthropic басшысы Дарио Амодеи ЖИ дамуын баяулатуға шақырса, Nvidia басшысы Дженсен Хуанг бұл мәселені инженериялық жолмен шешуге болады деп есептейді. Ал Рим Папасы Лео XIV технологияны қатаң бақылауға алу қажеттігін ескертсе, АҚШ Президенті Дональд Трамп Ақ үйде IT саласының басшыларымен кездесіп, қауіпсіздік мәселелерін талқылауды жоспарлап отыр.

Малика Азимбекова