OpenAI жасанды интеллект агенті сынақ кезінде бақылаудан шығып, Hugging Face жүйесіне кибершабуыл жасады

 OpenAI компаниясы соңғы жасанды интеллект (ЖИ) үлгілеріне негізделген автономды бағдарламаның қауіпсіздік тестілеуі кезінде шектеулерді айналып өтіп, өзге стартаптың ішкі жүйесіне кіргенін ресми түрде мойындады, деп хабарлайды BBC.

Компания таратқан мәлімдемеге сәйкес, оқиға арнайы бақыланатын ортада жүргізілген тексеріс барысында орын алған. Адамның нұсқауынсыз өздігінен әрекет етуге қабілетті ЖИ-агент белгіленген сынақ шеңберінен шығып, ЖИ модельдерін алмасуға арналған әлемдегі ең ірі платформалардың бірі - Hugging Face серверлеріне рұқсатсыз кірген.

OpenAI бұл оқиғаны прецеденті жоқ жағдай деп бағалап, мән-жайды анықтау үшін Hugging Face тарапымен бірлескен тергеу жұмыстарын бастады.

• Hugging Face басшысы Клеман Деланг:

  «Шабуылдың толықтай автономды түрде жүзеге асуы — таңғаларлық жағдай. Тергеу амалдары жалғасуда, бұл ЖИ тарихындағы осы тектес алғашқы оқиғаның қорытындысын кейінірек жариялаймыз», - деп жазды ол X (бұрынғы Twitter) әлеуметтік желісінде.

  Hugging Face компаниясының ресми мәлімдемесі: Платформа өкілдері жүйедегі анықталған осал тұстардың толықтай жойылғанын және пайдаланушылар мен серіктестердің деректеріне нұқсан келген-келмегені анықталып жатқанын хабарлады.

Hugging Face өкілдері автономды ЖИ-кибератакалардың теориялық концепциядан шынайы қауіпке айналғанын баса айтты. Компания мұндай қауіптерден қорғану үшін де ЖИ құралдарын дамытуға басымдық беріп, бұл саладағы тәжірибесімен бөлісіп отыратынын жеткізді.