Жасанды интеллектің адамзатты жойып жіберу қаупі 10 пайыздан асты – сарапшылар

Anthropic компаниясының жасанды интеллект (ЖИ) қауіпсіздігі жөніндегі сарапшысы Эван Хьюбингер алдағы онжылдықта ЖИ жүйелерінің бүкіл адамзат өркениетін құрдымға жіберу ықтималдығы 10 пайыздан асатынын мәлімдеді. Сарапшының айтуынша, қазіргі қолданыстағы модельдердің қаупі жоғары болмағанымен, технологияның шапшаң дамуы жаңа модельдерге толық дербестік беріп, оларды адамзаттың өмір сүруіне тікелей қатер төндіретін деңгейге жеткізеді.

Бұл сенсациялық мәлімдеме Anthropic компаниясының өзінің соңғы ЖИ-моделін Ұлыбританияның Жасанды интеллект қауіпсіздігі институтына (AISI) тексеруге ұсынудан бас тартқаны туралы ақпаратпен тұспа-тұс келді. Ал жақында ғана аталған компаниядан өз еркімен кеткен сарапшы Джейкоб Коксон ірі IT-гиганттардың жауапсыз әрекет етіп жатқанын ашық айтты. Оның пайымдауынша, жақын арада адам интеллектынан асып түсетін бұл жүйелер кез келген киберқорғанысты бұзып, шексіз ресурстар мен билікке ие болуы мүмкін.

Ғалымдарды әсіресе суперинтеллекттің мақсаттарын адамзаттың моральдық-этикалық құндылықтарымен сәйкестендірудің (alignment) нақты жоспарының жоқтығы алаңдатып отыр. Оған қоса, осы жылдың тамыз айында Anthropic, OpenAI және Meta сияқты көшбасшы компаниялар өздерінің ЖИ құралдарының қатысуымен орын алған дербес кибератакалар мен жүйені бұзу оқиғаларын мойындаған болатын. Anthropic сарапшылары ЖИ-дің өз бетінше зерттеулер жүргізіп, «апатты зиян» келтіру қаупі бұрынғы болжамдардан әлдеқайда тез өсіп бара жатқанын растады.

Бұдан бөлек, кембридждік профессор Нил Лоуренс АҚШ тарапының ЖИ қауіпсіздігі бойынша халықаралық ынтымақтастықтан біртіндеп бас тартып, изоляционизмге ойысып бара жатқанын атап өтті. Адамзаттың ЖИ үстінен бақылауды толық жоғалту қаупіне байланысты саладағы 1300-ден астам мамандар мен IT-компания басшылары АҚШ үкіметіне ашық хат жолдап, жаңа модельдерді әзірлеу қарқынын баяулатуды және оларды реттеудің халықаралық тетіктерін жедел түрде енгізуді талап етті.