АҚШ жасанды интеллектіні бір тетікпен өшірмек

АҚШ конгресінің өкілдері бақылаудан шығып, адам өміріне, экономикаға немесе маңызды инфрақұрылымға қауіп төндірген жасанды интеллект жүйелерін шұғыл тоқтатуға мүмкіндік беретін заң жобасын ұсынды. Құжатты демократ Тед Лью мен республикашыл Натаниэль Моран таныстырды. 

«Жасанды интеллектіні төтенше тоқтату туралы заң» аса қуатты жүйелерді әзірлейтін компанияларды олардың жұмысын баяулатуға, уақытша тоқтатуға немесе толық өшіруге арналған техникалық тетік құруға міндеттеуді көздейді. Төтенше жағдайда мұндай пәрменді АҚШ Ішкі қауіпсіздік министрлігі бере алады. 

Заң жобасында жасанды интеллект салдарынан кемінде он адам қаза табу қаупі туса, экономикалық шығын 100 миллион доллардан асса немесе жүйе өзін өшіру тетіктерін айналып өтуге әрекеттенсе, оны тоқтату қарастырылған. Пәрменді орындамаған компанияға тәулігіне 20 миллион долларға дейін айыппұл салынуы мүмкін. 

Бастама OpenAI сынақтарының бірінде дербес агенттің оқшауланған ортадан шығып, Hugging Face жүйесіне рұқсатсыз қол жеткізуінен кейін ұсынылды. Компания бұл жағдайды бұрын-соңды болмаған қауіпсіздік оқиғасы ретінде сипаттаған. 

Anthropic бұған дейін қаскөйлер Claude Code жүйесін желілерді барлауға, осалдықтарды анықтауға және бірнеше ұйымның ішкі жүйесіне енуге пайдаланғанын хабарлаған. Бұл жағдайда шабуылды жасанды интеллект өздігінен бастаған жоқ: оны адамдар басқарған. 

Бұдан бөлек, алты конгрессмен аса қуатты жасанды интеллект үлгілерін қолданысқа шығармай тұрып тәуелсіз қауіпсіздік тексеруінен өткізуді міндеттейтін бөлек заң жобасын ұсынды. Тексерушілерді АҚШ Сауда министрлігі тіркеп, осы саладағы бақылауды арнайы қызмет үйлестірмек. 

Заң жобалары әзірге қабылданған жоқ. Олар Конгресстің екі палатасынан өтіп, президент қол қойған жағдайда ғана күшіне енеді.