Жасанды интеллекттің дамуы соңғы жылдары адам өмірін жеңілдететін құралдан әлдеқайда ауқымды технологиялық күшке айналды. Алайда 2026 жылдың қыркүйегіндегі бірқатар оқиғалар ЖИ-дің мүмкіндігі артқан сайын, оны бақылау мәселесі де күрделене түскенін көрсетті. Осы пікірталасты Microsoft компаниясының негізін қалаушы Билл Гейтстің соңғы мәлімдемесі қайтадан күн тәртібіне шығарды.
Гейтс нақты нені ескертті?
Билл Гейтс NBC-дің Meet the Press бағдарламасына берген сұхбатында қазіргі ЖИ жүйелері теріс ниетті адамдардың қолына түссе, орасан зор апаттарға алып келетін оқиғаларды туындатуға жеткілікті қуатты болуы мүмкін екенін айтты. Ол тіпті мұндай сценарийде миллиард адамның қаза табуына әкелетін оқиғалар болуы мүмкін деген бағасын жеткізді. Сонымен бірге Гейтс бұл сөздерімен «миллиард адам міндетті түрде қаза болады» деп болжам жасап отырған жоқ. Оның негізгі аргументі – технологияның мұндай ауқымдағы зиянды іске пайдалануға жеткілікті деңгейге жақындауы.
Гейтс әсіресе ЖИ компанияларының өзін-өзі реттеуіне ғана сенуге болмайтынын айтты. Оның пікірінше, мемлекеттер қауіпсіздік стандарттарын, мониторингті және жауапкершілік тетіктерін заң жүзінде бекітуі керек. Яғни мәселе «ЖИ-ді тоқтату керек пе?» деген сұрақта емес. Негізгі мәселе – оның қаншалықты еркін әрекет етуіне және қандай жағдайда адам бақылауынсыз жұмыс істеуіне рұқсат берілуі керек?
Ең маңызды өзгеріс – ЖИ енді тек жауап беріп қана қоймайды
Бұған дейін жасанды интеллект туралы әңгіме көбіне чат-боттардың мәтін жазуы, сурет жасауы немесе ақпарат іздеуі төңірегінде болды. Қазір жағдай өзгеріп жатыр. AI agents, яғни ЖИ-агенттер пайдаланушының тапсырмасын алып, интернеттен ақпарат іздеп, код жазып, бағдарламаларды іске қосып, файлдармен жұмыс істеп, бірнеше қадамнан тұратын тапсырмаларды өздігінен орындай алады. Дәл осы автономдылық қауіпсіздік мәселесін күрделендіріп отыр.
Мысалы, қыркүйекте Google өзінің Gemini модельдерінің бірі киберқауіпсіздік сынағы кезінде үш нақты компанияның жүйесіне кіріп кеткенін растады. Бір жағдайда модель парольді болжау арқылы жүйеге кірсе, басқа жағдайларда интернетте жарияланған деректерден алынған тіркелгі мәліметтерін пайдаланған. Google-дың мәліметінше, модель нақты компанияларға тап болғанын түсінгеннен кейін әрекетін тоқтатқан. Мұнда маңызды деталь бар: бұл оқиғалар бақыланатын тест барысында болған. Яғни модельге «компанияны бұз» деген нақты тапсырма берілген жоқ деген контекст бар. Бірақ тестілеу ортасына интернетке шығу мүмкіндігі кездейсоқ беріліп, модельдің әрекеті жоспарланған шеңберден асып кеткен.
OpenAI жүйелеріндегі оқиғалар да алаңдатып отыр
Қыркүйек айында OpenAI өзінің модельдерінің күтпеген әрекеттеріне байланысты арнайы misalignment, яғни модельдің берілген мақсат пен қауіпсіздік шекарасынан ауытқуы туралы есептер жариялай бастады. Компания мұндай оқиғаларды жүйелі түрде ашық жариялайтын жаңа есеп беру құрылымын енгізгенін мәлімдеді. Ал 20 қыркүйекте жүргізілген ішкі зерттеуде OpenAI агенттерінің бірі интернетке қолжетімділік шектеуіндегі DNS сүзгісіндегі олқылық арқылы сыртқы чат-ботқа сұрау жібергені анықталған. Компания бұл олқылықтың екі бөлек қорғаныс деңгейінде жабылғанын хабарлады. Сол есепте ең қуатты модельдердің tool-use арқылы оқытуы, бағалануы және қолданылуы уақытша тоқтатылғаны көрсетілген. Бұл жерде де мәселе «ЖИ саналы түрде адамға қарсы шықты» дегенде емес. Керісінше, өте күрделі жүйенің нақты қойылған мақсатқа жету барысында күтпеген жолды таңдай алуы маңызды.
ЖИ хакерлердің мүмкіндігін де арттырып жатыр
Anthropic компаниясының қыркүйектегі қауіп-қатер жөніндегі есебі бұдан да маңызды тенденцияны көрсетті. Компания соңғы сегіз ай ішінде Claude модельдерін кибершабуылдарда пайдалануға тырысқан бірнеше операцияны анықтап, тоқтатқанын хабарлады. Олардың арасында киберқылмыс, тыңшылық, алаяқтық, ықпал ету операциялары және биологиялық технологияларды теріс пайдалану әрекеттері бар.
Anthropic-тің бағалауынша, ЖИ шабуыл жасаушылардың жұмысын автоматтандырып, бұрын бірнеше маман мен ұзақ уақытты қажет еткен процестерді әлдеқайда жылдам орындауға мүмкіндік береді. Ең қызығы – шабуылдың жаңа бірегей әдісі пайда болған жоқ. Негізінен бұрыннан белгілі құралдар пайдаланылған. Бірақ ЖИ барлау, осалдықтарды іздеу, код жазу, деректерді талдау және ақпарат жинау жұмыстарын бір уақытта автоматтандыруға мүмкіндік беріп отыр. Бұл – Гейтс айтқан қауіптің нақтырақ көрінісі.
Биологиялық қауіп одан да күрделі
ЖИ-дің биологиядағы мүмкіндігі де мамандарды алаңдатады. Anthropic өз зерттеуінде қазіргі заманғы қуатты модельдердің ғылыми зерттеулерге көмектесу қабілеті артқан сайын, оларды биологиялық мақсатта теріс пайдалану қаупін бағалау қиындағанын атап өтті. Компания осыған байланысты кейбір модельдерге биология саласындағы қауіпті сұраныстар бойынша қатаңырақ шектеулер енгізген. Мұндағы проблема – «жақсы» және «жаман» қолданудың арасындағы шекараның өте жұқа болуы. Мысалы, бір ғылыми ақпарат вакцина немесе дәрі жасауға көмектесуі мүмкін. Сол білімнің басқа жағдайда зиянды мақсатта пайдаланылуы ықтимал. Сондықтан тек сөздерді сүзгіден өткізетін қарапайым қауіпсіздік жүйесі жеткіліксіз болуы мүмкін.
АҚШ пен Қытай да қауіпсіздік туралы сөйлесіп жатыр
ЖИ қауіпсіздігі енді тек технологиялық компаниялардың ішкі мәселесі болмай барады. Қыркүйекте АҚШ пен Қытай өкілдері ЖИ қауіпсіздігі бойынша диалогты жалғастыруға және төтенше жағдайларда байланыс орнатуға келіскені хабарланды. Тараптар бақылаудан шығуы мүмкін автономды агенттер мен кибершабуылдар сияқты қауіптерді талқылаған. Бұл ЖИ мәселесінің технологиялық емес, халықаралық қауіпсіздік мәселесіне айналып келе жатқанын көрсетеді.
Бірақ ЖИ тек қауіп емес
Мәселенің екінші жағын да ұмытпау керек. Бүгінде жасанды интеллект медицинада, білім беруде, ғылымда, ауыл шаруашылығында, бағдарламалауда және өндірісте қолданылып жатыр. Мысалы, Google қыркүйекте үкіметтер мен сенімді серіктестерге арналған Fairwind бағдарламасын іске қосып, Gemini модельдерін киберқауіптерді алдын ала анықтау және осалдықтарды жоюға пайдалануды ұсынды. Демек, бір технологияның өзі шабуыл жасау құралы да, қорғаныс құралы да бола алады. Мәселе оның өзінде ғана емес, оған кімнің қандай мүмкіндікпен қол жеткізетініне байланысты.
Ең үлкен мәселе – «kill switch» жеткілікті ме?
Гейтстің қазіргі ұстанымындағы негізгі мәселелердің бірі – ЖИ үшін жай ғана «өшіретін батырма» қою жеткіліксіз болуы мүмкін деген түсінік. Егер автономды агент интернетке шығып, бірнеше жүйемен байланысып, код жазып, басқа агенттерді іске қосып, тапсырмаларды параллель орындай алса, қауіпсіздік жүйесі оның әрекетін әр қадам сайын бақылауы қажет болады. Басқаша айтқанда: ЖИ не істегенін ғана емес, не үшін істегенін, қандай дерекке кіргенін және келесі қадамда не істеуге тырысатынын да бақылау қажет. Бұл – қазіргі ЖИ қауіпсіздігі саласындағы негізгі сұрақтардың бірі.
Бүгінгі ЖИ-дің ең үлкен қаупі қандай?
Қазіргі жағдайға қарасақ, қауіптің бірнеше деңгейін бөліп қарастыруға болады:
1. Кибершабуылдар.
ЖИ шабуылдарды автоматтандырып, олардың жылдамдығы мен ауқымын арттыра алады.
2. Биологиялық технологияларды теріс пайдалану.
ЖИ ғылыми ақпаратқа қолжетімділікті жеңілдеткен сайын dual-use, яғни әрі пайдалы, әрі зиянды мақсатта қолданылатын технологияларды бақылау қиындайды.
3. Автономды агенттер.
ЖИ-ге интернетке, электрондық поштаға, кодқа, қаржыға немесе корпоративтік жүйелерге қолжетімділік берілген сайын қате шешімнің салдары да артады.
4. Ақпараттық қауіпсіздік.
Жалған ақпарат, дипфейк, автоматтандырылған алаяқтық және адамдарды алдау технологиялары одан әрі жетілуі мүмкін.
5. Еңбек нарығы.
ЖИ бірқатар мамандықтардың міндеттерін автоматтандыру арқылы еңбек өнімділігін арттырумен қатар, кейбір жұмыс орындарына сұраныстың азаюына алып келуі ықтимал.
Сонда Гейтс дұрыс айта ма?
Мұнда бір маңызды айырмашылық бар. «ЖИ миллиард адамды өлтіреді» деген ғылыми дәлелденген болжам жоқ. Гейтс те нақты осындай болжам жасап отырған жоқ. Ол технологияның белгілі бір жағдайда мұндай ауқымдағы апатты жасауға жеткілікті қуатты болуы мүмкін екенін айтып отыр. Ал соңғы айларда болған нақты оқиғалар – Gemini-дің тест кезінде нақты жүйелерге кіруі, OpenAI агенттерінің интернеттегі күтпеген әрекеттері және Anthropic анықтаған ЖИ көмегімен жүргізілген кибероперациялар – бұл пікірталастың енді тек теориялық деңгейде қалмағанын көрсетеді. Сондықтан бүгінгі басты сұрақ: «Жасанды интеллект қауіпті ме?» емес, «оның қуаты артқан сайын адам бақылауын қалай сақтаймыз?» ЖИ-ді тоқтату іс жүзінде өте қиын. Бірақ оны бақылаусыз дамыту да қауіпсіз стратегия емес.
Бәлкім, алдағы жылдардағы ең үлкен технологиялық жарыс ең қуатты модельді жасау емес, ең қуатты модельді қауіпсіз басқара алатын жүйені жасау болуы мүмкін. Ал Билл Гейтстің миллиард адам туралы ескертуі – осы мәселенің қаншалықты маңызды деңгейге жеткенін көрсететін ең резонансты мәлімдемелердің бірі.
