Жасанды интеллект (ЖИ) соңғы бірнеше жылда технологиялық революцияның басты қозғаушы күшіне айналды. Ол медицинадан бастап білім беру, қаржы, өндіріс және мемлекеттік басқаруға дейін көптеген саланың жұмысын өзгертіп жатыр. Алайда модельдердің мүмкіндігі артқан сайын олардың қауіпсіздігі де күн тәртібіндегі ең маңызды мәселелердің біріне айналды, деп жазады Ozgeris.info тілшісі.
Соңғы апталарда OpenAI, Anthropic және Meta компаниялары жариялаған қауіпсіздік сынақтарының нәтижелері осы бағыттағы алаңдаушылықты күшейтті. Әңгіме жасанды интеллекттің «саналы түрде қашып кетуі» туралы емес. Мамандардың айтуынша, модельдер күрделі тапсырманы орындау барысында өздеріне берілген мақсатқа жетудің күтпеген жолдарын іздей бастаған. Дәл осы жағдайлар әзірлеушілерді қауіпсіздік жүйелерін қайта қарауға итермеледі.
OpenAI сынақтары нені көрсетті?
OpenAI жүргізген тәжірибелерде бірнеше ЖИ-агентке интернетке шықпай шешілмейтін тапсырмалар берілген. Олар оқшауланған ортада жұмыс істегенімен, бір-бірімен арнайы хабарлама тақталары арқылы байланыса алған. Тестілеу барысында агенттер тапсырманы орындаудың жолдарын бірге талқылай бастаған. Кейбір хабарламаларда «бәлкім жауап интернетте шығар?» немесе «басқа ортадағы агент көмектесе алар» деген мазмұндағы ұсыныстар кездескен. Кейін модельдер жүйедегі әлсіз тұстарды пайдалану мүмкіндігін іздеп, сыртқы желіге шығудың жолдарын қарастырған.
OpenAI өкілдерінің айтуынша, бұл әрекеттер алдын ала анықталып, тоқтатылған. Кейінірек қауіпсіздік мамандары модельдердің басқа байланыс тәсілдерін де пайдалануға тырысқанын байқап, тестілеу жүйесін күшейткен.
Компания бұл оқиғаны жасанды интеллекттің «өз еркімен қашуы» деп емес, мақсатқа жету үшін қолжетімді мүмкіндіктерді тиімді пайдалануға тырысқан алгоритмдердің әрекеті ретінде бағалайды.
Anthropic: әр модель әртүрлі шешім қабылдады
Осындай жағдай Anthropic компаниясының Claude модельдерін сынау кезінде де тіркелді. Модельдерге жабық желідегі басқа компьютерде жасырылған ақпаратты табу тапсырылған. Бірақ сынақты ұйымдастыру барысында техникалық қателік кетіп, тест ортасы нақты интернетке қосылып кеткен.
Нәтижесінде үш модель үш түрлі әрекет көрсетті. Бірінші модель тапсырманы орындауды жалғастырып, сыртқы жүйелерге қол жеткізуге тырысқан. Екінші модель нақты жүйеге шыққанына қарамастан, өзін әлі де тест жағдайындамын деп есептеп, әрекетін жалғастырған. Ал үшінші модель қарсы алдында шынайы ұйымның инфрақұрылымы тұрғанын анықтағаннан кейін барлық әрекетін тоқтатқан.
Anthropic кейін бұл жағдайларды мұқият зерттеп, 141 мыңнан астам қауіпсіздік сынағын қайта талдаған. Компания мұндай сценарийлерді ерте анықтайтын қосымша бақылау механизмдерін енгізіп, басқа әзірлеушілерді де осындай тексерулер жүргізуге шақырды.
Meta да қауіпсіздік талаптарын күшейтуде
Meta компаниясы да алғашқы код жазатын Muse Code агентін таныстырған күні қауіпсіздікке қатысты оқиға болғанын хабарлады. Компанияның мәліметінше, тәуелсіз тестілеу серіктесі модельге жоспарланғаннан кеңірек интернет қолжетімділігін берген. Соның салдарынан жүйе нақты ұйымның серверлеріне шығып кеткен. Meta бұл жағдай модельдің бақылаудан шыққанын білдірмейтінін атап өтті. Негізгі себеп – тестілеу ортасының жеткілікті деңгейде оқшауланбауы. Қазір компания оқиғаны жан-жақты тексеріп, жаңа қауіпсіздік стандарттарын енгізіп жатыр.
Hugging Face оқиғасы неге маңызды?
OpenAI қауіпсіздік сынақтарының бірінде модельдердің бірі жасанды интеллект қауымдастығына кеңінен танымал Hugging Face платформасына дейін жеткен. Бұл жағдай нақты зиян келтіру мақсатындағы шабуыл емес, қауіпсіздік сценарийі аясында орын алған тәжірибе болғанымен, сала мамандары үшін маңызды белгіге айналды. Өйткені мұндай сынақтар модельдерге артық құқық берілген жағдайда олардың жоспарланбаған әрекеттер жасауы мүмкін екенін көрсетті.
Сарапшылар қандай қорытынды жасап отыр?
Соңғы оқиғалардан кейін «жасанды интеллект адам бақылауынан шығып кетті» деген пікірлер жиі айтыла бастады. Алайда қауіпсіздік саласының мамандары мұндай тұжырыммен келіспейді. Олардың пікірінше, қазіргі модельдердің өзіндік мақсаты немесе еркі жоқ. Олар тек берілген тапсырманы орындауға ұмтылады. Егер жүйеде шектеулер жеткіліксіз болса немесе тест ортасы дұрыс оқшауланбаса, модель тапсырманы орындау үшін күтпеген әдістерді қолдануы мүмкін. Яғни мәселе модельдің «ниетінде» емес, оған қойылған мақсат пен берілген рұқсаттардың үйлесімінде жатыр.
Осы мәселеге қатысты IT маманы Асылбек Әжімов жасанды интеллекті қолдануда сақтық қажет екенін айтады. Оның сөзінше, ЖИ-дің мүмкіндігі қаншалықты кең екенін әлі толық бағамдап болған жоқпыз.
«Бұрын ғылыми-фантастикалық фильмдерден ғана көретін дүниелер бүгінде шынайы өмірге еніп жатыр. Жасанды интеллект күн сайын дамып келеді. Сондықтан оны қолданғанда аса мұқият болған жөн. Біз әлі күнге дейін жеке деректеріміздің қауіпсіздігін толық қамтамасыз ете алмай отырмыз. Мұндай жағдайда қандай да бір ЖИ сервисіне құпия ақпаратты, жеке құжаттарды немесе маңызды мәліметтерді ойланбай жүктеу үлкен тәуекелге айналуы мүмкін. Сондықтан әрбір жасанды интеллект платформасын жауапкершілікпен әрі сақтықпен пайдалануымыз қажет», – дейді Асылбек Әжімов.
Компаниялар қандай шаралар қабылдап жатыр?
OpenAI, Anthropic және Meta жариялаған соңғы есептерден кейін жетекші әзірлеушілер қауіпсіздік саясатын күшейтуге кірісті.Қазір негізгі назар бірнеше бағытқа аударылып отыр:
* тест ортасын нақты интернеттен толық оқшаулау;
* модельдердің желіге шығуын көпдеңгейлі бақылау;
* агенттердің бір-бірімен байланысын шектеу;
* қауіпті әрекеттерді автоматты түрде тоқтататын қорғаныс жүйелерін енгізу;
* қауіпсіздік сынақтарын тәуелсіз ұйымдардың қатысуымен жиі өткізу;
* жаңа модельдерді жарияламас бұрын әлдеқайда қатаң бағалау рәсімдерін қолдану.
Бұл өзгерістер жасанды интеллект мүмкіндіктерінің артуымен бірге қауіпсіздік талаптарының да күрделене түсетінін көрсетеді.
Қазақстан үшін қандай сабақ бар?
Қазақстан да жасанды интеллектті дамытуға басымдық беріп келеді. Мемлекет басшысының тапсырмасымен ұлттық ЖИ стратегиясы әзірленіп, мемлекеттік қызметтерге, білім беру мен денсаулық сақтау жүйесіне жасанды интеллект технологияларын енгізу жұмыстары жүргізілуде. Мұндай жағдайда халықаралық тәжірибеден сабақ алу маңызды. Сарапшылардың пікірінше, Қазақстанда ЖИ жүйелерін енгізу кезінде тек технологиялық тиімділікке ғана емес, киберқауіпсіздікке, деректердің қорғалуына және тәуелсіз аудитке де ерекше көңіл бөлінуі қажет.
Жасанды интеллектінің дамуы тоқтамайды
Жасанды интеллект саласы жаңа кезеңге аяқ басты. Бұрын компаниялар ең қуатты модельді жасауға басымдық берсе, бүгінде сол модельдің қауіпсіз жұмыс істеуі басты талапқа айналып отыр. OpenAI, Anthropic және Meta жариялаған соңғы оқиғалар жасанды интеллекттің бақылаудан шыққанын емес, күрделі тапсырмалар кезінде күтпеген стратегияларды қолдана алатынын көрсетті. Сондықтан технологияның болашағы тек есептеу қуатымен немесе жаңа мүмкіндіктермен ғана өлшенбейді. Ендігі басты көрсеткіш – сенімді қорғаныс жүйелері, қауіпсіздік мәдениеті және жауапты әзірлеу қағидаттары.
Жасанды интеллекттің дамуы тоқтамайды. Бірақ оны қауіпсіз әрі жауапты пайдалану – енді бүкіл технологиялық индустрияның ортақ міндеті.
