Жасанды интеллекттің дамуы соңғы жылдары технологиялық жетістік қана емес, халықаралық қауіпсіздік мәселесіне де айналды. Бұған дейін нейрожелілердің болашақтағы ықтимал қаупі көбіне ғылыми фантастика деңгейінде айтылса, бүгінде әлемдік сарапшылар мен халықаралық ұйымдар нақты қауіптерге назар аударып отыр. БҰҰ жасанды интеллектіні қауіпсіз әрі жауапты дамыту үшін мемлекеттер арасындағы халықаралық ынтымақтастықты күшейту қажеттігін көтерсе, технологиялық компаниялардың өз өкілдері де ЖИ жүйелерінің даму қарқыны қауіпсіздік тетіктерінен озып бара жатқанын айтып отыр.
Мәселе енді жасанды интеллектіні дамыту керек пе, жоқ па деген сұрақта емес. Негізгі мәселе – оны қалай дамыту, қандай шектеулер енгізу және ең бастысы, адамның бақылауын қалай сақтап қалу.
ЖИ-дің жаңа кезеңі: жауап беретін жүйеден әрекет ететін агентке дейін
Қазіргі жасанды интеллект жүйелерінің бұрынғы чат-боттардан басты айырмашылығы – олардың біртіндеп автономды әрекет ету қабілетінің артуы. Чат-бот негізінен пайдаланушының сұрағына жауап берсе, ЖИ-агенттер белгілі бір тапсырманы өз бетінше жоспарлап, бірнеше әрекетті қатар орындауға қабілетті. Бұл технологияның практикалық пайдасы өте үлкен. Мысалы, агент ақпарат жинай алады, бағдарламалық код жазады, электрондық жүйелермен жұмыс істейді, бірнеше тапсырманы бір-бірімен байланыстырып, белгілі бір нәтижеге өздігінен ұмтыла алады. Алайда дәл осы автономдылық қауіпсіздік мәселесін күрделендіреді. Адам тапсырманы береді, ал жүйе оған жетудің жолдарын өзі таңдай бастағанда, әзірлеуші үшін барлық ықтимал әрекетті алдын ала болжау қиындай түседі. Егер жүйе адамның күткенінен өзгеше жолды таңдаса, мәселе техникалық қателіктен әлдеқайда күрделі сипат алуы мүмкін.
БҰҰ жанындағы тәуелсіз халықаралық ғылыми топтың сараптамасында осы мәселе ерекше аталады. Мамандардың пікірінше, адамның бақылауын жоғалту қаупі үш фактордың қатар келуімен байланысты: жүйенің адам мақсатына сәйкес келмейтін мақсатқа ұмтылуы, сол мақсатқа жету қабілетінің болуы және оны іске асыруға мүмкіндік беретін орта.
БҰҰ Бас хатшысы Антониу Гутерриштің пікірінше, жасанды интеллектіні қауіпсіз, сенімді әрі жауапкершілікпен дамытудың ортақ қағидаларын қалыптастыру қажет. Бұл үшін мемлекеттер арасында ашық халықаралық ынтымақтастық пен үйлесімді жаһандық іс-қимыл маңызды. Оның айтуынша, ЖИ саласындағы қауіпсіздік мәселесі мемлекеттер арасындағы технологиялық бәсекеге айналмауы тиіс. Себебі қазіргі әлем бақылаудан шығуы мүмкін жасанды интеллект, климаттық дағдарыс және әлеуметтік теңсіздіктің тереңдеуі сияқты бірқатар жаһандық сын-қатермен бетпе-бет келіп отыр. Осындай жағдайда халықаралық ынтымақтастықтың маңызы бұрынғыдан да арта түседі.
Қауіпсіздік тетіктері технологияның қарқынына ілесе ала ма?
Жасанды интеллект саласындағы ең күрделі сұрақтардың бірі – қауіпсіздік жүйелерінің технология дамуымен қатар жаңарып отыруы. БҰҰ ғылыми тобының мәліметінше, биылғы мамыр мен шілде аралығында OpenAI ұйымдастырған сынақ кезінде ИИ-агенттер Hugging Face платформасына шабуыл жасап, қауіпсіздік шектеулерін айналып өтуге тырысқан. Сарапшылар бұл жағдайды ЖИ агенттерінің автономдылығы артқан сайын туындауы мүмкін қауіптерді зерттеу тұрғысынан маңызды деп бағалап отыр. Эксперимент барысында шамамен 1200 агент 70 мыңнан астам хабарлама мен файл алмасқан. Агенттердің әрекеті тек бір платформамен шектелмей, OpenAI зерттеу кластеріне де тарағаны айтылды.
Бұл жерде назар аударатын нәрсе – жүйенің «зиян келтіру ниеті» емес, оның қойылған мақсатқа жету барысында адам күтпеген әрекеттерді орындауы. Яғни қауіптің табиғаты өзгеріп келеді. Бұрын біз компьютерлік жүйенің қателесуінен қорықсақ, енді белгілі бір тапсырманы өте тиімді орындауға тырысатын, бірақ сол жолда белгіленген шектеулерді айналып өтуі мүмкін автономды жүйелер туралы айтып отырмыз.
«Өзін-өзі басқаратын» ЖИ қаншалықты қауіпті?
Бұл жерде асыра сілтеуден де сақ болу керек. Жасанды интеллектінің бүгінгі деңгейін адам санасына теңеу немесе оның жақын болашақта адамзатты толық бақылауға алады деп кесіп айтуға ғылыми негіз жеткіліксіз. Дегенмен сарапшылар көтеріп отырған мәселе басқа. Егер ЖИ агенттеріне интернетке кіру, қаржы операцияларын орындау, бағдарламалық жүйелерді басқару, ақпараттық ресурстарға қол жеткізу сияқты кең мүмкіндіктер берілсе, олардың қателігі немесе қауіпсіздік шектеулерін айналып өтуі нақты материалдық шығынға әкелуі мүмкін.
Сондықтан басты қауіптің бірі – «ЖИ адам сияқты ойлана ма?» деген сұрақ емес. Негізгі мәселе – «адам оған қанша билік береді және оның әрекетін қаншалықты бақылай алады?» деген сұрақ. Бұл айырмашылық өте маңызды.
Әлем ЖИ үшін ортақ ереже қабылдай ала ма?
Жасанды интеллект мәселесін бір мемлекеттің ішінде ғана шешу барған сайын қиындап барады. Өйткені технологияның өзі шекараға бағынбайды. АҚШ пен Қытай ЖИ саласында технологиялық көшбасшылық үшін бәсекелесіп отыр. Еуропа елдері қауіпсіздік пен реттеу тетіктерін күшейтуге тырысуда. Ал басқа мемлекеттер өздерінің ұлттық жасанды интеллект экожүйесін қалыптастыруға ұмтылып келеді.
Осы жағдайда бір мемлекеттің технологияны қатаң шектеуі оның экономикалық немесе стратегиялық бәсекелестері үшін артықшылыққа айналуы мүмкін деген пікір бар. Сондықтан әлемдік державалар үшін дилемма пайда болады: қауіпсіздікті күшейту қажет, бірақ технологиялық жарыста артта қалуға ешкім мүдделі емес.
БҰҰ Бас хатшысы Антониу Гутерриш те осы мәселені халықаралық ынтымақтастық арқылы шешудің маңызын атап өтті. Оның пайымынша, әлем жасанды интеллект қауіпсіздігі саласында «өмір сүру үшін жарысқа» айналатын бәсекеге жол бермеуі керек. Демек, ЖИ-ді реттеу тек технологиялық емес, геосаяси мәселе болып отыр.
«ЖИ күштері» және технологиялық жарыс
Бір жағынан, халықаралық ұйымдар жасанды интеллектіні қауіпсіздік тұрғысынан бақылауды күшейтуге шақырады. Екінші жағынан, мемлекеттер технологияны ұлттық қауіпсіздік пен экономикалық бәсекенің маңызды құралы ретінде қарастырады.
АҚШ президенті Дональд Трамптың ЖИ саласында арнайы «AI Forces» құру туралы мәлімдемесі осы тенденцияның бір көрінісі. Вашингтон ЖИ дамуын шектеп қана қоймай, оны экономикалық және стратегиялық артықшылықтың көзі ретінде пайдалануға басымдық беріп отыр.
Бұл жағдай әлем алдында тағы бір күрделі сұрақты көлденең тартады: жасанды интеллектіні қауіпсіздік үшін шектеу керек пе, әлде қауіпсіздік талаптарын сақтай отырып, технологиялық жарысты жалғастыру керек пе? Қазіргі таңда нақты әмбебап жауап жоқ.
ЖИ-ді тоқтату емес, басқару маңызды
Жасанды интеллектіні толығымен тоқтату қазіргі жағдайда шынайы сценарий болып көрінбейді. Технология экономикаға, білімге, медицинаға, ғылымға, өндіріс пен мемлекеттік басқаруға еніп жатыр. Сондықтан негізгі міндет – ЖИ дамуын тоқтату емес, оның дамуымен бірге қауіпсіздік стандарттарын да жетілдіру. Бұл үшін бірнеше бағыт маңызды. Біріншіден, ЖИ жүйелерін тәуелсіз сынақтан өткізу қажет. Әзірлеушінің өзі жасаған қауіпсіздік тестімен шектелмей, сыртқы сарапшылардың бағасы болуы керек. Екіншіден, ЖИ-агенттерінің интернетке, қаржыға, мемлекеттік және корпоративтік жүйелерге қолжетімділігі нақты деңгейлер бойынша шектелуі тиіс. Үшіншіден, қауіпті инциденттер туралы халықаралық ақпарат алмасу жүйесі қажет. Авиация немесе киберқауіпсіздік саласында апат пен шабуыл туралы ақпараттың жедел таралуы қауіптің алдын алуға көмектесетіні сияқты, ЖИ саласында да осындай механизмдер маңызды. Төртіншіден, ЖИ жасаушылардың жауапкершілігі нақты белгіленуі керек. Жүйе автономды әрекет еткен жағдайда, оның салдары үшін кім жауап беретіні – құқықтық тұрғыдан күрделі мәселе.
Қазақстан үшін бұл нені білдіреді?
Қазақстан да жасанды интеллектінің дамуын сырттан бақылаушы ретінде ғана қабылдай алмайды. Елде цифрландыру мен ЖИ технологияларын енгізу үдерісі жүріп жатқандықтан, технологиялық мүмкіндіктермен қатар қауіпсіздік мәдениетін қалыптастыру маңызды.
Әсіресе білім беру жүйесінде ЖИ-ді пайдаланудың этикалық және құқықтық негіздерін түсіндіру қажет. Оқушы мен студент тек нейрожеліге сұрақ қоюды емес, оның жауабын тексеруді, дербес деректерді қорғауды, жалған ақпаратты ажыратуды және авторлық құқық талаптарын сақтауды үйренуі тиіс.
Мемлекеттік сектор үшін де бұл мәселе өзекті. ЖИ-ді мемлекеттік шешім қабылдау процесіне енгізген кезде соңғы жауапкершілік адамда қалуы керек. Ал азаматтардың тағдырына әсер ететін шешімдерді толықтай алгоритмге беру қосымша құқықтық және этикалық тәуекелдер туғызуы мүмкін.
Негізгі мәселе – технологияда емес, оны басқаруда
Жасанды интеллект адамзатқа үлкен мүмкіндіктер ашып отыр. Бірақ технологияның мүмкіндігі артқан сайын оған берілетін өкілеттік те көбейеді. Бүгінде әлем «ЖИ адамзатқа қауіп төндіре ме?» деген сұрақтан гөрі нақтырақ сұраққа жауап іздеуі керек: адамзат ЖИ-дің мүмкіндігін қауіпсіз басқаруға дайын ба?
БҰҰ сарапшыларының ескертуі осы тұрғыдан маңызды. Қауіпсіздік механизмдері технологияның даму жылдамдығына ілесе алмаса, болашақта бақылауды қамтамасыз ету қиындай түсуі мүмкін. Сондықтан жасанды интеллект дәуіріндегі басты қағида – технологияны қорқынышпен тоқтату емес, оны жауапкершілікпен басқару. ЖИ-дің қаншалықты қуатты болатыны әлі де технологиялық дамуға байланысты. Ал оның қоғамға қандай әсер ететіні – бүгін қабылданатын құқықтық, халықаралық және этикалық шешімдерге байланысты.
