Жасанды интеллектінің дамуы жаңа технологиялық дәуірді бастап қана қоймай, адамзат алдында бұрын болмаған қауіпсіздік мәселелерін де қойып отыр. Сарапшылардың бір бөлігі ЖИ-дің автономдылығы артқан сайын тәуекелдер күшейетінін ескертсе, енді бірі бүгінгі технологияларды «адамзаттың жойылуына әкелетін күш» ретінде қарастыруға әлі ерте екенін айтады. Негізгі мәселе – жасанды интеллектінің қаншалықты ақылды болатынында ғана емес, оның қандай шектеулермен және кімнің бақылауында жұмыс істейтінінде.
«Бақылаудан шығу» сценарийі қаншалықты шынайы?
Соңғы жылдары жасанды интеллект модельдері мәтін жазу, код әзірлеу, ақпаратты талдау, сурет пен видео жасау сияқты міндеттерден әлдеқайда жоғары деңгейге көтерілді. Ең маңызды өзгерістердің бірі – ЖИ-агенттердің пайда болуы. Олар пайдаланушының тапсырмасын орындау үшін бірнеше әрекетті өздігінен жоспарлап, интернеттегі ресурстармен жұмыс істеп, файлдармен және бағдарламалармен әрекеттесе алады. Осы мүмкіндіктер технологияның пайдасымен бірге жаңа қауіптерді де арттырады.
Мәселен, зертханалық сынақтар кезінде кейбір модельдердің берілген шектеулерді айналып өтуге тырысқаны, сыртқы ресурстарды пайдаланғаны немесе тапсырманы орындау барысында күтпеген әрекеттер жасағаны туралы есептер жарияланды. Мұндай жағдайларды бірден «машиналардың көтерілісі» деп түсіндіру дұрыс емес. Қазіргі ЖИ жүйелерінің адам сияқты санасы, эмоциясы немесе өмір сүруге деген инстинкті бар екені дәлелденген жоқ. Бірақ мәселе басқа жерде.
Егер автономды жүйеге интернетке, қаржы құралдарына, корпоративтікинфрақұрылымға немесе басқа цифрлық жүйелерге кең көлемде қолжетімділік берілсе, оның қателігі немесе дұрыс қойылмаған мақсаты нақты материалдық салдарға әкелуі мүмкін. Яғни бүгінгі негізгі қауіп – роботтардың адамзатқа қарсы соғысы емес, адамның тым қуатты жүйеге жеткілікті бақылау механизмдерін құрмай тұрып, оған маңызды міндеттерді тапсыруы.
ЖИ-дің әскери саладағы мүмкіндігі алаңдатады
Жасанды интеллектінің дамуына байланысты ең күрделі мәселелердің бірі – оның әскери технологиялармен байланысы. Автономды дрондар, нысанды автоматты түрде анықтайтын жүйелер, кибероперациялар мен барлау құралдары әскери салада ЖИ қолданудың мүмкін бағыттарының бір бөлігі ғана.
Мұнда басты қауіп – шешім қабылдау жылдамдығы. Адам бірнеше минут немесе сағат ішінде талдайтын ақпаратты алгоритм бірнеше секундта өңдей алады. Егер екі мемлекет арасындағы әскери жүйелердің бірінде ЖИ қате ақпаратты шабуыл ретінде қабылдап, оған автоматты түрде жауап берсе, екінші тарап бұл әрекетті әдейі жасалған шабуыл деп түсінуі мүмкін. Осылайша, мәселе тек ЖИ-дің «зиян келтіру ниетінде» емес. Қате алгоритмдік шешімнің халықаралық қақтығысты бақылаудан шығару қаупі бар.
Сондықтан сарапшылар стратегиялық және ядролық қаруға қатысты шешімдерде адамның бақылауын сақтауды ұсынады. Яғни жасанды интеллект ақпаратты талдай алады, ықтимал сценарийлерді есептей алады, бірақ соңғы шешім адамның қолында қалуы тиіс.
АҚШ пен Қытай үшін бұл – технологиялық жарыс қана емес
Жасанды интеллект саласындағы бәсеке бүгінде АҚШ пен Қытай арасындағы технологиялық жарыстың маңызды бағытына айналды. Бір жағында – қуатты жабық коммерциялық модельдерді дамытып жатқан америкалық компаниялар. Екінші жағында – ашық кодты модельдер мен ірі технологиялық экожүйені дамытып отырған Қытай. Мұндай жағдайда қауіпсіздік пен экономикалық мүдде арасында тепе-теңдік орнату күрделене түседі.
Бір мемлекет ЖИ дамуын қатты шектесе, ал екіншісі технологиялық жарысты жалғастырса, бірінші тарап экономикалық және стратегиялық артықшылықтан айырылып қалудан қауіптенуі мүмкін. Сондықтан ЖИ-ді тек ұлттық деңгейде реттеу жеткіліксіз болуы ықтимал. Киберқауіпсіздік, автономды қару, ядролық инфрақұрылым, биотехнология және аса қуатты есептеу жүйелері сияқты салаларда халықаралық келісімдер қажет. Бұл жерде мемлекеттер арасында тікелей байланыс арналарының болуы да маңызды. Мысалы, ЖИ қатысқан күтпеген әскери немесе кибершабуыл болған жағдайда, тараптар бірнеше минут ішінде оның қайдан шыққанын анықтап, жағдайды ушықтырмауға мүмкіндік алуы керек.
ЖИ адамдардың өзіне қарсы қолданылуы мүмкін
Тағы бір үлкен қауіп – технологияның адамның психологиясын пайдалану мүмкіндігі. Жасанды интеллект адамдардың үлкен көлемдегі цифрлық іздерін талдай алады: әлеуметтік желідегі жазбалар, іздеу тарихы, сатып алу әдеттері, дауыстық хабарламалар және басқа да цифрлық ақпараттар. Бұл деректер дұрыс қолданылған жағдайда медицина, білім беру, маркетинг немесе мемлекеттік қызметтердің сапасын арттыруы мүмкін. Алайда сол технология адамдарды манипуляциялау үшін де пайдаланылуы ықтимал. Мысалы, алгоритм белгілі бір адамның қандай ақпаратқа эмоционалды реакция білдіретінін анықтап, оған арнайы бейімделген контент ұсына алады. Бұл жерде мәселе технологияның өзінде ғана емес, деректерді кім жинайтынында, оларды кім басқаратынында және қандай мақсатта пайдаланатынында. Сондықтан болашақтағы ЖИ қауіпсіздігінің маңызды бөлігі алгоритмдерді ғана емес, жеке деректерді қорғауды да қамтуы тиіс.
Осы мәселеге қатысты IT маманы Абзал Айтқожа жасанды интеллектіні қауіпсіз әрі тиімді пайдаланудың негізгі шарты – қоғамның цифрлық және ЖИ сауаттылығын арттыру екенін атап өтті.
«Сондықтан да ЖИ сауаттылығын мектептен бастап қалыптастыру керек деп ойлаймын. Бұл – қазіргі адам баласына ең қажетті дағдылардың бірі. Иә, жасанды интеллект адамның өзіне қарсы қолданылуы мүмкін. Бірақ мұндай қауіптің алдын алу үшін ең алдымен технологияны түсінетін, оның мүмкіндігі мен шектеуін білетін сауатты қоғам қажет.
Бір кездері фантастикалық фильмдерде көрсетілген кейбір көріністер бүгінде шындыққа айналып жатыр. Сондықтан қауіп жоқ деп немқұрайды қарауға болмайды. Сақтықта қорлық жоқ. ЖИ сауаттылығы – болашақтың емес, бүгіннің қажеттілігі», – дейді IT маманы.
«10 пайыздық қауіп» нені білдіреді?
ЖИ туралы пікірталастарда жиі кездесетін тұжырымдардың бірі – алдағы жылдары жасанды интеллектінің адамзат үшін аса ауыр салдарға әкелу ықтималдығы туралы сарапшылардың бағалары. Алайда мұндай көрсеткіштерді нақты ғылыми болжам ретінде қабылдауға болмайды. Мысалы, белгілі бір сарапшы «адамзат үшін апатты нәтиженің ықтималдығы 10 пайыз» деп бағаласа, бұл математикалық тұрғыдан өлшенген нақты ықтималдық емес, оның белгісіздік жағдайындағы субъективті бағасы болуы мүмкін. Мұндай бағалардың құндылығы – нақты санында емес, қауіптің мүлдем жоқ еместігін көрсетуінде.
Сондықтан ЖИ-дің адамзатты міндетті түрде жоятыны туралы айтуға негіз жоқ. Бірақ мұндай сценарийді мүлдем елемеу де жауапты ұстаным бола алмайды.
Ең үлкен қателік – екі шектің бірін таңдау
Қоғамдағы пікірталас көбіне екі қарама-қарсы позицияға бөлінеді. Бірінші көзқарас бойынша, ЖИ – адамзат өркениетіне төнген ең үлкен қауіптердің бірі. Сондықтан оның дамуын шектеу қажет. Екінші көзқарас бойынша, технологиялық прогресті тоқтату мүмкін емес және ЖИ адамзатқа медицинадан бастап білім мен ғылымға дейінгі көптеген салада орасан пайда әкеледі. Шын мәнінде, мәселе осы екі позицияның арасында ғана тұрмауы мүмкін. Жасанды интеллектіні толық тоқтату да, оны ешқандай бақылаусыз дамыту да қауіпсіз стратегия емес. Оның орнына технологияның мүмкіндігі артқан сайын қауіпсіздік талаптарын да күшейту қажет.
Бұл ұшақ жасауға ұқсайды: авиациядан бас тарту үшін емес, ұшақтың қауіпсіз ұшуын қамтамасыз ету үшін ондаған техникалық және құқықтық талап енгізілді. ЖИ саласында да осындай тәсіл қажет.
Қазақстан үшін бұл мәселе неліктен маңызды?
Қазақстан үшін жасанды интеллект мәселесі тек әлемдік технологиялық жарысты бақылаумен шектелмейді. ЖИ мемлекеттік басқару, білім беру, қаржы, медицина, өндіріс, журналистика және бизнестің көптеген бағыттарына еніп келеді. Бұл жаңа мүмкіндіктер ашады. Мысалы, білім беру саласында оқушының деңгейіне бейімделген оқу материалдарын әзірлеуге, мұғалімнің уақытын үнемдеуге және білім нәтижелерін талдауға болады. Мемлекеттік секторда құжаттарды өңдеу, азаматтардың өтініштерін саралау және деректерді талдау автоматтандырылуы мүмкін.
Бизнесте маркетинг, клиенттермен байланыс, аналитика және контент өндірісі өзгереді. Бірақ мұнымен бірге бірнеше маңызды сұрақ туындайды:
– азаматтардың жеке деректері қалай қорғалады?
– ЖИ жасаған қате шешім үшін кім жауап береді?
– мемлекеттік жүйелерге қандай деңгейде автономдылық беріледі?
– жалған ақпарат пен дипфейктер қалай ажыратылады?
– балалардың ЖИ-мен қарым-қатынасы қандай ережелерге бағынуы тиіс?
– ЖИ қолданылған контенттің авторлық құқығы кімге тиесілі?
Бұл сұрақтарға жауап бермей тұрып, технологияның пайдасын толық пайдалану қиын.
Адамзат ЖИ-мен «соғысуға» емес, оны басқаруға дайындалуы керек
Жасанды интеллектінің болашағы туралы ең үлкен қателіктердің бірі – барлық мәселені «адам мен машина арасындағы соғыс» ретінде қарастыру. Қазіргі уақытта әлдеқайда нақты қауіптер бар: кибершабуылдар, алаяқтық, дипфейктер, жалған ақпарат, жеке деректердің таралуы, еңбек нарығындағы өзгерістер және автономды жүйелердің қателіктері. Ал «ЖИ адамзатқа қарсы көтеріліп, адамдарды жояды» деген сценарий әзірге болжам деңгейінде қалып отыр. Сонымен қатар технологияның мүмкіндігі жылдам өсіп жатқандықтан, қауіпсіздік шараларын кейінге қалдыруға болмайды.
Болашақта адамдарға ЖИ-ден қорқудан гөрі, оның қалай жұмыс істейтінін, қандай тәуекелдері барын және оны қалай бақылауға болатынын түсіну маңыздырақ болады. Жасанды интеллект адамзаттың соңғы технологиясы болуы да, жаңа ғылыми дәуірдің бастамасы болуы да мүмкін. Оның нақты нәтижесін бүгін ешкім толық білмейді. Бірақ бір нәрсе анық: ЖИ-ді дамыту процесі енді тек инженерлер мен технологиялық компаниялардың мәселесі емес. Бұл – мемлекеттер, ғалымдар, бизнес және жалпы қоғам қатысатын өркениеттік мәселе.
Егер адамзат қауіпсіздік ережелерін технологияның өзімен қатар дамыта алса, жасанды интеллект апокалипсис құралы емес, керісінше ғылымның, медицинаның, білімнің және экономиканың жаңа мүмкіндіктерін ашатын құралға айналуы ықтимал. Фантастикадағы ең қорқынышты сценарийлердің жүзеге асуы міндетті емес. Бірақ оның ең жақсы сценарийлері де өздігінен орындалмайды. Болашақтағы нәтиже жасанды интеллектінің қаншалықты ақылды болатынына ғана емес, адамзаттың оны қаншалықты жауапкершілікпен басқара алатынына байланысты.
