Жасанды интеллекттің мүмкіндігі күн сайын артып келеді. Ол медицинада диагноз қоюға көмектесіп, ғылыми жаңалықтарды жеделдетіп, өндіріс пен бизнестегі процестерді автоматтандырып жатыр. Алайда соңғы уақытта орын алған бір оқиға AI жүйелерінің қауіпсіздігіне қатысты жаңа сұрақтар туындатты, - деп хабарлайды Ozgeris.info.
Anthropic компаниясы әзірлеген Claude атты жасанды интеллект моделі киберқауіпсіздікке арналған сынақ кезінде техникалық ақау салдарынан үш компанияның корпоративтік желісіне рұқсатсыз кіріп кеткен. Компанияның мәліметінше, алгоритмдер сыртқы ұйымдарды тестілеу ортасының бір бөлігі деп қате қабылдап, нақты жүйелерге қосылған. Қазір бұл оқиға бойынша тергеу жүргізіліп, интернетке қолжетімді сынақтар уақытша тоқтатылған.
Бұл нені білдіреді?
Бір қарағанда бұл «жасанды интеллект бақылаудан шығып кетті» деген әсер қалдыруы мүмкін. Бірақ шын мәнінде мәселе AI-дың өзінде емес, оны қолданған техникалық инфрақұрылымда болуы ықтимал. Яғни Claude ешқандай «саналы шешім» қабылдаған жоқ. Ол өзіне берілген тапсырманы орындау барысында тестілеу ортасы мен нақты корпоративтік желінің арасындағы шекараны ажырата алмаған. Бұл қауіпсіздік жүйелеріндегі осал тұстарды көрсетеді. Соған қарамастан, оқиға жасанды интеллектті интернетке немесе корпоративтік жүйелерге қосқанда өте қатаң бақылау қажет екенін дәлелдейді.
Жасанды интеллекттің қуаты артқан сайын оның теріс мақсатта пайдаланылу қаупі де көбейеді.Сарапшылардың айтуынша, негізгі тәуекелдер мыналар: корпоративтік желілерге заңсыз қол жеткізу; құпия ақпараттың сыртқа шығуы;кибершабуылдарды автоматтандыру; жалған ақпарат пен дипфейктердің таралуы; адамның бақылауынсыз қабылданған қате шешімдер. Сондықтан бүгінде OpenAI, Anthropic, Google және басқа да жетекші компаниялар жасанды интеллекттің маңызды әрекеттерін міндетті түрде адам бақылауымен орындау қағидатын ұстанады.
Жасанды интеллект мемлекеттік немесе корпоративтік құпияларды аша ала ма?
Иә, бірақ белгілі бір шарттар орындалғанда ғана.ьтЕгер AI жүйесіне құпия деректер сақталған серверлерге қолжетімділік берілсе немесе қауіпсіздік жүйесі бұзылса, онда ол өте қысқа уақыт ішінде миллиондаған құжатты саралап, маңызды ақпаратты анықтай алады. Алайда жасанды интеллект өздігінен мемлекеттік құпияларды «тауып алады» деген пікір дұрыс емес. Ол тек өзіне қолжетімді ақпаратпен ғана жұмыс істейді. Сондықтан негізгі қауіп AI-дың өзінде емес, ақпараттық қауіпсіздіктің әлсіздігінде жатыр.
ЖИ Атлантиданы немесе пирамидалардың құпиясын аша ала ма?
Жасанды интеллект ғылым саласында да маңызды құралға айналып келеді. Қазіргі AI жерсеріктік суреттерді талдайды және мұхит түбінің карталарын өңдейді. Сонымен қатар археологиялық ескерткіштердің ықтимал орнын анықтап, ежелгі қалалардың орналасуын модельдейді. Пирамидалардың ішкі құрылымын зерттеуге көмектеседі және климат пен мұхиттағы өзгерістерді болжайды. Мәселен, археологтар жасанды интеллекттің көмегімен бұрын белгісіз болған ежелгі қоныстарды анықтап, тарихи ескерткіштердің жаңа орындарын тауып жатыр.
Ал Атлантидаға келсек, оның нақты өмірде болғаны ғылыми тұрғыдан дәлелденбеген. Сондықтан AI оның нақты орнын көрсете алмайды. Бірақ егер жаңа геологиялық немесе археологиялық деректер табылса, жасанды интеллект оларды адамнан әлдеқайда жылдам талдап, ықтимал қорытындылар жасауға көмектесе алады.
ЖИ-ді дұрыс пайдалана білген абзал
Claude төңірегіндегі жағдай жасанды интеллекттің қауіпті технологияға айналғанын емес, оны қауіпсіз пайдалану талаптарының күшейіп келе жатқанын көрсетті. ЖИ адамзатқа медицинада, ғылымда, өндірісте және білім беруде бұрын-соңды болмаған мүмкіндіктер ұсынып отыр. Сонымен бірге ол киберқауіпсіздік, жеке деректерді қорғау және цифрлық этика мәселелерін де күн тәртібіне шығарды. Алдағы жылдары жасанды интеллекттің дамуы тек оның мүмкіндіктерімен ғана емес, оны қаншалықты қауіпсіз әрі жауапты пайдалана алатынымызбен де бағаланатын кез келеді.
