Егер жасанды интеллект өтірікті соншалық шебер жасайтын болса, онда дәл сол жасанды интеллект оны анықтай да алатын шығар деген ой көпшіліктің көкейінде жүреді. Шынында, кейінгі бірнеше жылда әлемнің ірі технологиялық компаниялары мен зерттеу орталықтары дәл осы мәселеге миллиардтаған доллар инвестиция салды, деп жазады Ozgeris.info.
Бүгінде Microsoft, Intel, Reality Defender, Hive, Sensity секілді компаниялар бейне, фото және аудиодағы жасанды өзгерістерді анықтайтын арнайы жүйелерді әзірлеп жатыр. Бір қарағанда бәрі оңай көрінеді: алгоритм жасанды интеллект жасаған іздерді тауып, қолданушыға «мынау – deepfake» деп ескертуі керек. Бірақ іс жүзінде бәрі әлдеқайда күрделі.
Калифорния университетінің цифрлық криминалистика саласындағы жетекші мамандарының бірі, профессор Хани Фарид бұл күресті қару жарысына теңейді. Оның айтуынша, deepfake жасаушылар жаңа технология ойлап тапқан сайын, қорғаушылар соны анықтайтын жаңа құрал әзірлейді. Алайда шабуыл әрдайым бір қадам алда жүреді.
«Deepfake анықтайтын жүйелер ешқашан жүз пайыз кепілдік бере алмайды. Себебі олар белгілі бір белгілерді іздейді. Ал генеративті модельдер дәл сол белгілерді жасыруды күн сайын үйреніп жатыр. Бұл – вирус пен антивирус арасындағы мәңгілік жарыс сияқты. Бірі дамыса, екіншісі де дамиды. Сондықтан адамдар "AI бәрін өзі анықтап береді" деген жалған сенімге бой алдырмауы керек. Ең сенімді сүзгі әлі де адамның сыни ойлауы болып қала береді», дейді Хани Фарид.
Оның сөзін соңғы ғылыми зерттеулер де растайды. 2025 жылы жарияланған бірнеше халықаралық талдау жүзден астам AI-детектордың тиімділігін салыстырған. Нәтижесінде олардың көбі зертхана жағдайында дайындалған deepfake-терді дұрыс анықтағанымен, әлеуметтік желілерде таралған шынайы контентке келгенде жиі қателесетіні белгілі болды. Кей жағдайда бейненің жарығын аздап өзгерту, қайта сығымдау немесе TikTok, Telegram секілді платформалар арқылы қайта жүктеу детекторлардың дәлдігін айтарлықтай төмендеткен. Яғни бүгінгі технология жасанды интеллект жасаған өтірікті анықтауға тырысқанымен, өтіріктің өзі де күн сайын «ақылдырақ» болып барады.
Мәселенің тағы бір қыры бар. Генеративті модельдер бұрынғыдай бір ғана суретпен шектелмейді. Олар енді адамның дауысын, сөйлеу мәнерін, бет әлпетін ғана емес, оның көзқарасын, эмоциясын, тыныс алу ырғағын, тіпті табиғи қателіктерін де қайталай алады. Мұндай материалды арнайы бағдарлама арқылы емес, смартфоннан көру кезінде ажырату іс жүзінде мүмкін болмай барады. Ұлыбританиядағы бірнеше университеттің зерттеуі адамдардың басым бөлігі AI жасаған сурет пен шынайы фотосуретті ажыратуда кездейсоқ болжаудан сәл ғана жақсы нәтиже көрсеткенін анықтады. Басқаша айтқанда, біз өз көзімізге бұрынғыдай сене алмайтын кезеңге аяқ бастық.
Ең қауіптісі – жалған видео емес, жоғалған сенім
Deepfake туралы әңгіме қозғалғанда көпшілік жалған видеодан қауіптенеді. Бірақ халықаралық сарапшылардың пікірінше, ең үлкен қатер жалған бейненің таралуында емес, адамдардың ештеңеге сенбей қалуында жатыр. Осы құбылысты америкалық құқықтанушылар Роберт Чесни мен Даниэль Ситрон бірнеше жыл бұрын Liar's Dividend – «өтірікшінің дивиденді» деп атаған. Бұл термин бүгінде ақпараттық қауіпсіздік саласындағы ең маңызды концепциялардың біріне айналды.
Құбылыстың мәні өте қарапайым. Бұрын саясаткердің немесе шенеуніктің даулы мәлімдемесі видеоға түсіп қалса, ол дәлел ретінде қабылданатын. Роберт Чесни осы құбылыстың демократия үшін аса қауіпті екенін бірнеше рет айтқан.
«Deepfake-тің ең үлкен қаупі жалған ақпараттың таралуында емес. Оның ең қауіпті салдары – адамдардың шынайы дәлелдің өзіне күмәндана бастауы. Егер қоғам ешқандай бейнеге, ешқандай дауысқа, ешқандай фотоға сенбейтін жағдайға жетсе, онда өтірікшілер жеңеді. Өйткені олар үшін ақталудың ең оңай жолы пайда болады: «Бұл мен емес, мұны жасанды интеллект жасап шығарған» деп айту жеткілікті. Сондықтан біз қазір технологиялық емес, сенім дағдарысының табалдырығында тұрмыз», дейді ол.
Шын мәнінде, бүгінгі басты шайқас технологиялар арасында емес. Ол – адамның санасы үшін жүріп жатқан күрес. Бұрын жалған ақпараттың өмірі қысқа болатын. Себебі оны жоққа шығаратын дәлелдер табылатын. Ал қазір дәлелдің өзі күмән тудырады. Мұндай жағдайда қоғам эмоцияға көбірек сенеді, ал эмоция фактілерден әлдеқайда тез таралады.
Осы себепті БҰҰ, Еуропалық Одақ және жетекші технологиялық компаниялар соңғы екі жылда контенттің түпнұсқалығын растайтын жаңа халықаралық стандарттарды әзірлеуге кірісті. Сарапшылардың пікірінше, болашақта әрбір фото мен видеода оның қай құрылғымен түсірілгені, қандай бағдарламада өңделгені және жасанды интеллект қолданылған-қолданылмағаны туралы арнайы цифрлық белгі болуы мүмкін. Себебі жасанды интеллект дәуірінде мәселе ақпаратты сақтау емес, оның шынайылығын дәлелдеуге тіреліп отыр.
Сайлаудың жаңа қаруы
2024 жыл әлем тарихындағы ең ірі сайлау жылы ретінде есте қалды. Әлемнің 70-тен астам елінде төрт миллиардқа жуық адам дауыс беруге қатысты. Дәл осы кезеңде сарапшылардың назары бюллетеньдерге емес, жасанды интеллектке ауды. Себебі бұрын сайлауалды науқандағы ең қауіпті құрал жалған ақпарат болса, енді оның орнына шынайыдан айнымайтын deepfake келді. Сарапшылар мұны «ақпараттық соғыстың жаңа кезеңі» деп бағалайды. Өйткені бірнеше жыл бұрын мұндай видеоны жасау үшін үлкен студия, кәсіби мамандар мен қомақты қаржы қажет болатын. Бүгінде бірнеше фотосурет пен бірнеше секундтық дауыс жазбасы жеткілікті. Генеративті жасанды интеллект кез келген саясаткерді ешқашан айтпаған сөзін айттырып, ешқашан жасамаған әрекетін жасағандай көрсете алады.
Мұндай жағдайдың алғашқы мысалдары да тіркелді. АҚШ-та президенттік сайлау алдында сайлаушыларға сол кездегі президенттің дауысымен жасалған жалған телефон қоңыраулары түсіп, дауыс беруге бармауға үндеген хабарламалар тарады. Словакияда дауыс беруге санаулы күн қалғанда саясаткердің қарсыласымен «сайлауды бұрмалау жоспарын талқылап отырғаны» туралы жалған аудиожазба жарияланды. Үндістанда кейбір кандидаттар жасанды интеллект арқылы өз үндеуін ондаған жергілікті тілге бейімдеп, миллиондаған сайлаушыға жеткізді. Бір технология әр елде әртүрлі мақсатта пайдаланылды. Бір жерде ол заңды коммуникация құралына айналса, енді бір жерде манипуляцияның құралы болды.
Дегенмен халықаралық зерттеулер қызық қорытынды жасап отыр. Сарапшылардың айтуынша, әзірге бірде-бір ірі сайлаудың нәтижесі тек deepfake әсерінен өзгергені дәлелденген жоқ. Бірақ мәселе басқа жерде. Deepfake адамдардың нақты дауыс беру таңдауын емес, қоғамның ақпаратқа деген сенімін әлсіретіп жатыр. Бүгінде сайлаушының санасында «мына видео рас па, әлде жасанды ма?» деген күмән қалыптасады. Демек жасанды интеллект демократияны бір күнде құлатпайды, бірақ оның ең маңызды тірегі – қоғамдық сенімді біртіндеп шайқалтуы мүмкін.
Қазақстан бұл қатерден тыс қалып отырған жоқ
Көпшілік deepfake-ті АҚШ немесе Еуропаға ғана тән мәселе деп қабылдайды. Бірақ бұл қауіп Қазақстанға да жетті. Соңғы екі жылда әлеуметтік желілерде белгілі кәсіпкерлердің, банкирлердің, мемлекеттік қызметкерлердің және танымал тұлғалардың атынан жасалған жалған видеолар бірнеше рет тарады. Әсіресе инвестицияға шақыратын, «бір күнде байып кетуге болады» деп уәде беретін роликтердің басым бөлігі дәл осындай технологиямен әзірленген.
Киберқауіпсіздік мамандарының айтуынша, алаяқтар қазір бұрынғыдай ұзақ сөйлесіп, сендіруге уақыт жоғалтпайды. Олар алдымен адамның сеніміне кіретін бейнені жасайды. Танымал адамның жүзі мен дауысын көрген пайдаланушы ақпараттың рас екеніне тезірек иланады. Ал бірнеше минуттан кейін ақша аударып үлгереді. Жасанды интеллект алаяқтардың жұмысын жеңілдетіп қана қоймай, олардың ауқымын да кеңейтті. Бұрын бір адамға хабарласатын топ енді бір күнде мыңдаған адамға бірдей шабуыл жасай алады.
Тағы бір қауіпті бағыт – дауыс клондау. Бүгінде небәрі он секундтық аудио жеткілікті. Алгоритм сол адамның дауысын көшіріп, жақындарына хабарласып, ақша сұрай алады. Әлемнің бірнеше елінде мұндай схемалардың кесірінен миллиондаған доллар жоғалған. Қазақстанда да құқық қорғау органдары азаматтарды белгісіз нөмірден келген қоңырауларға, әсіресе туысының немесе танысының дауысын естіген жағдайда да бірден сенбеуге шақырып келеді. Сарапшылар кез келген күмәнді жағдайда әңгімені тоқтатып, адамның өзіне басқа байланыс арнасы арқылы қайта хабарласуға кеңес береді.
Ертең өз көзіңізге де сенбейтін заман келе ме?
Жасанды интеллект дамыған сайын адамзат жаңа парадоксқа тап болды. Бұрын «көзіммен көрдім» деген сөз ең сенімді дәлел саналатын. Кейін оған «видеода тұр ғой» деген аргумент қосылды. Ал енді бұл дәлелдердің екеуі де әлсіреп барады. Бірнеше секунд ішінде жасалған жалған бейне миллиондаған адамның пікірін өзгерте алады. Ең қиыны – оны жоққа шығару көбіне әлдеқайда ұзақ уақыт алады.
Сондықтан әлемнің ірі технологиялық компаниялары жаңа шешім іздеп жатыр. Adobe, Microsoft, Google, Nikon, Sony және басқа да ұйымдар бірігіп, Content Credentials және C2PA сияқты халықаралық стандарттарды дамытуда. Оның мақсаты – фото немесе видео түсірілген сәттен бастап оның тарихын тіркейтін цифрлық «төлқұжат» жасау. Болашақта пайдаланушы суретті көргенде оның қашан түсірілгенін, қандай құрылғымен жазылғанын және кейін жасанды интеллект арқылы өңделген-өңделмегенін бірден тексере алуы мүмкін. Сарапшылар мұны интернет дәуіріндегі ең маңызды инфрақұрылымдардың бірі болады деп есептейді.
Алайда технология қанша дамыса да, ғалымдардың көбі бір мәселеде келіседі: ешқандай алгоритм адамның сыни ойлау қабілетін алмастыра алмайды. Цифрлық сауаттылық енді тек компьютерді пайдалана білу емес. Ол – көрген ақпаратқа күмәндану, дереккөзді тексеру, эмоцияға емес, дәлелге сүйену қабілеті. Жасанды интеллект дәуірінде дәл осы қасиет ең маңызды қорғаныс құралына айналып отыр.
