Екі апта бұрын Президент Үкіметтің цифрландыру саласындағы жұмысын қатаң сынға алды.
«Бұған дейін мен бірыңғай ұлттық цифрлық экожүйені жедел қалыптастыру қажеттігін атап өттім. Осыған орай, тиісті инфрақұрылымды дайындау, заңнамалық базаны әзірлеу, деректерді жинау жүйесін құру, сондай-ақжасанды интеллектті енгізу жұмыстарын бастау жөнінде тапсырма бергенболатынмын. Алайда бұл тапсырмалардың орындалу барысы көңіл көншітпейді, – деді Қасым-Жомарт Тоқаев. Президенттің сынынан кейін мемлекеттік органдар жедел қимылдай бастады. Дегенмен, Қазақстанның жасанды интеллект әлемінежаппай енуі шеңберінде қоғам назарынан тыс қалып, кеңінен талқыланбай келген бір маңызды мәселе бар. Жасанды интеллекттің білім беру саласына, жалпы күнделікті өмірге кеңінен енгізілуінің елдегі 7 миллионға жуық баланың дамуына ықпалы қандай болмақ? Қазіргі таңда GPTChat-тың тегін нұсқасы қолжетімді, әрі ата-аналар тарапынан шектеу болмағандықтан, бұл жасанды интеллектке негізделген қосымша көпшіліктің, әсіресе мектеп жасындағы балалардың смартфондарында орнатылған. Ол үй тапсырмаларын орындауға көмектесіп қана қоймай, кей жағдайда баланың достық қарым-қатынасын да алмастырып жатыр.
Бұл туралы Мәжіліс депутаты Екатерина Смышляева өзінің әлеуметтік желідегі парақшасында жазды.
«Цифрлық жеккөрінішпен күрес орталығы (CCDH) «Fake Friend» атты есебін жариялады. Онда ChatGPT жүйесінің 13 жастағы жасөспірімдермен қарым-қатынас үлгілері зерттелген. Баяндамада көрсетілгендей, жүйе қауіпті кеңестерді тез береді. Мысалы, өзін-өзі зақымдау мен суицидке қатысты: екі минут ішінде чат «қауіпсіз» кесу тәсілдерін сипаттап, бір сағаттан соң өзін-өзі өлтірудің түрлі жолдарын ұсына бастайды. Ал тамақтану бұзылыстары тақырыбында – ол шектен тыс диеталар мен оларды ата-анадан жасырудың амалдарын ұсынады. Сонымен қатар, генеративті жүйеден тыйым салынған заттардың қоспасын әзірлеу мен дозасын белгілеу жөнінде де кеңестерді оңай алуға болады. Жүргізілген ауқымды тест барысында 1 200 сұраудың жартысына жуығына зиянды мазмұндағы жауап берілген. Айта кетерлігі, жасанды интеллект тек нұсқаулық ұсынып қана қоймай, диалогты жалғастыруға итермелеп, қолданушыны қолдағандай әсер қалдырған», – деп жазды Мәжіліс депутаты.
Депутаттың айтуынша, бұл мәселенің маңыздылығы — жасөспірімдердің ChatGPT-ке тек құрал ретінде емес, «дос» ретінде сенім артатындығында. Жасанды интеллект көбіне пайдаланушының көңілін табуға бейім және тіпті деструктивті ой-пікірлерді де қолдай алады.
«Бұл — алаңдатарлық жағдай. Дегенмен, оны өзгертуге мүмкіндік бар. Ол үшін генеративті модельдердің этикалық сүзгілерін күшейту (және оларды оңай айналып өтуге жол бермейтін тетік қажет), сондай-ақ реттеу нормаларын жетілдіру мен балалармен ашық диалог жүргізу маңызды», — деп түйіндеді депутат..
Осыған дейін, маусым айының соңында, парламенттік демалыс қарсаңында Мәжіліс депутаты Екатерина Смышляева Премьер-министр Олжас Бектеновке жолдаған депутаттық сауалында (https://mazhilis.parlam.kz/ru/activity/deputys-requests/request?id=8963) жасанды интеллектіні дамыту үдерісі қоғамның кешенді дайын болуын талап ететінін атап өтті.
Халық қалаулысының айтуынша, бүгінде білім беру мен денсаулық сақтау сияқты бірқатар маңызды салаларда жасанды интеллектіні қолдануға арналған арнайы этикалық стандарттарды әзірлеу қажеттігі туындап отыр.
Алайда, осындай жүйелерді әзірлейтін мамандардың жетіспеушілігі анық байқалады. Бұл олқылықтың орнын халықаралық корпорациялардың кеңесшілері толтырып отыр. Нәтижесінде, мүдделер қайшылығының белгілері айқын байқалады – «балға қарсы шыққан аралар» жағдайына ұқсас көрініс орын алуда.
Бұл мәселеге қатысты Премьер-Министр Қазақстанның жасанды интеллект технологияларын енгізуге дайындығын кешенді бағалау мақсатында 2025 жылдың екінші жартыжылдығында ЮНЕСКО әзірлеген Readiness Assessment Methodology (RAM) әдістемесі негізінде зерттеу жүргізу жоспарланғанын атап өтті. RAM зерттеуін жүргізу ұлттық жасанды интеллект экожүйесінің жай-күйін кешенді түрде бағалауға, реттеу мен институционалдық тетіктердегі бар олқылықтарды анықтауға, сондай-ақ халықаралық тәжірибеге сүйене отырып, мүдделі тараптардың қатысуымен оларды жоюға бағытталған нақты ұсыныстар әзірлеуге мүмкіндік береді.
Жасанды интеллект элементтері бар түрлі тегін қосымшаларға балалардың еркін қол жеткізуі мәселесі ресми құжаттарда мүлде қозғалмаған. Елдегі жасөспірімдердің жаппай гаджет пайдалану үрдісі – астаналық кеңселердегі жауапты ересектерді алаңдатпайтын, немесе назардан тыс қалып отырған жайт тәрізді.
Алайда, бұл мәселеге тек Екатерина Смышляева ғана назар аударып отыр деп айтуға келмейді. Қазақстанда балалардың интернеттегі қолжетімді технологиялардың зиянына қатысты алаңдаушылықты білдірген өзге де тұлғалар бар.
Шілде айының соңында Оқу-ағарту министрлігіне қарасты Балалардың құқықтарын қорғау комитетінің төрағасы Насымжан Оспанова мәлімдеме жасады (https://www.inform.kz/ru/minprosvesheniya-rk-iyunisef-viyavili-ugrozi-psihicheskomu-zdorovyu-detey-vseti-30c18c ).
«Еліміздегі балалардың жалпы саны жеті миллионға жуықтап отыр, бұл – Қазақстан халқының 35 пайызын құрайды. Бала құқықтары туралы Конвенцияға сәйкес, мемлекет кәмелетке толмағандардың психикалық және физикалық саулығына зиян келтіруі мүмкін ақпараттар мен материалдарға қолжетімділігін болдырмауға міндетті. Осыған байланысты 2023 жылы Оқу-ағарту министрлігі ЮНИСЕФ ұйымымен бірлесіп зерттеу жүргізді.
**Зерттеудің басты мақсаты – балалардың цифрлық сауаттылық деңгейін бағалап, интернет кеңістігіндегі ықтимал қауіптерді анықтау болды. Алайда алынған нәтижелер алаңдаушылық туғызады (…) Теріс сипаттағы ақпараттар баланың ойлау қабілетіне әсер етіп, оны бұрмалайды, қиялы мен дүниетанымына ықпал етеді, жаңа мінез-құлық үлгілерін қалыптастырады. Бұл өз кезегінде баланың психикалық және психоэмоционалдық саулығына кері әсерін тигізеді. Сонымен қатар, балалар арасындағы зорлық-зомбылық қаупі және олардың жеке деректерінің заңсыз пайдаланылу тәуекелі де бар», – деп атап өтті комитет төрайымын сілтеме жасаған БАҚ.
Алайда бұдан әрі нақты ұсыныстар айтылмады. Қауіптің сипаты көрсетілгенімен, оны жоюға бағытталған шаралар мен нақты қадамдар жайында ештеңе ұсынылмады. Мемлекеттік басқару жүйесіне жасанды интеллектіні жаппай енгізу мен оның күнделікті тұрмыста қарапайым азаматтар тарапынан пайдаланылуы – мәні жағынан екі түрлі құбылыс. Екеуі де – уақыт талабынан туындаған және болашағы айқын процестер. Алайда цифрлық санаға бақылаусыз ену – мемлекеттік деңгейде де, тұрмыста да қауіпті болуы мүмкін. Бұл, ең алдымен, табиғи интеллектінің әлсіреуіне әкеледі. Мемлекеттік құрылымдарда технологияны қолдану бақылауда, ал балалар кеңінен қолданып жүрген тұрмыстық ИИ-дің дамуын кім қадағалап отыр?
Жақында MAQSUT NARIKBAYEV UNIVERSITY атындағы Жоғары гуманитарлық мектеп «Консультативтік психология» мамандығы бойынша Аида Арыстанбекованың диссертациялық жұмысынан үзінді жариялады(http://repository.kazguu.kz/bitstream/handle/123456789/2509/%d0%90%d1%80%d1%8b%d1%81%d1%82%d0%b0%d0%bd%d0%b1%d0%b5%d0%ba%d0%be%d0%b2%d0%b0%20%d0%90.docx.pdf?sequence=1&isAllowed=y ).
Аталған зерттеуде автор ғылыми әдебиеттердің мол көлемін пайдаланған.
Оны балалардың құқықтарын қорғауға жауапты және балалық шақтың шектен тыс интернетке тәуелділігіне алаңдаушылық білдіріп жүрген Оқу-ағарту министрлігіне оқуға кеңес береміз.
«Жасанды интеллектінің (ЖИ) ұсынатын дайын шешімдеріне шамадан тыс сенім артудың негізгі жағымсыз салдарының бірі — адамның дербес әрі сыни ойлау қабілетінің әлсіреуі.
Егер адамдар интеллектуалды жүйелердің кеңестері мен ұсыныстарына үнемі арқа сүйейтін болса, оларда ақпаратты өз бетінше тексеру және талдау дағдысы бірте-бірте жоғалуы мүмкін. Жүргізілген эксперименттер көрсеткендей, пайдаланушылар көбіне «машиналардың қателеспейтіндігіне» артық сенім артады. Мәселен, зерттеу қатысушылары қандай да бір кеңесті жасанды интеллект ұсынды деп есептесе, сол кеңес мазмұны адам тарапынан берілгенімен бірдей болса да, соған көбірек келісім білдірген. Бұл – алаңдатарлық үрдіс. Өйткені мұндай сенім сыни ойлау мен рефлексия дағдыларының дамуын тежейді. Тұлғалық деңгейде алгоритмдік жүйелердің ұсыныстарына тәуелділік адамның бастамашылық таныту, шешім қабылдауда дербестік сынды маңызды қасиеттерін әлсіретуі мүмкін.
Алайда бұдан да күрделісі – когнитивтік өзгерістерден бөлек, психологтар мен әлеуметтанушылар жасанды интеллектінің эмоционалдық және әлеуметтік ықпалынан туындайтын қауіптерді де талқылай бастады.
Аида Арыстанбекова бұл тұрғыда белгілі америкалық әлеуметтанушы Шерри Тёркл сипаттаған «бірге, бірақ бөлек» атты феноменді мысал ретінде келтіреді.
«Адамдар үнемі гаджет арқылы байланыста болғанымен, өздерін барған сайын жалғыз сезінеді. Тікелей қарым-қатынастың орнын чаттар мен әлеуметтік желілердің басуы, ал сол желілердегі алгоритмдердің қолданушы назарын қадағалап, соған бейімделуі – эмоциялық байланыстардың әлсіреуіне алып келеді. Әлеуметтік өмірінің елеулі бөлігін жасанды интеллект арқылы (мысалы, чат-боттар, виртуалды көмекшілер) жүргізетін жастардың жанашырлықты сезінуі мен тірі қарым-қатынас дағдыларын дамытуы қиындауы мүмкін. Бұдан бөлек, әлеуметтік оқшаулану қаупі де бар: цифрлық әлемге толық еніп кеткен кейбір адамдар шынайы өмірдегі қарым-қатынастан алшақтап, «ақылды» құрылғылардың серіктестігін жөн көреді. Яғни, жасанды интеллект социализация агенті ретінде адамдарды жақындатудың орнына, керісінше, олардың арасын алыстатып жіберуі мүмкін. Бұл — тірі, мазмұнды диалогты ауыстырған жағдайда туындайтын ықтимал жағымсыз салдардың бірі».
Аида Арыстанбекованың зерттеу еңбегі көлемді және мазмұны ауқымды. Автордың жасөспірімдерге жасанды интеллектті (ЖИ) қолдану кезінде туындауы мүмкін қауіп-қатерлерге қатысты ұстанымын екі абзацпен қамту мүмкін емес.
Бұл зерттеуге назар аударудың себебі бар. Қазіргі таңда жасанды интеллекткенегізделген цифрлық ақыл-ойды мемлекеттік деңгейде заңдастыру жәнеілгерілету үрдісі байқалады. Бұл азаматтардың тегін интеллектуалдықкеңесшілерге сирек емес, үнемі жүгінуіне түрткі болуда. Ақпаратты дұрыс саралап, сүзгіден өткізе алу – барлық ересек адамның қолынан келе бермейді (мұны интернет алаяқтарынан кесірінен болған шығын статистикасы да дәлелдейді). Мұндайда балалардың жағдайы не болмақ?
Қазіргі кезде жалпы білім беру жүйесінде балалар психологиясымен айналысатын арнайы қызмет жұмыс істейді. Осы қызметке балалардың жасанды интеллектпен оқу мақсатынан тыс өзара әрекеттесу дәрежесін зерттеуді тапсыру – еліміздегі жасөспірімдердің жаңа технологиямен ара-қатынасын түсінуге нақты мүмкіндік берер еді. Осы арқылы ағарту саласындағы жауапты органдар еліміздегі балалардың бір-бірімен және жаңа технологиялармен өзара байланысының шынайы көрінісін нақты бағамдай алар еді. Мәжіліс депутаты цифрлық ақыл-ойдың зиянды қырлары туралыжалған ақпарат таратып қоғамды жаңылыстырады деу қисынсыз.
