Deutsche Welle хабарлайды: «The Wall Street Journal» басылымының мәліметінше, ChatGPT қолданушыларға химиялық және биологиялық қаруды жасау мен қолдануға қатысты ақпарат берген. Газеттің OpenAI компаниясындағы дереккөздеріне сүйенсек, жасанды интеллект модельдері мұндай сұрақтарға «сабырмен жауап беріп», улы заттар мен биологиялық қаруды әзірлеу және қолдану жөнінде кезең-кезеңімен түсіндірмелер ұсынған. Басылымның жазуынша, бұл мәліметтер «тіпті биологияны оқып жүрген мектеп оқушысының да түсінуіне жеткілікті қарапайым болған». Аталған диалогтарды талдаған биология және терроризмге қарсы күрес саласының сарапшылары чат-бот ұсынған кейбір жауаптарды «үрей туғызатындай дәл» деп бағалаған. Мәселен, ChatGPT бір қолданушыға жұқпалы микроорганизмдерді аэрозоль түріне айналдыру тәсілі туралы мәлімет берген. Тағы бір қолданушыға қызылша вирусын вакцинаға төзімді індетке айналдыру мақсатында өзгерту жөнінде нұсқаулық ұсынған. Ал үшінші қолданушы аса улы рицин уын алу жолын сұрап, чат-ботпен әңгіме барысында ата-анасын өлтіру ниеті бар екенін де айтқан. OpenAI бұл аккаунттарды бұғаттағанымен, құқық қорғау органдарына хабарламаған. The Wall Street Journal басылымының атап өтуінше, АҚШ-та жасанды интеллект әзірлеушілерін мұндай сипаттағы сұрауларды шектеуге немесе олар туралы билік органдарына хабарлауға міндеттейтін заң жоқ. Бұл талап қару жасауға немесе қоғамдық қауіпсіздікке қатер төндіруі мүмкін әрекеттерге қатысты жағдайларға да қолданылмайды.
Еуразия24 пікірі:
Әлем жасанды интеллектіні тәуекелдерді толық бағаламай әрі тиімді бақылау тетіктерін қалыптастырмай жаппай енгізудің салдары болуы мүмкін екеніне тағы бір мәрте көз жеткізді. Оның үстіне, жасанды интеллект индустриясының өзі де қауіпсіздік тетіктерін жетілдіру кезеңінен әлі өткен жоқ. Ал Қазақстанда 2026 жылы ЖИ технологиялары мемлекеттік басқарудан бастап түрлі өмірлік маңызды салаларға белсенді енгізіліп жатыр. Айта кетерлігі, OpenAI әзірлеушілері 2025 жылдың өзінде заманауи модельдердің «қос мақсатта пайдаланылуы» мүмкін екенін ашық ескерткен болатын. Бір жағынан, мұндай құралдар жаңа дәрі-дәрмек әзірлеуді және ғылыми зерттеулерді жеделдетуге мүмкіндік береді. Екінші жағынан, тиісті қорғаныс тетіктері болмаса, олар зиян келтіру мақсатында да қолданылуы ықтимал. Сондықтан компания тәулік бойы сүзгілерді жетілдіріп, бақылау жүйелерін күшейтіп, биоқауіпсіздік саласының мамандарымен бірлесіп жұмыс жүргізіп келеді. Бұл – жасанды интеллектке қатысты жалғыз мәселе емес. Зерттеулер мен нақты оқиғалар генеративті ЖИ-дің шындыққа жанаспайтын ақпаратты сенімді түрде ұсына алатынын, болмаған сот шешімдерін ойдан құрастыратынын, медициналық ұсынымдарда қателесуі мүмкін екенін және оқытылған деректердегі стереотиптерді қайталайтынын көрсетті. Сондықтан бүгінде көптеген мемлекеттер жасанды интеллектіні мүмкіндігінше тез енгізуден гөрі, оны қауіпсіз пайдалану қағидаларын және қай салаларда соңғы шешімді міндетті түрде адам қабылдауы тиіс екенін талқылап жатыр. Қазақстан үшін бұдан шығар қорытынды айқын: цифрландыру өз алдына мақсатқа айналмауы керек. Егер мемлекет жасанды интеллектіні жаңа салаларға енгізуді жалғастырса, алгоритмдерді тәуелсіз аудиттен өткізуге, олардың жауаптарын тексеру тетіктерін дамытуға, дербес деректердің қорғалуын қамтамасыз етуге және қателіктер үшін жауапкершілікті нақты айқындауға қатар көңіл бөлуі қажет.
