«Адамды аңдитын функцияға тыйым салу керек»: сарапшылар жасанды интеллектіні медицина мен медиада қолдану туралы

Жасанды интеллектінің көмегімен медицинадағы кадр тапшылығын шешіп, білім саласы сапасын арттыруға болады. Алайда сарапшылар жасанды зияттан келетін қауіпті естен шығармау қажет екенін айтады.

Қазір жасанды интеллект жасанды зият білім берудегі өзекті мәселелерді шешуде зор әлеуетке ие. ЮНЕСКО-ның аймақтық кеңсесінің ұлттық білім сарапшысы Мейіргүл Алпысбаеваның пікірінше, оны дұрыс пайдалана алса, тұрақты даму бағдарламасының мақсаттарына жетуге септігін тигізеді. Алайда оның қарқынды дамуының саладарынан туындайтын тәуекелдерді де ұмытпау керек.

Сондықтан  ЮНЕСКО елдерге білім берудегі ЖИ пайдалануда басшылыққа алатын принциптер мен ұсыныстарды жасауға көмектеседі. Ол ұсыныстарда ұйым бірқатар принципті басшылыққа алады: біз ЖИ білімге енгізгенде адамның әлеуетін басқару мен адам құқығы сақтауға назар аударамыз. Сондықтан ұйым адамға бағытталған тәсілдерді жоғалтпауды ұсынады. Мысалы, біз үнемі ЖИ мұғалімді алмастыра алмайтынын айтамыз. ЖИ адамзатқа қандай да бір пайда әкелген жағдайда ғана қолдануға тиіспіз. Сондықтан ЮНЕСКО білім саласындағы шешім қабылдайтын тұлғаларға артықшылықтарды бағалаудан және үш сұрақты қоюдан бастауды ұсынады: ЖИ білімге енгізген жағдайда қандай нақты артықшылықтарды әкелуі мүмкін? ЖИ соңғы трендті қумай, адамның нақты қажеттілігін өтейтініне қалай кепілдік бере аламыз? ЖИ технологияларына қандай функцияларды береміз?, — дейді сарапшы.

Сондай-ақ ол технологияның артықшылықтарын бағалағанда, одан туындайтын тәуекелдерді түсініп алу керек деп есептейді. Ол үшін бірқатар сұраққа жауап алған жөн.

Атап айтқанда ЖИ-ді білім сапасын арттыру үшін қалай пайдалану керек, оның әділ пайдалануын қалай қамтамасыз ете аламыз және білім саласы ЖИ-мен жұмыс істейтін адамдарды қалай дайындай алады деген сұрақтарға жауап іздеуіміз керек. ЮНЕСКО білім жүйесіне келесі ұсыныстарды айтады. Бұл ұсыныстар түрлі елдердің 450 өкілінің қатысуымен әзірленгенін атап өту керек. Ол ЖИ білім саласында адамға негіздеп пайдалануды көздейді. Егер цифрлық теңсіздік туралы айтатын болсақ, оны пандемия барынша әшкерелеп берді. Сондықтан ЖИ енгізген кезде бұл мәселені де назарға алу керек, — деп толықтырды сөзін Алпысбаева.

Сонымен қатар сарапшы ЖИ білім саласында қарқынды пайдаланудың салдары болатынын еске салды.

Цифрлық, ақпараттық дәуірде өмір сүріп жатқандықтан жалған ақпарат кездесетінін жоққа шыға алмаймыз. Білім алушылар ЖИ генерацияланған ақпаратты жалғыз шындық ретінде қабылдауы мүмкін. Жасанды зиятта адамда болатын түсінік жоқ. Бұл білім саласында осы мәселеге қатысты әзірленетін ереженің негізіне айналуға тиіс. Сондай-ақ интеллектуалдық меншік, академиялық адалдық мәселесі өзекті, ЖИ бұларға әсерін тигізбей қоймайды. ЖИ тек білім саласына ғана қатысты емес, түрлі сектораралық тақырып. Білім алушылардың интеллектуалдық дамуы, жүйенің адамға психологиялық әсері зерттелмеген. ЖИ эмоция мен сезіміне әсері туралы зерттеулер жоқ. Сондықтан сыни ойлау қабілеті басты рөл атқарады. Авторлық құқық, интеллектуалдық меншік, контенттің дереккөзі сияқты мәселе өз алдына бөлек тақырып. Қазақстанда ЖИ білім саласында қолданылады. Алайда мемлекет таратыпан қандай да бір стандарт, ұсыныс немесе ереже жоқ, — деді Мейіргүл Алпысбаева.

ЖИ МЕДИЦИНАДАҒЫ ПРОБЛЕМАЛАРДЫ ШЕШЕ АЛА МА?

2022 жылы әлемдегі цифрлық денсаулық сақтау нарығы 212 млрд долларды құраған. 2032 жылы бір триллионға дейін жетеді деген болжам бар. Бүгінде ЖИ нарығы небәрі 15 млрд долларды құрап отыр. Med Invest First тең құрылтайшысы Әли Нұрғожаевтың пікірінше, жасанды зиятты енгізу Қазақстан медицинасындағы бірқатар өзекті мәселелерді шешеді.

Алдымен медицина кадрларының санын мен сапасы мәселесін шеше алады. Сапа мен диагноздың дәлдігі пациенттің қауіпсіздігін қамтамасыз етеді. Шалғай жерлерден жылдам қызмет алуға мүмкіндік береді. Сондай-ақ бағаға да әсерін тигізеді. Бүкіл әлемде медициналық қызметтің құны өзекті, Қазақстанда тіптен өзекті мәселе. Бүгінде медицинаға салынып жатқан қаржы ЖІӨ-нің 3-8 пайызын ғана құрайды. Біз антирейтингтегі ондыққа кіреміз. Мысалы Қазақстанның дәрігерлері де шетелге кетіп жатыр. Бұл бүкіл әлемде бар проблема. Қазір кадр тапшылығы сан жағынан да, сапа жағынан да сезіліп отыр. Қазір ең алдымен сын кезекке қатысты айтылады. Осы ретте неге біз кей міндетті ЖИ-ге бермеске?, — дейді ол.

Оның айтуынша, медицина «бұл пациенттің қауіпсіздігімен байланысты» деген қорқыныш бар. Алайда сарапшы ЖИ дәрігерге қарағанда әлдеқайда нақты деген пікірде.

«Себебі ол өзінде қанша сапалы ақпаратты енгізсе, соны сақтайды. Онда 2 млн жағдай туралы мәлімет бар, әрі ол бірін де ұмытпайды. Дәрігер ол – адам. Науқас дәрігерге келгенде оның тәжірибесі, көңіл күйіне қарайды. Ал ЖИ есте сақтау қабілеті жақсы, шаршамайды, тексеретін органдардан қорықпайды, қолдан ештеңені бұрмалай алмайсың. Картина бірден өзгеріп шыға келеді. Әрине, жауапкершілік мәселесі бар. Қазір жауапкершіліктің бәрі дәрігерге жүктелген. Егер орталықтандырылған ЖИ жүйесі болып, жарты жұмысты аутсорспен істейтін болса, жауапкершілік кімге жүктеледі? Жүйені жасаған адамға ма? Ол коммерциялық өнім жасап, сатумен айналысады. Жауапкершілікті барлық деңгейдегі әкімшілерге бөліп беру керек деген пікір бар», — деп толықтырды Әли Нұрғожаев.

Сарапшының пікірінше, Қазақстанда денсаулық сақтау саласына ЖИ енгізу үшін заң қабылдап, инфрақұрылымды реттеп, мәліметтер базасына қосу және салаға инвестиция келтіруді ынталандыру керек.

Ынталандырудың екі жолы бар. Бірі – ЖИ өнімдерін шығаратын отандық өндірушілерді көбейту, екіншісі – шетеледіктерді тарту. Қазір әлемде ЖИ саласында өз құрылтайшысы бар бірқатар компания бар. Мысалы, KRC деген мықты операциялық блок орнататын компания бар. Роботтар керемет шешімдерді ұсынады. Айтпақшы оның тең құрылтайшысының бірі біздің бұрынғы жерлесіміз. Әлемдегі мықты компания елімізге келіп, инвестициялауға дайын. Бірақ қайда келетінін білмейді. Себебі ынталандырмақ түгелі қазір тиісті орта мен заң жоқ. Сондай-ақ елімізде де осы бағытта жұмыс істегісі келетін отандық компаниялар бар. Бірақ жағдай жоқ, — деді Әли Нұрғожаев.

«ТЕХНОЛОГИЯ БІЗДІ БІЗДЕН ЖАҚСЫ БІЛЕДІ»

MediaNet халықаралық журналистика орталығының жоба менеджері Мөлдір Өтегенова жасанды зиятты медиа саласында көптеген мүмкіндіктер беріп отыр деп есептейді. Мәселен, оның көмегімен контент жасап, жұмысты автоматтандыруға болады.

«Мәселен, Chat GPT-3 студент бакалаврдың деңгейінде еді, қазір Chat GPT-4 шықты, әрі оны ассистент ретінде қолданса, ол бірнеше қызметкерді алмастыра алады. ЖИ медиада қалай қолданылып жүр? Біріншіден, мәліметтерді жинау және өңдеу туралы айтамыз. Екіншіден, контент генерациялауда пайдаланылады. Мәтін, фото, видео, аудио контент жасай алады. Әсіресе дата-журналистер үшін пайдалы, мәліметтерді енгізсе, ненің қалай өскенін көрсетіп береді. Алайда ол үнемі нақты мәліметті бермейді, сондықтан тексеріп отыру керек. Бұған қоса ол әлеуметтік желідегі контенттің медиациясын жасауда пайдаланылады. Адам құқығын немесе топтың ережесін бұзатын контентті ЖИ анықтап, бұғаттай алады. Сондай-ақ коммуникация үшін пайдаланылады. Мысалы, Siri немесе Алисаны пайдаланбайтын адам аз шығар. Әрине бұның бәрі жақсы. Алайда одан келетін қауіп-қатерді жоққа шығара алмаймыз. Себебі олар біздің мәліметтерімізді жинайды, тіпті бізді бізден де жақсы біледі», – дейді Өтегенова.

Оның айтуынша, бірқатар елде жасанды интеллект саяси пропаганда жүргізу үшін қолданылған.

Жақында  Open AI (Chat GPT-ді жасаған компания) өз құралдары қалай пайдаланылып жатқаны туралы есебін жариялады. Қытай, Ресей, Израиль, Иранда бұл технологияның саяси пропаганда мен дезинформация үшін қалай қолданылғанын зерттеген. Мысалы, Ресей пропагандалық пікір жазу үшін боттарды пайдаланған. Қытай үкіметтің жұмысын мадақтау мақсатында қолданған. Иран оны АҚШ пен Израильдің іс-әрекетін қаралау үшін пайдаланса, Израиль Хамаспен қақтығысына әсер ету үшін пайдаланған. Тағы бір зерттеуді атап өтсем. Цюрих университеті зертттеу жүргізіп, «ЖИ жасалған дезинформация адам қолымен жазылған ақпаратқа қарағанда сенімдірек» деген қорытындыға келген. Сондай-ақ адамдардың ЖИ жасалған видеоны рас не өтірік екенін ажырата алмайтын жағдайлар кездеседі. Қазір бүкіл әлемде реттеу заңы туралы айтылып жатыр. Бірақ ЖИ әр күн, сағат сайын дамып жатыр. ЖИ медиада қолданудың тиімді тұстары бар. Бірақ ескеретін мәселе де жоқ емес, — деді Мөлдір Өтегенова.

Оның пікірінше, аталған технологияларды медиада қолданғанда адам құқығы мен оның ықпал етуін бағалау керек. Сонымен қатар әлемдегі үздік тәжірибелерді негізге алған жөн деп есептейді.

«Тек автократикалық елдердің тәжірибесі керек емес. Бұған қоса, ірі платформаларды өз ақпараттарының сапасына мониторинг жасауды міндеттеу қажет. Мысалы, Facebook, Instagram немесе TikTok өздерінде қалай пайдаланылып жатқанына мониторинг жүргізіп отыруы керек. Сондай-ақ ашықтық та маңызды. Тіпті, ЖИ арам пиғылда пайдаланылып жатса, оны ашып айтып отыруға тиіс. Тағы бір маңызды мәселе – ЖИ көмегімен жасалған контентті таңбалау. Қазір Google, YouTube, TikTok өз платформасында жасалған өнімге таңба қояды. Сол сияқты жасанды интеллект жасаған өнімді де автоматты түрде таңбалауға болады. Ал адамның фундаменталды құқығын таптайтын, аңду мақсатында пайдаланылатын ЖИ немесе қосымшаға тыйым салынуы керек. Ең бастысы ЖИ реттеу БАҚ-тың бостандығын шектеп, оған ықпал етпеуі керек. Бір сөзбен айтқанда ол ақпараттық алаңда цензура орнатпауы керек», — деді Мөлдір Өтегенова.

Еске салсақ, Қазақстан үкіметі Жасанды интеллектіні дамытудың 2024-2029 жылдарға арналған тұжырымдамасын қабылданғанын хабарлады. Сондай-ақ елімізде 93 ақпараттық база қосылған Smart Data Ukimet-те мемлекеттік органдардың деректерін жинау бойынша шаралар кешені жүзеге асырылып жатқаны белгілі болды. Инфрақұрылымды дамыту шеңберінде елімізде суперкомпьютерді орналастыру, деректерді өңдеу орталықтарын салу, Ұлттық ЖИ платформасын құру және талшықты-оптикалық байланысты дамыту көзделген. Сонымен қатар адами капиталдың өсуі үшін бірқатар білім беру және акселерациялық бағдарламаларды іске асыру жоспарланған. Қазір 17 жоғары оқу орны ЖИ бойынша 15 бағытты енгізді. Осы мамандықтар бойынша пәндерді 2 196 студент оқиды. Бұған қоса Цифрлық даму министрлігі бес жылда 5 млн адамды жасанды интеллект дағдыларына оқытатынын мәлімдеді.

 Halyq Uni.