Роботопсихология! Жалтарта шыр айналу

Айзек Азимовтың "Жалтарта шыр айналу" («Runaround») әңгімесінде Меркурий ғаламшарының бетінде сапарда жүрген космонавттар (жұмысын атқарғанға көмектесетін) роботты басқарғанда қандай қиындық туындайтынын және қиындықтан роботопсихологияны түсіну арқылы шығу жолы табылатыны баяндалған. 
 Әңгіме желісі бойынша ғаламшарда көл болып жинақталған селеннің (селен- Selenium заттың химиялық атауы) табиғи кен ошағынан роботқа оны өндіріп әкелу тапсырылады. Селен космонавттарға істен шыққан күн батареяларын жөндеу үшін қажет. Күн батареялары өндіретін электр тоғысыз ғаламшардағы космонавттардың станциясының жұмысы мүмкін емес еді. Станцияны суытуға электр тогы қажет, әйтпегенде планетаның ыстығы станцияны паналаған космонавттарды күйдіріп өлтіреді.

 Космонавттарды жарты сағатта барып –оралатын жерде орналасқан селен кең орнынан "селен өндіріп әкелуге" жіберілген роботтың келмегені алаңдатады.

 Станциядан роботпен байланыс орнатпақшы болған кезде одан дөйдала, ұйқаспайтын жауаптар алынады да, роботпен байланыс орнатылмайды. Робот жаңа бұйрықтарды қабылдамайды. Космонавттар робот көмегінсіз қажет селенді өндіруге шамалары жоқ, өйткені, олар ғаламшар бетіне түскен күн сәулелерінің астында аз ғана уақыт жүреді, күн ыстығынан ғаламшар бетінде тек тастардан (жартастардан) түскен көлеңке қорғайды.
Космонавттар ебін тауып ғаламшар бетіне шығып жартастың көлеңкесіне күн сәулелерінен жасырынып тұрып басқарудан шығып кеткен роботты бақылайды. Робот болса селен жиналған көлді шыр айналып жүр. Космонавттарға қарай қозғалғанда жақындап, сосын әрі қарай шеңбер бойымен жүргенде алыстайды. Робот болса, жақындаған кезде космонавттардың барын анық көреді, бірақ оларға көңіл аудармай мас болған адамдай өз алдында кете береді.
 Роботтар жасанды интеллектпен қамтылғанымен роботехниканың үш заңын бұлжытпай орындайтын.

 Бірінші заң. Робот іс-әрекетімен (немесе іс-әрекетсіздігінен) адамға зиян келтірмейді. 
 Екінші заң. Робот адам бұйрығын бұлжытпай орындайды, егер бұйрығы бірінші заңға қарама-қайшы келмесе.
 Үшінші заң. Робот өз қауіпсіздігін қамтамасыздандырады, егер бірінші немесе екінші заң шегінен шықпаса.

Басқарудан шығып кеткен робот роботтарың жаңа түрі болатын. Роботты басқаруға арналған нұсқалықта осы роботтың түрі басқа роботтардан қарағанда өз-өзін сақтандыру әрекетіне басым көңіл бөлетіндігі ескертіліпті.

 Роботты селен өндіріп әкелуге жұмсаған тұста ғаламшардың геологиялық белсенділігі артып қойнауынан ыстық газдар шыға бастайды. Яғни, роботтың қауіпсіздігіне кері әсерін тигізеді.

 Роботқа бұйрық берілді. Бұйрық роботехниканың бірінші және екінші заңына қарама-қайшы болмағандықтан селен жиналған көл тұсына барады. Бірақ көлге жақындамайды. Көл маңында планета қойнауынан шыққан газдар роботқа зақым әкелуі мүмкін. Робот соны ескереді. Өйткені роботқа бұйрық қатал түрде емес, жұмсақ түрде берілген болатын. Сондықтан робот өзіне төнген қауіпті ескере орындауға тиісті бұйрығы "маңызды" деп үшінші заңға жүгініп, өз-өзін сақтандыру үшін селен жинақталған көлден алыс қозғала бастайды. Робот қауіпсіздігіне қауіп-қатер көлден қашықтаған сайын азайып, үшінші заң күші бәсеңдеп, екінші заң басым түседі. Робот оған жүктелген бұйрықты орындамағанын ескеріп, қайтадан селен жинақталған көлге қарай жақындай түседі. Бірақ көл маңынан ыстық газдар шығып жатыр. Бұйрық қатал түрде берілмегендіктен, екінші заңнан үшінші заң басым түседі де, көлден кері бағытқа қозғалады. Сондықтан робот селен жинақталған көлге біресе жақындап, біресе алыстап айналған қозғалысын тоқтатпайды.

 Робот бұйрықты орындаудан, яғни, селенді өндіріп әкелуден жалтарта шыр айналып қашып жүргендей. Робот басқарусыз қалғаны оның үш заңды орындап, шырғалаңнан шықпай қалғаны. Егер роботқа бұйрық «селен әкеліп берші» дегеннің орнына «қайтсең де селен өндіріп әкел, өмірімізге қауіп төнді!» десе, ол бұйрықты міндетті түрде орындар еді.

 Космонавттар ғаламшар бетіне шығып, көлді шыр айналып жүрген роботты бақылап тұрған жерге оралайық. Робот көлді, тағы бір рет айналып космонавттарға жақындай бергенде, космонавтың біреуі робот алдында шығып күн сәулесінің ыстығынан күйгенше әдейілеп тұрады, уақыт өткен сайын өлімге жақындай түседі. Осы кезде робот космонавт, яғни, адамның өміріне қауіп төнгенін байқап, өзі бағынатын роботехниканың заңдарының ең біріншісі «бәрінен басым түседі» деп шешім қабылдап, космонавты өлімнен құтқарады. Робот алғашқы бұйрықтан туындаған шырғалаңнан шығып, қайтадан қалыпты жағдайға келеді. Космонавт өз өмірін қатерге тігіп, робот көңілін өзіне аудартып, жағдайды түзейді.

 Егер де жасанды интеллектке ие роботтың жеке психологиясы бар болса, қазір «таңдатар жайт емес-ті» деп тұрғанда, «жасанды интеллектке әлі адамзат қол жеткізбегенін» еске түсірген жөн.

P.S.: Техникада, программалауда шырғалануға түсу немесе шығу жолдары қарастырылады. Көпшілікке таныс Windows операциялық жүйесі кейде басқарудан шығып, шырғалаңға түсіп, жауап бермей қояды, «Әттең!» дейсің де reboot-қа қоя бересің.