ARTINT-10

Grāmata: Valdis Egle. «Mākslīgais intelekts»

https://vekordija.blogspot.com/2018/12/l-artint.html

Fragments no šīs grāmatas:

§26. Ķīniešu istaba

.310. Tālāk Jūs rakstāt tā:

.311. «Tomēr jāatzīmē, ka virkne nopietnu pētnieku ir noskaņoti ļoti kritiski pret tāda veida vispārinājumiem, pasvītrojot būtiskas atšķirības starp cilvēka un datora «domāšanu». Starp tiem izcilajiem zinātniekiem, kuri uzskata, ka starp cilvēka smadzeņu darbību un datora (kompjūtera) darbību pastāv ļoti būtiskas atšķirības, vispirms gribētu minēt R. Penrouzu, kurš šīs problēmas analizē savā grāmatā[1]. Saskaņā ar R. Penrouzu jau dažu visvienkāršāko piemēru («Tīringa testa» un «ķīniešu istabas») analīze rāda, ka cilvēka smadzeņu un kompjūtera darbības salīdzināšana pati par sevi ir ļoti smags uzdevums un tam nav iespējami vienkāršoti risinājumi. Piemēram, «ķīniešu istabas» testa gadījumā R. Penrouzs parāda, ka ir iespējams pilnīgi imitēt cilvēka saprātīgo rīcību, tomēr pašam imitētājam nesaprotot šī darba saturu un jēgu» (221.lpp.).

.312. Neko tamlīdzīgu Penrouzs neparāda – viņš gan mēģina to parādīt, taču izmanto šai demonstrācijai tādas (savu pretinieku) datorprogrammas, kuras ne mazākajā mērā nevar pretendēt uz «saprātīgu rīcību». Līdz ar to Penrouzs ir parādījis tikai to, ka TĀS programmas nedarbojas saprātīgi (kas speciālistam bija redzams no pirmā acu uzmetiena). Bet Penrouza argumentācija ne mazākajā mērā nevar skart tādas programmas (piemēram, pēc mana projekta taisītās), kuras patiešām darbojas saprātīgi. Vispār iespaids ir tāds, ka nedz Penrouzs, nedz viņa oponenti – neviens – nezina, kā ir jātaisa patiesi saprātīga sistēma, un tāpēc viņi apspriež tikai «visādas blēņas», nekādi nepieskaroties patiešām reālam mākslīgas psihes projektam.

.313. Pirms mēs turpinām Penrouza argumentācijas izskatīšanu, iepazīstieties, lūdzu, ar diviem pielikumiem šim manam sacerējumam: viens ir mana atbilde Penrouzam par Tjuringa testu (nodaļa no grāmatas, plānotas ar nosaukumu ROSAE), bet otrs – Penrouza oriģinālais teksts par «ķīniešu istabu».

§27. Realizācijas un imitācijas

1999.11.09 15:36 otrdiena

(pirms 6 mēnešiem, 8 dienām, 23 stundām, 46 minūtēm)

.314. Pielikums N1.

.315. Tjuringa testa ideja tātad tika izvirzīta 1950. gados[2] («kibernētikas pirmā viļņa» laikā), un 1960. gados, kad par šīm lietām sāku interesēties es, tā skanēja visās malās; vēlāk liels Tjuringa testa piekritējs bija mūsu draugs Paulis Ķikusts.

.316. No tagadējā redzespunkta man šī ideja vairs neliekas diez cik vērtīga un pat šķiet drīzāk liecinām par viņas piekritēju domāšanas zināmu arhaismu, par problēmas tikai virspusēju pārzināšanu, bet ne dziļu izpratni.

.317. Tjuringa testa ideja vispār balstās uz 1950.gadu kibernētikas modeļiem (Norberts Vīners u.c.), saskaņā ar kuriem, lūk, ir «melnā kaste»; kas tajā iekšā, mēs nezinām; «kastei» ir «ieeja» un «izeja»; ieejā padodam vienu, izejā dabūjam otru... Tjuringa testa gadījumā kastes ir divas: vienā sēž cilvēks, otrā atrodas kompjūters...

.318. Mani šāds spriešanas līmenis sen vairs neapmierina; «kaste» sen vairs nav man «melna»; es ZINU, kas tajā iekšā (vismaz principiāli zinu), un tādēļ labāk runāju par «kastes» iekšējām struktūrām, nekā vienkārši par tās «ieejām» un «izejām».

.319. Kad «kastē» atrodas cilvēks, tad, saskaņā ar Vēras teoriju, tur darbojas zināma (smadzeņu) reāllaika operētājsistēma. Kad «kastē» atrodas kompjūters, tad tūdaļ rodas jautājums, kāda tipa programmas ir palaistas šajā kompjūterā. Vai arī tās ir tāda pati reāllaika operētājsistēma kā tā, kura darbojas cilvēka smadzenēs, vai tās ir pavisam cita tipa programmas?

.320. Lai dziļāk izprastu šo jautājumu un šo starpību, ilustrēsim problēmu ar datoru parasto operētājsistēmu piemēriem. Aplūkosim operētājsistēmu WINDOWS vai MSDOS, vai, teiksim, manu DISPOS, kuru es uztaisīju un uzturēju no 1976. līdz 1991.gadam. Operētājsistēmu nevar iegūt, vienkārši saliekot kopā atsevišķas programmas. Katrai operētājsistēmai ir zināms «kodols», zināms noslēgts un ideju ziņā pabeigts funkciju minimums, bez kura ražojumu nevar uzskatīt par operētājsistēmu. Piemēram, nosauktajām operētājsistēmām ir jābūt spējīgām vismaz: 1) uzturēt failu sistēmu; 2) pieņemt un izpildīt operatora (cilvēka) komandas; 3) palaist savā vadībā dažādas «lietotāja» programmas, kuras paredzētas šai operētājsistēmai. Ja sistēma izpilda šo «kodola minimumu», tad tā ir operētājsistēma; ja neizpilda, – tad nav.

.321. Kad šis minimums ir izpildīts, tad var tālāk uzlabot failu sistēmu, var paplašināt izpildāmo komandu loku, var dažādot un uzlabot operētājsistēmā strādājošās programmas un viņu iespējas – tas viss jau ir tālākā operētājsistēmas attīstīšana.

.322. Tagad iedomāsimies, ka kāds skolaspuika, spēlēdamies ar savu mājas datoru, uzraksta programmu, kura (teiksim, nospiežot zināmus taustiņus) izdod kaut kādus, pieņemsim, WINDOWS paziņojumus displeja ekrānā. Tad autors stāsta, ka viņš ir jau uzprogrammējis daļiņu no operētājsistēmas WINDOWS. Īstenībā, tā, protams, NAV nekāda daļiņa no šīs operētājsistēmas, bet vienkārša pilnīgi ārēja atsevišķu momentu imitācija, – jo netiek realizēts operētājsistēmas pamatkodols, – nepieciešamais minimums.

.323. Tieši tāpat tas ir ar cilvēka operētājsistēmu: ja kāds ir uztaisījis datorprogrammu, kura kaut kādā veidā atdarina cilvēka izturēšanos zināmos momentos (teiksim, uztur kaut kādu dialogu), tad tā vēl NAV daļiņa no cilvēka «saprāta», ja netiek realizēts cilvēka operētājsistēmas pamatkodols, – tas minimums, bez kura šī sistēma nav un nevar būt patiešām attiecīgā tipa sistēma. Tā ir tikai tīri ārēja imitācija, līdzīgi mūsu skolaspuikas «Windows programmai».

.324. Tātad tagad mēs sakarā ar citu sistēmu atdarināšanu varam izšķirt divu tipu programmas: 1) tādas, kuras patiešām realizē kādas operētājsistēmas minimālo kodolu; un 2) tādas, kuras tikai ārēji imitē tās vai citas sistēmas kaut kādus aspektus. Nosauksim pirmās par realizācijām, bet otrās par imitācijām.

.325. Tagad paskatīsimies, KAS sastāda to minimālo cilvēka operētājsistēmas kodolu, bez kura īstenošanas neviena datorprogramma nevar saukties par Cilvēka Sistēmas realizāciju, bet paliek tikai un vienīgi imitācija.

.326. Šo nepieciešamo cilvēka operētājsistēmas kodolu sastāda sekojošas «apakšsistēmas»: 1) pašprogrammēšanās – lai izpildītu jebkuru darbību, sistēmai ir nevis vienkārši jāizpilda jau gatava (cilvēka dota) programma, bet PAŠAI iepriekš jāsastāda šīs savas nākamās darbības programma un tikai tad tā jārealizē; 2) sistēmai ir jāved savu iepriekšējo darbību hronika, jāanalizē šī hronika un savas agrākās darbības rezultāti, lai koriģētu tālāko pašprogrammēšanos; 3) sistēmai ir jābūt spējīgai pastiprināt vai pavājināt atsevišķu savu aparātu darbību atkarībā no apstākļiem («programmu šūpošanās»).

.327. Pirmā funkcija nozīmēs, ka sistēma nav «vienkāršs automāts», kurš darbojas pēc iepriekš dotas programmas; otrā funkcija nozīmēs, ka sistēmai ir «apziņa», bet trešā funkcija – ka tā ir spējīga uz «emocijām».

.328. Šī minimuma, šī kodola realizācija vēl arī nenozīmē, ka pastāvēs tas, ko mēs sadzīvē saucam par «saprātu». Nosaukto minimumu realizē visi dzīvnieki – arī zivis, ķirzakas un vistas; – bet ja datorprogrammai šī minimuma nav, tad tā ir simtprocentīga imitācija un ne par kādu «saprātīgumu» nevar būt ne runas.

.329. Cilvēka intelektam līdzvērtīga intelekta radīšana tātad nozīmētu: startējot no šī minimuma, panākt, lai sistēma būtu spējīga pašprogrammēšanās ceļā izgatavot sev (un pēc tam izpildīt) tādas pašas kvalitātes programmas, kādas spēj radīt cilvēka smadzenes.

.330. Tagad mēs varam atgriezties pie Tjuringa testa. Tātad vienā «melnajā kastē» atrodas cilvēks, bet otrajā – KAS? – imitācija vai realizācija?

.331. Ja tā ir imitācija – un, protams, tikai imitācijas vien jau līdz šim ir tikušas apspriestas, jo neviens nav zinājis, KĀ uztaisīt īstu realizāciju, – ja tā ir imitācija, tad patiesībā jau «apriori» ir skaidrs, ka cik necik dziļš Tjuringa tests agri vai vēlu atklās, ka tas ir tikai atdarinājums un ka «īsta saprāta» sistēmai nav.

.332. Ja tā ir realizācija, tad cik augstu līmeni ir izdevies sasniegt ar šo (pašprogrammējošo) sistēmu? Pieņemsim, ka mūsu sistēmai ir izdevies sasniegt suņa vai šimpanzes pašprogrammēšanās līmeni. Tad Tjuringa tests momentā atklās, ka šī sistēma īstenībā NAV cilvēks (jo neprot pat runāt), kamēr ar labu imitācijas programmu testētājs noņemsies krietni ilgi, līdz to «atmaskos». Bet īstenībā imitācijas programma stāv no «īsta intelekta» nesalīdzināmi tālāk nekā tā mūsu sistēma, kura pašprogrammēšanā sasniegusi jau šimpanzes līmeni: tai patiesībā paliek tikai pavisam pavisam mazs solītis, lai viņa jau būtu cilvēka līmenī.

.333. Tātad mēs redzam, ka īstenībā Tjuringa tests neparāda faktisko stāvokli ar sistēmas intelektu; tests tika izstrādāts (un tālāk apspriests) bez dziļākām zināšanām par intelektuālas sistēmas būtību (par «melnās kastes» iekšieni).

.334. Skaidrs, ka visas tās programmas, par kurām Tjuringa testa sakarībā runā Penrouzs, ir simtprocentīgas imitācijas; Penrouza grāmatā nav ne mazāko pēdu, ka jelkad būtu tikušas kaut kur apspriestas patiesas cilvēka operētājsistēmas realizācijas; izskatās, ka neviens nekad un nekur nav zinājis kādā veidā var patiešām realizēt šādu sistēmu, KAS tam ir nepieciešams, KAS sastāda to sistēmas minimālo kodolu, bez kura imitācija neglābjami paliek tikai imitācija.

.335. Tā kā patiesas cilvēka operētājsistēmas realizācijas acīmredzot nav tikušas apspriestas, tad īstenībā jautājums līdz šim ir stāvējis tā: «Vai ar imitācijām ir iespējams uzbūvēt cilvēka saprātu?»

.336. Viena daļa, optimisti pēc dabas, bet, jāteic, visai vieglprātīgi, ir atbildējuši apmēram tā: «Jā, protams, ka var! Sakrausim tik labi daudz imitāciju vienu otrai virsū, un viss būs kārtībā, – kvantitāte pāries kvalitātē; sasniedzot noteiktu sarežģītības līmeni, spontāni radīsies saprāts!».

.337. Otra daļa, un jāsaka, tie dziļāk domājošie – tādi kā Penrouzs, – ir skeptiski grozījuši galvas: «Nē, diez vai, sakraujot vienu otrai virsū ļoti daudz imitāciju, var dabūt cilvēkam līdzīgu saprātu; drīzāk gan, ka nevar...».

.338. Šajā strīdā (kurš sastāda Penrouza grāmatas vadlīniju un dziļāko priekšmetu) es, dabīgi, apstiprinu Penrouza viedokli: «Tiešām, operētājsistēmu NEVAR dabūt, krāmējot kopā dažādas tās funkciju imitācijas». Bet starpība starp Penrouzu un mani ir tā, ka viņam ar to viss arī beidzas; kā tad īsti VAR dabūt cilvēka operētājsistēmu, viņš nezina, un tāpēc sāk domāt, ka to nevar dabūt vispār, – kas arī ir viņa grāmatas galvenais secinājums.

.339. Es, turpretī, pa šādu ceļu aiziet nevaru, jo es ZINU, kā jātaisa operētājsistēmas vispār un tajā skaitā tādas kā cilvēkam. Tāpēc visa Penrouza grāmatas mana analīze reducējas – savā pamatbūtībā – uz to, lai Penrouza izklāstītajai uzskatu un secinājumu sistēmai (kura varbūt ir vislabākā iespējamā tādos apstākļos, kad NAV zināms, kā varētu realizēt cilvēka operētājsistēmu) pretstatītu tādu uzskatu un secinājumu sistēmu, kura ir visdabiskākā apstākļos, kad tas IR zināms.

.340. Katrā Penrouza citātā visā grāmatas garumā pirmais un izšķirošais solis mums arvien būs: tūdaļ palūkoties, kā tas viss izskatās, kad mēs visu laiku paturam prātā tādas īstas (un nevis imitētas!) cilvēka operētājsistēmas eksistenci, uzbūvi un darbību.

.341. Šādas operētājsistēmas vispārīgo projektu es izklāstīju vēstulē informātikas profesoram Freibergam,[3] kā arī mazāk sistematizētā veidā daudzās citās vietās, tāpēc šeit to visu uzskatīsim par jau zināmu un nesāksim atkārtot.

.342. Kad es norādītajā veidā pretstatu Penrouza uzskatu sistēmai savējo, man dīvainā kārtā nekad nav sajūtas, ka Penrouzs būtu man īsts pretinieks. Situācija NAV tāda, ka viņš būtu zinājis Vēras teorijas viedokli, iepazinies ar to un pēc tam noraidījis. Situācija ir tāda, ka viņš par šo viedokli nekad neko nav dzirdējis, nav sastapies, nav vērtējis un tāpēc nav varējis to nedz pieņemt, nedz noraidīt. Viņš it kā taustās pa tumsu, meklēdams – un nevarēdams atrast – to ceļu, kurš ir redzams un skaidrs Vēras teorijai (ar to es nekādi negribu nonievāt Penrouzu: ne jau visi ir taisījuši operētājsistēmas un ne jau visiem arī ir jāzina, kā tās jātaisa).

.343. Kad es lasu un pārlasu Penrouza tekstu, es nevaru atbrīvoties no sajūtas, ka Penrouzs praktiski tūlīt un gandrīz simtprocentīgi pieņemtu Vēras teoriju, ja vien viņam būtu iespēja ar to iepazīties. Viņš nekad nerunā acīmredzamas muļķības kā doktors Podnieks un tie citi puikas no Latvijas Universitātes MII. Penrouza domāšana ir smalka un precīza, un visa nelaime ir tikai tā, ka Vēras teorija nekad nav bijusi viņam priekšā.

.344. Tāpēc, kaut arī viņa paustā uzskatu sistēma ir pretiniece Vēras teorijai, un līdz ar to notiek it kā sacensība starp Penrouzu un mani («prāta bruņinieku turnīrs»), taču šī sacensība ir īsti bruņinieciska, augstsirdīga un pat draudzīga.

---

[1] Penrose Roger, Rouse Ball Professor of Mathematics, University of Oxford. «The Emperor's New Mind. Concerning Computers, Minds, and The Laws of Physics». Oxford University Press, New York, Oxford, 1989.

[2] Tagad, kad pastāv Interneta meklētāji, tādi kā Google, viegli noskaidrot un precizēt, ka Tjurings izvirzīja viņa vārdā nosauktā testa ideju 1950.gadā rakstā «Computing Machinery and Intelligence» sakarā ar diskusiju «Vai mašīnas var domāt?», lai precizētu, ko nozīmē, ka mašīna domā. Testa ideja nāca no spēles, kur viens spēlētājs sarakstījās ar diviem citiem, no kuriem viena bija sieviete, otrs vīrietis, un pirmajam spēlētājam vajadzēja uzminēt, kurš no viņa korespondentiem ir vīrietis un kurš sieviete, pie kam sievietei bija jācenšas atklāt patiesību, bet vīrietim – to noslēpt. Analoģiski oriģinālajā Tjuringa testa versijā cilvēkam bija jācenšas novērotājam pateikt patiesību, bet mašīnai – viņu apmānīt. Vēlākajās testa versijās šo prasību atmeta.

[3] Skat. {SKATI.472}.