Niks Bostrems: intelekta gabals. Etapi. Laupīt. Stratēģija. Īss viklad gabals intelekts

Niks Bostroms

Superinteliģence

Ceļi, briesmas, stratēģijas

Zinātnes redaktori M. S. Burtsev, E. D. Kazimirova, A. B. Lavrent'ev

Vidano ar atļauju Aleksandra Koržeņevska aģentūra

Juridiskā kompānija "Vegas-Lex"

Šī grāmata sākotnēji tika publicēta angļu valodā 2014. Izdevējs ir pilnībā atbildīgs par šo oriģinālā darba tulkojumu, un Oxford University Press nav atbildīgs par kļūdām, izlaidumiem vai neprecizitātēm vai neskaidrībām šādā tulkojumā vai par zaudējumiem, kas radušies, paļaujoties uz to.

Qiu grāmatu ir labi atjaunināt

Avinash Dixit un Barr Nelbuff

Kens Dženingss

Stīvens Strogats

Peredmova partneris

... Man ir є viens znayomi, - Ediks teica. - Vin stverdzhu, nibi lyudin - industriālā Lanka, daba ir nepieciešama vintza radīšanas izveidošanai: glāze konjaka ar citrona izlaišanu.

Arkādijs un Boriss Strugatski. Pirmdien labot sestdien

Autors vvazhaє, ka nāvējošie draudi ir saistīti ar gabala intelekta spēku, kas apgāzīs cilvēka prātu. Katastrofa varēja vibrēt jaku XXI gadsimta beigās, kā arī nākamajos desmit gados. Visa cilvēces vēsture parādīs: ja redzat mūsu sugas pārstāvja, inteliģences cilvēku šķēršļus un to, vai esat tas, kurš apdzīvo mūsu planētu, mainiet to, kas ir saprātīgs. Līdz šim mums ir ģeniālas lodes, bet mums nav garantiju, tas būs tik triviāli.

Niks Bostrems raksta, ka, tā kā viedajiem datoriem jāsāk izmantot algoritmus patstāvīgi, ir vairāk gudru algoritmu un pēc tam savā ļaunumā vēl gudrāk, lai tiktu galā ar pieaugošo intelekta pieaugumu. cilvēki, kuri, šķiet, ir gudri, intelektuālā nozīmē, ir ļoti jutīgi. Gaismai būs jauns, unikāls, super inteliģents izskats. Nav svarīgi, ja es “nāktu pie savas galvas”, cenšoties iepriecināt visus cilvēkus, lai okeāna antropogēnā šķēršļa risinājums tiktu atrisināts vislabākajā efektīvajā veidā, lai viņi būtu uzvarējuši cilvēkus, - viss, kas cilvēkiem nebūs. paļauties uz. Jebkuras izredzes uz prototipu filmā par Terminatoru, dažas pārstrukturizācijas ar lieliskiem kiborgiem. Mēs esam chekaє shah і mate - jaka mačā ar šaha datoru "Deep Blue" ar pirmās klases studentu.

Pārējiem simts draugiem zinātnes liktenis ir pamodinājis dažus no viņiem, cerot uz visu cilvēku problēmu atrisināšanu, un tos, kas ļauni un ļauni dara neērtas bailes. Tajā pašā laikā jums ir jāsaka, aizvainojoši viedokļi, viņi redz daudz patiesību. Naftas audzētāji pārvarēja briesmīgās kaites, cilvēkiem šogad klājas labāk, nepūš pirms cilvēku skaita, un no viena punkta uz zemes var ēst pretējā veidā par mazāku dobu. Tomēr, pateicoties šīs zinātnes žēlastībai, cilvēki, vietnieki un jaunās tehnoloģijas, zina vienu un tikai vienu no novatoriskajām tehnoloģijām un efektivitāti.

Es gribētu sekot tendencei - ja tehnoloģiju straujā attīstība ir ne tikai jaunu iespēju radīšana pirms jaunu iespēju pieņemšanas, bet arī nebuvali piesārņojuma forma, - mēs to veicinām informācijas drošības jomā. Visas mūsu galusa ir uzvarošas, izņemot to, ka šādu brīnišķīgu runu, piemēram, datoru un interneta, paplašināšanās un paplašināšanās radīja problēmas, kuras būtu žēl uzzināt pirmsdatoru laikmetā. Informācijas tehnoloģiju rašanās rezultātā ir notikusi revolūcija cilvēku kopienās. Starp šiem skaitļiem kiberzlochintsy ģimene auga straujāk. Tajā pašā laikā cilvēki sāk pakāpeniski apgūt jaunas lietas: arvien vairāk fiziskā gaismā esošo lietu tiek kontrolētas ar datoru un programmatūras drošība, Bieži nepilnīgi, ļauni un dusmīgi; arvien vairāk no šiem tīkliem var izveidot savienojumu ar internetu, un tie var radīt problēmas fiziskajā drošībā un, iespējams, dzīvību un nāvi.

Pati Nika Bostroma grāmata ir uzcelta tādā cikavā. Pirmais krokuss zapobіgannya murgainiem scenārijiem (par okremoy datoru fantāzijām un visiem cilvēkiem) inteliģenci, kurā var saspiest smaku. Mēs cenšamies aplaupīt pat vairāk nekā lielu drošību, bet gabals intelekta, ko var korelēt ar cilvēka prātu vai apgāzt vienu, - pa daļām inteliģence, liela daļa cilvēku, būtu labāka par scenāriju pa daļām . Protams, iespējas ir bagātas, un, attīstot datortehnoloģijas, ir iespējams nevis pazemot cilvēkus, bet gan sniegt mums viedokli par "dzīves smaku, visu ceļu un visu tamlīdzīgu" "). Nadija є, ale nebezpeka duzhe seriozna - Bostrems mūs apsteidz. Manuprāt, ja šāds eksistenciāls drauds tautai ir saprātīgs, tad mēs acīmredzot nonāksim pie tā nepieciešamības, ja vēlaties to iegūt un turpināt šajā mērogā.

Es vēlos pabeigt šo ievadu ar citātu no Mihaila Vellera grāmatas "Ludins sistēmā":

Ja tā ir daiļliteratūra, attēlā ir ierāmēta kāda paka un sižets ir cilvēka manekens, es vēlreiz atkārtošu - labi, es nebalšu bez uguns. Banālie Holivudas boyoviki par robotu civilizācijas cilvēku vīniem ir viņu pašu prātā, lai redzētu labāko patiesības graudu komerciālo skatījumu.

Ja instinktu programma tiek pārraidīta robotā, un instinkts ir laimīgs un instinkts tiks pamodināts, tas ir neprāts un pamatvajadzības, un tajā pašā laikā ir pašattīstības laiks - šodienas ass, puiši. , mosties ar alkoholu. darīsim to.

Genvgen Kaspersky,

Kaspersky Lab ģenerāldirektors

Nepabeigta vēsture par gorobtiem

Reiz, pašā mirklī, gn_zduvannya tika izmests, gorobti devās saulrieta laikā tos pārlasīt un čivināt par šīm lietām.

- Mēs esam tik mazi, tik vāji. Lai redzētu, dzīvot ir vienkāršāk, sagrieziet pūci ģimenē! - viens Gorobets viegli izlauzās cauri. - Vona varēja mums iedot ligzdas ...

Ko ēst, piemēram, mašīnas, lai cilvēkus pārvērstu inteliģencē? Smarža mums dopomagati vai pazemot cilvēci? Kā mēs varam ignorēt problēmu, kas rodas, attīstot intelektu un redzot sevi drošības lokā? Niks Bostrems savā grāmatā iemācīsies izprast problēmu, lai cilvēki varētu saskarties ar izlūkošanas izredzēm un analizēt tās reakciju. Pirmo reizi jāpublicē krievu valoda.

* * *

Norādījumi grāmatas melodijas fragmentam Piecemeal intelekts. Etapi. Laupīt. Stratēģijas (Nik Bostrem, 2014) ko sniedz mūsu grāmatu partneris - litru kompānija.

drauga galva

Iet uz supermindu

Šajā dienā, būdami ārpuspilsētas intelektuālās attīstības brāļi, automašīnas absolūti upurē cilvēkus. Ale reiz - aiz mūsu sautējumiem - mašīnas rozums, lai apgāztu cilvēku rozumu. Kāds būs mūsu ceļš no iepriekšējā brīža, ko mēs pārbaudīsim? Tajā pašā laikā ir vairākas modernas tehnoloģiskās iespējas. Cilvēki, piemēram, izlūkdati, var redzēt cilvēkus, lai uzlabotu smadzenes, uzlabotu cilvēku kognitīvo veselību, neirodatoru saskarnes, ežus un organizācijas. Iespējams, pārapdrošināti aspekti no nekustīguma viedokļa, lai smirdoņa varētu kalpot par pakāpēm, lai tuvinātos izlūkošanai. Izmantojot decilkoh iespējas, iespēja, ja ne sasniegt, nepārprotami liecina par progresu.

Tā priekšā ir izlūkošanas izpratne. tse neatkarīgi no tā, vai tas ir intelekts, tas būtiski apgāzīs cilvēku izziņas spējas, faktiski jebkurā jomā(87). Aizskaroša izplatīšanas gadījumā tas tiks apspriests sīkāk, tāpat kā superizlūkošana, ko var ievietot noliktavās un diferencēt pēc visiem iespējamiem savienojumiem. Ir pieļaujams, ka viens pa vienam savijas ar šādu garīgu un virspusēju īpašību. Cieniet, šajā aprakstā nav nekādu zināšanu par prātu un superintelliģences iesaistīšanos dzīvē, nav kvalifikācijas, tāpēc būs nepārvaramas subaktīvas pieredzes un liecības sajūta. Un pat dziedāšanas nozīmē, it īpaši ētikas ziņā, ēdiens ir cienīgs būt svarīgs. Tomēr tajā pašā laikā, aizēnojis intelektuālo metafiziku (88), es cienu divus ēdienus: izmaiņas izlūkošanas spriedumā un mantojumu.

Kas attiecas uz mums, Dziļa Frica Šahova programma nav superinteliģenta; Un tas ir tikpat svarīgi kā mācību priekšmeta specializācijas superinteliģence. Tajā vājā laikā, ja es skatos uz šo superinteliģento uzvedību, ko ierobežo tēmas joma, es labāk apzināšos šo konkrēto darbības jomu. Piemēram, gabals-intelekts, kas nozīmīgi maina cilvēku veselības nozīmi programmēšanas un dizaina jomā, mēs noliedzam inženiertehniskās superinteliģences nosaukumu. Ale par sistēmu nozīmi, kopumā cilvēka intelekta perevazhayushchie zagalnogo rivn - ja tas nav norādīts, - termins superprāts.

Kā es varu sasniegt šo stundu, ja es parādos, vai es varu parādīties? Yaky shlyakh uzkrāts? Apskatīsim, kādas iespējas ir pieejamas.

Intelekta gabals

Dārgais lasītāj, nav laba doma doties uz konceptuālās pārtikas piegādes ķēdes vadītāju, izveidojot universālu vai pat spēcīgu, saprātīgu intelektu. Jogas programmas projekts vienkārši nav іsnu. Ale, ja es labprāt izdotu šādu plānu, tad, neprātīgi, nekļūstot par bioplordu savā grāmatā. (Tā kā beigu iemesls nav acīmredzams, es to daru, nākamajos pārtraukumos man tiks sniegta nepārprotama atbilde uz manu nostāju.)

Tomēr pat šodien ir iespējams noteikt pareizās īpašības, līdzīgas intelektuālās sistēmas spēku. Ir pilnīgi acīmredzams, ka pašreizējais stāvoklis ir tāds, ka sistēmas kodola spēks ir vainojams, ka tas tika noteikts projekta gaitā, un tas netika pievienots sistēmas kodola jaudai, un tam tika pievienots paplašināšanās rezultātā. Tie ir tie paši, lai varētu efektīvi veidot, izmantojot nepiešķirtu un nepiešķirtu informāciju. Labāk par visu, ikdienas galveno moduļu vidū vainot.

Pirmā klasiskā skaņdarba inteliģences sistēma tomēr bija vērsta uz zinātni, robotu nesvarīguma prātos un jēdzienu formulēšanu - tas nebija svarīgi caur tiem, kuriem tajā laikā trūka analītisko metožu izstrādes. Nevar teikt, ka visas II pamatidejas ir principiāli novatoriskas. Piemēram, vikoristovuvati ideja tagad ir saistīta ar sistēmas dīkstāves attīstību un līdz cilvēciskam līmenim to izvirzīja Alans Tjūrings 1950. gadā rakstā "Skaitliskās tehnoloģijas un inteliģence"

Kāpēc mēs šo programmu aizstātu kā pieaugušu cilvēku, kurš nemēģinātu sākt programmu, piemēram, bērna prāts? Adzhe yaksho rozum ditini tiks noņemts no vikhovannya, es būšu vecs pieaugušo cilvēku rozums (89).

Pēc Tjūringa pārcelšanas "mašīnas bērna" atvēršanai būs nepieciešams atkārtots process:

Maz ticams, ka mums pirmo reizi jādod labs "mašīnas bērns", izmēģiniet to. Ir nepieciešams veikt eksperimentu ar šāda veida mašīnu ražošanu, jo jūs nevarēsit sākt. Mēģināsim veikt to pašu eksperimentu ar automašīnu "inshoy" un uzstādīt to, jo tas ir skaistāks ar divām automašīnām. Pastāv skaidra, acīmredzama saikne starp procesu un evolūciju dzīvajā dabā ...

Protestu var veicināt, lai process būtu efektīvāks un mazāk attīstītos. Ieraugot neskarto є zanadto parastajā piespēles novērtēšanas veidā. Eksperimentētājs, kurš var paātrināt novērtēšanas procesu. Sākotnējā pasaulē tiem, kas nav vainīgi apjukumā, ir svarīgi aizstāt mutācijas. Kā arī, eksperimentētājs var uzzināt iemeslu deyakogo nestabilitāte, vainas sajūta, ymovinno, domu un šāda veida mutācijas, kā tas tiek nogādāts nepieciešamo polifenija (90).

Mēs zinām, ka cilvēces evolūcijas attīstīšanas process vismaz vienu reizi nav apstājies. Tā kā evolūcijas procesu prognoze ir ģenētiska programma, ja algoritmus izstrādā un kontrolē gudrs cilvēka programmētājs, mēs esam vainīgi, ka ar lielāku efektivitāti noraidām analogus rezultātus. Pašā situācijas centrā vidusšķiras filozofs Devids Čalmerss un vecais vīrs Hanss Moraveks (91), kuri ir ne tikai teorētiski spējīgi, bet praktiski dzīvi, ir ne tikai teorētiski spējīgi, bet praktiski dzīvi XXI gs. Pamatojoties uz šo ideju, intelekta pareizajā virzienā, novērtējot Eiropas Savienības lielo potenciālu un cilvēka inženiertehniskās domas, ir skaidrs, ka pārējais Bagatohas apgabalos ievērojami apgāzīs nākotnes revolūciju, un jūs spēt sasniegt visu. Šādā rangā evolūcijas procesu rezultātā, ja parādījās dabiskais intelekts, tad cilvēka domas dizaina un attīstības jomā var novest mūs pie inteliģences bez stieņa. Piemēram, Moravecs 1976. gadā rakstīja:

Ja jūs redzat nedaudz spēka intelektam, kas parādījās šāda veida obmezhen prātos, jūs varat iedvest mums sajūtu, ka mēs varam sasniegt to pašu punktu vēl ātrāk. Situācija ir līdzīga mašīnu vēsturei, jo var būt arī literatūra, ja smirdoņa ir svarīgāka par pārtiku: putni, indivīdi un komas pirms tam skaidri demonstrēja savu spēku, kad cilvēks sagrauj burtiskos aparati (92).

Tikmēr jūs aizsargās visnovka, aicinot jūs uzņemt nelielu pasaules lance. Diezgan stulbi kopsavilkumi, tātad dzīvo būtņu, kas nav cilvēki, plūsma, kas ir vēl svarīgāka par to, ka naudas evolūcijas rezultātā ir kļuvusi varena agrāk nekā tā, jo cilvēki vispār sasniedza panākumus - tā ir taisnība, viņi sasniedza panākumi aiz papildu mehānismiem. Spēles sākumā varat izmantot šādus rīkus: hidrolokācijas sistēmas; magnetometriskās navigācijas sistēmas; Ķīmija, lai uzvarētu; fotosensori ir aprīkoti ar mehāniskajām un kinētiskajām efektivitātes īpašībām. Tomēr ar tādiem pašiem panākumiem reģionos, kuros cilvēku spēku efektivitāte ir daudz tālāk no evolūcijas procesu efektivitātes: morfoģenēze; pašatjaunošanās mehānismi; imūns zahist. Ar šādu pakāpi Moraveca argumentācija joprojām "neliek mums justies", bet IIIUCH tiks pabeigta "vēl ātrāk". Saīsinot krokas augšējo robežu, intelekts var kalpot racionālas dzīves attīstībai uz Zemes. Ale tsei rivn joprojām ir pārāk īss cilvēku tehnoloģiskajām iespējām.

Vēl viens arguments intelekta attīstīšanai saskaņā ar evolūcijas procesa modeli ir iespēja palaist ģenētiskos algoritmus uz vājākajiem procesoriem un to rezultātu meklēšanas maisā, kurus viņi noteica, kad viņi gāja cauri bioloģijas attīstībai. Šādā rangā visa argumentācijas versija par singing nodošanu papildu dziedāšanas metodei.

Naskіlki godīgi є stingri, cik drīz mūsu kārtībā būs numurēti resursi, kas būs pietiekami, lai īstenotu visa veida evolūcijas procesus, papildus tam, kas ir noticis ar cilvēka inteliģenci? Ieteikt atteikties no aizvainojošiem prātiem: pirmkārt, ja būs desmit gadu progresa progresa datortehnoloģijās; citādi, jo būs jāaprēķina centieni ģenētisko algoritmu palaišanas mehānismiem, līdzīgi kā dabiskās sugas, kuras sauc pirms cilvēku parādīšanās. Prasības stāstīt, scho visnovka, uz kuru mēs nonākam mūsu pasaules lance, reģionā nesvarīgas; Ale, kuru neietekmē šāds atturošs fakts, tomēr, lai to redzētu cilvēks pirms upes, es gribētu tuvināt tsiy versijas novērtējumu (div. Vryzku 3). Noslēdzot laulību ar vienu no labākajām iespējām palīdzēt organizācijai, pastiprināt cieņu pret vēl nebijušiem skaitļiem.

Būtība ir tāda, ka pastāv skaitlisks celms, ir nepieciešams atņemt nepieciešamo evolūcijas procesu īstenošanu, taču praktiski nav iespējams piesaukt cilvēka intelektu, to praktiski nav iespējams izdarīt. Tomēr ir pilnīgi pieņemts risinājums: mēs esam vēl ciešāk saistīti ar efektivitāti, ja dabisku evolūcijas procesu vienkāršas atkārtošanās vietā tiek izmantots destruktīvs mehānisms, kas sakārtojas līdz intelekta saknei, atbalstot pierādījumus pret Ārprātā vēl svarīgāk ir izvērtēt tikai spēļu noraidīšanu. Mēs nezinām par to, kādi apjomi ir - pieci vai divdesmit pieci. Tāpat, it kā tas būtu motivēts ar argumenta evolucionāro modeli, tas tiks salauzts ar atbilstošu pakāpi, nav iespējams apmierināt savu maldināšanu un ne kāda iemesla dēļ, ir daži saliekami ceļi uz intelekta gabalu atbilstoši cilvēka centībai. .

3. gadījums. Risinājuma novērtējums evolūcijas procesa īstenošanai

Ne visa sasniegtā antropoģenēze, bet tā var tikt novesta līdz cilvēka rozēm, var būt vērtīga laimīgajām grupām, bet risināt gabala inteliģences evolucionārās attīstības problēmu. Lielākoties daļa no tā, kas notika dabiskās izaugsmes rezultātā uz Zemes, ir nenozīmīga. Piemēram, problēmas, piemēram, cilvēki nevar palīdzēt, bet būt pārāk cieņpilnām, ir rezultāts nenozīmīga evolucionāra zusila atņemšanai. No rīta dažus mūsu datorus var darbināt ar elektrību, mums nav nepieciešams pārtīt stratēģiskās enerģijas ekonomijas sistēmas molekulas viedo mašīnu stublājam - kā arī vielmaiņas mehānikas molekulārā evolūcija, daļēji bija sakārtotā Zemes vēstures evolūcija (93).

Pamatkoncepcija tomēr ir otrā posma - nervu sistēmas uzbūves - atslēga, taču tā parādījās pirms nepilniem miljoniem gadu (94). Lai gan ir pieņemami vairāki "eksperimenti", kas nepieciešami evolūcijai, ir svarīgi paātrināt. Ikgadējais prokariotu skaits ir aptuveni (4–6) × 1030 prokariotu, bet tikai 1019 komas un mazāk nekā 1010 cilvēces pārstāvju (pirms runas neolīta revolūcijas iedzīvotāju skaits ir par kārtām mazāks) (95) . Pagaidiet minūti, skaitļi nav pārblīvēti.

Tomēr evolucionāriem algoritmiem ir nepieciešama ne tikai iespēju daudzpusība, bet arī ādas variantu ievērošanas novērtējums - vislabākā vitrāta sastāvdaļa no skaitlisko resursu viedokļa. Gadījumā, ja pieķeršanās novērtēšanai tiek attīstīts intelektuāls gabals, visas redzamības dēļ ir jāmodelē neironu attīstība, kā arī jāapkopo pirmsākumi un zināšanas. Skaistāk ir nevis brīnīties fonā to organismu skaitu, kuriem ir salokāma nervu sistēma, bet gan novērtēt neironu skaitu bioloģiskajos organismos, jo mēs, iespējams, varam ieviest modeļus visas Evolūcijas funkcijas attīstībai. Aptuvens novērtējums var būt zrobiti, pārvēršoties komā, kas dominē zemes biomās (15–20% nokrīt tikai daļai šo skudru) (96). Gulēšana komā smadzenēs ir saistīta ar bagatohas faktoriem. Chim komakha arvien sociālāks (tobto wede milzīgs dzīvesveids), tim vairāk mozok; Piemēram, Bjoli Trochi ir mazāk nekā 106 neironi, Drosophila ir 105 neironi, Muraha ir 250 tūkstoši neironu (97). Lielu, lielu komu sūna, lai atriebtos visiem tūkstoš neironiem. Atbalstītājs no robežapsardzības zupinīta par vidējo vērtību (105) un drosofiliem pievieno visas komas (kuras visas gaismā - 1019), tas ir, kopējais neironu skaits noliktavā, 1024. Dodamo ir lielums sadedzinātiem. - і і 1025. (Kaut kas līdzīgs, pirms Silskoy valdības svinēšanas uz planētas bija mazāk nekā 107 indivīdi, un uz ādas nokrita aptuveni 1011 neirons - tā, ka kopumā visu neironu kļuva par 1018 mazāk nekā cilvēku atriebība - vairāk sinapses.)

Viena neirona modeļa skaitliskā vitra ir jāatrod kā nepieciešams posms modeļa detaļās. Ļoti vienkāršam neironu modelim, kas darbojas reālā laika režīmā, būs nepieciešamas aptuveni 1000 operācijas ar peldošu komu sekundē (attālums - FLOPS). Hodžkina - Hakslija elektriski un fizioloģiski reālistiskajam modelim ir nepieciešami 1 200 000 FLOPS. Saliekams daudzkomponentu neirona modelis pievienoja divas līdz trīs lieluma pakāpes, un augstāka līmeņa modelis, kas darbojas ar neironu sistēmām, ir par divām līdz trim kārtām mazāks nekā operācijas uz vienu neironu, nevis tikai vienkāršs modelis (98 ). Cik mums ir nepieciešams modelēt 1025 neironus miljonu akmeņainu evolūciju posmā (pat vairāk, nevis termins nervu sistēmas darbībai visās) ... Vienkāršības labad pārspējošais dators ir ķīniešu Tianhe-2 (2013. gada pavasarim), iebūvēts visu 3.39 × 1016 FLOPS skats. Pēdējo desmit gadu laikā speciālie datori uzlaboja savu produktivitāti aptuveni reizi 6,7 reizes. Ja tā ir skaitliska piespiešanās izaugt, lai ievērotu Mūra likumu, stiepjoties veselu gadsimtu, tad tā trūkst, un tā ir nedaudz nomākta problēma. Vikoristannya lielas specializētas aprēķinu sistēmas, lai papildus stundu aprēķinātu vietas apjomu, lai samazinātu naudas summu visu centieniem par dažiem pasūtījumiem.
Kopumā šāda veida neefektivitāte var palīdzēt ietaupīt vajadzīgo piepūli 1031-1044 FLOPS, kas bija apdrošināta iepriekš. Žēl, ir svarīgi teikt, vārdi paši. Ir svarīgi sniegt aptuvenu novērtējumu - jūs varat tikai uzminēt, vai būs pieci pasūtījumi, desmit vai divdesmit pieci (101).

Mazs. 3. Gaisvadu datoru produktivitāte. Tiešā nozīmē tiem, kas sauc par "Mūra likumu", ir liela piesardzība, ir neliels skaits tranzistoru, kas ir izvietoti uz integrālās shēmas kristāla, gandrīz āda divas klintis. Tomēr bieži vien ir jāizmanto likums, vazhayuchi, tāpēc tas pats par sevi ir saistīts ar eksponenciālu izaugsmi un datoru produktivitātes rādītājiem. Mūsu grafikā parādītas visvairāk gaisā esošo datoru maksimālās veiktspējas stundas izmaiņas (logaritmiskai vertikālai skalai). V pārējā klints Pēdējās dienas operāciju skaits vairs nav audzis, bet pēc paralēlo skaitļu paplašināšanās operāciju skaits progresēja strauji (102).

Є Vēl viens paātrinājums, kas saistīts ar evolūcijas faktoriem, kas karājas argumenta aizmugurē. Polaritātes problēma ir tā, ka čūskā nav saskaitīt - virzīties vēl tuvāk - uz augšējo robežu, kurā ir grūti noraidīt intelektu ar evolūcijas ceļu. Tātad uz Zemes parādījās saprātīgāka dzīve, kas patiesībā vēl nav kaprīza, un arī evolūcijas process ar augstu izcilību netiek novests pie intelekta. Līdzīgs visnovok būs žēlsirdības saknēs, lai gan nav tā, ka, paņemot rokās, tika ņemts vērā efektivitātes nosaukums, bet mums ir svarīgi atrasties uz planētas, kas dzimusi no gudrākas dzīves, tāpat kā Planēta. Tas ir pieļaujams, lai radītu gudru dzīvi, izņemot sistemātiskas dabisko sugu novirzes, tas ir nepieciešams majestātisks daudzums tālumā zbigiv- bruģis ir lielisks, bet gudrāka dzīve ir parādījusies vēl jo vairāk uz vienas no 1030 planētām, vienkāršām ģēniju stacijām. Šādā veidā prekursori, kuri vada ģenētiskos algoritmus, lai mēģinātu atrisināt problēmu, var pazust savlaicīgi, lai uzzinātu par 1030 atkārtojumiem, pirmo reizi pareizi zinot šo kombināciju. Jābūvē, lai pilnībā iesaistītos mūsu redzeslokā, kā dzīvība radās un attīstījās šeit, uz Zemes. Ir iespējams atrast visu epistemoloģisko barjeru, izmantojot mazumtirgotājus un līdz lielo loģisko kustību pasaulei - analizējot intelekta redzamo evolūcijas īpašību konverģenci, Ja jūs neuzņematies pienākumu veikt šādu analīzi, tad neviens cits nevarēs novērtēt trīsdesmitā pasūtījuma maksimālo vērtību un vērtību (par lielo izmēru) (103).

Pārejam pie aizvainojošās iespējas sasniegt savu punktu: arguments par gabala intelekta evolūcijas veselīgumu ir kalpot cilvēka smadzeņu spēkam; Šādas pieejas attīstības versija tiek uzskatīta par atņemtu attīstības stadiju - precīzāk būs izprast bioloģisko smadzeņu darbību. Uz viena staba, kas ir sava veida "gro in imitatsiyu", mans maєmo jēdziens vairāk smadzeņu skalošanas, Tā ir liela mēroga smadzeņu simulācija (mēs pagriezīsimies vēl trīs reizes). Tehnoloģijas atrodas otrā polā, acīmredzot līdz smadzeņu darbības sākumpunktam; Bezgalīgajā rakhunkā mēs esam tuvu intriģējošās inteliģences idejas gudrībai, par kuru pastāvīgi tiek apsvērti panākumi neirozinātnē un kognitīvajā psiholoģijā, kā arī nepārtraukts ieskats instrumentālajās un ar aparatūru saistītajās aktivitātēs. Tas ir jaunas zināšanas, tas ir traki, kļūt par operatoru citiem robotiem ar zemes ieguldījumiem. Mēs jau redzam otro mucu, kas parādījās robota modeļa rezultātā, - visu neironu ezīti. Vēl viena ideja, kas ņemta no neirozinātnes un pārnesta uz mašīnu, ir smadzeņu arhitektūra. Vivchennya navchannya no pіdkrіplennyam (daļēji aizgūts) šī svarīgā loma kā gra tēma psiholoģiskajās teorijās, kā aprakstīt izstrādājumu uzvedību un nepareizu interpretāciju, kā arī metodes, kā izveidot algoritmus TD piemērošanai Sezonālie apstākļi ir plaši stagnēti III sistēmās (104). Maybutnyh podіbnyh krājumos, neprātīgi, būs vairāk. Daži no smadzeņu darbības pamatmehānismu kopumiem nav pārāk lieli, jo visi šie mehānismi ir pietiekami agri, lai tos varētu redzēt neirozinātnes pēdējo panākumu eksperti. Tomēr tas ir spēcīgs risinājums, pat ja jūs ierodaties agrāk pirms hibrīda procesa beigām, bet pēc tā paša modeļa, sadalīts, no vienas puses, pamatojoties uz cilvēka smadzeņu darbību, pamatojoties uz cilvēka smadzeņu darbību, pamatojoties uz individuālās tehnoloģijas sniegumu. Zvans nav obligāts, bet sistēma tiek noraidīta, sistēma ir vainīga smadzeņu nagaduvati, tas ir kā dienas sākumā, un būs gaidāmas darbības.

Cilvēka smadzeņu morāle pamata modeļa kvalitātē ir spēcīgs arguments kāta veselībai un izlūkošanas gabala attīstībai. Tomēr ir jāatrod vispiemērotākais arguments, lai tuvinātu mūs nākotnes terminu gudrībai, par pārcelšanas nozīmi, ja tādas ir atziņas neirozinātnē. Var teikt tikai vienu: kas ir vairāk ieskats nākotnē, tas ir svarīgāk, kā smadzeņu darbības noslēpumi atkal tiks atvērti, lai integrētu skaņdarba sistēmas.

Raidījuma vadītāji, kas strādā skaņdarba intelekta jomā, var redzēt dažādus punktus no tā viedokļa, ka šķiet, ka viņi ir diezgan bagāti ar neiromorfisko domāšanu, pateicoties tehnoloģijām, kuras tiek izmantotas, pamatojoties uz kompozītmateriāliem. Putnu politika, kas demonstrē fizisku iespēju parādīt iekārojamus ēdienreizes svarīgus mehānismus, kas maisā ir izraisījuši nāvējošo aparātu. Tomēr pirmo reizi viņi nezināja, kā viņi neminēja krilus. Kāds ir labs veids, kā palaist intelektu? Redzamais uzturs: aiz aerodinamikas likuma principa, ko es fiksēšu katrā svarīgā mehāniķa lomā, - lai tos varētu atrast dzīvajā dabā, bet viņi to nepārmanto, neatrodoties vidū; aiz principa chi pieķeršanās iekšējās enerģijas iekšējai enerģijai - tas ir, bez nepieciešamības pēc dabas spēku kopijas.

Turinga koncepciju par programmu izplatīšanu, jaks noraidīs par Lielākā daļa zināšanu pētniecībai, nevis ārēju cieņu uzlikšanas rezultātā, var būt iestrēdzis līdz gabala vieduma beigām - gan neiromorfām, gan saliktām pieejām.

Ideja par embriju II (105) ir kļuvusi par „mašīnbērna” audzināšanas koncepcijas variāciju. Tomēr tas bija "mašīnbērns", kā atklāja Tjūrings, mātei bija jālabo arhitektūra un jāattīsta tās potenciāls saturu, Bud II būs vairāk saliekama sistēma arhitektūra... Embrija II attīstības sākumposmā tas attīstās galvenajā informācijas apkopojumā, izmantojot paraugu un dotāciju metodi, nevis bez programmētāja palīdzības. "Pieaudzis", vainīgs ir pats pazūdi robotikas principos jums ir jāizstrādā jauni algoritmi un skaitliskas struktūras, lai uzlabotu savu kognitīvo efektivitāti. Klusās vietās ir jābūt gudrākiem, ja embrijs II vai dažos reģionos var sasniegt augstu intelektuālās attīstības līmeni, jo dažās mācību jomās - teiksim, kibernētika un matemātika - ir ļoti populāri.

Lai nonāktu pie vēl viena svarīga jēdziena, es to saucu par “rekursīvu pašizstrādi”. Veiksmīgais embrijs II ir vainīgs pastāvīgā pašattīstībā: pirmā jaunās versijas versija ir pati par sevi, jo tā ir saprātīgāka par oriģinālu; polіpshena versija, savā velnā, pratsyuє pār vēl pamatīgāk pabeigto versiju un līdz šim (106). Ar labu prātu rekursīvas pašizstrādes process var būt nenozīmīgs, lai sasniegtu pilnu, un vreshti-resht noved pie gabala intelekta attīstības. Lai paļautos uz cieņu pret pākstis, īsā laika posmā sistēmas un virosta izlūkdati no samērā pieticīga līmeņa (dažos aspektos tas ir iespējams, izņemot programmu un pieredzi gaitenī, lai cilvēki, kas ir zemāki par cilvēkiem, nonāktu pie superinteliģentiem Ceturtajā sadaļā mēs pievērsīsimies visai perspektīvai, kas ir svarīga tās nozīmēm, un ziņojumā tiks analizēta nākotnes attīstības dinamika.

Zvērs, kuru jāciena, tas ir transmisijas attīstības modelis, pārsteigumu iespēja. Mēģiniet atvērt universālu intelekta daļu, no vienas puses, var beigties ar pilnīgu neveiksmi, bet no otras - novest pie pēdējā neiztrūkstošā kritiskā elementa -, kam otrā posma dīglis tiek uzbūvēts uz skatuves rekursīvi pati.

Vispirms pabeidziet nodaļas, vēloties pievienot vēl vienu iemeslu: tas nav nepieciešams, tas ir intelekta gabals, kas tiks pielīdzināts cilvēka rozumam. Es atzīstu, ka kļūšu absolūti “svešs” - labāks par visu, tāpēc tas arī kļūs. Jūs varat redzēt, kā II kognitīvā arhitektūra tiks ātri uztverta no kognitīvās sistēmas un cilvēkiem; piemēram, kognitīvās arhitektūras sākumposmā būs daudz spēcīgu un vāju zīmju (es novēlu, cik vien es varētu, man būtu vēl daži trūkumi). Papildus vienkāršai, sarežģītai SHI sistēmai nevar būt nevienas īpašas mātes ar mērķtiecīgu cilvēku sistēmu. Cilvēku nav daudz, jo kopš otrā vidējā perioda viņus vairāk lolo cilvēka jūtas, piemēram, mīlestība, naids, lepnums, - šādai saliekamai adaptācijai būs nepieciešams daudz dārgu robotu. un vairāk, līdz tas parādās. Tas ir naktī, un problēma ir lieliska, un iespējas ir lieliskas. Pievēršoties II motivācijai zemāk esošajās nodaļās, grāmatai ir svarīga sarkanā ideja par grīdu, tāpēc tā vienmēr ir galvā.

Norādot uz cilvēku smadzenēm

Liela mēroga smadzeņu imitācijas procesā, ko sauc par "smadzeņu atkārtotu uzskaitīšanu" vai "smadzeņu sapīšanu", gabals no intelekta pārvietojas pa skenēšanas un precīzas ieviešanas ceļu. smadzeņu skaitliskā struktūra. Šādā rangā audzināt, lai smeltos dabu no dabas, ir ārkārtējs nesamākslotu spraudņu veids. Smadzenes skalošana bija veiksmīga, bija nepieciešami vairāki dziedoši krokši.

Pirmais solis. Esiet piesardzīgs, lai pabeigtu cilvēka smadzeņu skenēto ziņojumu. Tas var ietvert arī miruša cilvēka smadzeņu nostiprināšanu, izmantojot paklupšanas metodi, vai atslāņošanos (kā rezultātā audumi kļūst grūti, piemēram, sklo). Mēs varam izmantot vienu ierīci, lai izgatavotu plānus attēlus, kurus, iespējams, aiz elektronisko mikroskopu pievienošanas var izlaist caur otru skenēšanas ierīci. Šajā posmā ir stagnējoši uzglabāt materiālu ar īpašiem frizieriem, lai tas būtu strukturāls un Jautras autoritātes... Tajā pašā laikā ir brīvi plūstoši skenējami aparāti, vienas stundas audumu izaugumi.

Vēl viens posms. Vadu dati no skeneriem jāpievieno datoram automātiskai attēlu apstrādei, lai rekonstruētu triviālu neironu modeli, un jāņem vērā, lai iegūtu zināšanas par bioloģiskām smadzenēm. Lai paātrinātu, ēku augstā sadalījumā ir daudz norāžu, kuras ir jāglabā buferšķīdumā, lai pirmo reizi varētu apmeklēt vienu stundu. Es uzzīmēšu karti, ko apvienot ar neirotisko modeļu bibliotēku cita veida neironiem vai citiem neironu elementiem (piemēram, var parādīties sinapses). Deyak_ rezultāti un skenēti un apstrādāti attēli no uzglabāšanas mūsdienu tehnoloģijas parādīts attēlā. 4.

Fragmenta kineti.

Niks Bostrems ir zviedru filozofs, Oksfordas universitātes profesors, Vissvētākās Transhumānistu asociācijas asociētais līdzstrādnieks un Maybut People institūta, kas izveidots 2005. gadā Oksfordā, direktors. Iegūstiet prātu, lai saprastu problēmu, lai cilvēki saskaras ar izlūkošanas izredzēm. Ko ēst, piemēram, mašīnas, lai cilvēkus pārvērstu inteliģencē? Vai būtu kāda smaka, kas mums palīdzētu vai uzspiestu cilvēkiem? Kā mēs varam ignorēt problēmu, kas rodas, attīstot intelektu un redzot sevi drošības lokā? Niks Bostrems apraksta saliekamo uztura zinātni par man pieejamiem cilvēkiem.

Ar veidlapas "Mann, Ivanov and Ferber" atļauju "Lenta.ru" publicēja urivki no Nika Bostroma grāmatas "Piece Intellect".

Virsinteliģence spēj tikt galā ar gigantiskām spējām, un saskaņā ar saviem mērķiem tas ir iespējams. Ale yaki tsіlі? Uz ko tu tiecies? Kā jūs atrast intelekta motivācijas soļus no sava intelekta līmeņa?

Visunemo dvі tezi. Tēze par ortogonalitāti ir teikt (ar dažām vinjetēm), ka ir iespējams apvienot jebkura veida inteliģenci ar kādu piemiņu, kādu intelektu un mērķa izjūtu, ortogonālu, lai tas netiktu atstāts aiz muguras. Tēze par instrumentālo konverģenci ir teikt, ka superinteliģenti aktieri jeb aģenti, visplašāk attīstot savus izturības mērķus, protestēs, pārklājot dažus rūpnieciskos mērķus, dažas idejas par to pašu visu aģentu nākotnē. Uzmanieties uzreiz, mēģiniet palīdzēt mums skaistāk kā superinteliģentam aktierim.

Komunikācija starp intelektu un motivāciju

Apakšā jau bija brīdinājums par piedošanu par antropomorfismu: runa nav par cilvēka īpašību projicēšanu superinteliģenta aģenta varā. Mēs atkārtojam savas rūpes, liedzot mums aizstāt vārdu motivācija ar vārdu motivācija.

Pirmkārt, nākotnes attīstība, mēs esam veikuši nelielu pētījumu par visu jauno prātu spektra neizmērojamības tēmu. Kopumā abstraktā, jauneklīgā cilvēka prāta kosmiskais, kosmiskais plašums kļūst par mazu kopu.

Viberemo divi cilvēces pārstāvji, abi manekena veidā, kas ir diametrāli pretējs īpašām iezīmēm. Nāc uz Hannu Ārendu un Beniju Hilu. Riznitsya starp viņiem, shvidshe par visu, novērtēts kā maksimālais. Bet tas ir tik postoši, ka mūsu miegu pilnībā regulē mūsu apbrīna, kas, pēc mūsu sirds, balstās uz pastāvošajiem cilvēku stereotipiem).

Tomēr, mainot skatu apkārt un aplūkojot rozes problēmu rozā pāri plašas, atklātas telpas prizmai, mēs to varēsim redzēt, tā ka divas specialitātes nav nekas vairāk kā virtuāls klons. Jebkurā brīdī no nervu sistēmas īpašību viedokļa Hanna Ārenda un Benijs Hils patiesībā ir identiski.

Domājams, ka smadzenes un šī tiks ievietotas klusumā, kā muzejs, - sakratot ekspozīciju, jāsaka, divi no tiem piederēja vienai sugai. Un vēl jo vairāk, kāds ir lielais darījums, kādas ir Hanijas Ārendas smadzenes un kas ir Benija Hila? Tiklīdz mēs nonācām smadzeņu un smadzeņu morfoloģijas spilgtumā, mēs palikām pārklājas ar fundamentālām līdzībām: tā pati masalu lamelārā arhitektūra; viens un tas pats smadzenēm; tomēr pumpuru nervu šūnām, smadzenēm - neironam ar vienāda un tāda paša ķīmiska rakstura neirotransmiteriem.

Neatkarīgi no tā, ka cilvēku prāts praktiski ir atstāts no neaizskaramā punkta, ka viņi peld pārraidītās saprātīgās dzīves bezrobežu telpā, tendence cilvēka spēku projicēt uz visgudrāko planētu sistemātisko dabu. Viss motīvs brīnumainā kārtā komentēja Elizer Yudkovsky vienā robotā "Piece Intellect as a Positive and Negative Factor of Global Rizik":

“Stundas garumā populārās zinātniskās fantastikas attīstība, lai pabeigtu lēto jaudu, žurnālu oderējums izgaismojās ar attēliem, par dažiem Čergova planētu brīnumiem - tautā vairāk kā“ gurkstošs briesmonis ” - Čergovi laikā. dodieties uz sarkanas šķīvja aizmuguri mūsu, zemes, sieviete.

Šķiet, ka visi mākslinieki bija pārliecināti, ka evolūcijas vēstures uzliesmojuma necilvēcīgās neatbilstības neapšaubāmi ir vainojamas, redzot seksuālās tieksmes pēc skaistajiem cilvēces pārstāvjiem.<...>Shvidshe par visu, mākslinieki, kas visu iedomājās, neprasīja ēdienu, bet, ja milzu vabole bija jutīga pret mūsu sieviešu īpašībām. Sieviete, kas ir tikai seksuāli atkarīga no viņas izskata, ir tikai tāpēc, ka ir seksuāli atkarīga, tāpēc viņa nevar redzēt bagātos vīru rīsus, kas pārstāv cilvēci.

Viss mākslinieka uvagas kauslis ir iztaisnots saplēstas kleitas mugurā, vismazāk turbuvalo, jo milzu kukaiņu liecības ir ķīļotas. Pirmā lieta kļuva par mākslinieka žēlsirdības galvu. Neesi mazliet rožains, - domāja smaka, - sievietes neskatījās uz viņiem fokusējoši, lai meklētu dārdošus monstrus. Tikai Škoda, paši kļūdītāji to nesaņēma. ”

Mabuts, intelekta gabals ar saviem sponsorālajiem motīviem, mazāk ticēs nagaduvati cilvēkiem, mazāk zaļā lusca no kosmosa. Inoplanetes ir bioloģiski stublāji (ne vairāk kā sākums), kas parādījās evolūcijas procesa rezultātā, kā dēļ no tiem ir iespējams noteikt motivāciju, pasaulē kā evolūcijas procesa veidu.

Nebūs nekas brīnumains, piemēram, parādīties, bet gudru muļķību uzvedības motīvi ir jāpabeidz ar vienkāršām interesēm: hazha, par laimi, temperatūra, rūpes par jauniešiem vai pat pabeigšana ar traumām, seksuālā veselība, nolaupīšana pēcnācējos. Tā kā citplanētieši pieder gudrai sabiedrībai, viņiem varēja būt motīvi, kas saistīti ar sportu un konkurentu. Tāpat smarža parādīja mūsu garīguma vidu, tā bija piepildīta ar parazītiem, ko es zinu, to nemazinātu Marnoslauding, kas runāja par mūsu reputāciju un slaveno viglādi.

Domāšanas mašīnas pēc savas būtības ir planētas cilvēku prātā, par šādām runām nav jēgas. Maz ticams, ka jūs nonāksit paradoksālā situācijā, ja parādīsies kaut kas līdzīgs, piemēram, ja parādīsies viena lieta, piemēram, ja redzēsit vienu lietu Borakajas salas pludmalēs; rūpēties par skaitli π і iedomāties yogo, nareshti, pie čūskas decimāldaļas viglyadі; padarīt maksimālo skaitu biroja albumu albumu gaismas konuss maybutny.

Faktiski ir vieglāk atvērt otro, jūsu priekšā būs nepārprotami mērķi, nevis uzspiest tai mūsu vērtību sistēmu, pārspējot automašīnu ar cilvēka īpašībām un spontānām īpašībām. Jūs to varat izdarīt pats, tas ir vairāk salokāms: uzrakstiet programmu, kuru redzēsit, dažas Komi numura zīmes un jau ir aizsargātas un saglabātas atmiņā. Ja iestatāt algoritmu, tas noteikti ir soļi, lai sasniegtu punktu ir absolūti nozīmīga tautai un ārvalstu tiesai?

Es gribētu rezumēt: cilvēkiem ir vieglāk uzrakstīt mašīnas un navigācijas sistēmas vienkāršās uzvedības vienkāršotās, uzjautrinātās nozīmes kodu, jo viconuvati ir apskaužams. Shvidsh par visu, tāda daļa embrijam ІІ tam programmētājam, it kā viņam tiktu atņemta nauda bazhanní "zmusiti ІІ pratsyuvati" Drīz mēs pievērsīsimies vissvarīgākajiem.

Intelektuāls joks par instrumentāli optimālu plānu un spēcīgu stratēģiju jebkurā laikā. Intelekts un motivācija cilvēka izpratnē ir taisnleņķa. Skatā nepārprotami ir divas koordinātu asis, kas nosaka grafiku, kurā ādas punkts ir loģiski spēcīgs intelektuālais aģents. Tiesa, aina ir izslāpusi pēc paskaidrojumiem.

Piemēram, sistēmai, kuru nepārspiež rozums, būtu žēl, ja mātēm būtu saliekamās motivācijas. Tātad viņi kopumā varētu teikt, teiksim, kustīgi, tāds un tāds aģents, šāds un šāds motivāciju kopums, - un motivācija vainīgajiem uzreiz izveidot funkcionāli integrētu sistēmu, lēmums, kas ir pievienot atmiņu, pūles un, iespējams, vienāds ar intelektu.

Intelekts, kas spēj sevi pārveidot, ir labāks visam, visticamāk, to ieskauj dinamiskas īpašības. Un tad sakiet: ja jūs vēlaties pārveidot sevi, domājot, ka mašīnas simptoms izraisa sliktu stāvokli, tad jūs nevarēsit izmantot intelektuālo sistēmu. Tomēr mūsu cieņa neizkropļo galveno tēzi par inteliģences un motivācijas ortogonalitāti. Es noliku yogo tavā redzeslokā.

Ortogonalitātes tēze

Нtelect un kіntsevі tsіlі ortogonal: vairāk-mazāk būt-in-a-kind in intellectu principā var izrietēt no lielākas-mazākas būtības.

Mēs to varam redzēt caur mūsu acīmredzamo līdzību ar postulātiem, ja vēlamies pieturēties pie klasiskās filozofijas, bet mums joprojām ir daudz spēka. Mēģiniet uztvert tēzi par ortogonalitāti vispārējā nozīmē - un būt pilnīgi uzticamam.

Zvērīga cieņa, tēze par ortogonalitāti nerunā par racionālismu, bet drīzāk par saprātīgumu, bet drīzāk par inteliģenci. No intelekta līdz prātam šeit ir rīki prognozēšanai, plānošanai un mērķu noteikšanai un kopumā. Instrumentālā kognitīvā efektivitāte kļūst par īpaši svarīgu rīsu, jo ir nepieciešams sakārtot iespējamo superizlūkošanas mantojumu. ...... Domāt par vārdu racionāls tādā nozīmē, kas ir ideja būt par racionālu superinteliģentu aģentu, dot maksimālu skrāpējumu skaitu, vismaz ne cita veida veselības dēļ. vīzija. Pārcelts uz projektu par projektu. Tiklīdz mēs ļausim programmai izveidot superinteliģenta aģenta saziņas sistēmu tā, lai tā ilgst pēdējo reizi, lai sasniegtu radītāju noteikto atzīmi, nāves čūskā būtu vēlama tikai viena prognoze: viss aģents centīsies sasniegt savu mērķi. Turklāt mēs esam saprātīgāki, ja esam aģents, esam saprātīgāki un pragmatiskāki. Šajā sakarā aģenti jau pirms izveides varēja ziņot par viņa uzvedību, ja zinātu par viņa radītājiem un mērķiem, kā smirdēt piecelties pie viņa.

2. Pārskaitīts par veiksmes koeficientu. Cilvēka prātu kā digitālā intelekta prototipu var izmantot kā prototipu (to var izdarīt, kad cilvēka smadzenes ir paceltas), savukārt digitālo intelektu var motivēt ar cilvēka prototipu. Šāds aģents varētu par viņiem parūpēties, jo viņa kognitīvā veselība attīstītos uz vietas, tiklīdz viņš kļūtu par superizlūkošanu. Ale tādā vipadkah blakus aizsardzībai. Aģenta ciklu var viegli pagriezt, piesaistot datus prototipam, kā arī apakšapstrādes laikā un rūpīgi - šādas attīstības fakts ir pašas procedūras organizācijā.

3. Konverģentu instrumentālu iemeslu nodošana. Es nezinu sīkāku informāciju par aģenta gala mērķiem, bet pēc dejaki visnovkas attīstības par viņa kaimiņa mērķiem, visspēcīgāko izturības mērķu analītiskie un instrumentālie cēloņi visdažādākajās situācijās. Mēs esam gudrāki par aģentu, gudrāk prognozējam, kā prognozēt, kuri ir saprātīgāki, ir aģenti, kas ir saprātīgāki, kuri ir labi mājās šādai situācijai, vai tā būtu (Pareizas argumentācijas dēļ, lūdzu, cieniet, var būt daži instrumentāli iemesli, kas mums uzreiz nav pieejami, piemēram, pašam aģentam, kurš ir atņēmis intelektu ļoti augstā līmenī, vajadzētu būt pakļautam superinteliģenta aģenta uzvedībai. )

Straumes puse: 1 (visai grāmatai ir 40 puses) [lasīšanai pieejamie URL: 8 puses]

Qiu grāmatu ir labi atjaunināt

Igora teorija

Avinash Dixit un Barr Nelbuff

Brainiac

Kens Dženingss

Apmierinātība ar x

Stīvens Strogats

Superinteliģence

Ceļi, briesmas, stratēģijas

Niks Bostrems

Intelekta gabals

Etapi. Laupīt. stratēģijas

"Manns, Ivanovs un Ferbers"

informāciju

no skata

Zinātnes redaktori M. S. Burtsev, E. D. Kazimirova, A. B. Lavrent'ev

Vidano ar atļauju Aleksandra Koržeņevska aģentūra

Pirmo reizi jāpublicē krievu valoda

Bostrems, Niks

Piecemeal intelekts. Etapi. Laupīt. Stratēģijas / Nik Bostrem; par. no eng. S. Filina. - M.: Manns, Ivanovs un Ferbers, 2016.

ISBN 978-5-00057-810-0

Niks Bostrems savā grāmatā iemācīsies izprast problēmu, lai cilvēki varētu saskarties ar izlūkošanas izredzēm un analizēt tās reakciju.

Visas tiesības tiek konfiscētas.

Visas grāmatas Zhodna daļu nevar izveidot tajā pašā bi, kā tas nebūtu bez autortiesību īpašnieku rakstiskas atļaujas.

Juridiskā kompānija "Vegas-Lex"

Peredmova partneris

... Man ir є viens znayomi, - Ediks teica. - Vin stverdzhu, nibi lyudin - industriālā Lanka, daba ir nepieciešama vintza radīšanas izveidošanai: glāze konjaka ar citrona izlaišanu.

Arkādijs un Boriss Strugatski. Pirmdien labot sestdien

Es gribētu sekot tendencei - ja tehnoloģiju straujā attīstība ir ne tikai jaunu iespēju radīšana pirms jaunu iespēju pieņemšanas, bet arī nebuvali piesārņojuma forma, - mēs to veicinām informācijas drošības jomā. Visas mūsu galusa ir uzvarošas, izņemot to, ka šādu brīnišķīgu runu, piemēram, datoru un interneta, paplašināšanās un paplašināšanās radīja problēmas, kuras būtu žēl uzzināt pirmsdatoru laikmetā. Informācijas tehnoloģiju rašanās rezultātā ir notikusi revolūcija cilvēku kopienās. Starp šiem skaitļiem kiberzlochintsy ģimene auga straujāk. Vienlaikus cilvēki sāk pakāpeniski apgūt jaunas lietas: arvien vairāk fizisko zināšanu lietu kontrolē papildu datoru un programmatūras drošība, kas bieži ir nepilnīga, ļauna un izaicinoša; arvien vairāk no šiem tīkliem var izveidot savienojumu ar internetu, un tie var radīt problēmas fiziskajā drošībā un, iespējams, dzīvību un nāvi.

Pati Nika Bostroma grāmata ir uzcelta tādā cikavā. Pirmais krokuss zapobіgannya murgainiem scenārijiem (datora bārkstīm okremoy, visiem cilvēkiem) - izlūkošana, kurā var sasmīdināt smaku. Mēs cenšamies aplaupīt pat vairāk nekā lielu drošību, bet gabals intelekta, ko var korelēt ar cilvēka prātu vai apgāzt vienu, - pa daļām inteliģence, liela daļa cilvēku, būtu labāka par scenāriju pa daļām . Protams, iespējas ir bagātas, un, attīstot datortehnoloģijas, ir iespējams nevis pazemot cilvēkus, bet gan sniegt mums viedokli par "dzīves smaku, visu ceļu un visu tamlīdzīgu" "). Nadija є, ale nebezpeka duzhe seriozna - Bostrems mūs apsteidz. Manuprāt, ja šāds eksistenciāls drauds tautai ir saprātīgs, tad mēs acīmredzot nonāksim pie tā nepieciešamības, ja vēlaties to iegūt un turpināt šajā mērogā.

Es vēlos pabeigt šo ievadu ar citātu no Mihaila Vellera grāmatas "Ludins sistēmā":

Genvgen Kaspersky,

Kaspersky Lab ģenerāldirektors

Nepabeigta vēsture par gorobtiem

Reiz, pašā mirklī, gn_zduvannya tika izmests, gorobti devās saulrieta laikā tos pārlasīt un čivināt par šīm lietām.

- Mēs esam tik mazi, tik vāji. Lai redzētu, dzīvot ir vienkāršāk, sagrieziet pūci ģimenē! - viens Gorobets viegli izlauzās cauri. - Vona varēja mums iedot ligzdas ...

- Aha! - Uzgaidi minūti. - Un tomēr, lai uzraudzītu mūsu vecos ļaudis un putnus ...

- pamāciet mūs, izņemiet no baznīcas, - pievienojiet trešo.

Todi pastus, vecākais gorobets, proponuvav:

- Neļaujiet razvіdniki lidot uz іznі pusēm joks kā vipav no pūces ligzdas. Šajā, nāc un pūce ola, un nedaudz vārna, un ņem bērna glāstus. Tsia znahіdka izrādīsies mūsu spēles lielākais panākums! To redzot, kad viņi parādījās vēl nebijušu graudu piemājas dārzā.

Savu centienu dēļ viņa nespridzināja gorobtus.

Es tikai vientuļais Skronfinkls, in'edch_viy, ar svarīgu kalnu cīnītāja raksturu, šķiet, apkopoju šī uzņēmuma pārākumā.

- Mēs esam pagriezuši zobu ceļu, - rekonanno promovovin vіn. - Hiba neseko nopietnu ēdienu gatavošanas un pūču pieradināšanas kolekcijai;

- Man, - aizslēdzis pastas, - pūču pieradināšanas noslēpums nav vienkāršs darbs. Zināt pūces olu ir diezgan sasodīti glīti. Tāpēc darīsim to joka dēļ. Tālummaiņas ass ir audzināt pūci, tāpēc es domāju par ļaunuma problēmām.

- Nepareizs plāns! - nervozi tsvіrіnknuv Skronfіnkl.

Es pat neesmu dzirdējis ale yogo. Par vkaz_vkoy pastus gorobina spēlēja uz ceļa un devās vīrusu.

Pasaulē viņi zaudēja savus gorobtus, tāpat kā zyasuvati, kā pieradināt pūces. Lai ātri pasmaržotu skaidru pareizības sajūtu, pastus: zavdannya vyavilsya neimovirno salokāms, jo īpaši pašas pūces redzamībai, nākamajā solī būtu praktizēt. Tomēr putni cītīgi apdomāja problēmu, skaidiņas baidījās apgriezties ar pūces olu, noslēpumu, pēc kura ranga iespējams kontrolēt pūces uzvedību.

Ieeja

Viss mūsu galvaskausa vidus aug kā viela, mēs varam, piemēram, to izlasīt. Vielai - cilvēka smadzenēm - tiek piešķirtas iespējas, kas ir redzamas citu cilvēku prātos. Vlasne ar savu dominējošo nometni uz planētas cilvēki iet no vienas un tās pašas raksturīgās iezīmes. Deyakyh radības aug muskuļos un naygostrіshі іkla, ale zhodna ir dzīva, izņemot cilvēkus, jo viņi nav apdāvināti ar pamatīgu rozi. Pateicoties lielam intelektuālajam līmenim, mēs varam tālumā ieviest šādus rīkus, piemēram, tehnoloģijas un saliekamo sociālo organizāciju. Stundas beigās mūsu krustojums bija bez izmaiņām un paplašināšanās, ādas šķembas un jaunā paaudze, spirālveidīgi sasniedzot fronti, devās uz priekšu.

Tiklīdz jūs sadalīsit kādu rožu gabalu, ja jūs apgāzīsit cilvēka rozes attīstības zagalny rivn, tad gaismā parādīsies nepārvarams intelekts. Un pirmā mūsu sugas daļa parādās inteliģento tehnisko sistēmu tiešajā kļūmībā - tāpat kā iepriekš, tā kā pašreizējā daļa dega lielākā pasaulē, tie nebija primāti, bet cilvēku vārdi.

Tomēr tauta nezina, kā šķērsot ceļu, ir daži inteliģentu tehnisko sistēmu fragmenti. Principā, kurš ir izdomājis šādu superinteliģenci, kas patiesībā ir tās vērtības avots? Traki, mums jādod iespēja izglābties. Ar praktisku plānu mēs spēsim iekļauties kontroles svarīgumā - kā kontrolēt superizlūkošanas domas un darbības. Turklāt cilvēki var uzvarēt par vienu iespēju. Jak atklājas tikai nedraudzīgs intelekta gabals (SHI), mēs uzreiz aizēnojam savus zusiliešus, ja viņi vēlas redzēt viņu instalāciju. Būs redzama pirmā cilvēku daļa.

Savā grāmatā es apzinos problēmu, bet es saskaras ar cilvēkiem saistībā ar izlūkošanas izredzēm un viņu šķietamās reakcijas analīzi. Mabut, mēs esam vissvarīgākā un lyakє povstka pārbaude, it kā mēs būtu kaut kā likvidējuši cilvēkus. Un tomēr, tā kā mēs varam mainīt programmu, tā nav ieslēgta, tāpēc vicliks mūsu vietā apstāsies. Es šeit neierosināšu nekādus iemeslus pašreizējās versijas krāšņumam: mēs stāvam pie lielu izmaiņu porainības gabala izlūkošanas gadījumā; kurš var prognozēt ar vienreizēju precizitāti, ja notiek revolūcija. Nayimovirnishe - devītajā gadsimtā. Maz ticams, ka nosaukums ir konkrētāks termins.

Pirmajos divos razdіakh es aplūkošu zinātnes attīstību tieši un nedaudz pielāgošu tādu tēmu kā ekonomiskās attīstības temps. Tomēr galvenajā grāmatā grāmata ir veltīta tai, kas kļūs, kad parādīsies superinteliģence. Mums būs jāapspriež nākamie soļi: gabala intelekta vibukhovoy attīstības dinamika; jogo forma un potenciāls; stratēģiskas izvēles iespējas, piemēram, nākotnē, nākotnē, un tiem, kas atņems labāko maršrutu. Kad mēs cenšamies analizēt kontroles problēmu un cenšamies to labāk redzēt, ir iespējams par to padomāt, jo ir iespējams ļaut mums par to parūpēties un redzēt to somā. Pēdējās nodaļās mēs redzēsim dažas detaļas un brīnīsimies par plašākas problēmas iespējamību, kas, visticamāk, atradīsies visā situācijā, mūsu pieredzes rezultātā. Es atbalstīšu jūsu cieņu pret jūsu ieteikumiem, cik drīz vien iespējams, cik drīz vien iespējams, notiks katastrofa, kas bloķēs cilvēku dzīvi.

Grāmatas rakstīšana nebija viegla. Esmu iedrošināts, ka esmu gājis pa taku līdz agrīnajiem. Smarža, nemainot pārsniegumu, sasniedz jaunas robežas, un ar lielāku spēku jūs varat vairāk iesaistīties robotā, šādu cilvēku darbinieki iemācīsies izprast visas problēmas, ar kurām viņi saskaras. (Tas pats, ceļu uz vivčenju būvēs analītiķi, zvivistijs un peles, ko rada viboīns, es aicinu novērtēt smirdošo ainavu asari.)

Man nav nozīmes locīšanai, sasietam ar robotu virs grāmatas, es esmu ietīts man pieejamā vicladati materiālā; tomēr tajā pašā laikā, bachu, viss nav kārtībā. Protams, tiklīdz es uzrakstīju, manas domas pievērsās potenciālajam lasītājam, un es domāju, ka man vajadzētu iedomāties, ka tikai trīs ir jaunāki par mūsdienām, - es izgāju, aplaupījusi grāmatu, jo mani tas varētu interesēt. visā no manis, bet ne klints klāts ... Jūs pats varat sākt neskaitāmu lasīšanas auditoru skaitu. Protests, manuprāt, grāmatas zmists būs pieejams cilvēkiem. Ir nepieciešams atņemt lasītājam dejaki rozumovi Zusilla paziņojumu, starp citu, redzot jaunās idejas un atņemot prātu, koncentrējoties uz visu nepamatotu domāšanu ar roku stereotipiem, jo to visu ir viegli izdarīt no viņu kultūras rezervēm. Lasītāji, kuri nevēlas īpašas zināšanas, pirms spēlēšanas ar matemātikas wikkladiem un nepazīstamiem terminiem nepāriet, jo konteksts ļaus galvenajai idejai būt saprātīgai. (Lasītāji, jaku bazhayut, navpaki, zina vairāk informācijas, piezīmēs zina daudz tsikavy1.)

Ymovіrno, daudz vicladeno apakšējā daļā ir nepareizi 2. Es varu, es ar cieņu paužu, cik pasaule ir svarīga, kā rezultātā mani darbi - un varbūt viss, un viss - parādās kā žēlīgi. Nepalaidiet garām nevienu citu niansi un norādiet uz nenovērtējamiem soļiem, par kuriem man ir taisnība, es tieku novirzīta uz konkrētiem marķieriem-tas ir mans teksts par atkārtotām saķeršanām ar šādām pazemojošām verbālām pludmalēm, piemēram, “tas ir iespējams” , "Tas varētu būt", "tas ir iespējams", "Ymovirno", "ar lielu daļu ymovirnost", "mayzhe melodiously". Tomēr es schorazuyuyu, lai palīdzētu sākuma vārdiem malā rūpīgi un pat pārdomāti. Tomēr, lai ievērojami zagalnoy apmaiņu epistemological pripushen, viena šāda stilistiskā priyom ir acīmredzami nepietiekama; autors ir vainīgs virobiti sistēmiskajā pididā, sob mirkuvati nesvarības prātos un tieši apžēlošanas iespējā. Mova nі yakіy pasaulē nav par zaudēto pieticību. Es ļoti labi zinu, ka manā dibenā var būt muca un nopietnas žēlastības, un ne-tautas vārdi, pat ja notiek pārmaiņas: literatūrā izklāstītie alternatīvie viedokļi ir vēl labāki. Turklāt ir vērts atzīt "nulles hipotēzi", kuru šobrīd mēs varam absolūti ignorēt ar superizlūkošanas problēmu un ieraudzīt sevi drošības ciklā.

Persha galva

Pagāja līdz gada beigām

Gandrīz nežēlīgi pret tālo pagātni. Piemājas rīsos vēsture ir pēdējais no izaugsmes modeļiem, un procesam ir pakāpeniski paātrināts raksturs. Tsya regularitāte dod mums tiesības atļauties, bet iespējama ofensīva - vēl vairāk shvidky - ir izaugsmes periods. Tomēr maz ticams, ka spiediens uz šādu pasauli ir kas vairāk par lielu vērtību, taču mūsu grāmatas tēma nav "tehnoloģiski paātrināta", nevis "eksponenciāli augoša" un nevis tās parādības, kuras būtu pārāk kavējošas, lai tās dotu tiem, kas to saprot. Tad pāriesim pie pašreizējās situācijas: kā pāriet uz pašreizējo sezonu, un mēs varam uzzināt par dažiem atlikušajiem prognozes novērtējumiem un pēc tam runāt par mūsu termodinamisko prognozi.

Cilvēku izaugsmes un vēstures modeļi

Visu laiku cilvēku senči joprojām dzīvoja Āfrikas koku vainagos, pārdodot no kakla līdz kaklam. vēders Homo sapiens Inteliģences cilvēkiem, kā redzams no mūsu kopmītnēm ar cilvēkiem līdzīgām senču kartēm, no ģeoloģiskā un jaunā viedokļa skats pieauga vēl vienmērīgāk. Senie cilvēki ieņēma taisnu stāvokli, un īkšķi uz rokām sāka attālināties no tiem. Tomēr pats galvenais - smadzenēs un nervu sistēmas organizācijā bija acīmredzami nenozīmīgas izmaiņas, kas izraisīja milzīgas pārmaiņas cilvēku attīstībā. Jak mantojums, cilvēkiem ir sajūta, ka viņi ir kā abstrakts nepareizs nosaukums. Smarža nāca ne tikai no vikladati domu virknēm, bet arī no informācijas kultūras radīšanas, lai uzkrātu uzskatus un zināšanas un nodotu no paaudzes paaudzē. Pieprasot teikt, ludicus kļuva izturīgāks nekā jebkura cita dzīvā radība uz planētas.

Senie cilvēki, uzvarotāji, parādījās pie jaunas ēkas, izsakot aizvien racionālākos vyrobnitstva veidus, kuru dēļ iemesls varēja pārsniegt džungļu un aizsega robežas. Tajā pašā laikā iedzīvotāju skaita pieaugums un prasmes sāka strauji pieaugt. Vairāk cilvēku - vairāk ideju, turklāt vairāk cilvēku, turklāt viņi ne tikai ieraudzīja plašu jaunu klāstu, bet tas nozīmēja, ka cilvēku vidū bija tikai nedaudz laikietilpīgāk pārdomāt profesionalitāte. Dotais faktors tika veicināts tempi ekonomiskā attīstība, Samazināts produktivitātes pieaugums un tehniskā potenciāla veidošanās. Nadals ir tas pats progress jēgpilnības ziņā, kā arī aicina uz industriālo revolūciju, paātrinātā izaugsmes tempā likvidējot vēl vienu vēsturisku sēriju.

Šāds pieauguma tempa dinamisms ir mazs un svarīgs mantojums. Piemēram, tautas rītausmā, tā kā zemi apdzīvoja lieli laimīgu cilvēku strādnieki, jo cilvēku bija maz, ekonomiskā attīstība pieauga biežāk, un pieprasījums bija tuvu miljonam akmeņu modrību, iedzīvotāju skaita pieaugums Un neolitiskajai revolūcijai tas virzās līdz 5000. gadam pirms mūsu ēras. Tas ir, ja cilvēki ir pārgājuši no Misļivsko savākšanas nozares uz lauksaimniecības ekonomikas modeli, pieauguma temps ir pieaudzis uz vietas, bet šādam iedzīvotāju skaita pieaugumam bija divi simti raķešu. Mūsdienās līdz ar rūpniecisko revolūciju pasaules ekonomika katru stundu pieaug par aptuveni tādu pašu ādas daudzumu1.

Pastāv nemainīgs izaugsmes temps - tas tiks palēnināts, lai arī triviāla stunda -, kas novedīs pie naidīgiem rezultātiem. Domājams, ka pasaules ekonomikai ir jāturpina augt vidējā tempā, kas raksturīgs atlikušajiem piecdesmit akmeņiem, un visi planētas iedzīvotāji, kas atrodas nometnē, ir bagāti, zem pašreizējā vecuma: līdz 2050. gadam - 4,8 reizes, un līdz 2100 rokam - 34 reizes un līdz 2100 rokam - 34 reizes.

Tomēr izredzes uz stabilu eksponenciālu pieaugumu ziemas laikā izgaisīs. Ekonomista Robina Hensona aplēsēm mēs balstīsimies uz vēsturiskām veltēm par gospodarstvo dіyalnosti Iedzīvotāju skaits, pleistocēna laikmeta Misļivsko kolekcionējošās suspensijas ekonomikas piedāvājuma stunda kļuva par 224 tūkstošiem iežu, agrārā balstiekārta - 909 ieži, rūpnieciskā apturēšana - 6,3 gadi3. (Saskaņā ar Hensona paradigmu pastāv ļoti ekonomisks modelis, bet tas nenozīmē agrāri rūpniecisku struktūru, bet neattīstās tādā pašā tempā kā āda.) Ekonomika ir sasniegusi jaunu līmeni un ir augusi aptuveni divu ādas slimību biežums.

No pašreizējās dienas viedokļa attīstības temps ir fantastisks. Ale un pagātnes liecības, maz ticams, ka pēc vienas paaudzes dzīves pagarināšanas viņi būtu varējuši ļauties vieglās ekonomikas izaugsmes tempam, ja tā nebūtu cīņa. Tie, kas viņiem ir absolūti nekļūdīgi, mēs pieņemam jaku normu.

Ideja tuvināties tehnoloģiskās īpatnības brīdim ir kļuvusi ļoti populāra, parādoties novatoriskiem robotiem Vernonam Vindžam, Rejam Kurzveilam un citiem pētniekiem4. Tikmēr izpratne par "singularitāti", kā vikoristovua pašās nozīmēs, jau ir kļuvusi par tehnoloģiju utopisma izjūtu un ieguvusi oreolu kaut kam bailīgam un tajā pašā laikā diženuma pilnam5. Svārstības ir lielākas par vārda nozīmi singularitāte Nedomājiet par mūsu grāmatas tēmu, mēs esam daudz skaidrāki, jo aizmirsīsim par precīzākiem terminiem.

Minēt mums ideju, kas saistīta ar singularitātes izpratni, ir potenciāls vibukopod_bniy attīstība іntelektuĪpaši virsuzlūkošanas nozares perspektīvā. Var attēlot fig. 1 Izaugsmes līknes, lai pieņemtu darbā kādu, par jaunu intensīvas attīstības sērijas cenu - sēriju, ko izraisījušas neolītiskās un rūpnieciskās revolūcijas. Visam ir labāk - cilvēki, kuri ir pabeiguši diagrammas, var uzskatīt, ka ir svarīgi izprast scenārijus jebkurā pasaules ekonomikas pakļaušanās stundā, lai paātrinātu līdz mūsdienām, nepiedaloties pārliecinošam prātam. , kas ir ievērojami attīstījis mūsu biznesa inteliģenci un efektivitāti. Tomēr nav jāpielāgojas izaugsmes mīmikas līknēm un vēsturiskās ekonomiskās attīstības tempu ekstrapolācijai, lai šķietami būtu iespējams nostādīt priekšā intelekta gabala revolucionāro izskatu. Problēma ir nopietna, tai nav nepieciešama ģints līdzīga argumentācija. Yak mi pobachimo, є nabagato bilsh kāpēc parādīt kopību.

Mazs. 1. Viegla IKP dinamika triviālā vēsturiskā periodā. Vieglās ekonomikas vēstures līniju skalā līnija tiek attēlota kā līnija, kurā var dusmoties ar horizontālu augstumu, un tajā pašā laikā tā ātri paceļas vertikāli kalnā. A. Pārvietojieties pagarinātajās stundās starp līdz pat desmit tūkstošiem akmeņainu dienas beigās, mi bachimo, bet līniju, lai izjauktu grēdu kalnā no dziedāšanas punkta mayzhe pirms deviņdesmit grādiem. B. Līnija izskatās kā horizontāla ass tikai aptuveni pārējās vecās klints līmenī. (Atšķirība starp diagrammās esošajām līknēm ir izskaidrojama ar atšķirīgu cieņu kopumu, jo rādītājus var viegli redzēt viens no otra6.)

skaudība ochіkuvannya

Vīna brauciena laikā četrdesmitajos gados, pirmo elektronisko skaitļošanas iekārtu raķetēs, cilvēki nebeidz prognozēt datora izskatu, intelekta līmeni, kas cilvēkiem būs pazīstams. Tiešām uz uvazi ir saprātīgi tehniskā sistēma, Mani pārņem vesels kurls, tāpēc es izaugšu līdz sanāksmes sākumam, un es plānoju un vispusīgi pārskatīšu informāciju, izvēloties paši mazs dzherelami- reāls un teorētisks. Tajās stundās daudz kas ir noskaidrots, šādas automašīnas kļūs par realitāti pat divdesmit septiņos. No šī klusā perioda tas tiek pārnests no viena klints ātruma uz Riku, lai pašreizējie futurologi, kas atkal ir savienoti gabala intelekta saknes izpratnē, turpinātu vitalitāti un parādītos “gudrās mašīnas” pāris gadu desmitos8.

Šo terminu pēc divdesmit gadiem iecienījuši vietējo vīnu eksperti. No vienas puses, ne vēl sliktāk - un sarunu priekšmets man ar lielu cieņu ir pieskrūvēts; No otras puses, tas nav tik ātri, taču pastāv iespēja domāt par zemas kvalitātes zinātnisko displeju mērķi - tomēr, kad tie tika prognozēti prognozes laikā, tas nav tik daudz izliešanas, bet tas ir praktiski nav jautājums par to realizāciju. Nedaudz īsi prognostiski termini, kas izveidoti jaunām tehnoloģijām, kā uzskata māte, gaismas pieplūdums: no piecām līdz desmit klintīm - prognozes laikā liels skaits tehnisku risinājumu bieži stagnēs; piecpadsmit ieži - tehnoloģijas prognozēšanas laikā ir arī laboratorijas versijas. Turklāt divdesmit terminu termins visbiežāk ir tuvu vidējai trivialitātei un ir zaudējis prognozētāja profesionālo meistarību, kas maina priestera reputāciju, saistīt to ar mācītajiem praviešiem.

Tomēr, turp un atpakaļ un neizlēmot, aizgājušās očikuvānas raķetes negāja uzreiz uz darbu, taču gabalam raksturīga intelekta izveidošana principā ir nožēlojama, un nav laba ideja to attīstīt9. Galvenais iemesls, kāpēc progress arvien vairāk un mazāk tiek pārnests, ir saistīts ar tehniskām problēmām, kas tika konstatētas viedo mašīnu izstrādē. Pirmā braucēji neizturēja visus grūtos, par ko viņi iestrēga. Turklāt uzturs: cik liela ir pārejas nopietnības pakāpe un cik tālu no pagātnes - līdz šim tas kļūs pārāk jutīgs. Stundu zavdannya, no kurienes veidot bezcerīgi salokāmu, var būt brīnišķīgi vienkāršs risinājums (es to gribu bieži, mabut, buvak navpaki).

Mēs varam saskatīt ceļus, kas var novest pie intelekta gabala, pirms tas parādās, kas neupurējas cilvēkam, uzbrukuma sabrukumā. Jau tajā pašā laikā es vēlētos izteikt jūsu cieņu pret vienu svarīgu aspektu. Mēs pārbaudām daudz zupinok starp ninishnim pareizajā vietā un šo maybutnim, ja parādās intel gabals, bet tajā pašā laikā tā nav apstāšanās un aiziešanas stacija. Lai sasniegtu staciju "Overmind" ar tuvu skatu uz viņas virzošo zupinku, ir panākumi tāda līmeņa intelekta gabalam, kas nav tikai dāvana cilvēka prātam, bet noteikti to apvērsīs. Ar pārējo zupinku mūsu ceļojums pamodīsies tādā pasaulē, ka stacija "Ludina" var būt ne tikai zupinitiya, bet, cerams, iet. Shvidshe par visu, svilpe, lai steigtos povz. Britu matemātiķis Ērvings Džons Gūds, kurš stundu strādāja par šifru Alana Tjūringa komandā, bija šifrs Alana Tjūringa komandā, kurš pirmais uzzināja scenārija detaļas. Savā bieži citētajā 1965. gada statistikā par pirmajām pārāk saprātīgajām mašīnām viņš rakstīja:

Izgatavosim patiešām superinteliģentu mašīnu, piemēram, mašīnu, kas pasaules izpratnē apgāž jebkura ģenētiska cilvēka intelektuālo spēku. Šādu mašīnu stumbra svārstības ir cilvēku rožainās inteliģences rezultāts, tad virsizlūkošanas pārņemta mašīna spētu iznīcināt arvien detalizētākas mašīnas; Ilgu laiku, bezperechno, mīdiet uz šādu "intelektuālo vibu", bet cilvēka prāts spīdēs tālu atpakaļ. Ar šādu rangu noturīga superinteliģenta mašīna kļūs par cilvēka rozuma sasniedzamības galu - tomēr tas nav jautājums, ja jums nav pietiekami daudz intelekta un nepaskaidrojat to mums, piemēram, trimati. kontrole10.

Vibukhovy gabala inteliģences attīstība var novest pie viena no galvenajiem eksistenciālajiem risikiem - mūsdienās šāda runu nometne tiek runāta kā triviāla; Arī līdzīga pieauguma izredzes ir vainojamas ārkārtīgi nopietnā situācijā, lai virzītos pa to jūsu priekšā (ja tas tā nav), bet piesārņojuma daudzums acīmredzami ir zems. Tomēr pionieri gabala intelekta jomā, kas nav pārsteigti par visām izmaiņām gabala intelekta neizbēgamajā izskatā, kas neapdraud cilvēku, savā masā viņi ir zaudējuši spēju parādīt pārgudrību, kas apgāzīs cilvēka prātu . Patiesībā ienaidnieks rodas - mēģinot pieskarties maibutny mašīnu robežai, jo ar cilvēkiem ir iespējams atbildēt par viņu saprātīgo veselību, - tā vienkārši pieķērās, un smaka viegli izgāja cauri neizbēgamajai mezglainajai mašīnai. .

Lielākā daļa no pirmajām neveiksmēm netika mudinātas parādīties pagātnes apturēšanā, kas ir svarīgāk nekā jebkad agrāk, taču nevienam no šiem projektiem nevajadzētu būt dziedošam cilvēcei11. Nichto no viņiem, ne vārdos, ne dienā - nopietna, nopietna deva par visu tēmu - nedomājot par piedziņas drošības sajūtu, nevis ētikas zināšanām, saistot ar inteliģentas datora mājas gabala kātiem; Daniy Fact wiklikє mēģiniet orientēties uz citu šim laikmetam raksturīgu, nevis augstāku jauno tehnoloģiju novērtēšanas standartu12. Iesaistīties ir iespējams tikai līdz pulksten vieniem, ja ir gudra ideja iesaistīties dzīvē, nav iespējams sasniegt lielisko zinātnisko un tehnisko informāciju, lai neitralizētu kāda darba vibrācijas attīstību, cilvēki vēlas pieredzēt super-inteliģento mašīnu ienākšanu savā gaismā.

Ale persh nіzh zvernuti svіy apskatīt maybutn, bulo b korisno neilgi nagadat mašīnas izlūkošanas cilmes vēsturi.

Cerēt un redzēt

8 Zagalny

getAbstract pārskats

Pēc Oksfordas futūrologa Nika Bostroma domām, gabala izlūkošana var mums būt instruments, lai nodrošinātu drošību, ekonomisko attīstību un intelektuālo attīstību, lai gan cilvēki, iespējams, ja ne, lai īstenotu visu potenciālu. Bostrem Krok par Kroka kritiku par cilvēka bērna prāta raksturīgajām apžēlošanām II un domu, ka cilvēkiem nav resursu, nav iespēju, viņi iemācās pāriet gaismā, un tādā gadījumā tā ir diena, dienas gaismā, kā ja es būšu satriekts supermens. Bostrems meistarīgi aprakstīs, kā šādu superizlūkošanu var atrast, kā to var pārdomāt visvarenajā "Singleton" un kā var iedomāties draudus. Piemēram, kas tas būs, vai tas tiks ieslēgts, ja tas pacelsies līdz tādam līmenim, lai tas formulētu vienotu svētu kārtību, ko tradicionālie ētikas principi neatbalstīs? Tā ir informatīva, pilnīga dzherelas attīstībai, lasītāja grāmata sponsorē bezpajumtnieku bezpalīdzību. Autora pasaule balstīsies uz visu iespējamo nākotnes scenāriju spektra analīzi. Tse gliboka dlіdzhennya rozrahovanie in persha cherga on reading, kuri redz tiem īpašu interesi. getAbstract Ieteicams politikas veidotājiem, futūristiem, studentiem, investoriem, filozofiem un visiem, kas attīsta augstās tehnoloģijas.

No īsas grāmatas jūs redzat:

Yak Evolution Technology, Vidoma Yak "Piece Intellect";
Kā smaržot vcheni, lai būtu uzvarošs un kontrolējams II;
Kam cilvēki nav gatavi, es varu jums palīdzēt ar zemes ieguldījumiem.

par autoru

Niks Bostrems- Oksfordas universitātes profesors, Maybut People institūta direktors-direktors.

Superintelligence Discovery perspektīvas

1956. gadā Dartmutas koledžā tika izvēlēta cilvēku grupa, lai redzētu cilvēku attīstības perspektīvas. Pirmkārt, ir tsіkavilo, kur mašīnas var tikt galā ar cilvēka intelekta funkcijām. Ziņa par šo tēmu tika trivializēta ar alternatīviem panākumiem. Astoņdesmitajos gados raķetes sāka izstrādāt programmas, pamatojoties uz noteikumu kopumu, piemēram, "ekspertu sistēmas", un kļuva iespējams, ka ass ass izstrādās tehnoloģijas, uz kuru pamata varētu izveidot gabala izlūkošanu . Tad progress ir apstājies, un finanses ir apstājušās. Deviņdesmitajos gados Zusilla otrās kājas rajonā atņēma jaunu impulsu, parādoties "ģenētiskajiem algoritmiem" un "neironu žogiem".

Viens no II spēka kritērijiem ir tas, ka dažiem laipni speciāli uzlauztiem datoriem jūs varat spēlēt tādos igri, kā šahi, bridžs, "erudīts", iet un viktorīna. Pēc aptuveni 10 akmeņainiem datoriem ar sarežģītiem algoritmiem jūs varat pārņemt pasaules čempionu. Vide ir līdzīgas tehnoloģijas, kas fiksējamas dzirdes ierīcēs, pielikumos, lai izstrādātu specifisku un pārvietojamu informāciju, navigācijā, diagnostikā, plānošanā, loģistikā, kā arī rūpniecisko robotu izveidē, dažu ...