Čo je technologická singularita

2024 Autor: Malcolm Clapton | [email protected]. Naposledy zmenené: 2023-12-17 04:09

Budúcnosť je bližšie, ako sa zdá.

Čo je technologická singularita

Technologická singularita je teoretický moment, keď človek stratí kontrolu nad technologickým pokrokom, čo sa naopak stáva nezvratným. Jednoducho povedané, v blízkej budúcnosti sa technológie môžu vyvinúť natoľko, že ľudstvo s nimi jednoducho prestane držať krok a rozumieť im.

Najčastejšie sa uvažuje o vytvorení umelej superinteligencie ako o spôsobe dosiahnutia singularity, nie je to však jediný možný spôsob. Napríklad v blízkej budúcnosti sa pravdepodobne objavia stroje (počítače, roboty), ktoré budú vedieť robiť všetko lepšie ako ľudia a kvôli tomu dôjde k prudkému, lavínovému technologickému skoku.

Najčastejšie však takéto dohady zostrojil Tegmark M. Life 3.0. Byť človekom vo veku umelej inteligencie. - M., 2019 nie o vedeckých prognózach, ale o mýtoch v oblasti AI.

Ďalej, ako veria priaznivci konceptu technologickej singularity, takéto „intelektuálne výbuchy“sa budú vyskytovať čoraz častejšie. To môže viesť k radikálnym zmenám v spoločnosti, ktoré nedokážeme predvídať ani kontrolovať.

Práve dôsledky singularity spôsobujú mnohé obavy a slúžia ako základ pre diskusie o budúcnosti ľudstva. Tieto dôsledky sa hodnotia rôznymi spôsobmi. Raymond Kurzweil, futurista rozpoznávania reči a kľúčová postava spoločnosti Google, verí, že pokroky v technológiách sú pre ľudí skvelou príležitosťou stať sa lepšími ľuďmi. Menej optimistickí sú vo svojich hodnoteniach Elon Musk, Bill Gates a zosnulý Stephen Hawking. Podľa ich názoru môže pokrok viesť k zničeniu ľudstva.

Aké sú predpoklady pre technologickú jedinečnosť

Obavy z dôsledkov technologického pokroku sa neobjavili z ničoho nič. Mnohé procesy v modernej spoločnosti a vede podnecujú takéto úvahy.

Urýchlenie technického a technologického pokroku

Digitálny vek začal vynálezom tranzistora v roku 1947 a trvá dodnes. V roku 1965 jeden zo zakladateľov Intelu, ktorý sa pripravoval na prejav, objavil zaujímavý vzorec: každé dva roky sa počet tranzistorov v mikroobvodoch zdvojnásobí.

Odvtedy sa zmenilo len málo: počítačová výpočtová technika vykazuje neustály exponenciálny rast. Čím ďalej technológia napreduje, tým je krivka, ktorá ilustruje technologický pokrok, strmšia. V priebehu niekoľkých desaťročí môže ísť jeho tempo do nekonečna.

Podľa Harvey C. Big Data Challenges. Datamation by Datamation, v roku 2017 digitálne dáta prekročili našu schopnosť ich spravovať. Navyše sa každé dva roky zdvojnásobuje.

Jedným z ďalších krokov vo vývoji technológie môže byť pravdepodobne vynález AGI (umelá všeobecná inteligencia). Tento výraz označuje AI, ktorá sa učí komunikovať, myslieť a konať ako človek alebo ešte lepšie. To znamená, že AGI teoreticky môže nahradiť ľudí vo všetkom.

Vývoj umelej inteligencie

Počítače zatiaľ nedokážu absolútne všetko lepšie ako my, hoci pri riešení mnohých problémov sú už oveľa múdrejšie ako človek (alebo aspoň rýchlejšie ako on).

Ešte pred 4-5 rokmi sa predpoveď singularity od Raya Kurzweila uskutoční do roku 2045. Futurizmus Raymonda Kurzweila, že do roku 2045 umelá inteligencia prekoná ľudskú inteligenciu vo všetkom, bol považovaný za veľmi odvážny (napriek tomu, že od 90. rokov má 86 % jeho predpokladov splniť sa).

Dnes sa už obdobie medzi rokmi 2025 a 2035, alebo ešte skôr, nazýva hypotetickým dátumom objavenia sa AGI.

Pandaya J. The Troubling Trajectory Of Technological Singularity môže v tomto zohrať špeciálnu úlohu. Forbes sa zahrá na budovanie neuromorfných čipov – procesorov pre neurónové siete, ktoré replikujú spôsob, akým náš mozog spracováva informácie. Zatiaľ je výskum v tejto oblasti ešte ďaleko od získania skutočne fungujúceho modelu, ale už existujú nepochybné úspechy. AI dnes dokáže:

• učiť sa;
• poraziť ľudí v strategických hrách (program AlphaGo v roku 2015 len za 9 hodín tréningu získal DeepMind a Google: boj o ovládanie umelej inteligencie. The Economist schopnosť hrať šach lepšie ako človek);
• Pomôžte mozgom ovládanému exoskeletu umožniť paralyzovanému pacientovi chodiť. Vedci s poranením miechy sa postavia na nohy;
• rozpoznávať tváre;
• šoférovať auto;
• maľovať Má sa umelá inteligencia stať ďalším médiom umenia? CHRISTIE'S a súvisiace texty;
• vytvoriť Systém umelej inteligencie vytvorený v UNC – Chapel Hill navrhuje drogy od nuly. lieky UNC - CHAPEL HILL;
• Vedúca čínska štátna tlačová agentúra Xinhua debutuje „ukotvením AI“, aby mohla čítať správy. Mashable spravodajstvo a oveľa viac.

V roku 2014 Google získal DeepMind a Google: boj o kontrolu umelej inteligencie za 600 miliónov dolárov. The Economist od AlphaGo je britská spoločnosť DeepMind, ktorej cieľom bolo vynájsť AGI. Nápady Britov pomohli spoločnosti Google vytvoriť efektívne algoritmy na diagnostiku očných chorôb a včasnú detekciu Parkinsonovej a Alzheimerovej choroby.

S najväčšou pravdepodobnosťou sa oplatí počkať na vznik AGI v dohľadnej budúcnosti. Nástup technologickej singularity s tým však priamo nesúvisí.

Vznik neurónových rozhraní

Už teraz môžeme hovoriť o internete ako o forme „globálneho mozgu“– fenoméne, vďaka ktorému môžu ľudia z celého sveta medzi sebou takmer nepretržite komunikovať prostredníctvom technického sprostredkovateľa.

Existujú zariadenia, ktoré sú bližšie k gadgetom zo sci-fi filmov. Už viac ako 300 tisíc ľudí používa Ako blízko sme k rozhraniu mozog-počítač Elona Muska? Na ľuďoch sa testujú kochleárne implantáty CNN Health (sluchové protézy, ktoré pôsobia priamo na sluchový nerv) a vzorky bionických očí. Hoci tieto zariadenia stále nedokážu úplne obnoviť zrak alebo sluch, kvalita ich práce sa zlepšuje.

Elon Musk a Brian Johnson tiež oznámili, ako blízko sme k rozhraniu mozgu Elona Muska a počítača? CNN Health o vytváraní startupov pre vývoj rozhraní človek-počítač (Neuralink a Kernel). Samozrejme, je priskoro povedať, že čoskoro budeme môcť ovládať smartfón silou myšlienky: všetky takéto zariadenia sú stále príliš pomalé a nedokonalé. Napriek tomu existujú všetky dôvody domnievať sa, že úspech v tomto odvetví je hneď za rohom.

Aké sú dôvody technického pokroku?

AI a roboty prevezmú komplexnú intelektuálnu a fyzickú prácu

Rozvoj umelej inteligencie a robotiky môže v konečnom dôsledku viesť k tomu, že stroje sa naučia robiť všetko bez alebo s minimálnym zásahom človeka. V tomto prípade sa pokrok bude naďalej zrýchľovať, čím ďalej tým viac sa bude zlepšovať život a život ľudí.

Počítače už ľudia používajú na vedecký výskum a zlepšovanie technológií. Vďaka tomu (napríklad genetický výskum alebo vývoj zariadení, ktoré zlepšujú schopnosti ľudského mozgu) sa samotní ľudia stávajú múdrejšími a stroje rýchlejšie. Urýchľuje sa tak vývoj nielen počítačov, ale aj človeka.

Ľudia v sebe objavia nové schopnosti

K splynutiu človeka s technológiou dochádza nielen na fyzickej (používanie protéz, úpravy), ale aj na informačnej úrovni (používanie pomôcok). Smartfón s mobilným internetom vo vrecku je prvým krokom k tomu, aby ste sa stali kyborgom.

Existuje dokonca hnutie transhumanizmu. Britannica, zástanca aktívneho zlepšovania ľudského tela prostredníctvom technologického pokroku. Transhumanisti veria, že modifikácia tela je jediný spôsob, ako držať krok s dobou a nedať osud ľudstva k dispozícii strojom.

Avšak zatiaľ je vznik ľudských biorobotov stále v rovine fantázie.

Nové technológie otvárajú cestu k potenciálnej nesmrteľnosti

Odstránenie obmedzení DNA sa v tejto oblasti javí ako oveľa elegantnejšie riešenie. Genetické a bioinžinierstvo Pandaya J. Znepokojujúca trajektória technologickej singularity. Forbes, rovnako ako nootropiká, môžu urobiť ľudí múdrejšími. Pomocou umelo vypestovaných orgánov alebo nanostrojov sa ľudia môžu zbaviť starnutia a dosiahnuť nesmrteľnosť.

Otázne je len to, ako rýchlo sa človek naučí (a naučí) využívať tieto možnosti, či ich spoločnosť a vláda schváli. Bude trvať roky, kým sa geneticky modifikovaní ľudia narodia a vychovajú, aj keď sa ignorujú sociálne faktory, ktoré spomaľujú prijatie takejto technológie. Iné formy superinteligencie (AI) sa môžu objaviť oveľa rýchlejšie.

Čo hovoria odporcovia nekontrolovaného rozvoja technológií

Umelá inteligencia môže zničiť ľudstvo

Vývoj AGI pravdepodobne predbehne vývoj ľudského mozgu a technológie, aby nás posilnili. Umelá inteligencia je schopná prekonať tú ľudskú a v pesimistickom scenári sa môže ľahko vymknúť spod kontroly.

Doktor Oxfordskej univerzity Nick Bostrom považuje Bostroma N. Superintelligence: Paths, Dangers, Strategies. - Oxford University Press, 2014, že existuje dôvod na obavy. Podľa jeho názoru, bez ohľadu na to, ako rozvinutý je intelekt, to nemá vplyv na to, či činy jeho majiteľa budú zlé alebo dobré. Preto, bez ohľadu na to, aká inteligentná je AI, nie sme imúnni voči skutočnosti, že urobí niečo zlé.

Dôležité Tegmark M. Life 3.0. Byť človekom vo veku umelej inteligencie. - M., 2019, aby AGI pochopila, prijala ciele ľudskosti a dodržiavala ich. Ak si stanoví iné priority, ako sebazáchovu, uchopenie zdrojov alebo ukojenie zvedavosti, potom vo vzťahu medzi ľuďmi a strojmi vzniknú konflikty.

Modernizácia ľudského tela môže viesť k ďalšej stratifikácii spoločnosti

Modifikácia ľudského tela môže nielen vytvoriť „Human 2.0“, ale aj prehĺbiť sociálne konflikty. Tí, ktorí majú prístup k takýmto technológiám, budú mať zjavne nadradenosť nad tými, ktorí tieto schopnosti nemajú.

Vynárajú sa významné etické a právne problémy: je možné poskytnúť jednej osobe intelektuálnu a/alebo fyzickú výhodu nad inou a ako chrániť „biomechanických ľudí“pred hackermi?

Keď sa technológia dostane do nesprávnych rúk, môže byť smrtiacou zbraňou

Nezabudnite, že človek sám o sebe je veľkým nebezpečenstvom. Armáda už používa drony a programovateľné stroje ako zbrane a sociálne siete sú zaplavené podvodníkmi. Je vysoko pravdepodobné, že ľudia začnú zneužívať aj nové technológie.

Ale ešte predtým jednoducho riskujeme, že neprežijeme, keďže aj existujúce zbrane sú nebezpečné. Max Tegmark, astrofyzik a profesor na Massachusetts Institute of Technology, vypočítal Tegmark M. Life 3.0 pomocou štatistických pravdepodobnostných vzorcov. Byť človekom vo veku umelej inteligencie. - M., 2019 riziko svetovej jadrovej vojny vedúcej k vzájomnému zničeniu. Dospel k záveru, že ak je pravdepodobnosť 0,001 za jeden rok, tak v intervale 10 000 rokov dôjde k jadrovému kolapsu s pravdepodobnosťou 99,95 %. Dokonca aj dobre zavedený systém zadržiavania dobre preskúmaných zbraní môže zlyhať. A vyvstáva otázka: dokážeme ovládať zložitejšie technológie, aby sa nedostali do nesprávnych rúk?

Aká budúcnosť nás môže čakať

Max Tegmark zároveň kriticky hodnotí Tegmark M. Life 3.0. Byť človekom vo veku umelej inteligencie. - M., 2019 pravdepodobnosť pesimistického scenára. Verí, že možnosti sebazdokonaľovania sú obmedzené fyzikálnymi zákonmi. Skutočná singularita, ako nekonečne sa zrýchľujúci pokrok, je podľa Tegmarka nemožná, hoci tento proces je schopný priblížiť sa k nekonečnu.

Profesor preto tvrdí, že po skoku technológie bude nasledovať rýchle dosiahnutie všetkých alebo takmer všetkých úplnosti vedomostí o svete, a nie ich nekonečné hromadenie.

Podľa iného uhla pohľadu sa nič, vrátane pokroku, nemôže donekonečna zrýchľovať – skôr či neskôr sa spomalí.

Môžeme však spoľahlivo povedať, že ľudstvo ešte neprekonalo bod spomalenia.

Nie všetci vedci vo všeobecnosti zdieľajú teóriu technologickej singularity. Niektorí ľudia poznamenávajú, že doteraz neboli v prírode objavené žiadne javy, ktoré by sa vyvíjali donekonečna a nekonečne rýchlo. Výskumníci zároveň upozorňujú na skutočnosť, že značný počet predpovedí v tejto oblasti nie je založený na objektívnych údajoch, ale na želaniach samotných prediktorov.

Takže napríklad AI môže zostať čisto utilitárna a neobdarená osobnosťou. Algoritmy rovnakého DeepMind zatiaľ nedokážu DeepMind a Google: boj o kontrolu umelej inteligencie. The Economist nájde riešenie, ak sa niečo pokazí a zmenia sa vopred definované podmienky.

AI nás zatiaľ predbieha len na úkor výpočtového výkonu. Ale to, čo ľudia zvládnu za pár minút, strávi program v porovnaní s ľudskou skúsenosťou tisíce hodín.

Napríklad, aby sa AlphaGo naučil hrať Space Invaders, musí urobiť tisíce pokusov. V konečnom dôsledku sa program, samozrejme, bude hrať lepšie ako človek, ale tento proces zvládne oveľa rýchlejšie.

Žiadnu z predpovedí preto nemožno považovať za 100% pravdepodobnú. To však nie je dôvod na úplné opustenie myšlienky technologickej jedinečnosti.

Realizácia určitých scenárov osudu ľudstva bude do značnej miery závisieť od smerovania technologického rozvoja, v koho rukách bude a ako bude regulovaný. Veľkú úlohu bude hrať aj to, ako sofistikovaná sa technológia stane. Nezabudnite na sociálne, geopolitické a ekonomické faktory, ktoré môžu ovplyvniť pokrok. Je tiež ťažké hovoriť o presných dátumoch nástupu technologickej singularity.

Bude človek naďalej existovať, ak nebude potrebný na mnohé druhy činností (napríklad na vedu)? Zmení sa človek zásahmi DNA alebo neurointerfacemi človekom? Na tieto otázky nemáme žiadne odpovede. Možno sa človek už nenávratne zmenil s príchodom počítačov a digitálnych technológií.

Jedno je však absolútne isté: evolučný proces je prirodzený a nezastaviteľný. Nemôžeme ho spomaliť. Nakoniec nás snáď stroje naučia, aby sme sa navzájom nezabíjali a neponižovali a mali by sme im dôverovať?

Preto, ako radí Tegmark M. Život 3.0. Byť človekom vo veku umelej inteligencie. - M., 2019 Max Tegmark, nemysli na budúcnosť, ktorá ťa desí, ale na tú, ktorú by si chcel.