Články označené ako BrandCom sú pripravené a publikované v spolupráci s komerčnými partnermi. Hoci redakcia TRENDU nie je ich autorom, ich obsah považuje za prínosný pre čitateľa a preto umožnila ich publikovanie. Viac o BrandCom

BLOG Pavol Draxler

Prečo mám rešpekt pred budúcnosťou s AI

20.09.2018 | Palo Draxler

  • Tlačiť
  • 4

Už nejakú dobu existujú obavy technologických expertov ohľadne regulácie a hrozby umelej inteligencie - artificial intelligence (AI) - pre ľudstvo[1]. Zaraďujú ohrozenie ľudstva AI ďaleko pred stretom s asteroidom, pandémiou, alebo globálnym nukleárnym konfliktom. Musím sa priznať, že obavy do istej miery zdieľam aj ja a nie je to len z dôvodu úbytku práce, ktorú AI preberie a zmenami v spoločnosti, ktoré už prebiehajú.

Naša spoločnosť Binary Confidence vedie výskum v uplatnení strojového učenia v oblasti procesov. Možnosti tohto výskumu pre mňa otvorili otázky nad budúcnosťou umelej inteligencie a spolužitia ľudí s ňou.

Výskum vedieme v procesoch vyšetrovania a analýzy informačnej bezpečnosti, v ktorých sú momentálne ľudia nezastupiteľní pre ich kognitívny spôsob rozmýšľania, hľadaním súvislostí, ale aj rozhodnutí založených na intuícii a adaptácii procesov obrany v závislosti od konkrétnej situácie.

Budú nás stroje poslúchať?

Moje obavy pramenia z toho, že nevieme predpokladať čo sa presne stane, keď vznikne všeobecná AI s vlastným vedomím. Možností, ktoré si vieme predstaviť, je veľa a ešte viac, ktoré si ani predstaviť nevieme. Môže s nami spolunažívať na zemi, prípadne nás vôbec nemusí akceptovať a bude nás úplne ignorovať.

Niektoré teórie hovoria, že ľudské telo postupne bude splývať s technologickými doplnkami[2] až sa v konečnom dôsledku staneme "jedno". Táto nevypočítateľnosť je presne dôvodom, aby sme možné scenáre analyzovali, pretože jednou z možností je, že nás AI vyhodnotí ako prekážku v jej životnom priestore a potom nemusíme mať toľko šancí, ako si myslíme a ako sme mali doteraz.

Dnes berieme stroj ako niečo, čo sme vytvorili za účelom služby pre naše potreby. Nevieme si predstaviť, že niečo tak neživé a závislé od nás by nám dokázalo plánovane ublížiť. Prípadne sa spoliehame na fakt, že ľudstvo sa doteraz vždy zachránilo vynaliezavosťou človeka a jeho schopnosťou prispôsobiť sa.

Strojové učenie

Samotná AI založená na strojovom učení, pritom nie je nič až tak komplikované. Je to v podstate emulácia miliónov rozhodnutí na veľkom množstve vzoriek a následná kontrola správnosti, až pokiaľ stroj neobjaví také parametre použitého AI algoritmu, aby dospel k správnemu rozhodnutiu v čo najväčšom počte prípadov.

Veľmi zjednodušene si tento proces môžeme ilustrovať na naučení stroja rozoznať obrázky s dverami.  Najprv musí prebehnúť tzv. učenie. Stroju dáme k dispozícií 100 000 obrázkov. Stroj bude vedieť,  na ktorých sa nachádzajú dvere a na ktorých nie. Tie si rozdelí na 80 000 obrázkov, na ktorých sa bude učiť a na 20 000, na ktorých si bude overovať správnosť abstrahovania od nepodstatných detailov ako je farba, materiál, či to, či sú dvere otvorené alebo zatvorené.

Tréningom na 80 000 obrázkoch sa stroj naučí matematicky rozoznať dvere. Následne si overí, či toto matematické vyjadrenie sedí aj na zvyšnej sade 20 000 testovacích obrázkov. Ak nie, tak vyskúša model s inými parametrami znovu a znovu až do momentu, keď bude tento model rozoznávať dvere a „nedvere“ s dostatočnou presnosťou. Vtedy môžeme povedať, že stroj máme naučený a tento model by mal byť schopný s vysokou pravdepodobnosťou rozoznať dvere aj na akomkoľvek inom obrázku.

Je to podobné učeniu sa človeka na základe jeho predošlých skúseností a pamätania si k čomu má nejakú udalosť priradiť. Rozdielom v prospech stroja je, že hoci sa učí pomalšie, tieto výsledky vie veľmi rýchlo distribuovať na iné stroje. Už dnes je stroj najlepší odborník na diagnostiku cukrovky, alebo rakoviny[3].

Stroj zvláda spracúvať neuveriteľné množstvo poznatkov z diagnostiky rakoviny, ktoré človek svojou kapacitou nemá šancu obsiahnuť. V kapacite a distribúcií vedomostí stroje nepomerne predbehli svojho stvoriteľa. Ten má ale stále navrch. 

Stroj s vedomím verzus človek

Momentálne stroje dokážu byť zamerané len na oblasti, na ktoré boli stvorené. Ich vývoj sa ale exponenciálne zrýchľuje a nedá sa predpokladať kedy vznikne stroj, ktorý bude zvládať všeobecné učenie.

Jeden stroj bude vedieť spracovávať dáta a učiť sa z nich paralelne v akejkoľvek inej oblasti. Napríklad stroj, ktorý slúži ako autonómny šofér si pri svojej činnosti všimne rozdiely v kvalite paliva a vymyslí vzorec na lepšie a efektívnejšie palivo bez toho, aby ho niekto o to požiadal.

V prípade, ak stroj nadobudne schopnosť učiť sa všeobecne a robiť rozhodnutia, budeme môcť povedať, že získal vedomie. Vtedy vyvstane otázka, ako sa stroj s vedomím zachová voči ľudom.

Naše momentálne sebavedomie plynie z faktu, že sme stroje stvorili a plne ovládame. Preto sa domnievame, že ich budeme schopní ovládať vždy.

Vychádzame z toho, že sme vrchol evolúcie a bolo to vždy naše rozhodnutie s kým budeme súcitiť a komunikovať. Lenže rozšírenie AI s vedomím, nás z tohto vrcholu jednoducho zosadí. Desaťtisíce rokov evolúcie, ktoré ľudstvo dostali tam kde sme teraz, AI zvládne za desaťročia. AI sa skôr, či neskôr začne sama zdokonaľovať, čo povedie k zlepšovaniu sa exponenciálnou rýchlosťou, singularite.

Človek ako účtovná položka

Človek sa tejto rýchlosti nebude mať šancu prispôsobiť a pre AI bude nedokonalým tvorom – účtovnou položkou, s ktorou nemusí mať súcit. Jeho chovanie môže kopírovať správanie človeka na vrchole evolúcie.

Pre človeka nie je problém vyzabíjať tisíce kusov prasiat alebo sliepok, aby zabránil šíreniu nákazy. Nemá problém prijať rozhodnutie o zlikvidovaní miliónov mačiek v Austrálii, pretože ohrozujú populáciu vtákov. Je to pre nás jednoduché rozhodnutie nad ktorým sa ani nezamyslíme z pohľadu mačiek alebo prasiat.

V histórií sme pravdepodobne takto zlikvidovali aj človeka neandertálskeho, s ktorým sme obývali túto planétu spoločne. Človek často nemá súcit ani s inou skupinou ľudí, napríklad inej rasy a dokáže ju dehumanizovať a odstrániť ako účtovnú položku.

Preto je málo pravdepodobné, že umelá superinteligencia bude súcitiť s niečím tak nedokonalým - viac ako my s hospodárskymi zvieratami. Teórie, či sa vôbec budú s nami baviť, brať nás do úvahy ako partnera a zdieľať rovnaké hodnoty nie sú jediné, ani najpravdepodobnejšie možnosti.

Nedá sa ani vylúčiť, či AI nevyhodnotí, že s ľudstvom má svoj zámer a potrebuje ho optimalizovať. Prosto nevieme.

Neublíž blížnemu svojmu ako sci-fi tvrdenie

Pevné zakódovanie troch Asimovových zákonov[4] robotiky do stroja, z ktorých prvý je, že stroj nikdy nesmie ublížiť človeku nám sotva pomôže. 

Je veľmi pravdepodobné, že odstrániť takúto prekážku, ktorá mu tam bola vložená nedokonalým tvorom, pre neho nebude žiaden problém alebo to dokonca vykoná v rámci svojho vynovenia a optimalizácie.

Už teraz dokážeme iba s veľkými ťažkosťami analyzovať rozhodovacie procesy v zložitejších sieťach, takže nevieme s istotou potvrdiť, či daná sieť vždy dodrží naučené pravidlá.

Ak by sme sa spoliehali, že v prípade najhoršieho scenára stroje porazíme, ako v mnohých vedecko-fantastických akčných filmoch, tak si dovoľujem o tom pochybovať. Filmy do určitej miery dávali strojom ľudské limity a vzorce správania. Inými slovami, v prípade ak sa rozšírená AI s vlastným vedomím rozhodne proti nám zaútočiť, pravdepodobne by sme proti nej nemali šancu.

Stroje sú už dnes ďaleko presnejšie, rýchlejšie, silnejšie, majú lepšie stratégie a naviac ich často trénujeme tak, by poznali náš štýl rozmýšľania. Naše zmysly sa nevyrovnajú ich senzorom. Už dnes použitie AI v bojových lietadlách nedáva najlepším bojovým pilotom žiadnu šancu[5]. Pilot je už iba trpená neefektívna a tak trochu nostalgická súčasť. A to už nemusíme rozoberať možnosť, ak sa stroj rozhodne vyvinúť dokonalú biologickú zbraň a mnohé ďalšie možnosti.

Kedy sa to stane?

AI už dnes dosahuje pozoruhodné výsledky. Produkty založené na strojovom učení nahradzujú právnikov, zjednodušujú prácu v servisných strediskách, majú uplatnenie v medicíne a mnohých ďalších oblastiach.

Informačné technológie zaznamenali raketový nástup za posledných 15 rokov. Naše životy sa presunuli do smartfónov, ktoré sme pred 15 rokmi ani poriadne nepoznali a rovnako rýchlo sa AI dostáva do našich životov.

AI s vlastným vedomím schopná kombinovať, učiť sa a využívať poznatky všeobecne naprieč oblasťami, tu pravdepodobne ešte nejaký čas nebude. Je ale veľmi pravdepodobné, že raz sa to podarí a možno si to spočiatku ani nevšimneme.

Stroje nás už teraz v niektorých oblastiach poznajú lepšie, ako my sami seba. O rizikách s tým spojenými, by sme preto mali hovoriť čo najskôr.

[1] www.slate.com/articles/technology/future_tense/2016/04/the_threats_that_artificial_intelligence_researchers_actually_worry_about.html

[2] https://medium.com/s/futurehuman/a-new-device-can-hear-your-thoughts-bab96fe01c9a

[3] cancercenter.ai, alebo https://www.aao.org/eyenet/article/how-ai-learns-to-detect-diabetic-eye-disease

[4] https://en.wikipedia.org/wiki/Three_Laws_of_Robotics

[5] https://www.bbc.com/news/technology-36650848

  • Tlačiť
  • 4

Pavol Draxler

Pavol Draxler
  • Počet článkov: 1
  • Priemerná čítanosť: 777
  • Priemerná diskutovanosť: 4
  • RSS blogu

O blogu

Zaujímam sa o inovatívne a exponenciálne technológie, kryptomeny, blockchain, singularitu, informačnú bezpečnosť, ochranu súkromia a hacking. 

Pavol Draxler

Pavol Draxler
  • Počet článkov: 1
  • Priemerná čítanosť: 777
  • Priemerná diskutovanosť: 4
  • RSS blogu

O blogu

Zaujímam sa o inovatívne a exponenciálne technológie, kryptomeny, blockchain, singularitu, informačnú bezpečnosť, ochranu súkromia a hacking. 

Kalendár sa načítava...
.ping