UMELÁ INTELIGENCIA V ROLI „ÚPRIMNEJ KLAMÁRKY“?

Stáva sa umelá inteligencia nástrojom dehumanizácie?

Nenechajme sa zmiasť neistým štartom umelej inteligencie. Už dnes nám mení životy, naučila sa pomáhať, ale aj klamať a podvádzať.

OFICIÁLNE
Autor
Dátum zverejnenia 17. marca 2023
Obsahuje nasledovné témy

Generatívna AI dnes zažíva boom, stala sa súčasťou našich každodenných debát a „ukrojila“ si obrovský kus pozornosti aj od médií. Navyše, dominuje nielen v diskusiách širokej verejnosti, ale aj IT odborníkov, akademikov či manažérov rôznych firiem. A niet sa čo diviť!

Vo svete AI sa toho deje veľa. Z každej strany sa na nás valia správy o spustení ChatGPT, pričom včera večer bola spustená už aj očakávaná najnovšia verzia OpenAI Chat GPT 4, ktorá má priniesť pokrok vo vyhľadávaní a eliminovať „halucinácie“ predošlej verzie. Navyše, neustále počúvame a čítame aj o masívnom investovaní Microsoftu do OpenAI, upozorneniach Googlu či o „šokujúcom prejavovaní pocitov“ chatbota Lambda. Deň čo deň tiež narazíme na diskusie o výhodách aj nevýhodách AI, jej využití v zdravotníctve, doprave a iných oblastiach. Práve tento „boom“ je ukážkou toho, že AI má výborne našliapnuté na to, aby urobila vo svete technológií obrovskú revolúciu. Čo nám priniesla prax beta verzií generatívnej AI, aký pokrok môže priniesť najnovšia verzia OpenAI Chat GPT 4 a kde sú najväčšie problémy AI a kde, naopak, príležitosti?

Spomínané témy sa úspešne prepašovali do pozornosti každého z nás. Napríklad súboj testovacích verzií vyhľadávacích nástrojov Bing AI Search a Bard, medzi ktorými do budúcna určite vznikne ostrá rivalita. Táto téma tu rezonuje už roky, avšak „ošiaľ“ po spustení ChatGPT je naozaj pozoruhodný. Navyše, doplnený bol o dlhý zoznam obáv týkajúcich sa straty zamestnania, podvádzania pri písaní školských prác a testov či porušovania autorských práv.

Zo všadiaľ sa na nás valí masa informácií, ktoré sú častokrát protichodné. A ako už máme my ľudia vo zvyku, aj tu máme tendenciu riešiť skôr negatíva ako pozitíva. Je pravdou, že rozvoj AI ešte čaká dlhá cesta a je potrebné „vychytať viacero múch“. Nikdy by sme však nemali zabudnúť na jednu vec. A tou je, že AI nie je ľudský mozog, má obmedzenú pamäť a my ľudia sme neustále v kontakte so strojmi.

Niektorí odborníci predikujú, že v najbližších rokoch na nás pri spustení AI služby vyskočí varovanie, že na seba preberáme riziká a nemáme právo žalovať poskytovateľa. A to napríklad v prípade vyprodukovania nenávistného, násilného, nepravdivého či diskriminačného obsahu. Napokon, už dnes by sme mohli dlhé hodiny diskutovať o reálnych príkladoch z praxe. Napríkladnedávne faux pas pri predstavení služby Bard, ktorá nesprávne popísala teleskop Jamesa Webba. Jej beta verzia ChatGPT s istotou odpovedala faktami, ktoré neboli historicky pravdivé, vedecky podložené ani fyzicky možné. AI komunita toto správanie označila za „halucinačné“. Suma sumárum, umelá inteligencia sa v tomto prípade v podstate ocitla v roli „úprimnej klamárky“ či „konfabulátorky“. ClinMedjournal tieto pojmy spája s Alzheimerovou chorobou a demenciou ako „vytváranie falošných či chybných spomienok bez úmyslu klamať osobou, ktorá verí tomu, že skutočne komunikuje pravdivé spomienky“.

Spomínané spustenie Chat GPT 4 by však už týmto halucináciám mala vedieť predísť.  Ak sa nad tým zamyslíme z iného uhla pohľadu, poškodenie mozgu nám môže spôsobiť tieto choroby a vedci si dodnes nie sú istí, ktorá časť mozgu za to môže. Rovnako je to aj s AI. Dnes už máme tendenciu pripisovať jej ľudské vlastnosti či správanie. Zabúdame však na to, že sme ľudia, ktorí sú v kontakte so strojmi. A tie sú len také spoľahlivé, ako ich milióny dielov. A aj tie sa môžu pokaziť a potrebovať úpravu. AI nefunguje ako mozog, má obmedzenú pamäť a ukladá minulé údaje a predpovede tak, aby mohla zlepšiť tie budúce.

K tejto téme sedí napríklad obrazový výstup Dall-E v rámci výzvy „losos plávajúci po rieke“. Je ukážkou toho, že AI nedokáže pochopiť symboly bez kontextu a ani pochopiť rozdiel medzi živým lososom plávajúcim v rieke a vypitvaným lososom nakrájaným na filety v obchode. Preto je výsledkom zmýšľania AI „rovnomerne nakrájaný filet lososa plávajúci po rieke“. Tak a teraz si predstavte tie miliardy údajov v generatívnej databáze AI, ktoré nemajú absolútne žiaden kontext!

Áno, ryby sú nevinným príkladom. Predstavte si však, že generatívnemu výsledku AI podlieha jednotlivec. AI v týchto prípadoch ovplyvňuje napríklad vysoko rizikový prípad použitia v zdravotníctve, rozhoduje o zamestnaní, presadzovaní práva, vláde či finančných službách. Toto už nie sú také úsmevné predstavy ako tá s lososom, nemyslíte?

Odpoveďou na túto otázku sa zaoberala aj Daniela Amodei z Anthropic v podcaste Future of Life. Rozprávala tu aj o jednom z ich výskumov, ktorý odhaľuje, že modely rôznych veľkostí vykazujú rôzne bezpečnostné problémy. Niektoré z väčších modelov podľa nej prišli na to, ako neúmyselne klamať. Ak im položíte tú istú otázku inak, nakoniec môžete klamstvo odhaliť, no v iných kontextoch nie. A „zaklincovala“ to tým, že v generatívnych modeloch je naozaj veľa alarmujúcich modelov správania.

Samozrejme, riziká generatívnej AI neplynú len z týchto vecí. Dnes je veľkým problémom práve ľudský kapitál. Vo firmách, ktoré aktívne využívajú AI sa nevenuje pozornosť expertíze na zodpovedné škálovanie generatívnej AI. Spoločnosti si jednoducho budú musieť nájsť expertov na dátovú vedu a strojové učenie. Až potom môžu začať trénovať, testovať, spúšťať a školiť modely spoločne s globálnymi internými či externými dodávateľmi. Tí zase budú modelovať, monitorovať a moderovať výstupy a v prípade potreby eskalovať aj problematický obsah. Skvelou správou je, že pri riešeniu tohto problému môže prispieť aj slovenský projekt InoCloud. A to dátovou platformou, ktorá kombinuje vlastný software a hardware, vďaka čomu môžeme firmám podať pomocnú ruku.

Dostatok dátových vedcov a expertov nemáme na Slovensku, ale ani inde vo svete. Veľmi trefne to pomenovali na konferencii Gartner´s Data & Analytics v auguste 2022, kedy slovo „nedostatok“ talentov nahradili pojmom „kríza“. Napokon, potvrdzujú ju aj samotné čísla:

Čo dodať? Dupnime na plyn a začnime sa generatívnej AI detailne venovať po všetkých stránkach. Generatívna AI už dnes spôsobila revolúciu, a to takmer všade, kde sa pozrieme: e-maily, prezentácie, školské práce, marketing a tvorba obsahu, dizajn, skladanie hudby, filmová produkcia a podobne. Áno, odborníci pri svojej práci, v diskusiách a na konferenciách, hľadia na bežné výzvy škálovateľnosti pre generatívnu AI ako je výpočtový výkon, ochrana súkromia, nedostatok údajov či zaujatosť. Pri tom všetkom sme však zabudli na samotnú „mágiu“ technológie a prehliadame obrovské výzvy, ktoré sú potrebné na to, aby sa mohla generatívna AI škálovať zodpovedne v tom, čo sa nás ľudí bytostne týka.

 

*Informácie čerpané aj z: Scaling Generative AI: Tech dilemma or People Problem? – SwissCognitive

 

 

Najnovšie

Alza získala status Gaming Premium Partner

LOGI PLAY 2024 – PRODUKTOVÉ NOVINKY A TECHNOLOGICKÉ INOVÁCIE

Logitech G, značka spoločnosti Logitech a popredný inovátor hráčskych technológií a vybavenia, dnes na Logi PLAY 2024 oznámila nové partnerstvá a uvedenie vzrušujúcich produktových noviniek pre hráčov a e-športovcov. Logi PLAY 2024 je najväčšou oslavou hier v spoločnosti Logitech. Jednotlivé podujatia sa budú streamované z miest po celom svete vrátane Paríža, Berlína, Šanghaja, Tokia, Sydney, Madridu, Sao Paula, Silicon Valley a mnohých ďalších, aby sa na nich mohli zúčastniť hráči z celého sveta.

18. septembra 2024

Nový typ DDR5 pamätí

Viete, čo je to CAMM2?

Moduly CAMM boli vytvorené s cieľom riešiť špecifické výzvy výrobcov počítačov. Od predstavenia prvého dizajnu ultrabooku Intel, Apple MacBook Air v roku 2011 zápasili výrobcovia s veľmi hrubou pamäťou a slotom, do ktorého sa moduly vkladajú. Príchod pamätí DDR5 odhalil ďalšie problémy, ktoré vychádzajú z viac ako 25 rokov starej konštrukcie pamäťových modulov.

2. septembra 2024

NVMe určený pre dátové centrá

Spoločnosť Kingston Digital uvádza Enterprise Class SSD disk

Kingston Digital Europe Co LLP, pobočka spoločnosti Kingston Technology Company, Inc., svetového lídra v oblasti pamäťových produktov a technologických riešení, uvádza svoj najnovší SSD disk DC2000B pre dátové centrá – vysoko výkonný PCIe 4.0 NVMe M.2 SSD disk, optimalizovaný pre použitie vo veľkokapacitných serveroch a pre racky ako Boot Drive.

19. augusta 2024

ponúka vyšší štandard policajtom a bezpečnostným pracovníkom

Nová kamera „do akcie“ v portfóliu nositeľných produktov Axis

Spoločnosť Axis Communications predstavuje ďalšiu novinku v oblasti kamier určených na nosenie na tele. Nová osobná kamera AXIS W102 sa stane skvelým pomocníkom policajtom a bezpečnostným pracovníkom. Umožňuje zachytiť zreteľný zvuk, ostrý obraz a má ochranu pred neoprávneným prístupom k dátam s viacvrstvovým šifrovaním.

31. júla 2024

DDR5 pamäť inšpirovaná pretekárskymi vozmi

Kingston FURY, divízia spoločnosti Kingston Technology Company, svetového lídra v oblasti pamäťových produktov a technologických riešení, oznámila uvedenie svojej najnovšej pamäte, Kingston FURY Renegade DDR5 RGB Limited Edition. Tento set, inšpirovaný láskou k automobilom a pretekaniu, prináša do vášho počítača zážitok z výkonu ako na závodnej dráhe.

25. júna 2024

Chcete 24, 48 alebo 96 GB?

DDR5 pamäte s nebinárnou kapacitou

Jedným z kľúčových komponentov, ktorý má zásadný vplyv na výkon počítačov je aj operačná pamäť. S poslednou generáciou DDR5 prišlo množstvo inovácií a tiež nebinárna kapacita. RAM už nemusí mať len tradičných 8, 16, 32 alebo 64GB (teda dvojnásobok), ale aj 24, 48 alebo 96 GB. Vždy keď príde niečo nové, neznáme, vyrojí sa množstvo otázok a preto sme […]

20. júna 2024

Externý SSD disk Kingston XS1000 získal ocenenie Red Dot Award 2024

Spoločnosť Kingston Digital Europe Co LLP, ktorá je výrobcom flash pamäťových zariadení a pobočkou Kingston Technology Company, svetového lídra v oblasti pamäťových produktov a technologických riešení, dnes oznámila, že sa jej externý SSD disk Kingston XS1000 stal víťazom 2024 Red Dot Award: Design produktu. Ocenenia Red Dot Design Award sa udeľujú od roku 1955 a […]

17. júna 2024

ešte viac uspokojí potreby tvorcov obsahu

Spoločnosť Kingston uvádza na trh nové balenie čítačky Workflow

Spoločnosť Kingston oznámila opätovné uvedenie dokovacej stanice Workflow Station a čítačiek. Rad Workflow teraz ponúka viac modulov oddelených od dokovacej stanice, čo umožňuje väčšiu flexibilitu a prispôsobivosť. Táto aktualizácia vychádza v ústrety rôznorodým potrebám tvorcov obsahu.

1. júna 2024

Vlajková ľod od systámu EOS R

Canon pripravuje uvedenie fotoaparátu EOS R1

Canon pripravuje uvedenie fotoaparátu EOS R1, ktorý bude prvou vlajkovou loďou systému EOS R. Nová technológia spracovania obrazu ešte viac zlepší automatické ostrenie a kvalitu obrazu

 

15. mája 2024

Vysokorýchlostný dvojpásmový adaptér pre lepšie pripojenie

TP-Link Archer T600UB Nano

Spoločnosť TP-Link, popredný svetový dodávateľ sieťových riešení a produktov inteligentnej domácnosti, predstavuje kompaktný Wi-Fi Bluetooth USB adaptér Archer T600UB Nano. Novinka zaistí flexibilné bezdrôtové pripojenie pre všetky zariadenia tak, aby fungovala s najnovším dvojpásmovým Wi-Fi routerom.

15. mája 2024

Odporúčané

Pripravte sa na Wi-Fi 7 s routermi od TP-Link

Ešte vyššie rýchlosti a väčšia kapacita

V dnešnom svete je bezdrôtové pripojenie nevyhnutné na osobné aj profesionálne použitie. Od streamovania videí a hrania online hier až po vedenie obchodných rokovaní a prístup k dôležitým dokumentom, sa spoliehame na Wi-Fi, aby sme zostali v spojení a boli produktívni.

14. apríla 2024

Vysoká kvalita tlače

Výhody sublimácie: presná, odolná a všestranná potlač rôznych produktov

Sublimačná tlač sa stáva v dnešnom svete čoraz populárnejšou voľbou, a to nielen v profesionálnom, ale aj v domácom prostredí. Táto pokročilá technológia prináša množstvo výhod, ktoré ju robia atraktívnou možnosťou pre tlač rôznych typov produktov vhodných na osobné využitie alebo prezentáciu firmy.

19. marca 2024

Nočné videnie pre zlepšenie viditeľnosti v tme

Optika, ktorá zlepšuje viditeľnosť v náročných podmienkach

Vo svete plnom rôznorodých podmienok a prostredí je schopnosť vidieť v noci alebo za zhoršených svetelných podmienok neoceniteľnou výhodou. O jej využití v praxi nás dnes presviedča niekoľko unikátnych riešení v podobe pokročilých optických riešení. Dvomi najvýznamnejšími z nich sú termovízia a nočné videnie, na ktoré sa v tomto článku pozrieme bližšie, spomenieme si ich princípy fungovania a využitie v praxi.

19. marca 2024

Ktoré tonery a prečo najlepšie ochránia vašu tlačiareň?

Ktoré tonery a prečo najlepšie ochránia vašu tlačiareň?

Tonery, ktoré sú vyrobené priamo výrobcom vašej tlačiarne, sú často najlepšou voľbou pre zachovanie jej zdravia a životnosti. Tento doplnkový sortiment je navrhnutý a testovaný tak, aby dokonale zapadal do vášho tlačiaceho zariadenia a minimalizoval riziko poškodenia jeho mechanických častí, čo sa pri lacných alternatívnych verziách veľmi často stáva.

19. marca 2024

Pohodlie a jednoduchosť používania PlayStation

Hry na PC alebo PS: pre koho a ktoré sú lepšie?

V súčasnej dobe je ponuka hier na PC a PlayStation tak rozmanitá, že rozhodnutie medzi týmito dvoma platformami sa môže zdať náročné. Každá z nich ponúka jedinečné výhody a nevýhody, ktoré by ste mali zvážiť, aby ste našli pre seba alebo svojich blízkych to najlepšie riešenie. Ide o dôležité faktory, ktoré by ste mali brať do úvahy pri rozhodovaní sa medzi hraním na PC alebo PlayStation.

19. marca 2024

Nové zážitky s umelou inteligenciou

Najnovší prototyp OPPO Air Glass 3

OPPO predstavuje nové okuliare pre asistovanú realitu Air Glass 3 a ďalšie technologické inovácie

2. marca 2024

Náušnice? Nie, to sú revolučné slúchadlá Bose

Prvé kusy sú už na českom trhu exkluzívne vo vybraných predajniach a na e-shope iSTYLE.

16. februára 2024

Huawei FreeClip

Slúchadlá do každého ucha

V Huawei vyvinuli slúchadlá, ktoré skvele padnú do každého ucha. Na rozdiel od klasických slúchadiel sa totiž nevkladajú do uší, ale vďaka ergonomickému C-bridge designu držia na uchu pevne zvonku. Či už pri ich používaní sedíte za počítačom alebo cvičíte. Slúchadlá sú k dispozícii v dvoch štýlových farebných prevedeniach, v čiernej a fialovej farbe.

16. februára 2024

Inteligentné zásuvky Tapo P100M a Tapo P110M

Vylepšite si svoju domácnosť so šikovnými Wi-Fi zásuvkami Tapo

Chceli by ste začať s múdrou domácnosťou, ale neviete ako? Ideálna možnosť pre vstup do sveta internetu vecí sú múdre zásuvky. Ich cena sa pohybuje v rade nižších stoviek korún, a napriek tomu ponúka množstvo funkcií, ktoré môžete vyskúšať. Ako sami spoznáte, investícia do chytrého zariadenia sa môže rýchlo vrátiť napríklad v podobe usporenej energie. […]

7. februára 2024

8 hodín nepretržitého počúvania.

Slúchadlá FreeClip od Huawei

Inovatívny dizajn, vylepšený zvukový zážitok a potláčanie okolitého hluku

30. januára 2024