UMELÁ INTELIGENCIA V ROLI „ÚPRIMNEJ KLAMÁRKY“?

Stáva sa umelá inteligencia nástrojom dehumanizácie?

Nenechajme sa zmiasť neistým štartom umelej inteligencie. Už dnes nám mení životy, naučila sa pomáhať, ale aj klamať a podvádzať.

OFICIÁLNE
Autor
Dátum zverejnenia 17. marca 2023
Obsahuje nasledovné témy

Generatívna AI dnes zažíva boom, stala sa súčasťou našich každodenných debát a „ukrojila“ si obrovský kus pozornosti aj od médií. Navyše, dominuje nielen v diskusiách širokej verejnosti, ale aj IT odborníkov, akademikov či manažérov rôznych firiem. A niet sa čo diviť!

Vo svete AI sa toho deje veľa. Z každej strany sa na nás valia správy o spustení ChatGPT, pričom včera večer bola spustená už aj očakávaná najnovšia verzia OpenAI Chat GPT 4, ktorá má priniesť pokrok vo vyhľadávaní a eliminovať „halucinácie“ predošlej verzie. Navyše, neustále počúvame a čítame aj o masívnom investovaní Microsoftu do OpenAI, upozorneniach Googlu či o „šokujúcom prejavovaní pocitov“ chatbota Lambda. Deň čo deň tiež narazíme na diskusie o výhodách aj nevýhodách AI, jej využití v zdravotníctve, doprave a iných oblastiach. Práve tento „boom“ je ukážkou toho, že AI má výborne našliapnuté na to, aby urobila vo svete technológií obrovskú revolúciu. Čo nám priniesla prax beta verzií generatívnej AI, aký pokrok môže priniesť najnovšia verzia OpenAI Chat GPT 4 a kde sú najväčšie problémy AI a kde, naopak, príležitosti?

Spomínané témy sa úspešne prepašovali do pozornosti každého z nás. Napríklad súboj testovacích verzií vyhľadávacích nástrojov Bing AI Search a Bard, medzi ktorými do budúcna určite vznikne ostrá rivalita. Táto téma tu rezonuje už roky, avšak „ošiaľ“ po spustení ChatGPT je naozaj pozoruhodný. Navyše, doplnený bol o dlhý zoznam obáv týkajúcich sa straty zamestnania, podvádzania pri písaní školských prác a testov či porušovania autorských práv.

Zo všadiaľ sa na nás valí masa informácií, ktoré sú častokrát protichodné. A ako už máme my ľudia vo zvyku, aj tu máme tendenciu riešiť skôr negatíva ako pozitíva. Je pravdou, že rozvoj AI ešte čaká dlhá cesta a je potrebné „vychytať viacero múch“. Nikdy by sme však nemali zabudnúť na jednu vec. A tou je, že AI nie je ľudský mozog, má obmedzenú pamäť a my ľudia sme neustále v kontakte so strojmi.

Niektorí odborníci predikujú, že v najbližších rokoch na nás pri spustení AI služby vyskočí varovanie, že na seba preberáme riziká a nemáme právo žalovať poskytovateľa. A to napríklad v prípade vyprodukovania nenávistného, násilného, nepravdivého či diskriminačného obsahu. Napokon, už dnes by sme mohli dlhé hodiny diskutovať o reálnych príkladoch z praxe. Napríkladnedávne faux pas pri predstavení služby Bard, ktorá nesprávne popísala teleskop Jamesa Webba. Jej beta verzia ChatGPT s istotou odpovedala faktami, ktoré neboli historicky pravdivé, vedecky podložené ani fyzicky možné. AI komunita toto správanie označila za „halucinačné“. Suma sumárum, umelá inteligencia sa v tomto prípade v podstate ocitla v roli „úprimnej klamárky“ či „konfabulátorky“. ClinMedjournal tieto pojmy spája s Alzheimerovou chorobou a demenciou ako „vytváranie falošných či chybných spomienok bez úmyslu klamať osobou, ktorá verí tomu, že skutočne komunikuje pravdivé spomienky“.

Spomínané spustenie Chat GPT 4 by však už týmto halucináciám mala vedieť predísť.  Ak sa nad tým zamyslíme z iného uhla pohľadu, poškodenie mozgu nám môže spôsobiť tieto choroby a vedci si dodnes nie sú istí, ktorá časť mozgu za to môže. Rovnako je to aj s AI. Dnes už máme tendenciu pripisovať jej ľudské vlastnosti či správanie. Zabúdame však na to, že sme ľudia, ktorí sú v kontakte so strojmi. A tie sú len také spoľahlivé, ako ich milióny dielov. A aj tie sa môžu pokaziť a potrebovať úpravu. AI nefunguje ako mozog, má obmedzenú pamäť a ukladá minulé údaje a predpovede tak, aby mohla zlepšiť tie budúce.

K tejto téme sedí napríklad obrazový výstup Dall-E v rámci výzvy „losos plávajúci po rieke“. Je ukážkou toho, že AI nedokáže pochopiť symboly bez kontextu a ani pochopiť rozdiel medzi živým lososom plávajúcim v rieke a vypitvaným lososom nakrájaným na filety v obchode. Preto je výsledkom zmýšľania AI „rovnomerne nakrájaný filet lososa plávajúci po rieke“. Tak a teraz si predstavte tie miliardy údajov v generatívnej databáze AI, ktoré nemajú absolútne žiaden kontext!

Áno, ryby sú nevinným príkladom. Predstavte si však, že generatívnemu výsledku AI podlieha jednotlivec. AI v týchto prípadoch ovplyvňuje napríklad vysoko rizikový prípad použitia v zdravotníctve, rozhoduje o zamestnaní, presadzovaní práva, vláde či finančných službách. Toto už nie sú také úsmevné predstavy ako tá s lososom, nemyslíte?

Odpoveďou na túto otázku sa zaoberala aj Daniela Amodei z Anthropic v podcaste Future of Life. Rozprávala tu aj o jednom z ich výskumov, ktorý odhaľuje, že modely rôznych veľkostí vykazujú rôzne bezpečnostné problémy. Niektoré z väčších modelov podľa nej prišli na to, ako neúmyselne klamať. Ak im položíte tú istú otázku inak, nakoniec môžete klamstvo odhaliť, no v iných kontextoch nie. A „zaklincovala“ to tým, že v generatívnych modeloch je naozaj veľa alarmujúcich modelov správania.

Samozrejme, riziká generatívnej AI neplynú len z týchto vecí. Dnes je veľkým problémom práve ľudský kapitál. Vo firmách, ktoré aktívne využívajú AI sa nevenuje pozornosť expertíze na zodpovedné škálovanie generatívnej AI. Spoločnosti si jednoducho budú musieť nájsť expertov na dátovú vedu a strojové učenie. Až potom môžu začať trénovať, testovať, spúšťať a školiť modely spoločne s globálnymi internými či externými dodávateľmi. Tí zase budú modelovať, monitorovať a moderovať výstupy a v prípade potreby eskalovať aj problematický obsah. Skvelou správou je, že pri riešeniu tohto problému môže prispieť aj slovenský projekt InoCloud. A to dátovou platformou, ktorá kombinuje vlastný software a hardware, vďaka čomu môžeme firmám podať pomocnú ruku.

Dostatok dátových vedcov a expertov nemáme na Slovensku, ale ani inde vo svete. Veľmi trefne to pomenovali na konferencii Gartner´s Data & Analytics v auguste 2022, kedy slovo „nedostatok“ talentov nahradili pojmom „kríza“. Napokon, potvrdzujú ju aj samotné čísla:

Čo dodať? Dupnime na plyn a začnime sa generatívnej AI detailne venovať po všetkých stránkach. Generatívna AI už dnes spôsobila revolúciu, a to takmer všade, kde sa pozrieme: e-maily, prezentácie, školské práce, marketing a tvorba obsahu, dizajn, skladanie hudby, filmová produkcia a podobne. Áno, odborníci pri svojej práci, v diskusiách a na konferenciách, hľadia na bežné výzvy škálovateľnosti pre generatívnu AI ako je výpočtový výkon, ochrana súkromia, nedostatok údajov či zaujatosť. Pri tom všetkom sme však zabudli na samotnú „mágiu“ technológie a prehliadame obrovské výzvy, ktoré sú potrebné na to, aby sa mohla generatívna AI škálovať zodpovedne v tom, čo sa nás ľudí bytostne týka.

 

*Informácie čerpané aj z: Scaling Generative AI: Tech dilemma or People Problem? – SwissCognitive

 

 

Najnovšie

Spoločnosť Epson ako prvá uviedla na trh základnú DTG tlačiareň s bielym atramentom na potlač tmavého textilu  

DTG tlačiareň s bielym atramentom na potlač tmavého textilu

Základná DTG tlačiareň Epson SC-F1000 je prvá, ktorá poskytuje nadšencom, maloobchodníkom a malým podnikom cenovo dostupný spôsob tlače vysoko kvalitných obrázkov na tmavý textil

30. januára 2024

Stále sa zlepšujúci výkon

AGON by AOC predstavuje ďalší krok v hernej evolúcii

AOC GAMING 24G4X a 27G4X debutujú so 180 Hz a novým odvážnym dizajnom

30. januára 2024

Pokročilé funkcie, 4MPx a 10× zoom

Cenovo dostupná PTZ kamera Axis na použitie v interiéri aj v exteriéri

Spoločnosť Axis Communications uvádza novú cenovo dostupnú a flexibilnú otočnú kameru AXIS M5526-E, ktorá je kompatibilná so všetkými PTZ úchytmi Axis a hodí sa na inštaláciu ako do interiéru, tak aj do exteriéru. Kamera ponúka pokročilú analytiku s hlbokým učením a tiež skvelú kvalitu obrazu vo vysokom rozlíšení s veľkým optickým priblížením.

25. januára 2024

Nový rok je príležitosťou začať žiť zdravší a plnohodnotnejší život.

Zdravý životný štýl na dosah ruky aj vďaka týmto aplikáciám

Ak aj vy práve v týchto dňoch rozmýšľate, že zdravý životný štýl jednoducho nie je nič pre vás, vedzte, že jediné, čo vás udrží na správnej ceste, je motivácia.

24. januára 2024

Najrozšírenejším malvérom na Slovensku bol Tofsee

Vydieračský softvér je na vzostupe. Pomáha mu umelá inteligencia

Z pohľadu kybernetickej bezpečnosti dominujú vo svete ransomvérové útoky zamerané na vydieranie, hacktivizmus a umelá inteligencia.

24. januára 2024

Hokej z nemožného uhla

Pozrite sa na experiment s kamerou Axis, ktorú na štadióne zamrazili do ľadu

Ľad, oheň a vibrácie – to je len zopár príkladov náročných podmienok, ktorým musia kamerové systémy čeliť. Spoločnosť Axis Communications, líder v oblasti sieťového videa, v novom experimente predviedla ako jej kamera dokáže zvládať takmer čokoľvek – napríklad aj keď je zamrazená do vnútra ľadu na hokejovom štadióne. Vďaka tomu zachytila doteraz nevídaný záber.

16. januára 2024

ASUS nanovo definuje hranice výkonu revolučnými prémiovými produktmi, ktoré sprevádzajú nové udržateľné riešenia a umelá inteligencia

Novinky od Asus ore rok 2024

ASUS predstavil najnovšie inovácie a produkty na konferencii In Search of Incredible: Transcendence na CES 2024

11. januára 2024

Terapia hudbou

Hudba ako kľúč k ukladaniu spomienok

Vedci z Kalifornskej univerzity zistili, ako dokáže hudba ovplyvňovať emócie. Terapia hudbou by mohla pomôcť ľuďom s posttraumatickou stresovou poruchou aj ľuďom, ktorí majú problémy s pamäťou.

11. januára 2024

Až 2 týždne na jedno nabitie

Huawei Watch GT 4

Štýlové a výkonné smart hodinky, s ktorými zabudnete, kde je nabíjačka

3. januára 2024

Kingston XS1000 (1TB)

TEST: Rýchly kompaktný externý SSD za výhodnú cenu

Externé disky sú veľmi populárne, no ak chcete naozaj veľkú kapacitu za rozumnú cenu, vyhrali to vždy mechanické HDD. Našťastie sa ale všetko mení a kedysi drahé SSD sa v pomere cena výkon stalo konkurencie schopným médiom. A nielen to! SSD disky sú zaujímavé aj vďaka kompaktnejším rozmerom, vyššej rýchlosti, väčšej odolnosti pri prenášaní a […]

3. januára 2024

Odporúčané

Náušnice? Nie, to sú revolučné slúchadlá Bose

Prvé kusy sú už na českom trhu exkluzívne vo vybraných predajniach a na e-shope iSTYLE.

16. februára 2024

Huawei FreeClip

Slúchadlá do každého ucha

V Huawei vyvinuli slúchadlá, ktoré skvele padnú do každého ucha. Na rozdiel od klasických slúchadiel sa totiž nevkladajú do uší, ale vďaka ergonomickému C-bridge designu držia na uchu pevne zvonku. Či už pri ich používaní sedíte za počítačom alebo cvičíte. Slúchadlá sú k dispozícii v dvoch štýlových farebných prevedeniach, v čiernej a fialovej farbe.

16. februára 2024

Inteligentné zásuvky Tapo P100M a Tapo P110M

Vylepšite si svoju domácnosť so šikovnými Wi-Fi zásuvkami Tapo

Chceli by ste začať s múdrou domácnosťou, ale neviete ako? Ideálna možnosť pre vstup do sveta internetu vecí sú múdre zásuvky. Ich cena sa pohybuje v rade nižších stoviek korún, a napriek tomu ponúka množstvo funkcií, ktoré môžete vyskúšať. Ako sami spoznáte, investícia do chytrého zariadenia sa môže rýchlo vrátiť napríklad v podobe usporenej energie. […]

7. februára 2024

8 hodín nepretržitého počúvania.

Slúchadlá FreeClip od Huawei

Inovatívny dizajn, vylepšený zvukový zážitok a potláčanie okolitého hluku

30. januára 2024

Nové kamery Tapo toho ale vedia oveľa viac

Strážte si každý kút vašej domácnosti aj za tmy

Nové domáce Wi-Fi kamery Tapo C212, ktoré disponuje ethernetovým portom a Tapo C211, prvá Tapo kamera v čiernej farbe, v sebe ukrývajú osvedčené funkcie zabezpečenia, ale ponúkajú aj ďalšie vychytávky, ktoré oceníte v každodenných situáciách.

23. novembra 2023

Výnimočnou osobnosťou vedy na Slovensku sa stal Igor Lacík

Piaty ročník ESET Science Award pozná laureátky a laureátov ocenenia.

Medzinárodná komisia na čele s nobelistom Michelom Mayorom vybrala na základe komplexného hodnotiaceho procesu tohtoročné laureátky a laureátov ocenenia ESET Science Award. Laureátom v kategórii Výnimočná osobnosť vedy na Slovensku sa stal Igor Lacík, laureátom v kategórii Výnimočná osobnosť vedy do 35 rokov je Matej Baláž a laureátkou v kategórii Výnimočná osobnosť vysokoškolského vzdelávania sa stala Daniela Ostatníková. Vo […]

13. októbra 2023

Prístroje jednoducho ovládate z jedného miesta.

Spravujte domácnosť múdro

Produkty chytrej domácnosti nás obklopujú čoraz viac a dokážu nám významne uľahčiť každodenný život. Aké by teda vo vašej domácnosti nemali chýbať? Tu sú tri tipy, čo ušetria čas, peniaze aj starosti.

6. septembra 2023

Mimoriadne tenký dizajn

Spoločnosť Samsung Electronics predstavuje 98″ QLED TV

Super veľká obrazovka optimalizovaná pre váš domov

 

4. júla 2023

Najmenší a najľahší RF objektív s pevnou ohniskovou vzdialenosťou

Zachyťte vzácne momenty na cestách s Canon EOS R100 a objektívom RF 28mm F2.8 STM  

EOS R100 je vybavený 24,1-megapixelovým APS-C snímačom, ktorý je niekoľkokrát väčší ako ten, ktorý sa nachádza v špičkových smartfónoch a poskytuje značný posun v kvalite obrazu a videa.

4. júla 2023

Top šampióni pre mobilné hry

Najlepšie herné telefóny roku 2023

Najlepšie herné telefóny sú tie, ktoré sú navrhnuté s ohľadom na hráča. Keď hľadáte herný telefón, ideálne zariadenie by malo mať mať rýchly výkon, veľkú obrazovku s vysokým rozlíšením, vysokou obnovovacou frekvenciou, dlhú výdrž batérie a funkcie, ktoré sú špeciálne navrhnuté pre dokonalé hranie hier.

6. marca 2023