AI: Vojna, ktorá čoskoro vypukne, nebude taká, ako očakávame...

Obrazy, ktoré sú nejakým spôsobom vnútené väčšinou sci-fi príbehov, nám predstavujú svet, v ktorom sa ľudstvo skôr či neskôr bude musieť vysporiadať sUmelé spravodajstvo. Konflikt prepukne hneď, ako si AI uvedomí samu seba a rozhodne sa nás vyhladiť alebo nájsť spôsob, ako nás ovládať.

Ak je táto perspektíva realistická (a na túto tému by sa dalo veľa diskutovať), vojna, ktorá nás čaká, sa zdá byť dosť vzdialená v čase, vzhľadom na absolútny nedostatok akéhokoľvek povedomia v súčasných generatívnych systémoch. Takže zatiaľ môžeme pokojne spať. Alebo nie?

„Nariadenie o AI na vojenské účely je naliehavo potrebné“
Rusko-ukrajinská vojna: Robí umelá inteligencia rozdiel?
Konšpirácia, falošné správy a xenofóbia: nebezpečný digitálny mix

Skutočné nebezpečenstvá súčasnej umelej inteligencie

V téme je stále veľa nejasností Umelé spravodajstvo. Zmätok, ktorý, je bolestné povedať, je v dobrom umení živený kolegami novinármi, ktorí sú nadšení v písaní o ňom, ale často nie tak pripravení pochopiť jeho skutočnú povahu, potenciál a riziká.

Takýto zmätok podporuje aj naša prirodzená tendencia premietať sa do akejkoľvek externej entity, či už je to iná osoba, zviera alebo, ako v tomto prípade, softvérový objekt.

Preto máme problém pochopiť, že zdanlivo inteligentné správanie vôbec nepredpokladá autentické vedomie.

A tak, povzbudení až priveľkými „klikacími“ titulkami vo všeobecných novinách, trápime sa problémami, ktoré sú v čase ešte ďaleko, no nevidíme a ani nepodceňujeme tie, ktoré sa nás už dnes priamo týkajú.

Ako vždy tam technológie dá sa aplikovať tak, že človeku pomáha, ale aj škodí.

Na sociálnej úrovni možno umelú inteligenciu využiť napríklad na optimalizáciu procesov a služieb, ako je doprava v mestách alebo byrokratické a zdravotnícke služby.

Alebo môže pomôcť učiteľom pripraviť personalizované hodiny alebo testy na základe vlastností a zvláštností každého študenta.

Na osobnej úrovni môže pomôcť každému z nás lepšie si organizovať prácu a čas, zvládať za nás tie najnudnejšie či opakujúce sa časti.

Alebo nám môže pomôcť lepšie vyjadriť našu kreativitu, vytvárať obrázky, hudbu alebo videá podľa našich pokynov.

Dobre využívaná umelá inteligencia by mala dopĺňať, nie nahrádzať naše aktivity.

Ale keďže súčasné generatívne systémy, schopné produkovať text, obrázky a videá, sú založené na obrovských databázach čerpaných najmä z internetu, často odrážajú naše "zaujatosť" a predovšetkým pracujú na štatistických priemeroch.

Ako stále viac obsahu je generované Umelé inteligencie rizikom je, že sa vytvoria priemery priemerov priemerov s čoraz hmatateľnejším vyrovnávaním smerom nadol.

Sú to však problémy, ktorým sa dá čeliť a riešiť ich: najväčším rizikom, o ktorom som ešte nehovoril, je ľudský faktor.

Fotogaléria, karikatúry, ktoré vyháňajú strach z webu
Inovácie a žurnalistika: často zložité spolužitie
Umelá inteligencia je (aj) revolúciou v úprave fotografií

Sila AI a nastávajúca vojnová konfrontácia

Doteraz som sa zaoberal problémami, ktoré sú už známe a koniec koncov sa dajú riešiť bez prílišnej úzkosti. To dobré (alebo zlé) prichádza teraz.

Predstavme si aUmelé spravodajstvo dobre vyškolený, schopný realisticky reprodukovať hlas kohokoľvek. Takéto systémy už existujú.

Skombinujme to s ďalšou umelou inteligenciou schopnou vytvárať vierohodné videá v hlavnej úlohe so skutočnými ľuďmi. Tieto systémy tiež existujú a v niektorých prípadoch sa už používajú.

Toto môžeme vytvoriť."hlboký falošný“ (úplne falošné, ale úplne dôveryhodné videá) s extrémnou jednoduchosťou, na úkor politických oponentov, nepriateľských krajín alebo jednoduchšie ľudí, ktorých nemáme radi.

Takže vytvárame tisíce (nie, desaťtisíce) chatovacích robotov, ktorí predstierajú, že sú skutoční ľudia, prihláste sa najobľúbenejšie sociálne siete a začnú zdieľať videá vytvorené na ohováranie, zničenie kariéry oponentov alebo na vytvorenie čo najväčšieho chaosu v nepriateľskej krajine, možno počas volebného obdobia.

Tak sa rodí vojna pravdy a všetci riskujeme, že ju teraz prehráme.

A zabudnite na posledné americké voľby, ktoré boli podľa niektorých analytikov skreslené propagandou „naočkovanou“ zvonku (čítaj: Ruská federácia).

V porovnaní s potenciálom súčasných systémov a potenciálom dosiahnuteľným v strednej budúcnosti boli akékoľvek pokusy o skreslenie správ z novembra 2020 detskou hrou.

Takto valcujte bubny prvej svetovej vojny AI
Od pizzini k sociálnym sieťam: takto sa množí mafia na sieti
Bitka o Morat bude najväčším digitálnym objektom na svete

Halucinácie používané ako nekonvenčné zbrane

Le Umelé inteligencie Generatívni ľudia majú vnútornú chybu vo svojich princípoch fungovania: trpia halucináciami. Najnovšie verzie, ako napríklad ChatGPT-4, sa tento trend s väčším či menším úspechom snažia obmedziť a napraviť.

Tento „halucinačný potenciál“ by mohli vo svoj prospech využiť aj používatelia, ktorí nie sú dobre mienení, na šírenie zdanlivo pravdivých správ, ktoré sa opierajú o viac či menej explicitné presvedčenie určitých politických skupín a posilňujúc ich „zaujatosť“.

To všetko s „palebnou silou“, ktorá je nesmierne lepšia ako tá, ktorá bola dostupná pred niekoľkými rokmi.

Dobre organizovaná skupina (možno jej pomohla pod stolom poslušná vláda) by využila už známe zraniteľné miesta veľkej väčšiny počítačov na internete pre optimalizované útoky a kontrolu nad miliónmi zariadení.

Urobilo by to tak, že by ich použil ako servery na vytváranie falzifikátov sociálne účty nie je ľahké odlíšiť od tých autentických.

Falošné účty by potom šírili tézy a správy plánované na posilnenie viery vyššie uvedených skupín.

A jediný spôsob, ako bojovať proti takýmto útokom, je... použiťUmelé spravodajstvo.

Umelá inteligencia a konflikty v zbierke nepublikovaných esejí
Herci on Strike: Obrana autentickosti a kreativity proti AI
Video, švajčiarsko-burgundský stret je digitalizovaný a zachovaný

Kríza a príležitosti takéhoto vývoja

Kto vyhrá budúcu vojnu?

Le Umelé inteligencie v službách sociálnych sabotérov, alebo tých, ktorí sú poverení nás brániť?
To momentálne nevie povedať nikto.

Môžeme si byť istí jednou vecou: iba dobre pripravená krajina (alebo ešte lepšie federácia krajín), s obyvateľstvom vybaveným schopnosťami kritického myslenia a znalosťami digitálnych prostriedkov, bude schopná čeliť týmto výzvam.

Je potrebné, aby nepociťovalo umelú inteligenciu ako zázrak alebo hrozbu, ale naučilo sa chápať jej prednosti, potenciál a problémy s prezieravým manažmentom a so skutočnou pozornosťou k etickým inováciám a technológie.

Musíme odtiaľto začať čo najskôr...

Ak je umelá inteligencia najlepším priateľom našich detí
Newspeak Facebooku (alebo „umelá demencia“)
Fotogaléria, stoly práce Louisa Brauna s rozlohou 1000 metrov štvorcových