Drony a samoriadiace autá ako zbrane: prečo sa musíme báť hackerov

2024 Autor: Malcolm Clapton | [email protected]. Naposledy zmenené: 2023-12-17 04:09

Ak sa umelá inteligencia dostane do nesprávnych rúk, civilizovaný svet sa môže ponoriť do chaosu.

Nikto nebude popierať, že umelá inteligencia môže posunúť naše životy na ďalšiu úroveň. AI dokáže vyriešiť mnohé problémy, ktoré sú nad ľudské sily.

Mnohí však veria, že superinteligencia nás bude chcieť určite zničiť, ako SkyNet, alebo začne robiť experimenty na ľuďoch, ako je GLADoS z hry Portal. Iróniou je, že iba ľudia môžu urobiť z umelej inteligencie dobro alebo zlo.

Vedci z Yale University, Oxfordu, Cambridge a OpenAI zverejnili správu o zneužívaní umelej inteligencie. Hovorí sa, že skutočné nebezpečenstvo pochádza od hackerov. Pomocou škodlivého kódu dokážu narušiť chod automatizovaných systémov pod kontrolou AI.

Výskumníci sa obávajú, že dobre mienené technológie budú poškodené. Napríklad sledovacie zariadenia možno použiť nielen na chytanie teroristov, ale aj na špehovanie bežných občanov. Výskumníkov znepokojujú aj komerčné drony, ktoré doručujú jedlo. Je ľahké ich zachytiť a zasadiť niečo výbušné.

Ďalším scenárom deštruktívneho využitia AI sú samoriadiace autá. Stačí zmeniť pár riadkov kódu a stroje začnú ignorovať bezpečnostné pravidlá.

Vedci sa domnievajú, že hrozba môže byť digitálna, fyzická a politická.

• Umelá inteligencia sa už používa na štúdium zraniteľností rôznych softvérových kódov. V budúcnosti môžu hackeri vytvoriť robota, ktorý obíde akúkoľvek ochranu.
• Pomocou AI môže človek automatizovať mnoho procesov: napríklad ovládať roj dronov alebo skupinu áut.
• Pomocou technológií ako DeepFake je možné ovplyvňovať politický život štátu šírením nepravdivých informácií o svetových lídroch pomocou botov na internete.

Tieto odstrašujúce príklady zatiaľ existujú len ako hypotéza. Autori štúdie nenavrhujú úplné odmietnutie technológie. Namiesto toho sa domnievajú, že národné vlády a veľké spoločnosti by sa mali postarať o bezpečnosť, kým je priemysel AI stále v plienkach.

Tvorcovia politík musia študovať technológiu a spolupracovať s odborníkmi v tejto oblasti, aby efektívne regulovali vytváranie a používanie umelej inteligencie.

Vývojári zase musia posúdiť nebezpečenstvo, ktoré predstavujú špičkové technológie, predvídať najhoršie následky a varovať pred nimi svetových lídrov. Správa vyzýva vývojárov AI, aby sa spojili s bezpečnostnými expertmi v iných oblastiach a zistili, či princípy, ktoré zaisťujú bezpečnosť týchto technológií, možno použiť na ochranu umelej inteligencie.

Celá správa popisuje problém podrobnejšie, no podstatou je, že AI je mocný nástroj. Všetky zainteresované strany by si mali preštudovať novú technológiu a uistiť sa, že sa nepoužíva na kriminálne účely.