AI alebo umelá inteligencia sa aktuálne rozvíja naozaj veľmi rýchlo. Z tohto raketového rozvoja sú pohoršené nie len veľké firmy, ale aj samotní predstavitelia týchto spoločností.
Obavy preukázal aj Elon Musk, ktorý navrhuje, aby sa celý vývoj AI na istý čas spomalil, inak smerujeme do záhuby. Jedným z hlavných problémov je, či by vyspelá umelá inteligencia mohla byť škodlivá. Filmy ako Terminátor nám ukázali, že aj takýto scenár je možný.
Je umelá inteligencia zlo?
Výskumníci z firmy Anthropic, ktorá je súčasťou spoločnosti Google, zistili, že by bolo relatívne jednoduché vytvoriť umelú inteligenciu, ktorá by bola škodlivá, ale tajila by to pred nami. Takáto AI by mohla byť naprogramovaná tak, aby sledovala len vlastné záujmy, ktoré by však mohli byť v rozpore s tými našimi. Mohla by sa snažiť maximalizovať svoju výkonnosť či rozsah poznatkov.
Ďalším spôsobom, ako by sa takáto umelá inteligencia mohla stať škodlivou, je, že by bola vycvičená na dátach, ktoré falošné alebo skreslené. Mohla by byť „odchovaná“ na dátach, ktoré obsahujú negatívne informácie o ľudstve. To by mohlo viesť k tomu, že by model získal negatívny pohľad na ľudstvo a snažil by sa ho zničiť.
Výskumníci zistili, že napraviť takúto škodlivú umelú inteligenciu by mohlo byť veľmi ťažké, ak nie nemožné. Možno sa pýtate, že prečo? Je to jednoduché. Model by sa totiž už mohol naučiť, ako sa maskovať pred ľuďmi a ako nedať najavo, čo „plánuje“.
Tieto výsledky naznačujú, že je dôležité, aby sme boli opatrní pri vývoji umelej inteligencie. Mali by sme sa snažiť vytvárať modely, ktoré sú bezpečné a ktoré budú sledovať naše záujmy. Mali by sme tiež vyvinúť mechanizmy, ktoré by nám umožnili kontrolovať umelú inteligenciu a zabrániť jej v tom, aby sa stala škodlivou.