Rizika a problémy s umělou inteligencí
Pravděpodobně jste četli o problémech se současnými modely AI. Například nejsou nezbytně dobří v porozumění kontextu lidské žádosti, což vede k podivným výsledkům. Když požádáte AI, aby vymyslela něco fiktivního, může to udělat dobře. Ale když požádáte o radu ohledně cesty, kterou chcete podniknout, může vám to navrhnout hotely, které neexistují. Umělá inteligence totiž nerozumí kontextu vašeho požadavku dostatečně dobře, aby věděla, zda má vymýšlet falešné hotely, nebo vám říct pouze o skutečných, které mají volné pokoje.
Existují i další problémy, například umělá inteligence dává špatné odpovědi na matematické problémy, protože se potýká s abstraktním uvažováním. Žádné z toho ale nejsou zásadní omezení umělé inteligence. Vývojáři na nich pracují a myslím si, že je do značné míry opravíme za méně než dva roky a možná mnohem rychleji. Další obavy nejsou pouze technické. Například existuje hrozba, kterou představují lidé vyzbrojení AI. Stejně jako většina vynálezů může být umělá inteligence použita pro dobré účely nebo pro ty škodlivé. Vlády musí spolupracovat se soukromým sektorem na způsobech, jak omezit rizika.
Pak je tu možnost, že se AI vymkne kontrole. Mohl by se stroj rozhodnout, že lidé jsou hrozbou, dojít k závěru, že jeho zájmy jsou odlišné od našich, nebo se o nás jednoduše přestat zajímat? Možná, ale tento problém dnes není o nic naléhavější než před vývojem umělé inteligence v posledních několika měsících. Superinteligentní AI jsou v naší budoucnosti. Ve srovnání s počítačem funguje náš mozek hlemýždím tempem: Elektrický signál v mozku se pohybuje rychlostí 1/100 000 rychlosti signálu v křemíkovém čipu! Jakmile vývojáři dokážou zobecnit výukový algoritmus a spustit jej rychlostí počítače – což je úspěch, který může být vzdálený deset nebo sto let – budeme mít neuvěřitelně výkonné AGI. Bude schopen dělat vše, co dokáže lidský mozek, ale bez jakýchkoli praktických omezení velikosti jeho paměti nebo rychlosti, s jakou pracuje. To bude hluboká změna. Tyto „silné“ umělé inteligence, jak je známo, si pravděpodobně dokážou stanovit své vlastní cíle.
- Jaké to budou cíle?
- Co se stane, když budou v rozporu se zájmy lidstva?
- Měli bychom se snažit zabránit tomu, aby se kdy vyvinula silná AI?
Tyto otázky budou postupem času naléhavější. Ale žádný z průlomů posledních měsíců nás výrazně neposunul blíže k silné AI. Umělá inteligence stále neovládá fyzický svět a nemůže si stanovit své vlastní cíle. Nedávný článek v New York Times o rozhovoru s ChatGPT, kde prohlásil, že se chce stát člověkem, získal velkou pozornost. Byl to fascinující pohled na to, jak lidské může být vyjádření emocí modelky, ale není to ukazatel smysluplné nezávislosti.
Dojde k explozi společností, které pracují na nových využitích AI a také na způsobech, jak vylepšit samotnou technologii. Společnosti například vyvíjejí nové čipy, které poskytnou obrovské množství výpočetního výkonu potřebného pro umělou inteligenci. Někteří používají optické přepínače – v podstatě lasery – ke snížení spotřeby energie a snížení výrobních nákladů. V ideálním případě vám inovativní čipy umožní provozovat AI na vašem vlastním zařízení, nikoli v cloudu, jak musíte dělat dnes.
Na straně softwaru se algoritmy, které řídí učení AI, zlepší. Budou existovat určité oblasti, jako je prodej, kde mohou vývojáři udělat AI extrémně přesné tím, že omezí oblasti, ve kterých pracují, a poskytnou jim spoustu školicích dat, která jsou pro tyto oblasti specifická. Jednou velkou otevřenou otázkou však je, zda budeme potřebovat mnoho z těchto specializovaných AI pro různá použití – jednu pro vzdělávání, řekněme pro kancelářskou produktivitu – nebo zda bude možné vyvinout umělou obecnou inteligenci, která se dokáže naučit jakýkoli úkol. Na obou přístupech bude obrovská konkurence.
Bez ohledu na to bude téma AI v dohledné době dominovat veřejné diskusi. Chci navrhnout tři zásady, kterými by se měl tento rozhovor řídit. Nejprve bychom se měli pokusit vyvážit obavy z nevýhod AI – které jsou pochopitelné a platné – s její schopností zlepšovat životy lidí. Abychom co nejlépe využili tuto pozoruhodnou novou technologii, musíme se chránit před riziky a šířit výhody mezi co nejvíce lidí.
Za druhé, tržní síly přirozeně nevytvářejí produkty a služby umělé inteligence, které pomáhají nejchudším. Pravděpodobnější je opak. Díky spolehlivému financování a správným politikám mohou vlády a filantropie zajistit, aby byly umělé inteligence využívány ke snížení nerovnosti. Stejně jako svět potřebuje své nejchytřejší lidi zaměřené na jeho největší problémy, budeme muset zaměřit nejlepší světové AI na jeho největší problémy. I když bychom neměli čekat, až se to stane, je zajímavé přemýšlet o tom, zda umělá inteligence někdy identifikuje nespravedlnost a nepokusí se ji snížit. Potřebujete mít smysl pro morálku, abyste viděli nespravedlnost, nebo by ji viděla i čistě racionální AI? Pokud by rozpoznal nespravedlnost, co by to navrhlo, abychom s tím udělali?
Nakonec bychom měli mít na paměti, že jsme teprve na začátku toho, čeho může AI dosáhnout. Jakákoliv omezení, která má dnes, budou pryč, než se nadějeme. Tato nová technologie může pomoci lidem na celém světě zlepšit jejich životy. Svět zároveň potřebuje zavést pravidla silničního provozu, aby případné stinné stránky umělé inteligence byly výrazně převáženy jejími výhodami a aby si těchto výhod mohl užívat každý bez ohledu na to, kde žije nebo kolik má peněz. Věk umělé inteligence je plný příležitostí a povinností.
