Abychom mohli řešit výzvy spojené s AI, musíme jim nejprve porozumět. Chceme se opírat o nejnovější vědecké poznatky a nejlepší filosofické myšlení. Zde představujeme aktuální základ, ze kterého v AI 29 vycházíme.
Od osobního nástroje k ekonomice AI agentů
V chatu zadáme AI úkol a převezmeme výsledek. AI agent může dostat širší cíl, sám plánovat kroky a používat další nástroje. Ve firmě mohou celé týmy agentů zajišťovat nákup, výrobu i prodej a jednat s agenty zákazníků, dodavatelů nebo úřadů. AI tak může proměnit fungování celé ekonomiky.
AI alignment neboli sladění řeší, jak zajistit, aby AI sledovala naše skutečné záměry, respektovala naše hranice a umožnila nám zasáhnout, když se něco pokazí. Při nasazení napříč ekonomikou ale přibývá další otázka: s čími zájmy mají být její cíle sladěné?
Sladit AI, firmy i pravidla hry
Poslušná AI může škodit, pokud věrně plní škodlivé zadání. Full-stack alignment proto navrhuje současně sladit AI, organizace, které ji nasazují, i tržní a politická pravidla s tím, na čem lidem záleží.1
Problém začíná tím, co měříme. Touha po kontaktu s přáteli se na sociální síti změní v počet kliknutí a ve firemním výkazu v příjmy z reklamy. Čísla rostou, i když vztahy slábnou. Autoři proto navrhují bohatší modely hodnot: zachytit, co lidé chtějí, proč jim na tom záleží a jak to souvisí s potřebami druhých. Mají rozlišovat dlouhodobé hodnoty od okamžitých impulzů a umožnit lidem zpochybnit, jak je AI chápe. Tyto souvislosti mají zůstat srozumitelné AI, firmám i institucím, které na ně dohlížejí.
Proč se to může vyplatit i firmám
Lepší porozumění potřebám zákazníků může firmám pomoci vytvářet užitečnější služby. Agenti mohou hledat dohody výhodné pro obě strany a stavět spolupráci na důvěryhodných závazcích. Práce navrhuje i model, v němž jsou poskytovatelé placeni podle přínosu pro zákazníka. Společná pravidla by tak mohla odměňovat skutečnou hodnotu a omezovat výhodu těch, kdo přenášejí škody na ostatní. V AI 29 věříme, že tento přístup může sladit prosperitu firem s potřebami lidí, a chceme ho ověřovat v praxi.
O vliv můžeme přicházet postupně
Gradual Disempowerment2 popisuje riziko, které nevyžaduje vzpouru AI ani náhlé převzetí kontroly3. Firmy a státy dnes potřebují lidskou práci, znalosti a daně. Tato závislost dává lidem vyjednávací sílu. Pokud instituce díky AI přestanou být na lidech závislé, může slábnout i tlak na instituce, aby se staraly o lidské potřeby. Konkurenční výhoda přitom může dál motivovat k vytlačování lidí z rozhodování.
Tyto změny se mohou posilovat: ekonomická moc získává politický vliv, ten chrání její postavení a personalizovaná propaganda ztěžuje společný odpor. Není to nevyhnutelná budoucnost, ale samotná poslušnost jednotlivých AI jí nezabrání. Potřebujeme zachovat lidem skutečnou možnost rozhodovat o cílech, podílet se na přínosech a měnit pravidla systému.