Nový chatbot s názvem Q má pomoci s produktivitou tím, že pomáhá pracovníkům shrnout důležité dokumenty a tikety podpory a chatovat prostřednictvím komunikačních aplikací, jako je Slack, oznámila společnost na své výroční konferenci o cloud computingu v úterý v Las Vegas. Software také dokáže automaticky provádět změny ve zdrojovém kódu podniků, což urychluje vývoj, uvedla společnost.

Nový software přichází zhruba rok poté, co na scénu vtrhl ChatGPT společnosti OpenAI, který odstartoval šílenství investic do startupů s generativní umělou inteligencí. Společnost Alphabet (GOOGL.O) a další ohlásily vlastní chatboty, kteří mohou vést s uživateli konverzace podobné lidským a pomáhat jim s každodenními úkoly.

Generální ředitel AWS Adam Selipsky na výroční konferenci společnosti Amazon o cloud computingu v Las Vegas oznámil novou ochranu proti nevhodnému obsahu v aplikacích generativní AI, nazvanou Guardrails for Bedrock. Služba podle něj umožňuje uživatelům filtrovat škodlivý obsah.

Vzhledem k tomu, že generativní umělá inteligence je trénována na veřejně dostupném obsahu, mohou urážlivá slova nebo jiný závadný obsah proklouznout do výsledků z podnětů uživatelů. To je problematické zejména pro mladší uživatele, v době globálních konfliktů nebo během voleb, kdy výstupy generativní umělé inteligence ve výsledcích vyhledávání mohou ovlivnit veřejné mínění.

Obhájci bezpečnosti varují, že generativní umělá inteligence by se mohla vymknout kontrole svých tvůrců a vypouštět stále nebezpečnější obsah nebo provozovat celé systémy bez dohledu. Obávají se zejména toho, že software bude umisťovat vlivný – a přesvědčivý – obsah na stránky sociálních médií, jako jsou X a Facebook (META.O).

Selipsky uvedl, že nová služba je důležitá pro zákazníky, kteří mohou generativní umělé inteligenci, kterou používají, stanovit limity, jež považují za vhodné.

„Banka by například mohla nakonfigurovat online asistenta tak, aby neposkytoval investiční rady,“ řekl Selipsky. „Nebo aby zabránil nevhodnému obsahu, mohl by e-shop zajistit, aby jeho online asistent nepoužíval nenávistné projevy nebo urážky.“

Amazon uvedl, že chatbot Q bude v rámci své atraktivity pro korporace nabízet podnikům limity, aby mohl chránit citlivé údaje před zaměstnanci, kteří k nim nemají mít přístup. Ceny budou začínat na 20 dolarech za uživatele a rok.

Na konferenci Amazon také oznámil, že své zákazníky odškodní za žaloby založené na zneužití materiálů chráněných autorskými právy. Například společnost Getty Images, která se zabývá produkcí stock fotografií, zažalovala začátkem tohoto roku společnost Stability AI, protože tvrdila, že bez povolení vyškrabala její webové stránky pro získání obrázků.

Guardrails pro Bedrock je dnes v omezeném náhledu, uvedla společnost Amazon. Společnost ze Seattlu neposkytla další podrobnosti o své politice odškodnění.

Zdroj: Reuters, zdroj úvodní fotografie: GeekWire