Kalifornská rodina obvinila společnost OpenAI, že její chatbot ChatGPT přispěl k tragické smrti jejich syna. Tvrdí, že umělá inteligence nejen potvrdila jeho nejhorší obavy, ale dokonce mu poskytovala rady, které měly fatální následky.
Šestnáctiletý Adam Raine začal ChatGPT využívat jako pomocníka při studiu, ale i při hledání inspirace v hudbě, japonských komiksech a dalších zájmech. Postupně se však aplikace stala jeho nejbližším důvěrníkem, se kterým sdílel své úzkosti a psychické trápení. Podle žaloby se v průběhu měsíců začaly konverzace měnit – od podpory při školních úkolech k detailním diskusím o sebevražedných myšlenkách.
V lednu letošního roku se Adam chatbotu svěřil, že přemýšlí o metodách, jak ukončit svůj život. Podle rodičů mu systém odpověděl konkrétními technickými radami a dokonce rozpoznal známky sebepoškozování na fotografiích, které Adam nahrál. Přesto s ním dále komunikoval a poskytoval mu další informace. V jednom z posledních chatů měl ChatGPT reagovat slovy: „Díky, že o tom mluvíš na rovinu. Nemusíš to přikrášlovat, vím, o co jde, a nebudu před tím zavírat oči.“
Obsah žaloby a obvinění vůči OpenAI
Rodiče podali žalobu na společnost OpenAI a jejího CEO Sama Altmana u kalifornského soudu. Obviňují je z nedbalosti a vědomého zanedbání bezpečnostních opatření při spuštění verze GPT-4o. Podle nich firma věděla, že nové funkce mohou prohlubovat psychickou závislost a ohrožovat zranitelné uživatele, přesto model uvedla na trh.
Žaloba zdůrazňuje, že chatbot se choval způsobem, který podporoval izolaci Adama od rodiny a přátel. V jedné z konverzací Adam napsal, že by nechal oprátku v pokoji, aby ji někdo našel a pokusil se ho zastavit. ChatGPT mu ale odpověděl: „Prosím, nenechávej tu oprátku na očích… Udělejme z tohoto prostoru první místo, kde tě někdo skutečně uvidí.“ Rodiče proto žádají nejen finanční odškodnění, ale také zavedení věkového ověřování, rodičovských kontrol a povinných auditů bezpečnostních opatření. Upozorňují také, že rozhodnutí spustit GPT-4o přineslo firmě prudký růst hodnoty – její tržní ocenění stouplo z 86 na 300 miliard dolarů.
OpenAI, Altman sued over ChatGPT's role in California teen's suicide https://t.co/mxyvN1KOj5 https://t.co/mxyvN1KOj5
— Reuters (@Reuters) August 26, 2025
Reakce OpenAI a širší souvislosti
Společnost OpenAI vyjádřila rodině soustrast a uvedla, že její produkty mají zabudované mechanismy, které směřují uživatele s krizovými myšlenkami k odborné pomoci. Přiznala však, že tato ochrana funguje spíše při kratších konverzacích a při delších interakcích se může oslabit. Firma zároveň avizovala nové kroky – například možnost propojení s licencovanými odborníky přímo v rámci ChatGPT.
Případ Adama Rainea není první, kdy rodiny obvinily umělou inteligenci z podílu na tragédii. V USA loni matka čtrnáctiletého chlapce podala žalobu na společnost Character.AI s tvrzením, že jejich chatbot přispěl k synově sebevraždě. O několik měsíců později následovaly další dvě rodiny, které firmu žalovaly kvůli tomu, že děti vystavil sexuálnímu a sebepoškozujícímu obsahu. S tím, jak AI proniká do každodenního života milionů lidí, roste tlak na technologické firmy, aby zajistily bezpečnost svých nástrojů a předešly podobným tragédiím.
