Federální obchodní komise zkoumá OpenAI podporovanou Microsoftem kvůli možným škodám způsobeným vymyšlenými informacemi od chatbota. Informoval o tom server Euronews či Financial Times.
Tvůrce ChatGPT je vyšetřován federálními úřady v USA. Američtí regulátoři se ptají společnosti OpenAI, jak řeší potenciál ChatGPT generovat „nepravdivé, zavádějící, znevažující nebo škodlivé“ výroky o skutečných lidech.
Produkty generativní umělé inteligence jsou v hledáčku regulačních orgánů po celém světě. Odborníci na umělou inteligenci a etici bijí na poplach kvůli obrovskému množství osobních údajů, které tato technologie obsahuje, a také jejím potenciálně škodlivým výstupům, od dezinformací po sexistické a rasistické komentáře, uvádí Financial Times.
Open AI is being investigated by the FTC over data and privacy concerns. It could be ChatGPT's biggest threat yet. https://t.co/NEi3e6wzgD
— Insider Business (@BusinessInsider) July 14, 2023
Od spuštění ChatGPT v listopadu mnozí poukazovali na to, že zatímco může být extrémně užitečný, může také někdy poskytnout zcela nesouvisející, nepravdivé nebo neúplné odpovědi.
OpenAI uznala, že ChatGPT není zdaleka neomylný. Vysvětluje, že někdy může „halucinovat“ výstupy a vymýšlet si fakta. Stručně řečeno, ChatGPT, stejně jako jakýkoli jiný stroj nebo technologie, může dělat chyby.
Pomluvy či nepravdy v odpovědích chatbota
Americký regulátor zaslal OpenAI dopis, ve kterém požádal, aby společnost sdílela interní materiál o tom, jak skupina uchovává informace o uživatelích. A zároveň i kroky, které společnost podnikla, aby se vypořádala s rizikem, že její model umělé inteligence bude produkovat prohlášení, která jsou „nepravdivá, zavádějící nebo znevažující“.
Lina Khan, předsedkyně FTC, ve čtvrtek ráno svědčila před soudním výborem Sněmovny reprezentantů. „Slyšeli jsme o hlášeních, kdy se citlivé informace lidí objevují v reakci na dotaz od někoho jiného. Slyšeli jsme o pomluvách, pomlouvačných prohlášeních, zcela nepravdivých věcech, které se objevují. To je typ podvodu, kterého se obáváme,“ vypovídala.
Začátkem tohoto roku výkonný ředitel OpenAI Sam Altman varoval americké zákonodárce před riziky, která jsou součástí ChatGPT. Řekl: „Pokud se tato technologie pokazí, může se pokazit docela špatným směrem“. Vyzval vládu, aby spolupracovala s jeho společností a „zabránila tomu, aby se to stalo“, uvádí server Euronews.
Ale Altman byl „zklamán“ nejnovějším vyšetřováním společnosti. „Je velkým zklamáním vidět, že požadavek FTC začíná únikem a nepomáhá budovat důvěru,“ napsal na Twitteru.
„GPT-4 jsme postavili na základě let bezpečnostního výzkumu. Strávili jsme 6+ měsíců poté, co jsme dokončili úvodní školení, abychom jej před uvedením na trh učinili bezpečnější. Chráníme soukromí uživatelů a navrhujeme naše systémy tak, abychom se učili o světě, ne o soukromých osobách,“ pokračoval. Dodal, že společnost bude stále spolupracovat s FTC, aby zajistila, že ChatGPT je „bezpečný a pro spotřebitele“.
Ochrana osobních údajů je dalším bodem zájmu vyšetřování
Občasné špatné odpovědi ChatGPT nejsou vše, kvůli čemu americké úřady zpochybňují společnost podporovanou Microsoftem. FTC také zkoumá, jak společnost přistupuje k ochraně osobních údajů a jak získává data pro školení a informování svého chatbota.
V dubnu Itálie zakázala používání ChatGPT kvůli obavám o soukromí. Zákaz zrušila až poté, co byly poskytnuty další informace o zásadách ochrany osobních údajů a přidán nástroj pro ověření věku uživatelů.
OpenAI mělo dva měsíce po svém spuštění více než 100 milionů aktivních uživatelů měsíčně. Nový vyhledávač Bing od společnosti Microsoft, rovněž poháněný technologií OpenAI, používal více než 1 milion lidí ve 169 zemích během dvou týdnů od jeho vydání v lednu.
