13 C
Czech
Neděle 19. května 2024

Tvůrce ChatGPT je vyšetřován kvůli ochraně osobních údajů a nesprávným odpovědím

Federální obchodní komise zkoumá OpenAI podporovanou Microsoftem kvůli možným škodám způsobeným vymyšlenými informacemi od chatbota. Informoval o tom server Euronews či Financial Times.

Tvůrce ChatGPT je vyšetřován federálními úřady v USA. Američtí regulátoři se ptají společnosti OpenAI, jak řeší potenciál ChatGPT generovat „nepravdivé, zavádějící, znevažující nebo škodlivé“ výroky o skutečných lidech.

Produkty generativní umělé inteligence jsou v hledáčku regulačních orgánů po celém světě. Odborníci na umělou inteligenci a etici bijí na poplach kvůli obrovskému množství osobních údajů, které tato technologie obsahuje, a také jejím potenciálně škodlivým výstupům, od dezinformací po sexistické a rasistické komentáře, uvádí Financial Times.

Od spuštění ChatGPT v listopadu mnozí poukazovali na to, že zatímco může být extrémně užitečný, může také někdy poskytnout zcela nesouvisející, nepravdivé nebo neúplné odpovědi.

OpenAI uznala, že ChatGPT není zdaleka neomylný. Vysvětluje, že někdy může „halucinovat“ výstupy a vymýšlet si fakta. Stručně řečeno, ChatGPT, stejně jako jakýkoli jiný stroj nebo technologie, může dělat chyby.

Pomluvy či nepravdy v odpovědích chatbota

Americký regulátor zaslal OpenAI dopis, ve kterém požádal, aby společnost sdílela interní materiál o tom, jak skupina uchovává informace o uživatelích. A zároveň i kroky, které společnost podnikla, aby se vypořádala s rizikem, že její model umělé inteligence bude produkovat prohlášení, která jsou „nepravdivá, zavádějící nebo znevažující“.

Lina Khan, předsedkyně FTC, ve čtvrtek ráno svědčila před soudním výborem Sněmovny reprezentantů. „Slyšeli jsme o hlášeních, kdy se citlivé informace lidí objevují v reakci na dotaz od někoho jiného. Slyšeli jsme o pomluvách, pomlouvačných prohlášeních, zcela nepravdivých věcech, které se objevují. To je typ podvodu, kterého se obáváme,“ vypovídala.

Začátkem tohoto roku výkonný ředitel OpenAI Sam Altman varoval americké zákonodárce před riziky, která jsou součástí ChatGPT. Řekl: „Pokud se tato technologie pokazí, může se pokazit docela špatným směrem“. Vyzval vládu, aby spolupracovala s jeho společností a „zabránila tomu, aby se to stalo“, uvádí server Euronews.

Ale Altman byl „zklamán“ nejnovějším vyšetřováním společnosti. „Je velkým zklamáním vidět, že požadavek FTC začíná únikem a nepomáhá budovat důvěru,“ napsal na Twitteru.

„GPT-4 jsme postavili na základě let bezpečnostního výzkumu. Strávili jsme 6+ měsíců poté, co jsme dokončili úvodní školení, abychom jej před uvedením na trh učinili bezpečnější. Chráníme soukromí uživatelů a navrhujeme naše systémy tak, abychom se učili o světě, ne o soukromých osobách,“ pokračoval. Dodal, že společnost bude stále spolupracovat s FTC, aby zajistila, že ChatGPT je „bezpečný a pro spotřebitele“.

Ochrana osobních údajů je dalším bodem zájmu vyšetřování

Občasné špatné odpovědi ChatGPT nejsou vše, kvůli čemu americké úřady zpochybňují společnost podporovanou Microsoftem. FTC také zkoumá, jak společnost přistupuje k ochraně osobních údajů a jak získává data pro školení a informování svého chatbota.

V dubnu Itálie zakázala používání ChatGPT kvůli obavám o soukromí. Zákaz zrušila až poté, co byly poskytnuty další informace o zásadách ochrany osobních údajů a přidán nástroj pro ověření věku uživatelů.

OpenAI mělo dva měsíce po svém spuštění více než 100 milionů aktivních uživatelů měsíčně. Nový vyhledávač Bing od společnosti Microsoft, rovněž poháněný technologií OpenAI, používal více než 1 milion lidí ve 169 zemích během dvou týdnů od jeho vydání v lednu.

Sledujte nás na sítích

Jihokorejský Doosan investuje tři miliardy korun do výroby turbín v Plzni

Jihokorejský gigant Doosan plánuje investovat tři miliardy korun do své plzeňské dceřiné společnosti Doosan Škoda Power. Tato investice umožní přesunutí výroby generátorů a turbín pro elektrárny, včetně těch pro malé modulární reaktory, a vytvoření centra pro vodíkové spalovací turbíny v Evropě.

Čínské společnosti získaly další nabídky na těžbu ropy a zemního plynu v Iráku

V posledním licenčním kole v Iráku dominovaly čínské společnosti v nabídkovém řízení na projekty průzkumu těžby ropy a zemního plynu. Ministr ropného průmyslu této blízkovýchodní země potvrdil, že čínské firmy získaly čtyři nabídky a předčily tak ostatní mezinárodní konkurenty.

NEJNOVĚJŠÍ

Jihokorejský Doosan investuje tři miliardy korun do výroby turbín v Plzni

Jihokorejský gigant Doosan plánuje investovat tři miliardy korun do své plzeňské dceřiné společnosti Doosan Škoda Power. Tato investice umožní přesunutí výroby generátorů a turbín pro elektrárny, včetně těch pro malé modulární reaktory, a vytvoření centra pro vodíkové spalovací turbíny v Evropě.

Čínské společnosti získaly další nabídky na těžbu ropy a zemního plynu v Iráku

V posledním licenčním kole v Iráku dominovaly čínské společnosti v nabídkovém řízení na projekty průzkumu těžby ropy a zemního plynu. Ministr ropného průmyslu této blízkovýchodní země potvrdil, že čínské firmy získaly čtyři nabídky a předčily tak ostatní mezinárodní konkurenty.