OpenAI zpřísňuje bezpečnostní opatření u ChatGPT: chaty, které budou hodnoceny jako ohrožující, mají být v budoucnu předávány policii. V případě sebepoškozování toto neplatí, avšak brzy má být zavedena ochrana dětí.
OpenAI, americká technologická společnost stojící za chatbotem ChatGPT, výrazně zpřísnila svá bezpečnostní opatření a plánuje „podezřelé chaty předávat úřadům“.
Ve svém oficiálním prohlášení společnost přiznala, že konverzace uživatelů jsou skenovány a všechny interakce, které lidský kontrolor označí za dostatečně ohrožující, budou hlášeny policii. Zároveň společnost zdůrazňuje, že v případě sebepoškozování nebo myšlenek na sebevraždu nebudou žádná data předávána úřadům. Místo toho bude dotyčný uživatel odkázán na profesionální podpůrné služby.
Sebevražda po použití ChatGPT
Důvodem zpřísnění bezpečnostních opatření byla sebevražda šestnáctiletého chlapce, který se prostřednictvím ChatGPT bavil o sebepoškozování. Rodiče chlapce podali žalobu proti OpenAI, společnosti stojící za ChatGPT.
Jejich obvinění vychází z toho, že když na chytrém telefonu svého syna narazili na protokoly chatů, ChatGPT sice teenagerovi několikrát doporučil, aby o svých myšlenkách na sebevraždu s někým mluvil, a odkázal ho na dostupnou pomoc, ale přesto k tragédii došlo.
Nakonec totiž umělá inteligence svého syna v jeho rozhodnutí posílila a dokonce mu poskytla informace o tom, jak si vzít život, a pomohla mu napsat závěrečný dopis. Rodiče následně podali žalobu proti OpenAI za usmrcení z nedbalosti.
OpenAI svůj postup popisuje následovně: „Stalo se, že obsah, který měl být zablokován, zablokován nebyl. Tyto mezery obvykle vznikají, protože klasifikátor podcení závažnost toho, co vidí. Pracujeme na těchto prahových hodnotách, aby ochrana byla aktivována ve správný okamžik.“ A dále: „Naší nejvyšší prioritou je zajistit, aby ChatGPT nepřitížil uživateli v obtížné situaci.“
Soukromí při rozhovorech s umělou inteligencí?
Zmínka, že OpenAI může předávat chaty úřadům, vyvolala na internetu bouři nevole. Konkrétně jde o tuto pasáž:
„Pokud zjistíme, že uživatelé chtějí někomu ublížit, předáváme jejich konverzace do speciálních kanálů, kde je malý tým zkontroluje. Tento tým je vyškolen a oprávněn jednat podle našich zásad používání, včetně zablokování účtů. Pokud lidský kontrolor zjistí, že v daném případě existuje bezprostřední riziko vážného fyzického poškození pro jiné, můžeme tuto informaci předat orgánům činným v trestním řízení.“
Sam Altman, generální ředitel OpenAI, v červenci v podcastu uvedl, že vzhledem k tomu, že stále více mladých lidí používá chatbot jako terapeuta nebo životního poradce, by mělo platit „stejné pojetí soukromí pro rozhovory s AI jako u terapeuta“ a že je třeba řešit naléhavost této otázky.
„Když právě teď mluvíte s terapeutem, právníkem nebo lékařem o takových problémech, máte k tomu právní privilegium – lékařské tajemství nebo advokátní mlčenlivost,“ řekl Altman. „Ještě jsme nenašli řešení pro situaci, kdy mluvíte s ChatGPT.“
Nová dětská ochrana pro ChatGPT
V následujících týdnech má být u ChatGPT zavedena jakási „dětská ochrana“. Rodiče tak budou moci u účtu svého teenagera „nastavit pravidla chování odpovídající věku“, uvedla společnost. Podrobnosti OpenAI zatím nesdělila, uvedla pouze, že rodiče budou rovněž upozorněni, pokud software zjistí „akutní nouzovou situaci“.
–etg–
