ChatGPT: Nová funkce pro upozornění blízkých při krizových situacích
ChatGPT zavádí volitelnou funkci Trusted Contact. Ta při detekci vážných známek sebepoškozování upozorní určený kontakt.
Společnost OpenAI, tvůrce pokročilého jazykového modelu ChatGPT, oznámila zavedení nové funkce nazvané Trusted Contact. Tato volitelná výbava má za cíl poskytnout dodatečnou vrstvu podpory uživatelům, kteří by se mohli ocitnout v akutní psychické tísni. V případě detekce vážných známek sebepoškozování prostřednictvím interakce s modelem, může funkce automaticky odeslat předem definovanou zprávu nominovanému kontaktu. Jde o významný krok od pouhých bezpečnostních filtrů k aktivní intervenci, který otevírá nové otázky týkající se odpovědnosti AI v citlivých situacích.
Vývoj funkce Trusted Contact probíhal ve spolupráci s odborníky na duševní zdraví a krizovou intervenci. Cílem bylo minimalizovat riziko falešných poplachů a zajistit, aby byla funkce co nejúčinnější a zároveň respektovala soukromí uživatele. Funkce je koncipována jako opt-in, což znamená, že uživatelé si ji musí aktivně zapnout a sami si zvolit, kdo bude jejich kontaktní osobou a za jakých specifických okolností má být zpráva odeslána. Tento přístup klade důraz na kontrolu a autonomii uživatele.
Posun od prevence k podpoře
Tradiční přístup k bezpečnosti AI se soustředil primárně na prevenci škodlivého obsahu a zabránění zneužití modelů. Funkce jako Trusted Contact však představují posun k proaktivní podpoře uživatelů. V situacích, kdy AI může neúmyslně identifikovat uživatele v krizi, se otevírá debata o tom, jakou roli by měla AI hrát v poskytování podpory a jak zajistit, aby tato podpora byla efektivní a zodpovědná. Tento vývoj naznačuje, že budoucí generace AI budou nejen nástroji pro zpracování informací, ale i potenciálními partnery v řešení komplexních lidských problémů.
Co to znamená pro vaši firmu
- Zvažte dopad pokročilých AI funkcí na vaše interní procesy a firemní kulturu, zejména v kontextu podpory zaměstnanců.
- Naplánujte interní diskuze o etických aspektech nasazení AI, které by mohly zasahovat do citlivých oblastí, jako je duševní zdraví.
- Monitorujte vývoj a standardy v oblasti bezpečnosti a zodpovědnosti AI, které mohou ovlivnit budoucí regulace a očekávání.
- Připravte se na to, že AI nástroje mohou v budoucnu nabízet služby, které překračují rámec tradičního softwaru a vyžadují novou úroveň správy a dohledu.