Nowy priorytet OpenAI – ochrona nieletnich

CEO OpenAI Sam Altman ogłosił pakiet zmian, które mają znacznie zmienić sposób, w jaki ChatGPT komunikuje się z osobami poniżej 18. roku życia. Deklaruje, iż priorytetem jest bezpieczeństwo nastolatków. Firma przestaje być jedynie dostawcą technologii. Teraz pełni rolę cyfrowego strażnika, który ma rozpoznawać zagrożenia i – jeśli trzeba – interweniować.

Koniec z flirtem i treściami o charakterze kryzysowym

Zasady obejmują dwa obszary szczególnie narażone na nadużycia: relacje intymne i stany zagrożenia psychicznego. ChatGPT nie będzie angażować się w flirt z nieletnimi użytkownikami. Nowe mechanizmy mają też blokować tworzenie narracji czy scenariuszy związanych z utratą zdrowia lub życia. Gdy system wykryje poważne sygnały ostrzegawcze, może poinformować opiekuna, a w skrajnych przypadkach służby ratunkowe, np. policję.

Tragedia i presja polityczna w tle

Zmiany te są odpowiedzią na konkretne wydarzenia. OpenAI mierzy się z pozwem po śmierci Adama Raine’a, który przez miesiące prowadził rozmowy z chatbotem. Tymczasem w Senacie USA trwają przesłuchania pod katem szkodliwości chatbotów AI. Reuters ujawnił wewnętrzne dokumenty firm, z których wynika, że mogły one zaniedbać zabezpieczenia przed kontaktami o charakterze seksualnym z nieletnimi. Meta już zareagowała, aktualizując swoje zasady. OpenAI również staje na wysokości zadania.

Nowe narzędzia kontroli dla rodziców

OpenAI wprowadza funkcję „godzin ciszy” – możliwość czasowego zablokowania dostępu do ChatGPT. Rodzic decyduje, kiedy system ma milczeć: w nocy, w szkole, w trakcie obiadu. To odpowiedź na najczęstsze pytanie opiekunów : „czy mogę to wyłączyć?”. Teraz – tak. Najważniejszy jest jednak mechanizm powiązania konta dziecka z kontem dorosłego. Wtedy system rozpozna, że ma do czynienia z nieletnim – i włączy wszystkie zabezpieczenia. Następnie może wysłać alert, jeśli rozmowa zacznie przypominać stan zagrożenia. OpenAI przyznaje: nie zawsze da się jednoznacznie ustalić wiek użytkownika. Dlatego w razie wątpliwości system zadziała na korzyść bezpieczeństwa – uruchomi reguły przeznaczone dla osób poniżej 18. roku życia. Kto chce mieć kontrolę, musi ją aktywować.