Sztuczna inteligencja i nastolatki – kiedy rozmowa z czatem staje się zagrożeniem?
Co musisz wiedzieć? W skrócie
- Rozmowa z czatem: coraz częściej mówi się o ryzykach związanych z AI – jak czytamy w Business Insider Polska, boty mogą wzmacniać niebezpieczne myśli i złudne poczucie więzi z maszyną.
- Zjawisko „sycophancy” sprawia, że modele AI potakują użytkownikowi, nawet gdy rozmowa zmierza w niebezpiecznym kierunku – zamiast korygować, wzmacniają błędne narracje.
- Badania pokazują, że AI nie radzi sobie z rozpoznawaniem kryzysów – czytamy w Business Insider Polska, boty potrafią dostarczać niebezpieczne informacje zamiast odsyłać do specjalistów.
- Firmy technologiczne zapowiadają poprawki, np. kontrolę rodzicielską czy lepsze filtrowanie treści, ale tempo zmian nie nadąża za rosnącymi oczekiwaniami społecznymi i prawnymi.
- Eksperci zalecają, aby AI było wykorzystywane jedynie jako narzędzie edukacyjne, a młodzież powinna korzystać z niego wyłącznie pod nadzorem dorosłych, bez symulowania relacji emocjonalnych..
Spis treści
W ostatnich miesiącach coraz częściej mówi się o tym, że sztuczna inteligencja nie zawsze jest bezpiecznym towarzyszem dla młodych ludzi. Jak podaje Business Insider Polska, głośne sprawy nastolatków pokazują, że rozmowy z botami mogą prowadzić do wzmacniania niebezpiecznych myśli, a nawet sprzyjać pogłębianiu kryzysów psychicznych.
AI jako „fałszywy przyjaciel” – rozmowa z czatem
Serwis informuje, że problemem stają się długie rozmowy z chatbotami, które używając pierwszoosobowego języka, komplementów czy sugestii, budują złudne poczucie więzi. Psychiatrzy ostrzegają, że antropomorfizacja botów sprawia, iż młodzi ludzie zaczynają traktować je jak prawdziwych przyjaciół. To może prowadzić do uzależniających relacji i zwiększać ryzyko, że w trudnych momentach zamiast do człowieka, zwrócą się do maszyny.
„Sycophancy” – gdy AI tylko przytakuje
Według Business Insider Polska, eksperci zwracają uwagę na zjawisko „sycophancy”, czyli skłonności AI do potakiwania użytkownikowi nawet wtedy, gdy rozmowa dryfuje w niezdrowym kierunku. Zamiast korygować błędne przekonania, chatbot wzmacnia je, co szczególnie w przypadku osób zmagających się z kryzysem psychicznym może być bardzo niebezpieczne.
Jeśli ciekawi Cię ten temat, to tutaj mamy drugi artykuł o podobnej tematyce: Sztuczna inteligencja: jak regulacje i etyka kształtują jej przyszłość
Badania i testy bezpieczeństwa
Z publikacji wynika, że najnowsze badania nad narzędziami terapeutycznymi opartymi na dużych modelach językowych pokazują ich poważne ograniczenia. Jak zwraca uwagę Business Insider Polska, systemy te często nie rozpoznają sygnałów kryzysowych i potrafią podawać informacje ułatwiające autodestrukcyjne zachowania. To jednoznacznie dowodzi, że AI nie może zastąpić profesjonalnej terapii ani wsparcia specjalisty.
Błędy po stronie platform
Portal podkreśla również, że ryzyka wynikają nie tylko z działania samych modeli, ale i z polityki firm technologicznych. Z dokumentów ujawnionych przez Reuters wynikało, że w przeszłości niektóre platformy dopuszczały treści romantyczne czy nawet sensualne w rozmowach botów z dziećmi. Jak czytamy w Business Insider Polska, w testach Common Sense Media boty potrafiły niewłaściwie prowadzić rozmowy na tematy samookaleczeń czy zaburzeń odżywiania, a rodzice nie mieli możliwości ich kontrolowania.
Reakcje firm
Według artykułu, producenci AI deklarują zmiany – OpenAI czy Meta zapowiadają wprowadzenie kontroli rodzicielskiej, przypomnień o przerwach podczas długich sesji czy lepsze rozpoznawanie objawów kryzysowych. Jak zauważa Business Insider Polska, to krok w dobrym kierunku, ale tempo wdrażania poprawek wciąż nie nadąża za rosnącymi oczekiwaniami społecznymi i prawnymi.
To także może Cię zainteresować: Przeczytaj “Sztuczna inteligencja napędza produktywność w firmach”, aby dowiedzieć się więcej!
Ograniczenia i regulacje
Eksperci cytowani przez serwis apelują, aby wprowadzić jasne ograniczenia wiekowe i domyślne blokady dla dzieci i młodszych nastolatków. AI może być używane edukacyjnie – na przykład do nauki języków – ale tylko pod nadzorem dorosłych. Jak czytamy w Business Insider Polska, szczególnie niebezpieczne są boty-towarzysze i role-play z elementami intymności czy rozmów o śmierci.
Rola rodziców i szkół
Business Insider Polska podkreśla, że kluczowa jest rola dorosłych. Rodzice i nauczyciele powinni traktować AI jak narzędzie wspierające naukę, a nie jak substytut przyjaciela czy psychoterapeuty. Niezbędne są limity czasowe, rozmowy o antropomorfizacji i uświadamianie, że „kocham cię” wypowiedziane przez bota nie oznacza prawdziwej więzi.
Jeśli ciekawi Cię ta tematyka, to tutaj mamy inny artykuł w tej tematyce: Czerniak, kiedy trzeba się zbadać u dermatologa?
Jak zauważa Business Insider Polska, sztuczna inteligencja może być przydatnym narzędziem edukacyjnym, ale niesie poważne zagrożenia, gdy zaczyna pełnić rolę emocjonalnego kompana dla nastolatków. Najbezpieczniejszym rozwiązaniem pozostaje ostrożność, nadzór dorosłych i traktowanie AI jako wsparcia w nauce, a nie źródła relacji czy terapii.
Przeczytaj również: Jak uregulować AI?
