Regulacje AI dla systemów konwersacyjnych: czego uczą nas chińskie przepisy i co z tego wynika dla polskiej administracji

Coraz więcej krajów zaczyna regulować nie tylko to, co AI robi, ale także to, jak AI się zachowuje wobec człowieka w dłuższej relacji. Chiny jako pierwsze zdecydowały się na przepisy dotyczące tzw. systemów AI companion - czyli konwersacyjnych agentów budowanych z myślą o podtrzymywaniu ciągłej, spersonalizowanej więzi z użytkownikiem. Takie systemy mają trwałą pamięć, stały charakter i uczą się reagować na emocje konkretnej osoby. Cel regulacji jest wielowątkowy: chodzi o transparentność wobec użytkownika, ograniczenie manipulacji emocjonalnej, kontrolę nad danymi i ochronę nieletnich. Niezależnie od kontekstu politycznego, techniczna i etyczna strona tych przepisów jest warta uwagi wszędzie tam, gdzie wdraża się AI w kontakcie z obywatelem.

Co to oznacza dla polskich urzędów i instytucji publicznych

Polski sektor publiczny wdraża chatboty i wirtualnych asystentów przede wszystkim do obsługi informacyjnej - odpowiedzi na pytania o procedury, statusy spraw, godziny pracy. Ale granica między "pomocnym botem" a "systemem budującym relację" jest płynna. Im bardziej zaawansowany asystent, im dłuższa historia rozmów i im bardziej spersonalizowane odpowiedzi, tym bliżej do modelu, który reguluje Pekin.

Trzy obszary ryzyka są szczególnie istotne dla instytucji publicznych:

• Transparentność: obywatel musi wiedzieć, że rozmawia z systemem AI, a nie z urzędnikiem. To wymóg, który wynika już z unijnego AI Act, ale praktyka wdrożeń pokazuje, że jest wciąż niedostatecznie wdrażany. Brak jasnego oznaczenia naraża instytucję na zarzut wprowadzania w błąd.
• Zarządzanie danymi konwersacyjnymi: systemy z pamięcią sesji lub historią rozmów gromadzą wrażliwe dane osobowe. Konieczna jest polityka retencji, szyfrowania i jasna odpowiedź na pytanie: kto ma dostęp do transkryptów i jak długo są przechowywane.
• Uzależnienie i substytucja kontaktu: kiedy obywatel woli "porozmawiać z botem" niż dzwonić do urzędu, pojawia się pytanie o jakość udzielanych informacji i o to, czy AI nie zastępuje kontaktu, który w danej sprawie powinien być ludzki - np. przy postępowaniach z elementem uznania administracyjnego.

Warto też patrzeć na te regulacje przez pryzmat nadchodzących polskich wytycznych dot. AI w administracji. Ministerstwa i agencje rządowe przygotowują własne standardy - a doświadczenia z rynków azjatyckich, gdzie konwersacyjna AI jest masowo używana, będą jednym z punktów odniesienia. Instytucje, które już teraz zadbają o zgodność z zasadami transparentności i ochrony danych, będą po prostu lepiej przygotowane na nowe wymagania.

Podsumowując: debata o AI companion to nie egzotyczny problem wielkich konsumentów technologii. To zapowiedź kierunku, w którym zmierzają regulacje konwersacyjnej AI na całym świecie - i warto, żeby polskie urzędy były w tej dyskusji krok do przodu, a nie krok za przepisami. Jeśli chcesz wiedzieć, jak Twoja instytucja wypada w kontekście aktualnych standardów dla AI, zapraszamy na bezpłatny audyt.