Otwarty model rozpoznawania mowy do wdrożenia na własnym serwerze. Co to zmienia w urzędzie

Przez lata automatyczne rozpoznawanie mowy wymagało albo drogich licencji, albo wysyłania nagrań do zewnętrznych serwerów. Otwarte modele zmieniły ten układ, ale wciąż wiele z nich miało słabości: wymagały GPU w chmurze, nie radziły sobie z akcentami, albo po prostu nie obsługiwały polskiego wystarczająco dobrze. Falcon ASR to kolejny krok w innym kierunku. To model, który można uruchomić lokalnie, bez żadnych zewnętrznych wywołań API, na własnej infrastrukturze.

Różnica w stosunku do poprzedniej generacji otwartych modeli ASR leży przede wszystkim w jakości transkrypcji przy niskim narzucie obliczeniowym. Model radzi sobie z różnymi warunkami nagrania i językami. Czy dobrze radzi sobie z polskim? To zależy od konkretnej wersji i sposobu fine-tuningu, ale sama architektura jest do tego przystosowana. Instytucje, które chcą to sprawdzić, mogą to zrobić bez płacenia za każde zapytanie.

Co to oznacza dla polskich urzędów i instytucji publicznych

Najważniejsza zmiana nie dotyczy jakości transkrypcji, lecz tego, gdzie te nagrania trafiają. W wielu urzędach nagrania z posiedzeń, rozmów z obywatelami czy przesłuchań to dane wrażliwe lub chronione przepisami. Dotychczas każde użycie zewnętrznego serwisu ASR oznaczało de facto wysyłanie tych danych do operatora chmury. Z modelem działającym lokalnie tego problemu nie ma. Dane zostają w budynku.

To ma znaczenie praktyczne. RODO i krajowe przepisy dotyczące przetwarzania danych publicznych nakładają obowiązki, których nie da się łatwo pogodzić z wysyłaniem nagrań do zewnętrznych API. Lokalne wdrożenie ASR te obowiązki upraszcza. Nie trzeba zawierać umów powierzenia przetwarzania z operatorem chmury, prowadzić rejestrów przepływu danych ani martwić się o rezydencję danych.

• Protokołowanie posiedzeń: transkrypcja jako pierwsza wersja robocza dla protokolanta, bez wychodzenia poza sieć wewnętrzną.
• Obsługa obywatela: automatyczna transkrypcja nagrań z infolinii lub wizyt, do analizy jakości i szkolenia pracowników.
• Archiwum mówione: urzędy z nagraniami archiwalnych posiedzeń mogą je przetworzyć wsadowo, jednorazowo, bez abonamentu.

Warto pamiętać, że samo postawienie modelu to nie koniec pracy. Potrzebna jest integracja z istniejącymi systemami, ewentualny fine-tuning pod terminologię urzędową, a na początku też walidacja jakości na własnych nagraniach. Modele otwarte dają swobodę, ale odpowiedzialność za działanie bierze na siebie instytucja, nie dostawca chmury.

Coraz więcej instytucji zaczyna patrzeć na ASR nie jak na ciekawostkę, ale jak na infrastrukturę porównywalną z systemem do zarządzania dokumentami. Tam gdzie wcześniej trwało to miesiącami i wymagało drogich wdrożeń, teraz można zacząć od pilota na jednym wydziale. Koszt wejścia wyraźnie spadł.

Jeśli w Twojej instytucji są nagrania, które czekają na transkrypcję, albo planujesz obsługę głosową i zastanawiasz się, co wdrożyć bez wysyłania danych na zewnątrz, możemy to razem ocenić. Umów się na bezpłatny audyt.