Polskie modele językowe PLLuM w praktyce: od pozyskiwania danych po wdrożenia w administracji publicznej

Wystąpienie będzie poświęcone procesowi tworzenia polskich dużych modeli językowych i ich dostosowywania do potrzeb administracji publicznej. Przedstawię najnowsze modele z rodziny PLLuM, opracowane w ramach projektu HIVE AI, i omówię kolejne etapy ich powstawania – od pretreningu, przez dostrajanie na instrukcjach, po wychowanie (ang. alignment) – wskazując na kluczowe wyzwania i przedstawiając wady i zalety poszczególnych rozwiązań. Nacisk położę na kwestie opracowywania oryginalnych zbiorów danych uczących i kompromis między zwiększaniem bezpieczeństwa LLM-ów a ich pomocnością. Opowiem także o możliwych zastosowaniach modeli i o konkretnych wdrożeniach w polskich urzędach oraz w aplikacji mObywatel, pokazując, jak sztuczna inteligencja może przyczynić się do transformacji usług publicznych.