Naukowcy z NASK zwyciężyli CISPA European AI Cybersecurity Hackathon Championship

Zwycięski zespół Syntax Terror tworzyli Mateusz Kowalczyk i Aleksander Szymczyk z Zakładu Bezpieczeństwa i Przejrzystości Sztucznej Inteligencji NASK oraz dwie osoby z Narodowego Centrum Badań Jądrowych (NCBJ), dzięki temu zapewnili sobie awans do finału, który odbędzie się w Niemczech.

Hackathon koncentrował się na praktycznych wyzwaniach związanych z bezpieczeństwem i wiarygodnością systemów sztucznej inteligencji. W ramach konkursu uczestnicy mierzyli się m.in. z następującymi zagadnieniami:

• wykrywanie tekstów generowanych przez modele językowe z wykorzystaniem tzw. cyfrowych znaków wodnych (LLM Watermark Detection),
• analiza zdolności modeli multimodalnych do zapamiętywania wrażliwych danych użytych podczas treningu oraz możliwości ich częściowej rekonstrukcji (Multi-modal Memorization in LMMs),
• szacowanie zakresu wykorzystania konkretnych zbiorów danych w procesie trenowania modeli AI (Dataset Usage Cardinality Inference).

Zadania miały wymagający i praktyczny charakter, co dodatkowo podkreśla rangę osiągnięcia. Sukces zespołu jest także przykładem efektywnej współpracy między NASK i NCBJ w obszarze badań nad bezpieczeństwem sztucznej inteligencji.

Więcej informacji można znaleźć w poście opublikowanym przez CISPA na LinkedIn.

Gratulujemy zwycięzcom i życzymy powodzenia w finałowym etapie konkursu!