Pracownik NASK otrzymał grant Preludium 24!

Projekt dotyczy niezwykle aktualnego i istotnego zagadnienia – audytu źródeł danych wykorzystywanych do trenowania dużych modeli generatywnych sztucznej inteligencji.

W dobie dynamicznego rozwoju technologii AI coraz częściej pojawiają się pytania o transparentność procesów uczenia modeli oraz ochronę praw autorskich. Obecnie brakuje narzędzi umożliwiających twórcom, wydawcom czy instytucjom jednoznaczne ustalenie, czy ich dane zostały wykorzystane w procesie szkolenia modeli takich jak ChatGPT, DALL·E czy Stable Diffusion. Projekt mgr inż. Jana Dubińskiego odpowiada na tę potrzebę, proponując skalowalne i praktyczne metody wykrywania śladów wykorzystania danych w modelach generatywnych.

Centralna hipoteza projektu zakłada, że dane pozostawiają subtelne, statystyczne ślady w zachowaniu modelu. Opracowane metody mają umożliwić nie tylko wykrycie obecności danych, ale także oszacowanie zakresu ich wykorzystania, co jest kluczowe z punktu widzenia prawa autorskiego. W ramach projektu przewidziano również rozwój technik pozwalających na wykrywanie użycia nawet niewielkich kolekcji danych, takich jak prywatne portfolio artysty, oraz rozszerzenie badań na modele multimodalne, które uczą się równocześnie z tekstu i obrazu.

Projekt ma znaczenie zarówno naukowe, jak i społeczne – wspiera właścicieli danych, umożliwia niezależny audyt i dostarcza narzędzi dla regulatorów oraz prawników. W dłuższej perspektywie może przyczynić się do bardziej etycznego i przejrzystego rozwoju sztucznej inteligencji. Wszystkie opracowane metody zostaną udostępnione jako otwarte oprogramowanie, aby mogły być wykorzystywane w praktyce przez twórców, dziennikarzy, instytucje kultury czy organizacje zajmujące się ochroną danych.

Gratulujemy mgr inż. Janowi Dubińskiemu uzyskania finansowania i życzymy powodzenia w realizacji projektu!