Automatic search, analysis and classification of highly harmful web content (APAKT)

Automatyczne wyszukiwanie, analiza i klasyfikacja treści wysoce szkodliwych (APAKT) 

shoe-g441d43d15_1280

projekty_apakt_ikona

Projekty_Apakt_ikona

Prof. dr hab. inż. Andrzej Pacut

The everyday job of the moderators at Dyżurnet.pl, a unit operating within the structure of NASK PIB, is to verify illegal content reported by users or algorithms, including materials containing child sexual abuse (CSAM). This task is both crucial and challenging. On the one hand, the goal is to maximize effectiveness and provide broad protection to potential recipients from such content. On the other hand, it is essential to protect the moderators, who are exposed to these materials for many hours each day.
In the APAKT project, together with the Warsaw University of Technology, we are developing a system to assist moderators through automatic detection and preliminary classification of suspicious materials. The system will also propose the order of reports to prioritize those requiring immediate intervention (as they may be potentially more harmful).
Potential clients for the APAKT program may include internet service providers, large portals, the police, forensic experts, and foreign institutions involved in removing pedophilic content from the internet. APAKT is capable of detecting pedophilia in videos, images, and texts. 
Currently, it only supports the Polish language, but the models used, such as RoBERTa and StyloMetrix vectors, are available in English and Ukrainian as well.
The project is funded by a grant awarded by the National Centre for Research and Development.

Zadaniem moderatorów sieci w Dyżurnet.pl, jednostce działającej w strukturze NASK PIB, jest weryfikacja nielegalnych treści zgłoszonych przez użytkowników lub algorytmy, w tym między innymi materiałów zawierających seksualne wykorzystanie dzieci (ang. CSAM, child sexual abuse material). Chyba nie trzeba nikogo przekonywać, jak ważne i jednocześnie trudne to zadanie. Z jednej strony chodzi o to, by zwielokrotnić efektywność i jak najszerzej ochronić potencjalnych odbiorców przed tego typu treściami. Z drugiej &#8211; ochronić również samych moderatorów narażonych przez wiele godzin dziennie na kontakt z tymi materiałami.
W projekcie APAKT razem z Politechniką Warszawską opracowujemy system, który ma wspomagać moderatorów poprzez automatyczne wyszukiwanie i wstępną klasyfikację podejrzanych materiałów. Będzie on jednocześnie proponować kolejność zgłoszeń tak, aby pierwsze były te, które wymagają najszybszej interwencji (są potencjalnie najbardziej szkodliwe).
Potencjalnymi klientami programy APAKT mogą być: dostawcy internetu, duże portale, policja, biegli sądowi, a także zagraniczne instytucje zajmujące się usuwaniem z sieci treści o charakterze pedofilskim. APAKT radzi sobie z wykrywaniem pedofilii na wideo i zdjęciach, a także w tekstach. Obecnie obsługuje on jedynie język polski, jednakże wykorzystane w nim m.in. model RoBERTa czy wektory StyloMetrix dostępne są w języku angielskim oraz ukraińskim.
Projekt jest finansowany z grantu przyznanego przez Narodowe Centrum Badań i Rozwoju.

To date, we have developed a detailed project concept, including business requirements, diagrams and schematics reflecting the project objectives:

<ul>
<li>We have built a research environment with a data repository.</li>
<li>We have developed the legal framework necessary due to the sensitivity of the content to be analyzed.</li>
<li>We developed material class definitions related to CSAM materials and annotations.</li>
<li>We conducted a psychological workshop for all project team members. 
We collected and classified neutral materials.</li>
<li>We collected materials depicting sexual abuse of minors (CSAM), and compiled data obtained from the National Prosecutor&#8217;s Office.</li>
<li>We completed scientific tasks in the fields of biometrics and machine intelligence, as well as machine learning in text analysis.</li>
</ul>

Do tej pory opracowaliśmy szczegółową koncepcję projektu, w tym wymagania biznesowe, diagramy i schematy odzwierciedlające założenia projektu, a także:

<ul>
<li>zbudowaliśmy środowisko badawcze wraz z repozytorium danych;</li>
<li>opracowaliśmy ramy prawne konieczne ze względu na wrażliwość analizowanych treści;</li>
<li>opracowaliśmy definicje klas materiałów związanych z materiałami CSAM oraz adnotacje;</li>
<li>przeprowadziliśmy warsztaty psychologiczne dla wszystkich członków zespołu projektowego;</li>
<li>zgromadziliśmy i sklasyfikowaliśmy materiały neutralne;</li>
<li>zgromadziliśmy materiały przedstawiające seksualne wykorzystanie osób małoletnich (CSAM) i opracowaliśmy dane pozyskane z Prokuratury Krajowej;</li>
<li>zrealizowaliśmy zadania naukowe w dziedzinie biometrii i inteligencji maszynowej oraz uczenia maszynowego w analizie tekstów.</li>
</ul>
O projekcie w prasie: 
<a href="https://serwisy.gazetaprawna.pl/nowe-technologie/artykuly/8723201,sztuczna-inteligencja-moderacja-tresci-internet.html">&#8220;AI wspomoże moderatorów w blokowaniu nielegalnych treści&#8221; w Dziennik Gazeta Prawna</a>

Professor Andrzej Pacut&#8217;s research work includes such areas as:

<ul>
<li>neural networks and artificial intelligence,</li>
<li>learning for natural and artificial intelligence (spaces of very many dimensions),</li>
<li>identification, biometrics,</li>
<li>uncertainty modeling (probabilistic, statistical, biological) for businesses and research institutions.</li>
</ul>
Professor Andrzej Pacut&#8217;s topics of research included
<ul>
<li>the effect of surgical procedures and drugs on learning dynamics,</li>
<li>first-pass problems for a proposed methodology for analyzing behavioral experiments,</li>
<li>image analysis for the problem of predicting the results of bone transplants (for AM Warsaw),</li>
<li>adaptive control for eye-motor reflex and cerebellar modeling (Nencki Institute),</li>
<li>predictive models for the natural gas transmission system (Inst. of Gas Engineering) and for flood flow forecasting (IMGW),</li>
<li>time-frequency and wavelet analysis (digital spectrum analyzer Tektronix Inc, work for Hughes Corp.),</li>
<li>detection of cellular changes associated with chemicals and poisons (DARPA USA),</li>
<li>risk analysis in certain games of chance (Gtex corp. USA), mathematical morphology (a system for detecting board damage for sawmills in the USA),</li>
<li>model granulation problems or neural networks for machine learning.</li>
</ul>
Professor Andrzej Pacut has led more than a dozen large-scale scientific and technical projects, (including so-called &#8220;defense&#8221; projects), including PBIB, BioPKI, BioWiz, BioSec, BioMobi, AFIQ, as well as the scientific team in the APAKT project. He has held research internships at Brown University and Oregon State. He was the supervisor of 11 completed PhDs. He co-organized the Bio-Inspired Signal and Image Processing international conference and the annual Biometrics national conferences, which are the first forum for the presentation of the emerging field of biometrics in Poland (universities, state institutions and the judiciary all participate). In addition, he organized and chaired the Technical Committee of KT309 (for Biometrics) of the Polish Committee for Standardization, as an ISO expert in this field and a member of KT182 of PKN for Security of Information and Communication Systems. For 4 years he served as chairman of the Polish Section of the IEEE, currently &#8211; Senior Member of the IEEE.
Professor Pacut is the author of about 200 articles published in scientific journals, papers presented at conferences, and the book &#8220;Probability-Theory. Probabilistic Modeling in Technology&#8221; (WNT), as well as co-author of a patent and several patent applications. For his scientific achievements, he was awarded the Knight&#8217;s Cross of the Order of Polonia Restituta (2021), and received the Golden Cross of Merit and the KEN Medal. In addition, he has been repeatedly awarded by the Minister of Science and Higher Education.

Prof. Andrzej Pacut

Prace badawcze prowadzone przez Profesora Andrzeja Pacuta obejmują:

<ul>
<li>sieci neuronowe i sztuczną inteligencję,</li>
<li>uczenie dla inteligencji naturalnej i sztucznej (przestrzenie o bardzo wielu wymiarach),</li>
<li>identyfikacja, biometria,</li>
<li>modelowanie niepewności (probabilistyczne, statystyczne, biologiczne) dla przedsiębiorstw i placówek badawczych.</li>
</ul>
Obiektem badań Profesora Andrzeja Pacuta były m.in.:
<ul>
<li>wpływ zabiegów operacyjnych i leków na dynamikę uczenia,</li>
<li>problemy pierwszego przejścia dla zaproponowanej metodologii analizy eksperymentów behawioralnych,</li>
<li>analiza obrazu dla prognozowania wyników przeszczepów kości (dla AM Warszawa),</li>
<li>sterowanie adaptacyjne dla odruchu oko-ruchowego i modelowania móżdżku (Inst. Biologii Dośw. im. Nenckiego),</li>
<li>modele prognostyczne dla systemu przesyłowego gazu ziemnego (Inst. Gazownictwa) i dla prognozowania powodziowego przepływu wody (IMGW),</li>
<li>analiza czasowo-częstotliwościowa i falkowa (cyfrowy analizator widma Tektronix Inc., prace dla Hughes Corp.),</li>
<li>detekcja zmian komórkowych związanych z działaniem środków chemicznych i trucizn (DARPA USA),</li>
<li>analizy ryzyka w pewnych grach losowych (Gtex corp. USA),</li>
<li>morfologia matematyczna (system do wykrywania uszkodzeń desek dla tartaków w USA),</li>
<li>problemy granulacji modeli czy też sieci neuronowe dla uczenia maszynowego.</li>
</ul>
Profesor Andrzej Pacut kierował kilkunastoma dużymi projektami naukowymi i technicznymi, (w tym tzw. obronnościowymi), m.in. PBIB, BioPKI, BioWiz, BioSec, BioMobi, AFIQ, a także zespołem naukowym w projekcie APAKT. Odbył staże naukowe na Brown University i Oregon State. Był promotorem 11 ukończonych doktoratów. Współorganizował konferencję międzynarodową Bio-Inspired Signal and Image Processing oraz coroczne konferencje krajowe Biometria, stanowiące pierwsze forum prezentacji tworzącej się w Polsce dziedziny biometrii (biorą w nim udział uczelnie, instytucje państwowe oraz sądownictwo). Ponadto organizował i przewodniczył Komitetowi Technicznemu KT309 (ds. Biometrii) Polskiego Komitetu Normalizacyjnego, jako ekspert ISO w tym zakresie i członek KT182 PKN ds. Bezpieczeństwa Systemów Teleinformatycznych. Przez 4 lata pełnił funkcję przewodniczącego Sekcji Polskiej IEEE, obecnie – Senior Member IEEE.
Profesor Pacut jest autorem ok. 200 artykułów publikowanych w czasopismach naukowych, referatów wygłaszanych na konferencjach oraz książki „Prawdopodobieństwo – Teoria. Modelowanie probabilistyczne w technice” (WNT), a także współautorem patentu i kilku zgłoszeń patentowych. Za swoje osiągnięcia naukowe został odznaczony Krzyżem Kawalerskim Orderu Odrodzenia Polonia Restituta (2021), a także otrzymał Złoty Krzyż Zasługi oraz Medal KEN. Ponadto był wielokrotnie nagradzany przez Ministra NiSW.

Automatic search, analysis and classification of highly harmful web content (APAKT)

Challenge

What we did