Laboratory for vulnerability testing of desktop and mobile computing devices and algorithms and software (LAVA)

Laboratorium badania podatności stacjonarnych i mobilnych urządzeń informatycznych oraz algorytmów i oprogramowania (LAVA)

struktura-s

Struktura-s

projekty_lava_ikona

Projekty_LAVA_ikona

Dr inż. Mateusz Krzysztoń

The project assumes that the results of the vulnerability research are intended to prevent cyber criminals from carrying out illegal activities and organizing acts of cyber terrorism, closely involving the use of mobile devices. Especially dangerous for users of PEGI 12, PEGI 16 and PEGI 18 age groups.
The main goal of the project is to build a vulnerability analysis laboratory equipped with:

<ul>
<li>experimental laboratory station for vulnerability testing of devices and software,</li>
<li>vulnerability scanning in IT systems using innovative methods developed during the project,</li>
<li>tools for static application analysis and behavioral analysis.</li>
</ul>

Projekt zakłada, że rezultaty badań podatności (czyli słabości systemów) mają na celu uniemożliwić cyberprzestępcom prowadzenie działań o charakterze nielegalnym i organizowanie aktów cyberterroryzmu, ściśle wiążących się z użyciem urządzeń mobilnych. Szczególnie groźnych dla użytkowników grup wiekowych PEGI 12, PEGI 16 i PEGI 18.
Głównym celem projektu jest zbudowanie laboratorium analizy podatności wyposażonego w:

<ul>
<li>eksperymentalne stanowisko laboratoryjne do badań podatności urządzeń i oprogramowania,</li>
<li>skanowanie podatności w systemach IT za pomocą innowacyjnych metod opracowanych w trakcie projektu,</li>
<li>narzędzia do statycznej analizy aplikacji i analizy behawioralnej.</li>
</ul>

The project will develop innovative methods for testing devices and applications using artificial intelligence and machine learning techniques. An important aspect of the work is also the automation of software testing and the development of appropriate procedures and methodologies. One of the products of the LaVa project is a consistent methodology for assessing the security level of IoT devices. As part of the project, we are also conducting a detailed review of existing tools and verifying their suitability in the context of performing tests on IoT devices. Based on this, a coherent tool environment (in the form of a software set) for performing security tests of IoT devices is created.
In the area of artificial intelligence security, we are developing a generic methodology to determine the degree of vulnerability of predictive models enabling their comparison. Our work is focused in the area of cyber-physical systems (robotics, industrial automation) and cybersecurity. For the purpose of testing mobile devices and applications, the project is creating an environment for dynamic long-term analysis of mobile applications under near-real conditions &#8211; an isolated, secure testing environment and a repository of behavioral models describing the performance of mobile applications.
Vulnerability testing of mobile applications will take into account various application usage profiles taking into account device movement, location changes, resource sharing with other applications, network connections, different versions of the operating system and software specific to major mobile device producers.

W trakcie projektu powstaną innowacyjne metody badania urządzeń i aplikacji z zastosowaniem technik sztucznej inteligencji i uczenia maszynowego. Ważnym aspektem prac jest także automatyzacja testów oprogramowania oraz opracowanie odpowiednich procedur i metodyk. Jednym z produktów projektu LaVa jest spójna metodyka oceny poziomu bezpieczeństwa urządzeń IoT. W ramach projektu dokonujemy także szczegółowego przeglądu istniejących narzędzi oraz weryfikujemy ich przydatności w kontekście wykonywania testów urządzeń IoT. Na tej podstawie, tworzone jest spójne środowisko narzędziowe (w postaci zestawu oprogramowania) służące przeprowadzaniu testów bezpieczeństwa urządzeń IoT. 
W obszarze bezpieczeństwa sztucznej inteligencji opracowujemy generyczną metodykę pozwalającą na określenie stopnia podatności modeli predykcyjnych umożliwiającą ich porównanie. Prace koncentrują się w obszarze systemów cyberfizycznych (robotyka, automatyka przemysłowa) i cyberbezpieczeństwa. Na potrzeby badań urządzeń i aplikacji mobilnych w ramach projektu powstaje środowisko do dynamicznej długookresowej analizy aplikacji mobilnych w warunkach zbliżonych do rzeczywistych – wyizolowane, bezpieczne środowisko do badań oraz repozytorium modeli behawioralnych opisujących działanie aplikacji mobilnych. 
Badania podatności aplikacji mobilnych będą uwzględniały różne profile użytkowania aplikacji uwzględniające ruch urządzenia, zmiany lokalizacji, współdzielenie zasobów z innymi aplikacjami, połączenia sieciowe, różne wersje systemu operacyjnego oraz oprogramowanie specyficzne dla głównych producentów urządzeń mobilnych.

Mateusz Krzysztoń heads a team that conducts research and development work on the application of machine learning in cybersecurity. The first area of research concerns the detection of unknown threats in cyberspace, including, among others, new malicious applications on mobile devices or new types of attacks on ICT systems by observing network traffic. The second is to study and evaluate the security of machine learning models, particularly the vulnerability of these models to attacks.
The team&#8217;s biggest success is the development of a lightweight detector for new malicious applications on Android. The detector runs entirely on the client&#8217;s mobile device, so that information about the apps the user installs does not go beyond his device. The solution is currently being implemented as part of the BotSense system widely used by banking institutions in Poland.

Dr Mateusz Krzysztoń

Mateusz Krzysztoń kieruje zespołem, który prowadzi prace badawczo-rozwojowe dotyczące zastosowania uczenia maszynowego w cyberbezpieczeństwie. Pierwszy obszar badań dotyczy wykrywania nieznanych zagrożeń w cyberprzestrzeni, w tym m.in. nowych aplikacji złośliwych na urządzeniach mobilnych czy nowych rodzajów ataków na systemy teleinformatyczne poprzez obserwację ruchu sieciowego. Drugi, to badanie i ocena bezpieczeństwa modeli uczenia maszynowego, w szczególności podatności tych modeli na ataki. 
Największym sukcesem jego zespołu jest opracowanie lekkiego detektora nowych aplikacji złośliwych na Androida. Detektor działa w pełni na urządzeniu mobilnym klienta, dzięki czemu informacje o instalowanych przez użytkownika aplikacjach nie wychodzą poza jego urządzenie. Rozwiązanie jest aktualnie wdrażane w ramach powszechnie wykorzystywanego w Polsce przez instytucje bankowe systemu BotSense.

Laboratory for vulnerability testing of desktop and mobile computing devices and algorithms and software (LAVA)

Challenge

What we did