Polska spółka sektora kosmicznego KP Labs, we współpracy z Europejską Agencją Kosmiczną (ESA), Europejskim Centrum Operacji Kosmicznych (ESOC), Europejskim Centrum Badań i Technologii Kosmicznych (ESTEC) oraz zespołem MI2.AI z Politechniki Warszawskiej, poinformowała o realizacji projektu PINEBERRY – inicjatywy, której celem jest zwiększenie bezpieczeństwa, przejrzystości i niezawodności systemów sztucznej inteligencji (AI) wykorzystywanych w misjach kosmicznych.
Projekt PINEBERRY, czyli Explainable, Robust, and Secure AI for Demystifying Space Mission Operations, koncentruje się na dwóch podstawowych zagadnieniach sztucznej inteligencji: wyjaśnialności (Explainable AI – XAI) i bezpieczeństwie (Secure AI – SAI), które są kluczowe w rozwiązywaniu wyzwań wynikających z rosnącego zastosowania AI w misjach kosmicznych. XAI zapewnia przejrzystość systemów AI, umożliwiając operatorom zrozumienie procesu podejmowania decyzji przez autonomiczne systemy. SAI z kolei chroni te systemy przed zagrożeniami, takimi jak uszkodzenie danych, cyberataki czy nadmierne poleganie na AI. Projekt podkreśla również, że wyjaśnianie AI ma na celu tłumaczenie modeli sztucznej inteligencji użytkownikom, badaczom i twórcom, pomagając im lepiej zrozumieć sposób ich działania i zwiększając zaufanie użytkowników do ich niezawodności. Z kolei SAI zabezpiecza systemy przed takimi zagrożeniami, jak wirusy, ataki na integralność modeli czy niepożądane wgrywanie danych.
Dlaczego bezpieczeństwo AI i jego wyjaśnianie są ważne?
Każda misja kosmiczna opiera się na niezawodnej transmisji danych pomiędzy statkami kosmicznymi, sondami lub satelitami a Ziemią. Jakakolwiek utrata integralności danych – czy to zamierzona, czy przypadkowa – może zagrozić kluczowym operacjom, od nawigacji, poprzez pozyskanie zasilania, po prowadzenie eksperymentów naukowych. Dlatego w ramach projektu PINEBERRY wdrażane są zaawansowane techniki, takie jak oczyszczanie danych, strategie szkolenia modeli (np. ensembling) oraz ciągłe monitorowanie systemów, aby przeciwdziałać takim ryzykom.
Każda misja kosmiczna opiera się na niezawodnej transmisji danych pomiędzy statkami kosmicznymi, sondami lub satelitami a Ziemią. Jakakolwiek utrata integralności danych – czy to zamierzona, czy przypadkowa – może zagrozić kluczowym operacjom, od nawigacji, poprzez pozyskanie zasilania, po prowadzenie eksperymentów naukowych. Dlatego w ramach projektu PINEBERRY wdrażane są zaawansowane techniki, takie jak oczyszczanie danych, strategie szkolenia modeli (np. ensembling) oraz ciągłe monitorowanie systemów, aby przeciwdziałać takim ryzykom.
Równocześnie kontrolerzy misji ESA potrzebują pełnej wiedzy na temat procesu podejmowania decyzji przez systemy AI, szczególnie w sytuacjach krytycznych, gdzie nadzór ludzki jest ograniczony. Opracowane w ramach projektu PINEBERRY techniki wyjaśnialności (XAI) pozwalają odkrywać tzw. „czarne skrzynki” modeli AI, zapewniając przejrzystość w odniesieniu do różnych typów danych, takich jak telemetria, tekst czy dane wizualne.
Krzysztof Kotowski, lider projektu w KP Labs, wyjaśnia:
„W eksploracji kosmosu każda decyzja podejmowana przez autonomiczne systemy musi być bezpieczna i przejrzysta. PINEBERRY to nasza odpowiedź na rosnącą potrzebę zaufanych rozwiązań AI, które mogą działać bezpiecznie w najbardziej wymagających warunkach kosmicznych. Łącząc bezpieczeństwo z wyjaśnialnością, wyznaczamy nowe standardy dla AI w operacjach kosmicznych.”
„W eksploracji kosmosu każda decyzja podejmowana przez autonomiczne systemy musi być bezpieczna i przejrzysta. PINEBERRY to nasza odpowiedź na rosnącą potrzebę zaufanych rozwiązań AI, które mogą działać bezpiecznie w najbardziej wymagających warunkach kosmicznych. Łącząc bezpieczeństwo z wyjaśnialnością, wyznaczamy nowe standardy dla AI w operacjach kosmicznych.”
AI w misjach ESA
Rozwiązania projektu są już testowane w scenariuszach misji przygotowanych specjalnie na potrzeby PINEBERRY. Pokazują one, jak można stosować zaawansowane techniki sztucznej inteligencji w przyszłej eksploracji kosmosu. Dodatkowo na potrzeby projektu opracowano pięć aplikacji typu proof-of-concept, które rozwiązują wyzwania związane z wizją komputerową, analizą szeregów czasowych i przetwarzaniem języka naturalnego. Te rozwiązania nie tylko wskazują nowe możliwości dla twórców AI, ale także są adaptowalne dla danych specyficznych dla misji ESA.
Rozwiązania projektu są już testowane w scenariuszach misji przygotowanych specjalnie na potrzeby PINEBERRY. Pokazują one, jak można stosować zaawansowane techniki sztucznej inteligencji w przyszłej eksploracji kosmosu. Dodatkowo na potrzeby projektu opracowano pięć aplikacji typu proof-of-concept, które rozwiązują wyzwania związane z wizją komputerową, analizą szeregów czasowych i przetwarzaniem języka naturalnego. Te rozwiązania nie tylko wskazują nowe możliwości dla twórców AI, ale także są adaptowalne dla danych specyficznych dla misji ESA.
Profesor Przemysław Biecek z zespołu MI2.AI Politechniki Warszawskiej podkreśla wagę zaufania do danych AI w misjach kosmicznych: „Złożoność operacji kosmicznych wymaga systemów AI, które są nie tylko zaawansowane, ale również zrozumiałe. Dzięki PINEBERRY tworzymy narzędzia, które demistyfikują działanie AI, zapewniając operatorom możliwość zaufania i polegania na tych systemach w krytycznych momentach.”
Projekt będzie także skierowany do społeczności specjalistów i entuzjastów sztucznej inteligencji poprzez serię wyzwań naukowych „Secure Your AI”, które odbędą się w III kwartale 2025 roku. Ich uczestnicy będą mieli okazję zmierzyć się z rzeczywistymi scenariuszami, hackując i zabezpieczając modele AI używane do analizy telemetrii satelitarnej. Kulminacyjnym wydarzeniem będzie hackathon, promujący współpracę pomiędzy środowiskiem AI i eksploracji kosmosu.
Współpraca napędza innowacje
PINEBERRY jest doskonałym przykładem korzyści, jakie przynosi współpraca na europejskim poziomie pomiędzy jednostkami sektora kosmicznego i uczelniami wyższymi. Każda jednostka projektu wnosi swoje doświadczenie i wiedzę. Podczas gdy ESA nadzoruje zgodność projektu z europejskimi standardami, KP Labs kieruje technicznym rozwojem ram AI. Politechnika Warszawska wnosi zaawansowaną wiedzę z zakresu bezpieczeństwa i wyjaśnialności AI, a Europejskie Centrum Operacji Kosmicznych (ESOC) weryfikuje rozwiązania w kontekście scenariuszy misji.
PINEBERRY jest doskonałym przykładem korzyści, jakie przynosi współpraca na europejskim poziomie pomiędzy jednostkami sektora kosmicznego i uczelniami wyższymi. Każda jednostka projektu wnosi swoje doświadczenie i wiedzę. Podczas gdy ESA nadzoruje zgodność projektu z europejskimi standardami, KP Labs kieruje technicznym rozwojem ram AI. Politechnika Warszawska wnosi zaawansowaną wiedzę z zakresu bezpieczeństwa i wyjaśnialności AI, a Europejskie Centrum Operacji Kosmicznych (ESOC) weryfikuje rozwiązania w kontekście scenariuszy misji.
Projekt jest także kolejnym dowodem na zaufanie ESA do kompetencji KP Labs. Potwierdzają je wcześniejsze projekty gliwickiej firmy. Intuition-1, satelita klasy 6U wystrzelony w listopadzie 2023 roku, z powodzeniem wdrożył przetwarzanie obrazów hiperspektralnych na orbicie, redukując ilość danych przesyłanych na Ziemię, a także zastosował inteligentne wykrywanie pokrywy chmur. Z kolei eksperyment LeopardISS, który zostanie wyniesiony na Międzynarodową Stację Kosmiczną w ramach polskiej misji IGNIS w maju 2025 roku, będzie testował zaawansowane algorytmy AI w warunkach kosmicznych.
Więcej informacji o projekcie można znaleźć na stronie assurance-ai.space-codev.org, a o działalności KP Labs na stronie kplabs.space.