Impuls dla banków oraz szpitali – na skutek badań pojawiło się nowe rozwiązanie technologiczne, które umożliwia korzystanie z modeli sztucznej inteligencji bez konieczności dzielenia się danymi osobowymi. Zespół badaczy pod kierownictwem profesora Chanyoung Parka z Wydziału Inżynierii Przemysłowej i Systemowej opracował nową metodę uczenia maszynowego, która pokonuje problemy związane z tzw. lokalnym przeuczeniem się (overfitting) modeli sztucznej inteligencji, co stanowi kluczowy aspekt dla sektorów krytycznie zależnych od bezpieczeństwa, takich jak bankowość czy sektor zdrowia.
Problem lokalnego overfittingu w uczeniu federacyjnym
Lokalne overfitting to zjawisko, które pojawia się podczas dostosowywania "Wspólnego Modelu AI" do danych każdej instytucji. Przykładowo, bank może dostosować wspólny model do swoich danych, tworząc specjalistyczne AI do analizy kredytów dla przedsiębiorstw. Jednakże w trakcie tego procesu inteligencja sztuczna traci wiedzę na temat innego rodzaju danych, np. danej klientów indywidualnych, które inni uczestnicy miały do dyspozycji. Ta utrata informacji prowadzi do stopniowego nadrzędnego dostosowania AI do danych jednej instytucji, co oznacza utratę umiejętności (tzw. zdolności uogólniających) rozwiązywania innych rodzajów problemów.
Dzieje się tak, ponieważ wiedza, którą model zdobył wcześniej, ulega rozmyciu. Doprowadza to do problemu lokalnego overfittingu, kiedy sztuczna inteligencja przystosowuje się do cech specyficznych dla określonej instytucji. Może to w konsekwencji prowadzić do obniżenia efektywności działania modelu w innych obszarach.
Wykorzystanie danych syntetycznych
Zespołowi profesora Parka udało się zastosować syntetyczną metodę danych, aby rozwiązać ten problem. Badacze wyekstrahowali jedynie kluczowe i reprezentatywne cechy z danych każdej instytucji, tworząc wirtualne dane, które nie zawierają informacji osobowych. Wykorzystali je następnie w procesie dostosowywania modelu.
To rozwiązanie sprawia, że sztuczna inteligencja poszczególnych instytucji może rozwijać swoją specjalizację zgodnie z posiadanymi danymi, nie wymagając jednocześnie udostępniania informacji o charakterze osobowym. Pozwala to na zachowanie zdolności uogólniających zdobytych podczas wspólnego uczenia.
W jakim celu wykorzystywane są dane syntetyczne?
Technologia zaproponowana przez zespół badaczy radzi sobie z problemem lokalnego przeuczenia poprzez wykorzystanie danych syntetycznych. Kiedy każda instytucja dostosowuje swój model AI do własnych danych, jednocześnie korzysta ona z "globalnych danych syntetycznych", które są tworzone na podstawie danych innych instytucji.
Syntetyczne dane pełnią w tym procesie funkcję swoistego "szczepionki", która pomaga uniknąć zapomnienia przez AI informacji, które nie są obecne w lokalnych danych. Dzięki temu, model AI zyskuje ekspertyzę na konkretnych danych, nie tracąc jednocześnie zdolności do radzenia sobie z innymi rodzajami danych.