Sztuczna inteligencja. Szanse i zagrożenia w świecie techniki i dozoru technicznego                      

Trudności w weryfikacji wyników SI

• Użytkownik może mieć ograniczone możliwości samodzielnego potwierdzenia diagnozy SI, szczególnie przy skomplikowanych modelach.
• Pojawia się potrzeba „audytu SI” – czyli oceny samego systemu, nie tylko jego rekomendacji.

Cyberbezpieczeństwo systemów wspieranych przez SI

• Systemy SI są podatne na ataki:
• Data poisoning – celowe „zatrucie” danych wejściowych, by SI wyciągała błędne wnioski.
• Adversarial attacks – specjalnie spreparowane dane wejściowe, które wprowadzają model w błąd (np. niewidoczne dla człowieka zmiany w obrazie z kamery).
• Szczególnie groźne w kontekście autonomicznych systemów monitorujących (np. kamery inspekcyjne, czujniki bezpieczeństwa, drony).

Ryzyko zaniku kompetencji ludzkich

• Nadmierne poleganie na SI może prowadzić do erozji kompetencji pracowników – zamiast rozumieć zjawiska, użytkownicy polegają na rekomendacjach systemu.
• Pojawia się potrzeba redefinicji roli człowieka jako „nadzorcy SI”, nie tylko operatora.

Brak norm i standardów w zastosowaniach AI w dozorze

• Obecnie brak jest jednoznacznych wytycznych, jak certyfikować, walidować i nadzorować systemy SI stosowane w urządzeniach objętych dozorem technicznym.

Inne istotne zagrożenia

Oprócz wymienionych powyżej zagrożeń warto wyróżnić dwa zastosowania generatywnej sztucznej inteligencji do celów przestępczych. Tworzenie bardzo dużej ilości treści tekstowych oraz multimedialnych przez algorytmy SI przeniosło klasyczne przestępstwa takie jak kradzież, podszywanie się czy dezinformacja na zupełnie nowy poziom. Przestępcy wykorzystują generatory obrazu i wideo oraz klonowanie głosu do tworzenia tzw. deepfake’ów.

Prompt Autora do Chatu SI: Co to jest deepfake?

Chat bot SI odpowiada:

Deepfake to technologia oparta na sztucznej inteligencji (Al), która umożliwia tworzenie bardzo

realistycznych, ale fałszywych obrazów, nagrań wideo lub dźwięku. Nazwa pochodzi od połączenia słów „deep learning” (głębokie uczenie) i „fake” (fałszywy).

Jak działa deepfake?

Deepfake wykorzystuje sieci neuronowe, zwłaszcza generatywne sieci przeciwstawne (GANs), do:

• zamiany twarzy jednej osoby na twarz innej w filmie lub zdjęciu,
• generowania realistycznych wypowiedzi głosowych na podstawie próbek głosu,
• tworzenia całkowicie sztucznych postaci lub scen.

Realny przykład użycia

Fałszywe przemówienie prezydenta Ukrainy (2022)

W marcu 2022 roku w sieci pojawiło się zmanipulowane wideo, na którym prezydent Ukrainy Wołodymyr Zełenski rzekomo ogłasza kapitulację i nawołuje żołnierzy do złożenia broni. Nagranie zostało szybko zdementowane przez ukraińskie władze, ale jego celem było wywołanie chaosu i osłabienie morale w czasie wojny [źródło nr 3].

Innym przykładem jest wykorzystanie generatorów tekstu do tworzenia tzw. fake newsów, czyli nieprawdziwych wiadomości. Tworzenie fałszywych informacji znane jest ludzkości od początków cywilizacji i wykorzystywane jest między innymi do manipulacji opinii publicznej oraz szerzenia dezinformacji. Wykorzystanie generatywnej sztucznej inteligencji w celu tworzenia fake newsów stało się bardzo dużym wyzwanie w infosferze, ponieważ ta technologia umożliwia szybkie, masowe i realistyczne generowanie treści, które trudno odróżnić od prawdziwych informacji, co prowadzi do dezinformacji, podważania zaufania społecznego oraz destabilizacji debat publicznych.

Prompt Autora do Chatu SI: Czym jest fakenews?

Chat bot SI odpowiada:

Fake news (z ang. „fałszywe wiadomości”) to nieprawdziwe lub wprowadzające w błąd informacje, które są rozpowszechniane jako wiadomości, często z zamiarem manipulacji opinią publiczną, wywołania sensacji lub osiągnięcia korzyści politycznych, finansowych czy społecznych.

Główne cechy fake newsów:

1. Brak wiarygodnych źródeł – często nie zawierają odniesień do sprawdzonych informacji.
2. Sensacyjny język – mają przyciągać uwagę i wywoływać silne emocje.
3. Manipulacja faktami – mogą zawierać częściowo prawdziwe informacje, ale przedstawione w sposób zniekształcający rzeczywistość.
4. Szybkie rozprzestrzenianie się – szczególnie w mediach społecznościowych, gdzie użytkownicy często udostępniają treści bez ich weryfikacji.

Mogą zainteresować Cię również

Analityka danych ważniejsza dla firm z branży produkcyjnej niż sztuczna inteligencja

AI w przemyśle – jak sztuczna inteligencja może wspierać linie montażowe?

Bezpłatny raport „Najbardziej zyskowne technologie. Trendy w rozwiązaniach B2B”

zobacz więcej