CNN nieoficjalnie: O krok od poważnej wpadki wywiadu USA. Analityk skorzystał z AI

Wiosną tego roku było o krok od potencjalnego konfliktu między Chinami a Stanami Zjednoczonymi – podaje nieoficjalnie amerykańska stacja CNN. Przyczyną miał być raport wywiadowczy przygotowany przy pomocy sztucznej inteligencji.

CNN, powołując się na cztery źródła zaznajomione ze sprawą, nieoficjalnie informuje, że wiosną tego roku do armii Stanów Zjednoczonych został skierowany raport wywiadu o chińskim statku na Bliskim Wschodzie, który miał transportować elementy programu broni nuklearnej. Z ustaleń CNN wynika, że wojsko rozpoczęło przygotowania do przechwycenia okrętu, w tym wejścia na pokład. 

„Dopiero tuż przed planowaną operacją urzędnicy dokładniej przeanalizowali raport sporządzony przez analityka dowództwa operacji specjalnych i odkryli, że został on wygenerowany przy pomocy sztucznej inteligencji (AI) – a chatbot, którego analityk użył, błędnie zidentyfikował materiał przewożony na statku” – czytamy na CNN.com. Nie jest jasne, czym był tak naprawdę transportowany ładunek.

„Tragiczne wnioski”

„Bot połączył informacje wywiadowcze pochodzące ze źródeł otwartych z tajnymi danymi wywiadowczymi przechowywanymi przez rząd i doszedł do tragicznych wniosków na temat materiałów przewożonych na statku” – podaje amerykańska stacja. 

Jeden z informatorów ocenił, że raport „prawie doprowadził do wojny„. „Jakakolwiek operacja USA przeciwko chińskiemu statkowi mogła przerodzić się w konflikt zbrojny między oboma państwami” – ocenia CNN. 

Ani Dowództwo Operacji Specjalnych USA na Pacyfiku, ani Pentagon, nie odpowiedziały CNN na pytania o sprawę.”Model może udzielać odpowiedzi niezgodnych z prawdą”

Eksperci ostrzegają, że do narzędzi opartych na sztucznej inteligencji należy podchodzić z ostrożnością. Informacje podawane przez te narzędzia nie zawsze bowiem muszą być zgodne z prawdą. 

„Aplikacje oparte na AI często korzystają ze źródeł otwartych, co oznacza, że generują odpowiedzi na podstawie najpopularniejszych miejsc w Internecie. Może to prowadzić do biasowania, czyli stronniczości odpowiedzi, tendencyjności, uprzedzeń i opierania się na stereotypach reprezentowanych w sieci, a nie na obiektywnych faktach i rzetelnej wiedzy” – czytamy w poradniku dotyczącym cyberbezpieczeństwa dostępnym na rządowym portalu Gov.pl.

„Model może również halucynować, czyli udzielać odpowiedzi niezgodnych z prawdą. Zwykle wynika to z faktu, że dane, na których model był trenowany, były błędne, niewystarczające lub niedoskonałe. Dlatego warto sprawdzić źródło, z którego AI korzystała, udzielając odpowiedzi, a także zweryfikować tę odpowiedź, korzystając np. z popularnej wyszukiwarki” – dodają specjaliści. 

Źródło: gazeta.pl