Zgjerimi i dronë autonomë me inteligjencë artificiale Po e ndryshon plotësisht peizazhin e sigurisë, mbikëqyrjes dhe madje edhe të luftës moderne. Ajo që dukej si fantastikë shkencore disa vite më parë, tani është rutinë: mjete ajrore pa pilot të afta për të ndjekur njerëzit, për të patrulluar kufijtë ose për të regjistruar çdo lëvizje në detaje, praktikisht pa ndërhyrje njerëzore.
Në këtë kontekst kaq të mbushur me teknologji të përparuar, është pothuajse surreale të zbulosh se një një objekt aq i zakonshëm sa një ombrellë Mund të sfidojë disa nga këto sisteme të përparuara. Një grup studiuesish nga Universiteti i Kalifornisë, Irvine (UC Irvine) ka demonstruar se, me modelin e duhur vizual, një çadër e thjeshtë mund të "mashtrojë", tërheqë dhe madje të neutralizojë modele të caktuara të dronëve komercialë që përdorin gjurmim autonom bazuar në vizionin kompjuterik.
Rritja e dronëve autonomë dhe pse po shkaktojnë kaq shumë shqetësim
Në vitet e fundit, përdorimi i mjete ajrore pa pilot në mbarë botën. Nuk po flasim më vetëm për dronë të vegjël rekreativë për regjistrimin e videove spektakolare, por për platforma shumë më serioze të përdorura për mbikëqyrjen urbane, monitorimin e infrastrukturës kritike, kontrollin kufitar ose mbështetjen e operacioneve policore dhe ushtarake.
Në skenarë të tillë si lufta midis Rusisë dhe Ukrainës Është bërë e qartë se sa të domosdoshëm janë bërë dronët. Ekzistojnë modele kamikaze, pajisje të specializuara në gjurmimin e objektivave, sisteme të lidhura me fibra optike për të siguruar komunikim të qëndrueshëm dhe, gjithnjë e më shumë, pajisje që përfshijnë inteligjencën artificiale për të marrë vendime vetë në mes të fluturimit.
Kjo autonomi bazohet në përdorimin e sensorë optikë të përparuar dhe algoritmet e vizionit kompjuterik Këto karakteristika i lejojnë dronit të identifikojë njerëz ose objekte, t'i gjurmojë ata dhe të reagojë ndaj lëvizjeve të tyre pa pasur nevojë që piloti të korrigjojë vazhdimisht trajektoren. Në produktet e konsumit, kjo është ajo që tregtohet si funksione "gjurmë aktive" ose "gjurmë dinamike".
Problemi është se, ndërsa përdorimi i këtyre sistemeve zgjerohet për operacione mbikëqyrjeje, patrullimi dhe sigurieEkziston gjithashtu një rrezik në rritje i keqpërdorimit: ngacmimi, spiunazhi, shkelja e privatësisë ose monitorimi i fshehtë në hapësira ku njerëzit as nuk janë të vetëdijshëm se po vëzhgohen.
Studiuesit dhe ekspertët e sigurisë kibernetike kanë paralajmëruar prej kohësh se mbrojtja e këtyre sistemeve nuk mund të kufizohet vetëm në komponentët elektronikë (lidhjet radio, komunikimet e koduara, muret e zjarrit). perceptimi vizual dhe algoritmet e inteligjencës artificiale Ata që marrin vendime bazuar në atë që "shohin" mund të bëhen gjithashtu një pikë e dobët, dhe pikërisht këtu hyn në lojë eksperimenti kurioz i ombrellës.
Projekti FlyTrap: kur një çadër bëhet një armë mbrojtëse
Një ekip specialistësh të sigurisë dhe vizionit kompjuterik nga Universiteti i Kalifornisë, Irvine Ata vendosën të mos ndiqnin rrugën e zakonshme të projektimit të dronëve gjithnjë e më të sofistikuar dhe sulmues. Në vend të kësaj, ata ngritën një pyetje tjetër: A është e mundur duke u mbrojtur nga dronët autonomë duke përdorur objekte të thjeshta, pa përdorur bllokues frekuencash, hakerim ose pajisje të shtrenjta ushtarake?
Nga kjo ide lindi FlyTrap, një metodë sulmi fizik kundër algoritmeve autonome të ndjekjes Ai mbështetet në një model grafik të projektuar posaçërisht për të ngatërruar sistemin e shikimit të dronit. Në vend që ta çaktivizojë elektronikisht pajisjen, qëllimi është të manipulojë atë që "mendon" se po ndodh para kamerës së tij.
Studiuesit e përqendruan analizën e tyre te dronët që përdorin Ndjekja e objektivave bazuar në vizionin kompjuterikKëto janë pajisje që zbulojnë dhe gjurmojnë një person ose objekt bazuar në informacionin vizual të kapur nga kamerat e tyre. Ndër modelet e analizuara janë disa shumë të njohura në treg, të tilla si DJI Mini 4 Pro, DJI Neo dhe HoverAir X1.
Pasi studioi se si këto sisteme interpretojnë lëvizjen e objektivit, ekipi zbuloi një dobësi kyçe: në kushte të caktuara, algoritmi mund të manipulohet nëse i paraqitet një model vizual i projektuar me kujdes që ndryshon perceptimin e tyre për distancën dhe drejtimin e lëvizjes.
Ky model, i quajtur FlyTrap, u shtyp në sipërfaqen e një çadre të zakonshme. Rezultati ishte një armë mbrojtëse çuditërisht e lirë dhe e arritshme kundër dronëve autonomë që, në letër, duhet të jetë shumë e vështirë për t'u tejkaluar pa mjete teknike të sofistikuara.
Si funksionon saktësisht truku vizual i çadrës?
Thelbi i FlyTrap qëndron në mënyrën se si algoritmet e gjurmim autonom bazuar në rrjetet nervore Ata interpretojnë atë që kapin kamerat e dronit. Këto sisteme analizojnë imazhin kornizë pas kuadri dhe llogarisin se si lëviz objektivi në ekran për të vendosur se ku duhet të lëvizë avioni dhe me çfarë shpejtësie.
Dizajni grafik i shtypur në çadër bën që droni të "lexojë" një situatë që nuk korrespondon me realitetin: modeli është projektuar në mënyrë që sistemi i shikimit të arrijë në përfundimin se objektivi është duke u larguar nga droni, kur, në realitet, personi që mban çadrën është praktikisht ende në të njëjtin vend.
I përballur me këtë keqinterpretim, softueri i gjurmimit bën atë për të cilën është programuar: përpiqet të zvogëloni distancën derisa të arrijë objektivin e tij, duke e mbajtur atë brenda diapazonit optimal të ndjekjes. Me fjalë të tjera, droni afrohet gradualisht, duke korrigjuar vazhdimisht trajektoren e tij në një përpjekje për të "kompensuar" këtë distancë të perceptuar.
Kjo sjellje gjeneron një të vërtetë sulm tërheqjeje në distancëNë vend që ta çorientojë dronin dhe ta bëjë të humbasë gjurmët, çadra në fakt e josh atë të afrohet gjithnjë e më shumë. Pajisja mund t'i afrohet aq shumë personit që mban çadrën saqë bëhet një objektiv i lehtë për t'u kapur me rrjetë ose edhe për një përplasje të kontrolluar.
Avantazhi i madh i kësaj qasje është se nuk kërkon ndërhyrje elektromagnetike ose qasje në softuerin e dronitNuk ka nevojë ta hakosh, të kapësh sinjalin e kontrollit ose të përdorësh pajisje ushtarake. Mjafton një çadër me dizajnin e duhur për të shfrytëzuar një dobësi shumë specifike në algoritmet e vizionit kompjuterik.
Testet me dronë komercialë dhe rezultatet e studimit
Për të verifikuar se ideja ishte më shumë sesa thjesht një kuriozitet laboratorik, ekipi i UC Irvine kreu eksperimente sistematike me dronë komercialë që përfshijnë funksione autonome të ndjekjes që përdoren gjerësisht sot.
Studiuesit zgjodhën tre modele përfaqësuese nga tregu i konsumit: DJI Mini 4 Pro, DJI Neo dhe HoverAir X1Të gjitha kanë modalitete "gjurmë aktive" ose "gjurmë dinamike" të projektuara për të lejuar pajisjen të ndjekë një person pa pasur nevojë që ai të përdorë vazhdimisht telekomandën.
Në testet, një person qëndroi në një zonë të hapur me çadrën FlyTrap të hapur, ndërsa droni aktivizoi modalitetin automatik të gjurmimit mbi atë subjekt. Sistemi autonom më pas u lejua të bënte punën e tij, pa korrigjime manuale, duke vëzhguar se si reagonte ndaj model grafik ombrellë.
Rezultatet ishin përfundimtare: në të tre modelet e dronëve të analizuar, Metoda FlyTrap tërhoqi me sukses avionin në distanca shumë të shkurtra, të mjaftueshme për ta kapur fizikisht me një rrjetë ose për ta bërë të përplaset me një strukturë ose pajisje tjetër nëse dëshirohet.
Studiuesit i përsëritën eksperimentet në kushte të ndryshme ndriçimi dhe moti, duke arritur shkallë shumë të larta suksesi. Sipas të dhënave të paraqitura në forumet e sigurisë, siç është konferenca NDSS, sistemi e ruajti efektivitetin e tij edhe me ndryshimet në dritën e ambientit dhe mjedisin përreth, gjë që përforcon qëndrueshmërinë e saj praktike.
Si pjesë e procesit të zbulimit të përgjegjshëm, ekipi i komunikoi cenueshmërinë prodhuesit e dronëve të përfshirë, duke përfshirë DJI dhe HoverAir, përpara se të bënin publike të gjitha detajet teknike. Qëllimi ishte t'u jepej kompanive kohë për të eksploruar zbutjet e mundshme ose përditësimet e firmware-it që do të forconin qëndrueshmërinë e algoritmeve të tyre kundër këtyre llojeve të sulmeve fizike.
Rreziqet dhe rastet e përdorimit: nga siguria publike te ngacmimi
Përtej anekdotës së të qenit në gjendje të "gjuash" një dron me një çadër, studimi FlyTrap sjell në tryezë... implikime serioze të sigurisë dhe vendosjen masive të sistemeve autonome. Profesori Alfred Chen, bashkautor i hulumtimit dhe profesor i shkencave kompjuterike në UC Irvine, thekson se gjurmimi automatik është një shpatë me dy tehe.
Nga njëra anë, këto funksione janë shumë të dobishme për operacionet e sigurisë publike, patrullimet kufitare ose mbikëqyrja e infrastrukturësAto lejojnë që një dron të monitorojë zona të mëdha ose të ndjekë një të dyshuar pa pasur nevojë për pilotim të vazhdueshëm, duke kursyer burime dhe duke përmirësuar kapacitetin e reagimit të autoriteteve.
Nga ana tjetër, e njëjta teknologji mund të përdoret për qëllime shumë më pak fisnike: Ngacmim individual, spiunazh, shkelje e privatësisë në hapësira publike ose private, gjurmim i paautorizuar i njerëzve, etj. Kur kushdo mund të blejë një dron me gjurmim autonom dhe ta përdorë atë për qëllime të dyshimta, ekuilibri midis sigurisë dhe rrezikut bëhet i ndërlikuar.
Shaoyuan Xie, autori kryesor i studimit dhe gjithashtu shkencëtar kompjuterash, thekson lehtësinë me të cilën një ombrellë e thjeshtë mund të... për të kontrolluar sjelljen e disa dronëve autonomë Kjo na detyron të rimendojmë përdorimin e këtyre pajisjeve në mjedise të ndjeshme. Nëse ato janë kaq të lehta për t'u manipuluar fizikisht, ndoshta vendosja e tyre duhet të kufizohet ose të rregullohet në skenarë ku një shkelje e sigurisë mund të ketë pasoja serioze.
Për më tepër, sulmi nuk mund të përdoret vetëm për të neutralizojnë dronët armiqësorë ose pushtuespor edhe për të shmangur mbikëqyrjen legjitime. Një grup i organizuar mund të përdorë variacione të modelit FlyTrap për t'u fshehur nga dronët e policisë ose ushtrisë, duke krijuar zona në hije ose duke bërë që avionët të afrohen shumë afër dhe të bëhen të prekshëm.
Një sulm fizik që rihap debatin mbi sigurinë kibernetike të dronëve
Një nga aspektet më të habitshme të rastit FlyTrap është se ai përfshin një sulm fizik kundër algoritmeve të perceptimitNuk është një ndërhyrje dixhitale. Nuk ka ndërhyrje në firmware, nuk ka qasje në sistem nga distanca dhe nuk ka ndërhyrje në komunikimet radio. E gjitha ndodh në botën reale, përpara kamerës së dronit.
Këto lloje dobësish, të njohura si sulme fizike kundërshtare, tregojnë se Siguria e sistemeve të inteligjencës artificiale Shkon përtej programeve të kontrollit dhe rrjeteve të të dhënave. Nëse algoritmi që interpreton realitetin mund të mashtrohet nga modelet vizuale në mjedis, lidhja e dobët mund të jetë diçka aq e parëndësishme sa një model ombrellë.
Në rastin e FlyTrap, modeli është projektuar posaçërisht për të shfrytëzuar mangësi në mënyrën se si rrjetet nervore llogarisin lëvizjen dhe distanca deri te objektivi. Në vend që të fshihet personi, perceptimi manipulohet në mënyrë që droni të besojë se personi po largohet.
Kjo qasje thekson se masat standarde të sigurisë - enkriptimi i komunikimit, autentifikimi i fortë, kontrollet e aksesit - nuk janë të mjaftueshme për të mbrojtur një Sistemi UAS me funksione autonomeËshtë gjithashtu thelbësore të forcohet qëndrueshmëria e algoritmeve të vizionit kompjuterik kundër modeleve vizuale dashakeqe.
Ndërsa përdorimi i dronëve të mundësuar nga inteligjenca artificiale bëhet më i përhapur në mjediset urbane, infrastruktura kritike dhe operacionet policoreInjorimi i këtyre llojeve të rreziqeve mund të hapë derën për incidente serioze. Nuk ka të bëjë vetëm me dikë që rrëzon një dron komercial, por me strategji të ngjashme që zbatohen në kontekste me ndjeshmëri më të madhe strategjike.
Zbatimet mbrojtëse dhe kufizimet e metodës ombrellë
Nga perspektiva e publikut, zbulimi i UC Irvine ofron gjithashtu një mundësi të mundshme mjet mbrojtës me kosto të ulëtNjë person që ndiqet nga një dron në modalitetin e gjurmimit autonom, në teori, mund të përdorë një çadër me një model FlyTrap për të tërhequr pajisjen dhe për ta neutralizuar atë, gjithmonë brenda kufijve ligjorë të vendit të tyre.
Kjo mundësi hap debatin rreth e drejta për vetëmbrojtje kundër mbikëqyrjes ajroreSidomos në rastet e ngacmimit, spiunazhit ose ndërhyrjes së paligjshme në jetën private. Përballë teknologjive të mbikëqyrjes që duken të paarritshme për qytetarin mesatar, një objekt i thjeshtë si një çadër bëhet një lloj kundërmase e arritshme.
Megjithatë, vetë ekipi i hulumtimit paralajmëron se FlyTrap nuk është një zgjidhje magjike e zbatueshme për çdo dronEfektiviteti i tij varet nga pajisja që përdor algoritme të caktuara të gjurmimit të bazuara në vizionin kompjuterik dhe nga mënyra autonome e gjurmimit që aktivizohet.
Për më tepër, replikimi i modelit pa një kuptim të thellë se si rrjetet nervore përpunojnë imazhet mund të mos japë të njëjtin rezultat. Thjesht printimi i një dizajni tërheqës dhe pritja që ai të funksionojë është e pamjaftueshme: suksesi i metodës qëndron në optimizimi matematik dhe eksperimental i modelit grafik.
Duhet të merret në konsideratë edhe kuadri ligjor: rrëzimi ose kapja e një droni mund të rregullohet ose edhe të ndalohet, varësisht nga vendi dhe lloji i operacionit që kryen pajisja. Përpara se të përdorni ndonjë teknikë neutralizimi, sado e thjeshtë që mund të duket, është thelbësore të... të kuptojë rregulloret e ajrit dhe privatësisë aktuale
Ajo që është e qartë është se ky lloj hulumtimi është i dobishëm për duke ushtruar presion mbi prodhuesit dhe rregullatorët Kur bëhet fjalë për përmirësimin e standardeve të sigurisë, si për të parandaluar abuzimet në përdorimin e dronëve ashtu edhe për të parandaluar manipulimin e tyre kaq lehtë me anë të një objekti fizik.
Të marra së bashku, rasti FlyTrap tregon se sofistikimi teknologjik i dronëve autonomë nuk i bën ata të paprekshëm. ombrellë me modelin e duhurI kombinuar me një kuptim të mirë të mënyrës se si inteligjenca artificiale në bord e "sheh" botën, kjo mund ta shndërrojë një shëtitje të thjeshtë në shi në skenarin më të keq për një dron që mendonte se kishte gjithçka nën kontroll.
