Pēdējos gados mēs vairs neuztveram dronus kā vienkāršu augsto tehnoloģiju rotaļlieta video ierakstīšanai lai padarītu tos par galveno instrumentu drošības, novērošanas un pat bruņotu konfliktu risināšanā. Un, kā tas bieži notiek ar jebkuru tehnoloģiju, kas tik strauji attīstās, drošības un aizsardzības aspekts ne vienmēr attīstās vienādā tempā.
Šajā kontekstā Kalifornijas Universitātes Ērvinā pētnieku grupa ir pierādījusi kaut ko tādu, kas izklausās pēc joka, bet nebūt nav joks: Izmantojot tikai lietussargu ar noteiktu krāsu rakstu, ir iespējams piesaistīt un neitralizēt noteiktus autonomus dronus.Nekādu radio traucētāju, nekādas attālinātas uzlaušanas, nekādu sarežģītu ieroču. Tikai "dīvains" lietussargs un nedaudz reversās inženierijas par to, kā šīs ierīces uztver pasauli.
Kāpēc autonomie droni rada arvien lielākas bažas
Dronu uzplaukums nebūt neaprobežojas tikai ar izklaidi. Ķīna, Krievija, Amerikas Savienotās Valstis un citas valstis Viņi agresīvi virza bezpilota lidaparātu izstrādi, kas aprīkoti ar mākslīgā intelekta sistēmām, kuras spēj patstāvīgi pieņemt lēmumus. Mēs vairs nerunājam tikai par lidojošām kamerām ietekmētājiem, bet gan par autonomām platformām ar taktiskām un novērošanas lietojumprogrammām.
Ļoti spilgts piemērs ir atrodams karā Krievija un Ukrainakur ir izvietoti visu veidu droni: kamikadzes ierīces, izsekošanas ierīces, sistēmas, kas savienotas ar optisko šķiedru kabeļiem, lai uzlabotu datu pārraidi utt. Tam visam klāt nāk notikumi, kas robežojas ar zinātnisko fantastiku, piemēram, Krievijas eksperimenti ar it kā baloži pārvērtās par biodroniem, kas ilustrē to, cik lielā mērā daži dalībnieki ir gatavi izpētīt jebkuru tehnoloģisko ceļu, lai iegūtu priekšrocības kaujas laukā.
Problēma ir tā, ka šī pati tehnoloģija, pārnesta uz civilo sektoru, paver durvis daudz neērtākām situācijām: pastāvīga cilvēku novērošana, neatļauta automātiska izsekošana, datu vākšana sensitīvās vietās vai vienkārši ielaušanās ikviena cilvēka ikdienas privātumā, kurš nepareizā laikā nonāk saskarē ar kādu no šīm ierīcēm.
Dronu ar autonomām izsekošanas funkcijām masveida ieviešana tādos uzdevumos kā privātā apsardze, robežuzraudzībaPūļa kontrole vai kritiskās infrastruktūras patrulēšana paplašina to darbības iespējas… bet vienlaikus palielina riska vektorus. Ne tikai tāpēc, ka droni var nedarboties pareizi, bet arī tāpēc, ka tos var manipulēt, maldināt vai izmantot pret tiem, kas tos ekspluatē.
Ņemot vērā šo situāciju, kļūst skaidrs, ka ar sakaru šifrēšanu vai radiofrekvenču joslu aizsardzību vien nepietiek. Arī īstā cīņa notiek fiziskajā laukumā., kā redzes un mākslīgā intelekta algoritmi interpretē to, ko tie redz caur drona kameru, un kā tie reaģē uz vizuāliem modeļiem, kas paredzēti, lai tos maldinātu.
UC Irvine pētījums: lietussargs pret mākslīgo intelektu
Tā vietā, lai izstrādātu jaunu ofensīvu dronu, komanda Kalifornijas Universitāte, Irvaina (UC Irvine) Viņš nolēma pievērsties problēmai no otras puses: kā fiziski pasargāt sevi no mākslīgā intelekta balstītām autonomām izsekošanas sistēmām. Viņa mērķis bija skaidrs: uzlabot tā saukto "fizisko kiberdrošību" ar ikdienas un lēti priekšmeti, nepaļaujoties uz specializētu aparatūru vai progresīvām hakeru zināšanām.
Izmeklēšanas laikā eksperti rūpīgi analizēja, kā darbojas daudzos komerciālajos dronos iestrādātie izsekošanas algoritmi. Konkrēti, viņi koncentrējās uz funkcijām, kas komerciāli pazīstamas kā Active Track, Dynamic Track vai citas līdzīgas sistēmaskas ļauj dronam automātiski sekot personai vai objektam, izmantojot datorredzi, bez nepieciešamības pilotam visu laiku manuāli pielāgot trajektoriju.
Pēc vairākiem eksperimentiem viņi atklāja pārsteidzoši vienkāršu vājumu: daži dronu modeļi, kas veic Mērķa izsekošana, izmantojot neironu tīklus un attēla kustības analīzi Tos var sajaukt, ja tiem tiek parādīts ļoti specifisks vizuālais modelis. Šī metode tika nosaukta par Mušu slazds, "mušu slazds", kas attiecas uz veidu, kā tas pievilina dronu pozīcijā, kur to var notvert vai notriekt.
Visspilgtākais šajā lietā ir tas, ka FlyTrap praktiskā ieviešana tika veikta, izmantojot kaut ko tik ikdienišķu kā lietussargu. Uzspiežot atbilstošu vizuālo rakstu uz lietussarga virsmas Un, atverot to drona priekšā, izsekošanas mākslīgais intelekts interpretē virkni izmaiņu attēlā, kas liek domāt, ka mērķis attālinās, pat ja persona, kas to tur, nekustas.
Rezultāti tika prezentēti starptautiskā konferencē, kas specializējas datoru drošībā (NDSS), kur tika detalizēti uzsvērts, ka šī pieeja nav tikai laboratorijas kuriozs. Testi parādīja, ka fiziskais uzbrukums darbojas dažādos apstākļosar apgaismojuma un laikapstākļu izmaiņām, kas to bīstami pietuvina reālai lietošanas situācijai ārpus kontrolētas vides.
Kā FlyTrap uzbrukums darbojas soli pa solim (konceptuālā līmenī)
Lai saprastu, kāpēc lietussargs var nostādīt autonomu dronu sarežģītā situācijā, mums jāpārskata, kā darbojas mērķu izsekošanas sistēmas, kuru pamatā ir mākslīgais redzējumsBūtībā drons nepārtraukti tver apkārtnes attēlus un, izmantojot neironu tīklus un kustību analīzes algoritmus, mēģina katrā kadrā atrast objektu, kuram tam jāseko.
Šie algoritmi koncentrējas uz formas, krāsas, kontrasta un kustības modeļi lai novērtētu objekta atrašanās vietu pašreizējā attēlā attiecībā pret iepriekšējo. No šīs informācijas viņi aprēķina, vai objekts tuvojas, attālinās, virzās uz sāniem, slēpjas aiz šķēršļa utt. Pēc tam drons pielāgo savu ātrumu un trajektoriju, lai objekts paliktu kadrā attālumā, kas tiek uzskatīts par "optimālu".
FlyTrap uzbrukums izmanto tieši šo loģiku. Lietussargam izstrādātais grafiskais raksts liek tam ģenerēt rakstus, kad drons pat nedaudz kustas vai maina skata leņķi. acīmredzamas izmaiņas mērķa mērogā un pozīcijā ko algoritms interpretē kā nepārtrauktu kustību prom. Mākslīgais intelekts uzskata, ka objekts pārvietojas atpakaļgaitā, lai gan patiesībā tas stāv uz vietas.
Ko tad drons dara? Lai kompensētu šo it kā nobraukto attālumu, pakāpeniski samaziniet attālumuMēģinājums "pietuvoties" objektam, lai saglabātu kadrējumu saskaņā ar izsekošanas sistēmas iekšējiem noteikumiem. Rezultātā lidaparāts nonāk arvien agresīvākā pieejas spirālē… līdz tas bīstami pietuvojas lietussargam un personai, kas to nes.
Kad drons atrodas ļoti tuvu, uzbrukuma operatoram ir ļoti izdevīga robeža: viņi var notvert to ar tīklu, trāpīt tam, destabilizēt to vai izraisīt sadursmi pret tuvumā esošu virsmu. Atšķirībā no citām aizsardzības metodēm, kuru vienīgais mērķis ir panākt, lai drons pazaudētu mērķi vai pārtrauktu tā izsekošanu, FlyTrap ļauj to novietot ideālā pozīcijā fiziskai neitralizācijai.
Ietekmētie dronu modeļi un problēmas faktiskais apjoms
UC Irvine pētnieki neapstājās pie simulācijām; viņi pārbaudīja savu tehniku ar īsti komerciāli droniStarp veiksmīgi novērtētajiem modeļiem ir:
- DJI Mini 4 Pro
- DJI Neo
- Lidojošais gaiss X1
Visas šīs ierīces ietver automātiskās izsekošanas funkcijas, kuru pamatā ir datorredze, kas teorētiski ir paredzētas, lai atvieglotu dinamisku kadru uzņemšanu, pilotam neuztraucoties par kameru. Tieši šī spēja autonomi sekot lietotājam Tieši tas vēršas pret viņu, kad spēlē lomu, piemēram, FlyTrap.
Testos droni tika pietiekami piesaistīti, lai to darbība būtu dzīvotspējīga. uztveršana ar tīkla ierīcēm vai tās kontrolēta ietekmeCitiem vārdiem sakot, runa nebija tikai par algoritma apjukšanu uz brīdi, bet gan par ilgstošas fiziskas pieejas piespiešanu, kas atstāja ierīci uzbrucēja žēlastībā.
Par pētījumu atbildīgie pētnieki rīkojās saskaņā ar kiberdrošības kopienas labāko praksi un Viņi atbildīgi paziņoja par ievainojamību. iesaistītajiem ražotājiem, pirms tiek publiskota visa informācija. Tas paver iespējas tādiem uzņēmumiem kā DJI un citiem skartajiem uzņēmumiem pārskatīt savus izsekošanas algoritmus un ieviest pretpasākumus turpmākajos programmaparatūras atjauninājumos vai aparatūras paaudzēs.
Tomēr, papildus šiem konkrētajiem modeļiem, atklājums ir daudz plašākas sekasJebkura bezpilota lidaparātu sistēma (UAS), kas izmanto neironu tīklus, lai izsekotu mērķus, izmantojot datorredzi, varētu būt uzņēmīga pret vienas un tās pašas pieejas variācijām, ja tā nav īpaši apmācīta pretoties šāda veida naidīgiem modeļiem.
Fizisks uzbrukums, kam nav nepieciešama radio, uzlaušana vai iejaukšanās
Viena no FlyTrap galvenajām iezīmēm ir tā, ka tā darbojas pilnībā fiziskais domēnsTas neprasa iejaukšanos drona sakaros, piekļuvi tā datu pārraides saitei vai tradicionālo programmatūras ievainojamību izmantošanu. Uzbrukums darbojas, jo tas manipulē ar to, ko redz drona kamera, un līdz ar to arī ar to, ko tā mākslīgā intelekta algoritmi uzskata par notiekošu.
Praksē tas nozīmē, ka uzbrucējam nav jāizdod radiosignāli, WiFi, GPS vai tamlīdzīgiTas arī neprasa nekāda veida savienojumu ar dronu, piekļuves atļaujas vai akreditācijas datus. Tas vienkārši nozīmē parādīt dronam fizisku objektu, kas paredzēts tā kognitīvo aklo zonu izmantošanai, ko ir daudz grūtāk izsekot un bloķēt ar standarta aizsardzības līdzekļiem.
Šī pieeja atbilst tam, kas pazīstams kā naidīgi uzbrukumi fiziskajā pasaulēŠis ir arvien aktuālāks pētījumu virziens. Tāpat kā ir radītas brilles, T-krekli vai uzlīmes, kas var apmānīt sejas atpazīšanas sistēmas vai autonomās automašīnas, šeit lietussargs tiek izmantots, lai apmānītu drona izsekošanas algoritmus.
Turklāt izmaksas ir smieklīgi zemas, salīdzinot ar resursiem, kas parasti saistīti ar elektronisko karadarbību vai bezpilota lidaparātu notriekšanu. Nav nepieciešams dārgs aprīkojums, īpašas antenas vai ekspertu radiofrekvenču (RF) zināšanas.Viss, kas jums nepieciešams, ir lietussargs ar atbilstošu dizainu un zināmas prasmes, lai ieņemtu pareizo vietu, kad drons ir sekošanas režīmā.
Šī asimetrija starp moderna drona cenu un tā neitralizācijas izmaksām, izmantojot tik izplatītu objektu, tieši ietekmē to, kā mums vajadzētu domāt par kritiskās infrastruktūras drošība, policijas izvietošana vai robežasĻaunprātīgs dalībnieks teorētiski varētu pietuvināt novērošanas dronus ierobežotām zonām, izmantojot tieši šāda veida metodes, un pēc tam tos atspējot vai likt tiem avarēt tur, kur viņi vēlas.
Ietekme uz drošību, privātumu un masveida dronu izvietošanu
Bezpilota lidaparātu izplatība, ko darbina mākslīgais intelekts Tas rada milzīgu izaicinājumu sabiedrības drošībai. Mēs redzam arvien vairāk projektu, kas ierosina izmantot dronu barus pilsētu patrulēšanai, robežu uzraudzībai vai lielu pasākumu pārraudzībai. Taču Kalifornijas Universitātes Ērvinas pētījums liecina, ka bez uztveres algoritmu stiprināšanas visa šī ieviešana balstās uz diezgan trausla pamata.
Operacionālā līmenī mušu slazdu uzbrukumu varētu izmantot gan uzbrukumā, gan aizsardzībā. No vienas puses, kāds varētu neitralizēt policijas vai robežsardzes dronusTas apdraud drošības spēku reaģēšanas spējas konkrētā teritorijā. No otras puses, persona, kuru vajā drons, vai spiegošanas upuris ar komerciālu ierīci, varētu izmantot to pašu mehānismu, lai aizstāvētos ar vienkāršu modificētu lietussargu.
Pastāv arī aspekts, ka stratēģiskās infrastruktūras aizsardzība (elektrostacijas, transporta iekārtas, datu centri utt.). Ja šīs vietas savu novērošanas sistēmu papildināšanai izmanto autonomus dronus, tāda ievainojamība kā FlyTrap rada risku, ka uzbrucējs varētu apiet daļu no noteikšanas sistēmas, izmantojot tikai fizisku objektu bez jebkādas elektroniskas mijiedarbības.
Tādējādi pētījums sniedz skaidru vēstījumu: Dronu drošību nevar ierobežot tikai ar elektronisko vai tīkla slāniDatu saišu nodrošināšana, saziņas šifrēšana un programmatūras aizsardzība ir nepieciešama, taču nepietiekama, ja redzes algoritmus pēc tam apmāna uz lietussarga uzdrukāti krāsaini raksti. Noturībai jāattiecas arī uz to, kā mākslīgais intelekts interpretē fizisko vidi un tās noturību pret apzinātu manipulāciju.
Tā kā autonomo dronu izmantošana kļūst arvien plašāk izplatīta, pilsētvide un sensitīvas darbībasŠāda veida uzbrukumi vairs nebūs akadēmiska kuriozitāte un kļūs par faktoru, kas ražotājiem, regulatoriem un operatoriem būs jāņem vērā jau no projektēšanas stadijas. Šo ievainojamību ignorēšana var būt dārga, kad jau ir notikusi plaša mēroga ieviešana.
Uzbrukuma ierobežojumi un iespējamās aizsardzības līnijas
Lai gan ideja par "drona notriekšanu ar lietussargu" ir ļoti pievilcīga, nevajadzētu domāt, ka derēs jebkurš krāsains lietussargs. FlyTrap raksts ir rūpīgi izstrādāts lai izmantotu specifiskas vājības testētajos algoritmos. Tas nav universāls triks, kas automātiski darbosies ar visiem droniem vai jebkuros apstākļos.
Turklāt uzbrukumam ir nepieciešams, lai drons izmantotu šādas funkcijas: autonoma, uz redzi balstīta izsekošanaJa operators to vada pilnībā manuāli vai ja lidaparātu vada citi sensori (piemēram, LIDAR, radars vai uzlabotas sensoru sapludināšanas kombinācijas), iespēja maldināt mākslīgo intelektu, izmantojot tikai vizuālu modeli, var samazināties vai pat izzust.
Vēl viens praktisks ierobežojums ir nepieciešamība fiziski pietuviniet lietussargu drona redzes laukamSituācijās, kad ierīce lido lielā augstumā vai atrodas vairāku kilometru attālumā no mērķa, šāda tuvuma sasniegšana var nebūt reāla. Mušu slazdi ir īpaši bīstami zemu lidojot, cieši sekojot cilvēkiem vai pilsētvidē ar šauriem maršrutiem.
No aizsardzības puses ir vairāki iespējamie rīcības virzieni. Viens no tiem ir pārkvalificēt redzes modeļus Izmantojot tādus naidīguma modeļu piemērus kā mušu slazds, lai viņi iemācītos tos atpazīt kā anomālijas un izvairītos no nekontrolējamas tuvošanās slazdā. Vēl viena iespēja ir apvienot vizuālo informāciju ar citiem avotiem (dziļuma sensoriem, inerciālajām sensoriem, 3D kartēm), lai nepaļautos tikai uz to, ko redz kamera.
Ir arī saprātīgi to ieviest programmaparatūrā tuvuma ierobežojumi un papildu drošības noteikumiŠie pasākumi neļauj dronam tuvoties mērķim tuvāk par noteiktu attālumu, ja tas konstatē neparastas vai nekonsekventas vizuālas izmaiņas. Tas, iespējams, pilnībā neizslēdz maldināšanu, taču tas samazinātu iespējamību, ka drons sasniegs pozīciju, kur to var viegli notvert ar rokām vai ar tīklu.
Visbeidzot, regulatīvā līmenī iestādes, kas ir atbildīgas par dronu sertificēšanu lietošanai drošības, policijas vai infrastruktūras novērošana Savos novērtējumos viņiem būs jāiekļauj testi pret šāda veida fiziskiem uzbrukumiem. Drona izmantošana kalnu ainavas filmēšanai nav tas pats, kas tā izmantošana robežas patrulēšanai: nepieciešamajam robustuma līmenim ir jābūt nepārprotami atšķirīgam.
Tas viss rada kuriozu scenāriju: jo "gudrākus" dronus mēs radām, izmantojot mākslīgo intelektu, Svarīgāk būs domāt kā radošam uzbrucējam kurš reālajā pasaulē cenšas atrast īsceļus, lai viņus apmānītu. Un tieši šeit par galveno varoni var kļūt tik šķietami nevainīgs priekšmets kā krāsains lietussargs.
Īsāk sakot, šie pētījumi pierāda, ka Autonomo sistēmu drošība nav tikai ugunsmūru un šifrēšanas jautājums.bet arī lai saprastu, kā viņi uztver vidi, kādus īsceļus izmanto viņu algoritmi un kā vienkāršs grafisks raksts var pārvērst modernu bezpilota lidaparātu par kaut ko tikpat neaizsargātu kā muša, ko pievilina labi izstrādāts slazds.