Maskin valgte selv målet og drepte tre sivile: Denne dagen skriver seg inn i historien

Hendelsen skjedde 6. juli i år ved en bensinstasjon i den ukrainske byen. Tre sivile ble drept da en Molniya-drone med ombordmontert kunstig intelligens valgte sitt eget mål og detonerte, ifølge en gjennomgang av ukrainske etterforskningsdata omtalt i The New York Times.

Ofrene var 19 år gamle Tetiana Bubynets, en regnskapsstudent, samt Oleksij Svirin (41) og Roman Karpij (48).

Eksperter sitert av avisen omtaler episoden som det første dokumenterte tilfellet der sivile er drept av en drone som selv tok den siste angrepsbeslutningen, skriver Gizmodo.

Slik fungerte angrepet

Operatørene sendte dronen mot området rundt bensinstasjonen. Da den nærmet seg, tok programvaren om bord over. Den lette etter propantanker den var trent til å gjenkjenne, men klarte ikke å manøvrere rundt en boligblokk på veien. Dronen krasjet i en vegg og detonerte ved en gruppe mennesker som hadde søkt ly der.

Les også: Samsung One UI 8.5 er her, men mange Galaxy-mellomklassebrukere må vente lenge

I vrakrestene fant ukrainske etterforskere en Nvidia Jetson Orin-modul. Den lille datamaskinen brukes normalt i industrirobotikk og selvkjørende kjøretøy. Den var ikke kryptert, noe som lot ukrainerne lese både terrengbildene den var lastet med og koden som fortalte dronen hvilke objekter den skulle angripe.

Fra rykte i Libya til dokumentert drap i Ukraina

Det har vært spekulert i autonome drap før. En FN-rapport fra 2021 beskrev hvordan tyrkiske Kargu-2-droner i Libya i 2020 skal ha «jaktet» tilbaketrekkende styrker uten menneskelig kontroll. Men rapporten slo aldri fast at noen faktisk ble drept.

Zaporizjzja-hendelsen er en annen sak. Her har etterforskere både lik, vrakdeler og ukryptert kildekode som viser hva systemet gjorde og hvorfor.

Molniya er en billig russisk angrepsdrone som normalt styres av en operatør via radio. Den autonome varianten har ingen radioantenne, bare et kamera og en datamaskin, og er dermed umulig å jamme med elektronisk krigføring. Ukrainske militærkilder meldte i begynnelsen av juli at russerne hadde begynt å ta i bruk den nye varianten i stor skala nettopp over Zaporizjzja-fronten.

Les også: ChatGPT tar over innboksen din: Leser og svarer på iMessages på dine vegne

«Vi lever snart i en Terminator-film»

Oberst Serhij Minajev, som leder ukrainsk luftforsvar i regionen, ga en dyster spådom til amerikansk presse: om noen få år lever vi i en «Terminator»-film, sa han.

Generalmajor Vladyslav Klotsjkov beskrev det russerne har fått til, i noe mer nøkterne, men ikke mindre urovekkende ordelag: et digitalt rovdyr som ikke har koordinater, men tenker, ifølge IBTimes.

Menneskerettighetsorganisasjoner som Amnesty International og Access Now har i årevis advart mot nettopp dette scenariet: at maskiner får myndighet til å velge og drepe mennesker uten et menneske i beslutningsløyfen. Zaporizjzja-hendelsen er den første der advarselen har navn, alder og et bilde av en bensinstasjon knyttet til seg.

Nvidias Jetson Orin selges ikke offisielt til Russland. Modulene som ble funnet i vrakene, var merket «Made in China» og har trolig kommet inn via mellomledd, ifølge Gizmodos gjennomgang. Nvidia har tidligere uttalt at selskapet slutter å levere til distributører som videreselger til sanksjonerte land.

Les også: Smart-TVen spionerer i stuen: Fem innstillinger stopper datastrømmen på to minutter

Les også: Feilet oppdatering knuste Windows Defender: Slik sjekker du at PC-en er beskyttet igjen