Stephen Hawking, Elon Musk és Noam Chomsky is tart az autonóm fegyverrendszerek megjelenésétől. Vezető mesterséges intelligencia (MI) kutatók arra kérték az ENSZ-t, hogy vegye fontolóra az „autonóm támadófegyverek" – vagyis a harci robotok – betiltását. A tudósok a Future of Life intézet (FLI) által közzétett nyílt levélben azt írták, hogy azok a modern fegyverrendszerek, amelyek automatikusan, „emberi beavatkozás nélkül választják ki és támadják meg a célpontjaikat" könnyen „a jövő kalasnyikovjaivá" válhatnak, és nagyban hozzájárulhatnak a háborúk, a terrorizmus és a globális instabilitás elharapózásához. A levelet olyan világszerte ismert emberek is aláírták, mint Stephen Hawking elméleti fizikus, Elon Musk, a Tesla Motors és a SpaceX alapítója, Steve Wozniak, az Apple társalapítója és Noam Chomsky, az MIT professzora. „A mesterséges intelligencia (MI) technológia fejlettségi szintje – ha jogilag nem is, de a gyakorlatban – éveken belül lehetővé teszi az ilyen rendszere bevetését" – írták a levél szerzői, hozzátéve, hogy több, az interneten keringő videó tansága szerint ma már amatőr fegyverbolondok is tudnak házilag felfegyverzett drónokat építeni. A szerzők hangsúlyozzák, ugyan megvan az esélye annak, hogy az harci robotok bevetésével csökkenthető a harctéri áldozatok száma – de éppen ezért sajnos annak is, hogy jelentősen csökkenni fog a diplomácia jelentősége, és az országok minden szíre-szóra egymásnak ugranak majd. „Az atomfegyverekkel ellentétben [az autonóm fegyverek] előállításához nincs szükség drága, nehezen beszerezhető nyersanyagokra, így hamar könnyen és nagy mennyiségben legyárthatóvá, és valamennyi jelentősebb katonai hatalom számára elérhetővé válhatnak – érveltek. – Ezután már csak idő kérdése, hogy mikor jelennek meg a feketepiacon, ahol bármelyik terrorszervezet, elnyomó diktátor, etnikai tisztogatást tervező kósza hadúr megvásárolhatja majd őket. Az autonóm fegyverek ideálisak lehetnek az olyan feladatok elvégzésére, mint az orgyilkosság, országok politikai destabilizálása, egyes népcsoportok leigázása vagy egy adott etnikai csoport tagjainak célzott kiirtása." Szakértők szerint az autonóm fegyverek megjelenése a mesterséges intelligencia kutatás ellen hangolhatja a közvéleményt, és komolyan visszavetheti azokat a kutatásokat, amelyek az MI-k békés célú, jelentős gazdasági és társadalmi előnyökkel kecsegtető hasznosítását célozzák. A szerzők szerint ezt mindenképpen el kellene kerülni: ezért is lenne fontos, „hogy az ENSZ határozatban tiltsa be az autonóm támadófegyvereket". Az FLI szerint komoly aggodalomra ad okot, hogy a félautonóm fegyverrendszerek már ma is számos hadsereg arzenáljában megtalálhatók. Olyannyira, hogy az Egyesült Államok légierejének kutatása szerint 2030-ra ezek a fegyverek már annyira fejlettek lesznek, hogy „számos esetbe az emberek lesznek a rendszer leggyengébb láncszemei".
