Legitimate Decision Authority

Dombrádi Krisztián, Ph.D. · Semmelweis Egyetem, Magatartástudományi Intézet, Hungarostudy Kutatócsoport · 2026. augusztus 2., Budapest.

Absztrakt

Jelen fogalmi háttérdokumentum azt vizsgálja, hogyan alakult át az MI-támogatott katonai döntéshozatal, és milyen elméleti válasz adható arra, hogy a Meaningful Human Control (MHC) önmagában már nem fedi le kielégítően a mai, elosztott és több szervezeti szintet átfogó AI-támogatott döntési architektúrák normatív (társadalmi etikai) kihívásait. A dokumentum áttekintést végez a klasszikus katonai döntéshozataltól (Clausewitz; IHL; parancsnoki felelősség) a Human-in-the-Loop paradigmán (Asaro, 2012) át az MHC két meghatározó megközelítéséig (Roff & Moyes, 2016; Santoni de Sio & van den Hoven, 2018), kiegészítve a jelenlegi AI-környezet (foundation modellek, ágensarchitektúrák, swarm rendszerek, NATO- és CCW-keretek) jellemzőivel. Erre építve eredeti elméleti konstrukciót javasol: a Legitimate Decision Authority (LDA) fogalmát, amely a legitim döntési autoritás folytonosságát helyezi középpontba a teljes AI-támogatott döntési életciklus során – legitimációtól, jogtól és doktrínától az intézményi governance-ig, az emberi ítélőképességig és az AI assurance-ig –, amelyben az MHC keresztmetszeti mechanizmusként marad fenn. A dokumentum az LDA-t validálandó, falszifikálható theory-building konstrukcióként pozicionálja, és a fogalmi genealógiát táblázatban és idővonalon is összegzi.

Kulcsszavak: Meaningful Human Control; Legitimate Decision Authority; katonai mesterséges intelligencia; AI governance; parancsnoki felelősség; theory-building.

Vidd az egeret az ábra fölé a nagyításhoz

1.1. A „Meaningful Human Controltól” a „Legitimate Decision Authority”-ig

A Legitimate Decision Authority (LDA) fogalma nem az MHC egyszerű átnevezése, hanem egy magasabb absztrakciós szintre tett elméleti javaslat. Kiindulópontja az a felismerés, hogy a Meaningful Human Control (MHC) a 2010-es évek autonómfegyver-vitájában alapvető normatív és politikai problémát tett láthatóvá: a fegyveres erő alkalmazása nem válhat olyan gépi folyamattá, amelyből az érdemi emberi mérlegelés és a felelősség eltűnik. Roff és Moyes az MHC-t tárgyalási és operacionalizálási keretként bontották ki, míg Santoni de Sio és van den Hoven a morális felelősséget megalapozó filozófiai feltételeit dolgozták ki (Roff & Moyes, 2016; Santoni de Sio & van den Hoven, 2018).

Az LDA-javaslatot ezért nem az motiválja, hogy az MHC-t hibásnak vagy elavultnak minősítse. Pontosabb azt állítani, hogy az MHC történeti küldetését teljesítette mint központi szervezőelv: megteremtette azt a fogalmi teret, amelyben az emberi jelenlét puszta ténye helyett az emberi részvétel minősége, informáltsága, felelősségi kapcsolata és jogi relevanciája vált vizsgálhatóvá. A jelenlegi kérdés az, hogy ez a keret miként helyezhető el a katonai AI-rendszerek teljes életciklusát átfogó intézményi architektúrában.

1.2. Klasszikus katonai döntéshozatal: legitimitás, autoritás és felelősség

A katonai döntéshozatal klasszikus modellje az erőalkalmazás politikai célhoz és legitim autoritáshoz kötésére épül. Clausewitz megközelítésében a háború nem önálló technikai folyamat, hanem a politika más eszközökkel történő folytatása; ebből következően a katonai erő értelme és iránya a politikai célból származik (Clausewitz, 1984). Ezt a kiindulópontot a jelen dokumentum nem úgy használja, mintha Clausewitz közvetlenül AI-governance-elméletet kínálna, hanem úgy, mint a politikai cél, a katonai cselekvés és a döntési autoritás közötti kapcsolat klasszikus hadelméleti alapját.

A nemzetközi humanitárius jog (IHL) a fegyveres konfliktusok során alkalmazandó szabályok rendszere, amely védi a harcokban részt nem vevő szereplőket, és korlátozza a hadviselés eszközeit és módszereit (ICRC, 2022). A parancsnoki felelősség e normatív rend intézményi hordozója: az I. Kiegészítő Jegyzőkönyv 87. cikke a parancsnokok megelőzési és fellépési kötelezettségeit, a Római Statútum 28. cikke pedig a tényleges parancsnokság és ellenőrzés mellett fennálló büntetőjogi felelősség feltételeit rögzíti (Additional Protocol I, 1977, art. 87; Rome Statute, 1998, art. 28).

A katonai doktrína ehhez közös intézményi nyelvet és cselekvési keretet biztosít. Az Allied Joint Publication–01 a NATO összhaderőnemi műveleteinek csúcsdoktrínája, amely a parancsnokok és törzsek számára egységes keretet ad a katonai erő alkalmazásának megértéséhez (NATO Standardization Office, 2022). E klasszikus réteg központi kérdése ezért nem az, hogy mely technikai elem hajt végre egy részfeladatot, hanem hogy ki rendelkezik jogszerű felhatalmazással az erő alkalmazására, milyen normák korlátozzák ezt a felhatalmazást, és ki számoltatható el az eredményért.

2.1. Első generáció: Human Control és a Human-in-the-Loop paradigma

Az autonóm rendszerek korai vitájában a human-in-the-loop modell az ember közvetlen jelenlétét tette a legitim működés egyik feltételévé. A leegyszerűsített kérdés az volt: ki nyomja meg a gombot? Peter Asaro elemzése szerint azonban az ember puszta beillesztése a döntési ciklusba csak szükséges, nem elégséges feltétel. Az érdemi döntéshez idő, képzettség, megfelelő információ, mérlegelési szabadság, valamint elszámoltathatóság is kell (Asaro, 2012).

Ez a felismerés jelölte ki a közvetlen emberi kontroll korlátját. Egy operátor formális jóváhagyása önmagában nem oldja meg a normatív problémát, ha a rendszer működését nem érti, nincs reális lehetősége a helyzet értékelésére, vagy csupán automatizált ajánlást erősít meg. A fogalmi fejlődés következő lépése ezért nem több emberi érintkezési pontot, hanem minőségileg értelmes emberi kontrollt követelt.

3. Második generáció: Meaningful Human Control

3.1. Roff és Moyes: operacionalizálás és szociotechnikai kontextus

Roff és Moyes 2016-os briefing paperje abból indul ki, hogy sem a teljesen emberi kontroll nélküli erőalkalmazás, sem a kognitív tisztaság nélküli „fire” gomb megnyomása nem tekinthető tartalmi értelemben emberi kontrollnak. Az MHC-t olyan nyitott szakpolitikai térként fogják fel, amelyben a kontroll szükséges küszöbe és gyakorlati tartalma több érintett közötti egyeztetéssel pontosítható (Roff & Moyes, 2016).

Megközelítésükben a predictability, a transparency, a releváns kontextuális információ és az accountability egymással összefüggő feltételek. E hangsúly a fegyvert nem elszigetelt tárgyként, hanem emberekből, eljárásokból, információból, szervezeti szerepekből és technikai komponensekből álló szociotechnikai rendszer részeként kezeli. Az emberi kontroll így már nem pusztán egy gombnyomás, hanem a rendszer képességeinek és korlátainak megértésére, az alkalmazási kontextus felmérésére és az eredményért való felelősség vállalására épülő döntési minőség.

A „meaningful human control” fogalom szakpolitikai elterjedését jelentősen megalapozta Horowitz és Scharre korábbi, széles körben hivatkozott primer-tanulmánya, amelyre Roff és Moyes is kifejezetten támaszkodik (Horowitz & Scharre, 2015).

3.2. Santoni de Sio és van den Hoven: tracking, tracing és morális felelősség

Santoni de Sio és van den Hoven az MHC-t a morális felelősség filozófiájához kapcsolják. Kiindulópontjuk Fischer és Ravizza guidance control elmélete, amely szerint a felelősséget megalapozó kontroll egy sajátként azonosítható és a releváns indokokra megfelelően reagáló döntési mechanizmushoz kötődik (Fischer & Ravizza, 1998). A szerzők ezt a megközelítést autonóm rendszerek által közvetített cselekvésekre fordítják le. A tracking feltétel azt kívánja meg, hogy a rendszer viselkedése együtt változzon az érintett emberek releváns morális indokaival és a működési környezet tényeivel. Ennek megfogalmazásakor a szerzők Nozick episztemológiai „tracking” gondolatát is felhasználják (Nozick, 1981; Santoni de Sio & van den Hoven, 2018). A tracing feltétel pedig megköveteli, hogy a rendszer tervezése és működése olyan emberi szereplőkhöz legyen visszakövethető, akik megfelelő tudással, normatív kompetenciával és felelősségi kapcsolattal rendelkeznek (Santoni de Sio & van den Hoven, 2018).

A filozófiai keret válasz a responsibility gap problémájára is: tanuló rendszerek esetén előfordulhat, hogy sem a gyártó, sem az operátor nem látta előre vagy nem kontrollálta teljesen a konkrét kimenetet, miközben a gép maga nem megfelelő címzettje a morális felelősségnek (Matthias, 2004). Az MHC tracking–tracing modellje ezt a rést nem egyetlen döntési pillanatban, hanem a döntési mechanizmus és az emberi felelősségi lánc kialakításában próbálja kezelni.

Heyns ENSZ-jelentése hasonló aggályt fogalmaz meg „elszámoltathatósági vákuum” (accountability vacuum) néven, amely a felelősségi rés problémájának emberi jogi vetületét emeli ki (Heyns, 2013).

4. Harmadik generáció: a jelenlegi AI-környezet

Az MHC két alapmegközelítése közös történeti háttérből indult: viszonylag jól körülhatárolható autonóm funkciók, egyedi támadások és azonosítható emberi beavatkozási pontok álltak a vita középpontjában. A mai AI-környezetben azonban az érzékelés, értelmezés, predikció, tervezés, prioritásképzés, kommunikáció és újratervezés több rendszer és több szervezeti szint között oszolhat meg.

A foundation modellek széles körű feladatokra adaptálható alapmodelleket hoznak létre, amelyek képességei és kockázatai nem szűkíthetők egyetlen alkalmazásra (Bommasani et al., 2021). Az intelligens ágensek klasszikus irodalma már korán megkülönböztette az ágenselméletet, az ágensarchitektúrákat és az ágensprogramozást (Wooldridge & Jennings, 1995), míg a swarm robotics az egyszerűbb egységek decentralizált együttműködéséből létrejövő kollektív viselkedést vizsgálja (Brambilla et al., 2013).

A taktikai szintű ember–gép együttműködés kognitív dimenzióját Dombrádi saját, korábbi munkái is körüljárják. Egy 2024-es tanulmányában a „combined arms warfare” kommunikációelméleti leírását és a zárt rendű taktikai cselekvések (closed-order tactical acts) fogalmát dolgozza ki, Niklas Luhmann operatív konstruktivizmusára és rendszerelméletére támaszkodva (Dombrádi, 2024a). Erre építve egy másik, Vargával közösen írt tanulmány az emberi döntéshozatalt meghatározó, szocializáció során kialakuló „tudásminták” (knowledge patterns) és a mintázatalapú, úgynevezett S(AI) rendszerek működése közötti különbséget elemzi, arra a következtetésre jutva, hogy a jelenlegi MI-rendszerek stabilak és gyorsak, de nem adaptívak az emberi tudásminták komplexitásához képest, ezért a taktikai döntéshozatalban egyelőre inkább előkészítő, mint helyettesítő szerepet tölthetnek be (Varga & Dombrádi, 2024b). Egy harmadik, a légierő kiképzési rendszerét vizsgáló tanulmány ugyanezt a keretet a természetes és mesterséges neurális hálózatok összevetésére terjeszti ki (Dombrádi, 2024c).

Ebben a környezetben az ember–gép kapcsolat már ritkán írható le egyetlen vertikális vonallal. Politikai vezetés, stratégiai és műveleti parancsnokság, jogi tanácsadók, hírszerzés, operátorok, felhő- és edge-rendszerek, szenzorok, több AI-komponens és autonóm funkciók alkotnak egymásba ágyazott döntési ökoszisztémát. A NATO 2024-es felülvizsgált AI-stratégiája maga is külön hangsúlyt helyez a felelősségre és elszámoltathatóságra, a magyarázhatóságra és visszakövethetőségre, a megbízhatóságra, a governabilityre, a human–machine teamingre, valamint a tesztelési, értékelési, verifikációs és validációs képességekre (NATO, 2024).

A kontroll következésképpen nem kizárólag esemény, hanem folyamat; nem kizárólag egyéni, hanem intézményi; nem kizárólag operatív, hanem életciklus-szintű. A CCW 2019-es irányelvei is kimondják, hogy az emberi felelősséget fenn kell tartani, az elszámoltathatóság nem ruházható át gépekre, és a human–machine interaction minőségét az egész fegyverrendszer és az operatív kontextus alapján kell értékelni (CCW GGE, 2019). Az ICRC álláspontja hasonlóképpen az emberi kontroll és ítélőképesség elvesztésének humanitárius, jogi és etikai kockázatait emeli ki (ICRC, 2021).

5. A legitim emberi döntéshozatal

A váltás logikája első elvekből vezethető le. A fegyveres erő alkalmazásának normatív célja nem maga a kontroll, hanem a jogszerű és legitim emberi döntéshozatal fenntartása. A kontroll ennek egyik eszköze. Ha az AI több döntési szakaszban, több szervezeti szinten és több rendszerrel együttműködve alakítja a helyzetértést és a cselekvési lehetőségeket, akkor az autoritás megőrzését sem lehet egyetlen jóváhagyási ponthoz kötni.

Az új kutatási kérdés így fogalmazható meg: miként őrizhető meg a legitim katonai döntési autoritás egy olyan AI-támogatott döntési architektúra teljes életciklusa során, amelyben a döntéshez vezető információk, modellek, ajánlások és végrehajtási funkciók részben adaptív, elosztott vagy autonóm komponensekből származnak? A kérdés a technikai kontrollnál szélesebb vizsgálati egységet hoz létre: összekapcsolja a politikai legitimációt, a jogot, a doktrínát, a parancsnoki szerepeket, a szervezeti governance-t, az emberi ítélőképességet és az AI assurance-t.

6. Az eredeti elméleti hozzájárulás: Legitimate Decision Authority

A Legitimate Decision Authority nem azt jelenti, hogy minden részfeladatot embernek kell végrehajtania, és nem is azonos azzal, hogy egy ember minden egyes gépi műveletet valós időben felülbírálhat. Az authority itt a döntés normatív eredetére, az engedélyezés határaira és az elszámoltathatóság folytonosságára utal. A rendszer bizonyos észlelési, elemzési vagy végrehajtási funkciókat automatizálhat, de az erőalkalmazási architektúra egészének továbbra is legitim politikai és jogi felhatalmazásból kell származnia.

Az LDA rétegei egymásra épülnek: a politikai legitimáció kijelöli a katonai célok forrását; az IHL és más alkalmazandó jogi normák meghatározzák a megengedett cselekvés határait; a katonai doktrína és a parancsnoki autoritás szerepekre, folyamatokra és döntési jogokra fordítja ezeket; az intézményi governance gondoskodik a szabályozásról, felügyeletről, auditálásról, incidenskezelésről és szervezeti tanulásról; az emberi ítélőképesség értelmezi a konkrét helyzetet; az AI assurance pedig bizonyítékot szolgáltat a rendszer megbízhatóságáról, korlátairól és ellenőrizhetőségéről. A NIST AI RMF életciklus-alapú kockázatkezelése és a NATO Responsible Use elvei fontos szakirodalmi támaszt adnak e governance- és assurance-rétegekhez (NIST, 2023; NATO, 2024).

Ebben a keretben a Meaningful Human Control nem tűnik el. Funkciója pontosabbá válik: keresztmetszeti működési mechanizmusként biztosítja, hogy a legitimáció, a jog, a doktrína, a döntési jogkörök, a technikai assurance és az autonóm végrehajtás között fennmaradjon a tartalmi kapcsolat. A legitimáció szintjén az emberi politikai felhatalmazás megőrzését, a doktrína szintjén a jogi és műveleti korlátok érvényesítését, a döntési szinten a tényleges emberi mérlegelést, az assurance szintjén pedig a predictability, transparency, tracking és tracing követelményeit támogatja.

Az LDA ezért nem az MHC leváltása, hanem elhelyezése. A végső normatív cél nem az, hogy önmagában minél több kontrollpont létezzen, hanem hogy a döntési architektúra egészében ne szakadjon meg a legitim emberi autoritás. Egy kontrollpont lehet formális és mégis üres; egy intézményileg megtervezett autoritás-architektúra viszont több technikai és szervezeti mechanizmust kapcsol össze annak érdekében, hogy az erőalkalmazás továbbra is jogilag, etikailag és politikailag emberi döntés maradjon.

7. Kritikus módszertani megjegyzés és validációs igény

Kutatásmódszertani szempontból az LDA jelenleg sensitising concept és elméleti konstrukció, nem igazolt paradigma. Tudományos értéke azon múlik, hogy fogalmi határai világosan elkülönülnek-e a human authority, command authority, military necessity, human-centred AI governance és meaningful human control már létező fogalmaitól. A kéziratnak ezért nem terminológiai újdonságként, hanem magyarázó többletet nyújtó elméleti architektúraként kell bemutatnia.

A „sensitising concept” kategóriát a kvalitatív társadalomtudományi módszertanban (Blumer, 1954) vezette be; a „military necessity” fogalmának standard meghatározását az ICRC Casebook rögzíti, míg a „command authority” hivatalos katonai definícióját a DOD Dictionary of Military and Associated Terms tartalmazza.

A következő validációs lépés négy feladatot igényel. Először, szisztematikusan össze kell vetni az LDA elemeit a hadtudomány, az IHL, a parancsnoki felelősség, a katonai etika és az AI-governance szakirodalmával. Másodszor, meg kell határozni az LDA szükséges és elégséges feltételeit. Harmadszor, esetalapú elemzéssel kell vizsgálni, hogy az LDA olyan hibákat vagy felelősségi töréseket is azonosít-e, amelyeket az MHC önmagában nem tesz láthatóvá. Negyedszer, operacionalizálható indikátorokat kell kidolgozni az autoritás folytonosságára, a döntési jogok tisztaságára, az assurance-bizonyítékokra és a felügyeleti adaptációra.

A modell legerősebb, egyben legkockázatosabb állítása az, hogy a kortárs katonai AI normatív problémája nem redukálható egyedi ember–gép (AI agent–rendszer kooperációk) interakciókra. Ha ez az állítás a szakirodalmi és empirikus validáció során fennmarad, akkor az LDA képes lehet közös elemzési nyelvet teremteni a hadtudomány, a jog, a szervezetelmélet és az AI assurance között. Ha viszont nem ad az MHC és a meglévő governance-keretek együttes alkalmazásánál nagyobb magyarázó erőt, akkor önálló fogalomként nem indokolt.

Melléklet A: a fogalmak rendszere és új kategóriák

A táblázat elkülöníti a szakirodalmi eredetet, a jelen dokumentumbeli szerepet és az eredeti elméleti hozzájárulást.

Felhasznált irodalom és elsődleges források

• Asaro, P. M. (2012). On banning autonomous weapon systems: Human rights, automation, and the dehumanization of lethal decision-making. International Review of the Red Cross, 94(886), 687–709. doi.org/10.1017/S1816383112000768
• Blumer, H. (1954). What is wrong with social theory? American Sociological Review, 19(1), 3–10. doi.org/10.2307/2088165
• Bommasani, R. et al. (2021). On the opportunities and risks of foundation models. Stanford Center for Research on Foundation Models.
• Brambilla, M., Ferrante, E., Birattari, M., & Dorigo, M. (2013). Swarm robotics: A review from the swarm engineering perspective. Swarm Intelligence, 7(1), 1–41. doi.org/10.1007/s11721-012-0075-2
• Clausewitz, C. von. (1984). On War (M. Howard & P. Paret, Eds. & Trans.; rev. ed.). Princeton University Press. doi.org/10.2307/j.ctt7svzz
• Convention on Certain Conventional Weapons, Group of Governmental Experts. (2019). Report of the 2019 session (CCW/GGE.1/2019/3), Annex IV: Guiding principles. United Nations Office for Disarmament Affairs.
• Dombrádi, K. (2024a). The communication theory of combined arms warfare. GRIN Verlag. GRIN – Dombrádi Krisztián publikációi
• Varga, A., & Dombrádi, K. (2024b). The role of AI in decision making for military operations. GRIN Verlag. GRIN – Dombrádi Krisztián publikációi
• Dombrádi, K. (2024c). Transdisciplinarity: Practical comparison of natural and artificial neural networks. Thoughts on the Air Force renewing training system. GRIN Verlag. GRIN – Dombrádi Krisztián publikációi
• Fischer, J. M., & Ravizza, M. (1998). Responsibility and Control: A Theory of Moral Responsibility. Cambridge University Press. doi.org/10.1017/CBO9780511814594
• Heyns, C. (2013). Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions (A/HRC/23/47). UN Human Rights Council. ohchr.org
• Horowitz, M. C., & Scharre, P. (2015). Meaningful human control in weapon systems: A primer. Center for a New American Security. cnas.org
• International Committee of the Red Cross. (1977). Protocol Additional to the Geneva Conventions of 12 August 1949 (Protocol I), Article 87.
• International Committee of the Red Cross. (2021). ICRC position on autonomous weapon systems.
• International Committee of the Red Cross. (2022). What is international humanitarian law?
• International Committee of the Red Cross. (n.d.). Military necessity. In How Does Law Protect in War? Online casebook. casebook.icrc.org
• International Criminal Court. (1998). Rome Statute of the International Criminal Court, Article 28.

További felhasznált irodalom

• Joint Chiefs of Staff. (n.d.). DOD Dictionary of Military and Associated Terms. U.S. Department of Defense. jcs.mil
• Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. doi.org/10.1007/s10676-004-3422-1
• NATO. (2024). Summary of NATO's revised artificial intelligence (AI) strategy. North Atlantic Treaty Organization.
• NATO Standardization Office. (2022). Allied Joint Publication–01: Allied Joint Doctrine (Edition F, Version 1).
• National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). U.S. Department of Commerce. doi.org/10.6028/NIST.AI.100-1
• Nozick, R. (1981). Philosophical Explanations. Belknap Press of Harvard University Press.
• OECD. (2019, amended 2024). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449).
• Roff, H. M., & Moyes, R. (2016). Meaningful human control, artificial intelligence and autonomous weapons: Briefing paper for delegates at the CCW Meeting of Experts on LAWS. Article 36 / Arizona State University.
• Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, Article 15. doi.org/10.3389/frobt.2018.00015
• Wooldridge, M., & Jennings, N. R. (1995). Intelligent agents: Theory and practice. The Knowledge Engineering Review, 10(2), 115–152. doi.org/10.1017/S0269888900008122