Back to standard

AIFC-062: Agent Permissions

Status: Draft 0.1 Standard: AI-First Community Standard Zkráceně: AIFC Navazuje na:

Účel dokumentu: Definovat Agent Permissions jako řízený model oprávnění pro AI agenty, kteří pracují s knowledge base, nástroji, source of truth, workflow, daty, rozhodnutími a komunitními rozhraními. Agent Permissions chrání komunitu před tím, aby AI agent jednal mimo scope, mimo hodnoty, mimo AI-NDA Boundary nebo mimo lidskou odpovědnost.


1. Purpose of this document

Tento dokument definuje Agent Permissions.

AI agent v AIFC komunitě může být víc než chatbot.

Může:

Takový agent potřebuje jasně definovaná oprávnění.

Nestačí mu dát obecný přístup k nástrojům.

Agent Permissions říká:


2. Core principle

Základní princip tohoto dokumentu je:

An AI agent may act only within explicit permissions, boundaries, ownership and audit.

Česky:

AI agent smí jednat pouze v explicitních oprávněních, hranicích, ownerství a auditu.

AIFC říká:

No agent without owner.
No action without boundary.
No autonomy without audit.

Česky:

Žádný agent bez ownera.
Žádná akce bez hranice.
Žádná autonomie bez auditu.

Agent nemá získávat moc tím, že je užitečný.

Má získávat oprávnění tím, že má jasný účel, scope, hranice a odpovědnost.


3. Definition

Agent Permissions je soubor pravidel, která určují, jaké zdroje, data, nástroje, akce a rozhodovací role smí AI agent používat v rámci komunity.

Agent Permissions zahrnují:

Minimum requirement

Každý AI agent s přístupem k neveřejnému know-how, nástrojům nebo source of truth musí mít explicitní permissions record.


4. Why Agent Permissions matter

AI agent může spojit tři síly:

knowledge access
+
reasoning capability
+
tool action

Tato kombinace je silná.

Bez oprávnění může agent:

Agent Permissions nejsou překážka agentů.

Jsou podmínka jejich bezpečného zapojení.

Minimum requirement

AI agenti s nástroji nebo neveřejnými daty musí být řízeni jako provozní a bezpečnostní subjekty.


5. Agent identity

AI agent musí mít identitu.

Identita odpovídá na otázky:

Agent bez identity je neřízený automat.

Minimum requirement

AI agent s významným dopadem musí mít jednoznačnou identitu a dohledatelného ownera.


6. Agent owner

Agent owner je člověk nebo komunitní role odpovědná za agenta.

Owner odpovídá za:

Agent owner nemusí osobně kontrolovat každý výstup.

Ale odpovídá za to, že agent má správně nastavený provozní rámec.

Minimum requirement

Žádný významný AI agent nesmí fungovat bez ownera.


7. Agent purpose

Agent musí mít jasný účel.

Příklad špatně:

General company assistant.

Příklad lépe:

Knowledge Maintenance Agent that detects missing owners, outdated artefacts and metadata inconsistencies in internal AIFC knowledge base and creates draft maintenance proposals.

Účel omezuje agenta.

Agent nemá dělat vše, co technicky dokáže.

Má dělat to, k čemu byl schválen.

Minimum requirement

Agent permissions musí být odvozené od explicitního účelu agenta.


8. Agent scope

Scope určuje, kde agent smí působit.

Scope může být:

Příklad:

Agent may operate only in /work/maintenance and /feedback/signals.
Agent must not access /strategy/restricted or /operational-dna.

Minimum requirement

Agent s významným dopadem musí mít definovaný scope a out-of-scope oblasti.


9. Allowed inputs

Allowed inputs říkají, jaké vstupy smí agent používat.

Příklady:

Allowed inputs musí respektovat klasifikaci a AI-NDA Boundary.

Minimum requirement

Agent permissions musí definovat allowed inputs přiměřeně riziku.


10. Forbidden inputs

Forbidden inputs říkají, co agent nesmí používat.

Příklady:

Forbidden inputs jsou stejně důležité jako allowed inputs.

Minimum requirement

Agent pracující s neveřejným know-how musí mít definované forbidden inputs nebo dědit zákazy z klasifikace.


11. Data classification permissions

Agent permissions musí respektovat datovou klasifikaci.

Příklad:

Public: allowed
Internal: allowed within scope
Restricted: approval required
Operational DNA: forbidden unless explicitly approved

Agent nemá automaticky přístup ke všemu, co jeho owner vidí.

Agent access je samostatné oprávnění.

Minimum requirement

Agent permissions musí explicitně říkat, jaké klasifikační úrovně smí agent zpracovat.


12. Allowed actions

Allowed actions říkají, co agent smí dělat.

Příklady:

Allowed actions musí být konkrétní.

Minimum requirement

Agent permissions musí definovat allowed actions, ne jen allowed data.


13. Forbidden actions

Forbidden actions říkají, co agent nesmí dělat.

Příklady:

Minimum requirement

Agent permissions musí definovat forbidden actions u významných agentů.


14. Read permissions

Read permissions určují, co agent smí číst.

Musí být omezené podle:

Agent, který má číst pro sumarizaci, nemusí mít přístup k celému source of truth.

Minimum requirement

Agent read access musí být založen na least privilege.


15. Write permissions

Write permissions jsou citlivější než read permissions.

AIFC doporučuje úrovně:

none
draft_only
proposal_only
metadata_suggestion
low_risk_metadata_update
approved_scope_write

none

Agent nesmí zapisovat.

draft_only

Agent smí vytvářet drafty.

proposal_only

Agent smí vytvářet návrhy změn.

metadata_suggestion

Agent smí navrhnout metadata.

low_risk_metadata_update

Agent smí upravit nízkoriziková metadata v předem schváleném scope.

approved_scope_write

Agent smí zapisovat v úzce definovaném scope.

Minimum requirement

AI agent nesmí zapisovat do active source of truth bez explicitního write permission a audit trailu.


16. Approval boundary

Approval boundary říká, kdy agent musí požádat o lidské nebo komunitní schválení.

Approval je nutný zejména pro:

Minimum requirement

Agent s jakoukoli autonomní akcí musí mít explicitní approval boundary.


17. Autonomy level

Agent permissions musí být sladěné s autonomy level.

Autonomy může být například:

0 %   — no autonomous action
25 %  — propose only
50 %  — draft with human approval
75 %  — execute approved low-risk actions
100 % — operate autonomously within strict pre-approved boundaries

Autonomy level se nesmí interpretovat globálně.

Musí být vztahován k akci a scope.

Minimum requirement

Agent autonomy musí být definovaná pro typy akcí, ne pouze pro agenta jako celek.


18. Operating mode

Agent permissions se mohou měnit podle AI Operating Mode.

Například:

Conservative Mode:
agent proposes only

Balanced Mode:
agent drafts and suggests metadata

Mission Mode:
agent performs high-volume analysis within approved scope

Emergency AI-Off Mode:
agent is paused or read-only

Minimum requirement

Agent permissions musí být kompatibilní s aktuálním AI Operating Mode.


19. Tool permissions

Tool permissions říkají, které nástroje agent smí používat.

Příklady:

Každý nástroj má vlastní rizika.

Zvlášť citlivé jsou nástroje, které:

Minimum requirement

Agent tool access musí být explicitní, omezený a auditovatelný u významných nástrojů.


20. External communication permissions

Agent může někdy komunikovat mimo komunitu.

Například:

External communication je vysoce citlivá.

Musí řešit:

Minimum requirement

AI agent nesmí autonomně komunikovat externě ve významných věcech bez explicitního povolení a approval pravidel.


21. Decision permissions

Agent může pomáhat s rozhodováním.

Ale musí být jasné, zda agent:

Kritická rozhodnutí musí zůstat u odpovědného člověka nebo komunitní role.

Minimum requirement

Agent permissions musí rozlišovat analysis, proposal, recommendation, decision and approved change.


22. Memory permissions

Agent memory může být užitečná, ale riziková.

Memory permissions musí řešit:

Minimum requirement

Agent memory nesmí obsahovat restricted knowledge nebo Operational DNA bez explicitního povolení a boundary.


23. Derived knowledge permissions

Agent může vytvořit derived knowledge.

Například:

Derived knowledge může být citlivější než vstupy.

Minimum requirement

Agent-generated derived knowledge musí být klasifikováno a chráněno podle dopadu.


24. Export permissions

Agent export je rizikový.

Agent může exportovat:

Export permissions musí být explicitní.

Minimum requirement

Agent nesmí exportovat restricted knowledge nebo Operational DNA bez explicitního export permission a auditu.


25. Budget permissions

Agent může spotřebovávat AI budget.

Budget permissions musí definovat:

Minimum requirement

Agent s opakovaným nebo autonomním provozem musí mít cost guardrails.


26. Rate and volume limits

Agent může vytvářet velký objem práce.

To může způsobit:

Rate limits mohou omezit:

Minimum requirement

Agent generující velký objem výstupů musí mít rate or volume limits.


27. Escalation rules

Agent musí vědět, kdy eskalovat.

Eskalace je nutná, pokud:

Minimum requirement

Agent s významným dopadem musí mít escalation rules.


28. Human override

Human override umožňuje zastavit nebo omezit agenta.

Může zahrnovat:

Minimum requirement

Agent s tool access, write access nebo autonomií musí mít human override mechanismus.


29. Revocation

Agent permissions musí být revokovatelné.

Revocation je nutná při:

Revocation musí řešit také:

Minimum requirement

AI agent s neveřejným přístupem musí mít revocation path.


30. Agent onboarding

Agent onboarding je proces zavedení agenta.

Měl by zahrnovat:

Minimum requirement

Významný AI agent musí projít onboardingem před produkčním použitím.


31. Agent offboarding

Agent offboarding je proces ukončení agenta.

Musí zahrnovat:

Minimum requirement

Významný AI agent musí mít offboarding postup.


32. Agent review

Agent permissions musí být pravidelně reviewované.

Review se ptá:

Minimum requirement

AI agenti s neveřejným přístupem, tool access nebo autonomií musí mít review cycle.


33. Agent auditability

Audit musí ukázat:

Minimum requirement

Autonomní nebo tool-using agenti musí být auditovatelní přiměřeně riziku.


34. Agent permissions and source of truth

Agent permissions musí být zapsané v source of truth nebo governance repository.

Nesmí existovat pouze v:

Source of truth musí držet alespoň:

Minimum requirement

Významné agent permissions musí být dohledatelné mimo runtime AI nástroj.


35. Agent permissions and skills

Agent permissions musí být sladěné s AI skill.

AI skill říká, jak má agent pracovat.

Permissions říkají, co smí agent skutečně dělat.

Pokud AI skill říká něco, co permissions nepovolují, permissions mají přednost.

Minimum requirement

AI skill nesmí rozšiřovat agent permissions bez governance approval.


36. Agent permissions and values

Agent permissions musí odrážet hodnoty komunity.

Například:

Minimum requirement

Agent permissions musí být v souladu s hodnotami a non-negotiable boundaries komunity.


37. Agent permissions and Human Capability Reserve

Agent s vysokou autonomií může oslabit lidské schopnosti.

Permissions musí zohlednit:

Minimum requirement

Kritický agent musí mít posouzení dopadu na Human Capability Reserve.


38. Agent permissions and AI lock-in

Agent může vytvořit lock-in, pokud:

Minimum requirement

Kritický agent musí mít exit strategy nebo replacement plan.


39. Agent permissions and cross-community work

Agent pracující napříč komunitami má vyšší riziko.

Musí mít:

Minimum requirement

Cross-community agent musí mít multi-community boundary a governance ownera.


40. Agent incident

Agent incident je situace, kdy agent poruší nebo ohrozí pravidla.

Příklady:

Minimum requirement

Agent incidents musí být zaznamenány, triagovány a řešeny jako knowledge security nebo AI governance incidents.


41. Suggested metadata

Příklad metadat pro agent permissions:

agent_permissions:
  id:
  agent_id:
  agent_name:
  status: draft | proposed | active | paused | revoked | retired | archived
  owner:
  purpose:
  scope:
  out_of_scope:
  related_ai_skill:
  related_human_skill:
  related_workflows:
  operating_mode:
  autonomy_profile:
  allowed_inputs:
  forbidden_inputs:
  allowed_data_classifications:
  forbidden_data_classifications:
  allowed_actions:
  forbidden_actions:
  read_permissions:
  write_permissions:
    level: none | draft_only | proposal_only | metadata_suggestion | low_risk_metadata_update | approved_scope_write
  tool_permissions:
  external_communication_allowed: true | false
  decision_permissions:
    analysis: true | false
    proposal: true | false
    recommendation: true | false
    decision: true | false
  memory_permissions:
    memory_allowed: true | false
    restricted_memory_allowed: true | false
    operational_dna_memory_allowed: true | false
  derived_knowledge_rules:
  export_permissions:
  budget_guardrails:
  rate_limits:
  approval_boundary:
  escalation_rules:
  human_override:
  revocation_path:
  audit_required: true | false
  review_cycle:
  last_reviewed:

Příklad metadat pro agent incident:

agent_incident:
  id:
  title:
  status: observed | triaged | contained | under_review | resolved | closed
  agent_id:
  owner:
  incident_type:
    - forbidden_input_access
    - out_of_scope_action
    - unauthorized_write
    - unauthorized_export
    - boundary_violation
    - budget_exceeded
    - approval_bypass
    - tool_misuse
    - external_communication_issue
    - derived_knowledge_misclassification
  affected_artefacts:
  affected_communities:
  severity: low | medium | high | critical
  containment_actions:
  permissions_revoked: true | false
  root_cause:
  corrective_actions:
  related_change_proposal:
  created_at:
  closed_at:

Tyto struktury jsou ilustrativní.

Finální schéma má být definováno v agent-actionable vrstvě standardu.


42. Anti-patterns

AIFC odmítá následující anti-patterny.

42.1 Agent without owner

Agent běží, ale nikdo za něj neodpovídá.

42.2 Agent with vague purpose

Agent má příliš obecný účel a postupně získává neřízenou roli.

42.3 Agent with broad access

Agent má přístup k celému source of truth, protože je to pohodlné.

42.4 Agent with write access by default

Agent může zapisovat do source of truth bez jasných pravidel.

42.5 Agent approves its own proposals

Agent vytváří návrh i jej označí jako schválený.

42.6 Agent memory as hidden source of truth

Kritické know-how je v agent memory, ne ve source of truth.

42.7 Tool access without action boundary

Agent má nástroj, ale není jasné, jaké akce smí provádět.

42.8 Agent external communication without approval

Agent komunikuje ven bez pravidel, tone guidance, legal boundary nebo approval.

42.9 Permissions only in vendor UI

Agent permissions existují pouze v proprietární platformě a nejsou auditovatelné v source of truth.

42.10 No kill switch

Agent nejde rychle zastavit.

42.11 Agent ignores operating mode

Agent pokračuje v autonomních akcích, i když komunita přešla do Reduced-AI nebo Emergency AI-Off Mode.

42.12 Agent replaces human capability

Agent se stane jediným vykonavatelem kritické práce bez human skillu a fallbacku.


43. Minimal requirements

AIFC komunita musí v oblasti Agent Permissions minimálně splnit:

  1. AI agent s neveřejným know-how, nástroji nebo source of truth má permissions record.
  2. AI agenti s nástroji nebo neveřejnými daty jsou řízeni jako provozní a bezpečnostní subjekty.
  3. Významný AI agent má identitu.
  4. Významný AI agent má ownera.
  5. Agent permissions jsou odvozené od explicitního účelu agenta.
  6. Agent s významným dopadem má scope a out-of-scope oblasti.
  7. Agent permissions definují allowed inputs.
  8. Agent permissions definují forbidden inputs nebo je dědí z klasifikace.
  9. Agent permissions definují povolené klasifikační úrovně.
  10. Agent permissions definují allowed actions.
  11. Agent permissions definují forbidden actions u významných agentů.
  12. Agent read access je založen na least privilege.
  13. Agent nesmí zapisovat do active source of truth bez write permission a auditu.
  14. Agent s autonomní akcí má approval boundary.
  15. Agent autonomy je definovaná pro typy akcí.
  16. Agent permissions jsou kompatibilní s AI Operating Mode.
  17. Agent tool access je explicitní, omezený a auditovatelný.
  18. Agent nesmí autonomně komunikovat externě ve významných věcech bez povolení a approval pravidel.
  19. Agent permissions rozlišují analysis, proposal, recommendation, decision and approved change.
  20. Agent memory nesmí obsahovat restricted knowledge nebo Operational DNA bez povolení a boundary.
  21. Agent-generated derived knowledge je klasifikováno podle dopadu.
  22. Agent nesmí exportovat restricted knowledge nebo Operational DNA bez permission a auditu.
  23. Agent s opakovaným nebo autonomním provozem má cost guardrails.
  24. Agent generující velký objem výstupů má rate nebo volume limits.
  25. Agent s významným dopadem má escalation rules.
  26. Agent s tool access, write access nebo autonomií má human override.
  27. Agent s neveřejným přístupem má revocation path.
  28. Významný agent projde onboardingem před produkčním použitím.
  29. Významný agent má offboarding postup.
  30. Agent s neveřejným přístupem, tool access nebo autonomií má review cycle.
  31. Autonomní nebo tool-using agenti jsou auditovatelní přiměřeně riziku.
  32. Významné agent permissions jsou dohledatelné mimo runtime AI nástroj.
  33. AI skill nesmí rozšiřovat agent permissions bez governance approval.
  34. Agent permissions jsou v souladu s hodnotami a non-negotiable boundaries.
  35. Kritický agent má posouzení dopadu na Human Capability Reserve.
  36. Kritický agent má exit strategy nebo replacement plan.
  37. Cross-community agent má multi-community boundary a governance ownera.
  38. Agent incidents jsou řešeny jako knowledge security nebo AI governance incidents.

44. Summary

Agent Permissions chrání komunitu před tím, aby se užitečný AI agent stal neřízeným aktérem.

Agent může být velmi silný, protože spojuje přístup ke znalostem, schopnost uvažovat a schopnost jednat nástroji.

Proto AIFC říká:

Define the agent.
Own the agent.
Limit the agent.
Audit the agent.
Stop the agent when needed.

Česky:

Definujte agenta.
Vlastněte agenta.
Omezte agenta.
Auditujte agenta.
Zastavte agenta, když je potřeba.

AI agent má být řízený člen systému, ne skrytý provozní subjekt bez odpovědnosti.

Agent Permissions turn AI agents into bounded, auditable and governed actors.