18 open-source leveranciers voor AI-beveiliging.

Open-source software voor AI-beveiliging die u zelf kunt hosten en waarvan de broncode controleerbaar is — ongeacht het hoofdkantoor van de ontwikkelaar.

• Arize AI / PhoenixNiet-EU leverancier

  Arize AI (Berkeley, VS) levert het Arize AX-platform en de open Phoenix-bibliotheek voor observability en evaluatie van LLM's, met EU-dataresidentie-optie.

  Verenigde Staten

• DeepchecksNiet-EU leverancier

  Open-source ML-validatieplatform van het Israëlische Deepchecks (Tel Aviv) voor het testen en monitoren van data en modellen van onderzoek tot productie.

  Israël

• Evidently AINiet-EU leverancier

  Open-source ML- en LLM-observability-framework voor het evalueren, testen en monitoren van AI-systemen, met meer dan 100 ingebouwde metrics; achter het product staat een reëel bedrijf (Evidently AI), geen controlebedrijf-vrij project.

  Verenigde Staten

• Garak (NVIDIA)Niet-EU leverancier

  Open-source LLM-kwetsbaarheidsscanner van NVIDIA's AI Red Team, die test op hallucinaties, datalekken, prompt-injectie en jailbreaks via 50+ probe-modules. Door NVIDIA gecontroleerd, geen gemeenschapsproject.

  Verenigde Staten

• GiskardEU-soeverein

  Frans open-source platform voor AI-testing, red-teaming en guardrails.

  Frankrijk

• Guardrails AINiet-EU leverancier

  Open-source Python-framework met validators voor het corrigeren van in- en uitvoer van LLM's, met een optionele commerciële managed service.

  Verenigde Staten

• Langkit (WhyLabs)Zelf-hosten / open-source

  LangKit is een open-source toolkit van WhyLabs voor het monitoren van LLM's: het haalt signalen als toxiciteit, PII, sentiment en jailbreak-detectie uit prompts en antwoorden; WhyLabs staakte het commerciële platform maar LangKit blijft open source beschikbaar.

  Verenigde Staten · eigenaar in Verenigde Staten

• Llama Guard (Meta)Niet-EU leverancier

  LLM-gebaseerde veiligheidsclassifier van Meta voor contentmoderatie van tekst- en beeldprompts en -outputs; door Meta gecontroleerd (Llama Community License), geen gemeenschapsproject.

  Verenigde Staten

• LLM Guard (Protect AI)Zelf-hosten / open-source

  LLM Guard is een open-source beveiligingstoolkit van Protect AI (nu onderdeel van Palo Alto Networks) met input/output-scanners tegen prompt injectie, datalekken en schadelijke taal in LLM-toepassingen.

  Verenigde Staten · eigenaar in Verenigde Staten

• Mistral ShieldstralZelf-hosten / open-source

  Door Mistral AI (Frankrijk) uitgebracht 3B-parameter veiligheidsmodel (Apache 2.0, open-weights) voor contentmoderatie van LLM-interacties; Mistral AI is een reëel bedrijf, dus geen controlebedrijf-vrij project ondanks de open licentie.

  Frankrijk

• NVIDIA NeMo GuardrailsNiet-EU leverancier

  Open-source toolkit van NVIDIA voor programmeerbare regels in conversationele LLM-systemen; door NVIDIA gecontroleerd, geen gemeenschapsproject.

  Verenigde Staten

• Portkey AIZelf-hosten / open-source

  Portkey AI (San Francisco, VS; in 2026 overgenomen door Palo Alto Networks voor Prisma AIRS) is een open-source AI-gateway met 60+ guardrails tegen jailbreaks, promptinjectie en PII-lekken.

  Verenigde Staten · eigenaar in Verenigde Staten

• Presidio (Microsoft)Zelf-hosten / open-source

  Presidio is een open-source framework van Microsoft voor het detecteren, maskeren en anonimiseren van persoonsgegevens (PII) in tekst, afbeeldingen en gestructureerde data, veelgebruikt om PII-lekken in LLM-pijplijnen te voorkomen.

  Verenigde Staten · eigenaar in Verenigde Staten

• Project AsagoZelf-hosten / open-source

  Door Red Hat geïnitieerd open-source project (augustus 2026, Apache 2.0) dat NIST AI RMF, OWASP LLM Top 10 en de EU AI Act vertaalt naar technische governance-controles voor AI-agents; deelnemers zijn onder meer Red Hat, NVIDIA, IBM Research, MIT Lincoln Laboratory, Microsoft en het Alan Turing Institute — geen enkele partij heeft zeggenschap.

  Verenigde Staten

• PromptfooNiet-EU leverancier

  Open-source MIT-gelicentieerd LLM-evaluatie- en red-teamingframework voor het testen van prompts, modellen en RAG-pijplijnen; VC-gefinancierd bedrijf achter het product.

  Verenigde Staten

• PyRIT (Microsoft)Niet-EU leverancier

  Open-source Python Risk Identification Tool van Microsoft voor red-teaming van generatieve AI-systemen; door Microsoft gecontroleerd, geen gemeenschapsproject.

  Verenigde Staten

• TaoQ AIZelf-hosten / open-source

  Nederlands toegepast AI-onderzoeks- en engineeringbedrijf gespecialiseerd in AI-beveiliging, agent red-teaming en EU AI Act-conformiteit, met open-source testframeworks.

  Nederland

• VigilZelf-hosten / open-source

  Vigil is een open-source Python-bibliotheek en REST-API (van onderzoeker deadbits/Adam Swanda) die LLM-prompts en -antwoorden scant op prompt injectie, jailbreaks en promptlekken; experimentele alfastatus met beperkt actief onderhoud.

  Verenigde Staten