Cara Donovan

AI operations lead at a B2B SaaS. Builds the unglamorous infrastructure that keeps prod LLM apps from melting.

Artikel oleh Cara Donovan

Evaluasi & Observabilitas LLM Sept 14, 2026Advanced

LLM Guardrails 2026: Perbandingan NeMo, Guardrails AI, Llama Guard 3, dan Bedrock untuk Produksi

Panduan membandingkan 4 framework LLM guardrails populer di 2026: NVIDIA NeMo, Guardrails AI, Meta Llama Guard 3, dan Amazon Bedrock. Latensi, biaya, pola berlapis, dan kode Python dari beban produksi 40M+ request/bulan.

Cara Donovan 14 mnt baca

Evaluasi & Observabilitas LLM Jul 12, 2026Advanced

LLM Observability 2026: Panduan OpenTelemetry, Langfuse, dan Helicone untuk Aplikasi Produksi

Panduan LLM observability produksi 2026: OpenTelemetry GenAI conventions, perbandingan Langfuse vs Helicone vs Arize Phoenix, contoh kode Python untuk instrumentasi Claude dan OpenAI, plus dashboard Grafana yang benar-benar dipakai on-call.

Cara Donovan 14 mnt baca